Das Bundesamt für Sicherheit in der Informationstechnik (BSI) arbeitet an Sicherheitskriterien und „Best Practices“ für den Einsatz von KI-Agenten und warnt vor wachsenden Risiken durch deren Einsatz im Internet. Hintergrund ist die erwartete stetige oder disruptive Weiterentwicklung von KI-Systemen sowie die Gefahr, dass solche Agenten für Cyberangriffe missbraucht werden könnten.
BSI warnt vor schwerer Unterscheidbarkeit von Menschen und KI-Bots
Ein Behördensprecher des Bundesamts für Sicherheit in der Informationstechnik sagte am Dienstag der dts Nachrichtenagentur, das BSI arbeite „intensiv an klaren Sicherheitskriterien und sogenannten ‚Best Practices‘ für die Absicherung von ‚KI-Agenten’“. Das BSI gehe davon aus, dass sich KI-Systeme „stetig oder auch disruptiv“ weiterentwickeln werden. Mit dem Fortschreiten der Technologie werde es zunehmend schwerer, menschliche Akteure im Internet von KI-Bots zu unterscheiden, so der Sprecher. Daneben könnten KI-Agenten künftig von Kriminellen für Cyber-Angriffe instrumentalisiert werden, warnt die Behörde.
Empfehlungen für den Umgang mit OpenClaw
In Bezug auf den neuen Dienst OpenClaw, der in Fachkreisen seit wenigen Wochen für zunehmendes Aufsehen sorgt, empfiehlt das BSI derzeit nur eine Benutzung durch „IT-Profis“, die mit der Konfiguration und Absicherung von Servern vertraut seien. „Es empfiehlt sich, den Dienst auf einem eigenen System oder in einer Sandbox zu betreiben“, so die Behörde gegenüber der dts Nachrichtenagentur.
Besonders kritisch sieht das BSI dabei den offenen Austausch der sogenannten „Skills“, über die die Interaktion der KI mit der Umgebung erfolgt und die unter anderem über Austausch-Portale geteilt werden. „Dabei wurden offenkundig vermehrt Skills identifiziert, die mit Schadsoftware kompromittiert waren“, so das BSI.
Offenes Framework mit Risiko bei Fehlkonfiguration
OpenClaw, auch unter den Namen ClawdBot und MoltBot bekannt, ist ein Open-Source-Framework für einen persönlichen KI-Assistenten. Der Bot kann von Nutzern beispielsweise über einen Messenger wie WhatsApp oder Telegram oder andere Kanäle bedient werden. Damit der Dienst funktioniert, muss ein Sprachmodell bereitgestellt und eingebunden werden, das entweder lokal oder in der Cloud läuft. Eine fehlerhafte Konfiguration könne schnell zu einer Übernahme des Servers durch Unbefugte führen, heißt es vom BSI.
✨ mit KI bearbeitet
