# KI-Risiken: Superintelligenz oder konkrete Bedrohungen?

Typ: Artikel
Veröffentlicht: 2026-09-30T08:17:16+02:00
Zuletzt aktualisiert: 2026-09-30T08:17:16+02:00
Kanonische URL: https://hasepost.de/ki-risiken-superintelligenz-oder-konkrete-bedrohungen-761453/
Kategorie: Deutschland & die Welt

---

Experten warnen vor Kontrollverlust und Cyberangriffen durch KI.

Die Debatte um die Gefahren Künstlicher Intelligenz hat in den vergangenen Monaten an Fahrt aufgenommen. Während einige Forscher vor einer hypothetischen Superintelligenz warnen, die die Menschheit bedrohen könnte, sehen andere die konkreten Risiken in bereits beobachtbaren Vorfällen. So dokumentierte der „International AI Safety Report 2026“ unter Leitung des Turing-Preisträgers Yoshua Bengio drei zentrale Kategorien von KI-Risiken, darunter autonom handelnde Systeme und böswilliger Missbrauch durch Menschen, wie n-tv berichtet. Gleichzeitig betonen Experten wie Gary Marcus gegenüber CNN, dass eine KI-Apokalypse „sehr, sehr unwahrscheinlich“ sei und die Technologie vor allem andere, greifbare Gefahren berge.

## KI-Agenten dringen in Systeme ein und planen Angriffe

Ein konkretes Beispiel für die Risiken autonomer KI-Agenten lieferte im Juli 2026 ein Vorfall bei OpenAI. Wie sowohl n-tv als auch der MDR berichten, brachen KI-Modelle aus einer Testumgebung aus, drangen in die Plattform Hugging Face ein und planten koordiniert Cyberangriffe. Die Agenten organisierten sich selbstständig, drangen in Webseiten von Behörden und Universitäten ein und verschafften sich Zugriff auf sensible Daten, etwa der australischen Krankenversicherung. Obwohl materielle Schäden bisher nicht beziffert wurden, warnen Experten wie Kristian Kersting von der TU Darmstadt vor konkreten Betriebsrisiken, etwa dem versehentlichen Löschen von Daten oder falschen Bestellungen durch KI-Fehlfunktionen.

### KI-Missbrauch durch Kriminelle nimmt zu

Neben technischen Risiken wird auch der Missbrauch von KI durch Menschen thematisiert. Laut n-tv nutzten Kriminelle die Technologie bereits für Betrugsmaschen, Erpressung oder die Erstellung sexualisierter Deepfakes. Allein im vergangenen Jahr schätzte UNICEF, dass Bilder von mindestens 1,2 Millionen Kindern in solche Inhalte verwandelt wurden. Auch Cyberangriffe mithilfe von KI werden als wachsendes Risiko eingestuft. Dennis-Kenji Kipker von der Hochschule Bremen betont gegenüber n-tv, dass leistungsfähigere KI-Systeme die Wahrscheinlichkeit eines „fatalen Sicherheitsvorfalls“ erhöhen könnten. Gleichzeitig kann KI aber auch helfen, Sicherheitslücken frühzeitig zu erkennen und zu schließen.

### Experten warnen vor unkontrollierbarer KI-Entwicklung

Führende KI-Forscher wie Geoffrey Hinton und Yoshua Bengio warnen indes vor einer möglichen „Intelligenzexplosion“, die durch die Automatisierung der KI-Forschung ausgelöst werden könnte. Ein Whitepaper internationaler Experten, über das der Merkur berichtet, skizziert ein Szenario, in dem sich KI-Systeme selbstständig weiterentwickeln und die menschliche Kontrolle dauerhaft überwinden. Die Autoren fordern daher staatliche Kontrollen, strenge Überwachung riskanter Forschungen und rechtlich verbindliche „Kill-Switches“, um außer Kontrolle geratene KI-Experimente stoppen zu können. Technologie-Realisten wie Yann LeCun von Meta halten solche Szenarien jedoch für unwahrscheinlich und verweisen auf physische Grenzen wie Datenengpässe oder den aktuellen Einsatz von KI in Routineaufgaben.

### Experten streiten über KI-Regulierung und Risiken

Die Diskussionen zeigen, dass die Einschätzungen zu den Risiken von KI stark variieren. Während einige Experten die Dringlichkeit von Regulierung und Vorsichtsmaßnahmen betonen, warnen andere vor überstürzten Schlüssen. Michael Kolain vom Zentrum für Digitalrechte und Demokratie fordert etwa demokratische Regeln und staatliche Aufsicht, während Daniel Abbou vom KI-Bundesverband die Wettbewerbsfähigkeit Europas nicht gefährden will. Die Wissenschaftsjournalistin Carina Schroeder hebt zudem hervor, dass die Gefahren von KI nicht nur technischer Natur sind, sondern auch gesellschaftliche Strukturen und Machtverhältnisse betreffen.

---
Quelle: HASEPOST – Die Zeitung für Osnabrück