# KI-Forscher fordert Stopp der Entwicklung

Typ: Artikel
Veröffentlicht: 2026-09-18T20:32:05+02:00
Zuletzt aktualisiert: 2026-09-18T20:32:10+02:00
Kanonische URL: https://hasepost.de/ki-forscher-fordert-stopp-der-entwicklung-757462/
Kategorie: Deutschland & die Welt

---

Der ehemalige OpenAI-Forscher Daniel Kokotajlo wirft Techkonzernen vor, mit ihren Regulierungsforderungen für KI safety washing zu betreiben. Er warnt vor existenziellen Risiken durch automatisierte KI-Entwicklung und verlangt einen Stopp bis zu sicheren Lösungen.

## Vorwurf des Safety Washing

Kokotajlo, heute Leiter des "AI Futures Project“ in Berkeley, sagte dem „Spiegel“, die Unternehmen wie Anthropic, OpenAI, X und Google plädierten für „ein klein wenig Regulierung, ein paar externe Prüfer. Aber sie haben kaum etwas davon gesagt, die automatische Entwicklung künstlicher Intelligenz zu verlangsamen oder zu beenden“. Damit betreiben sie seiner Meinung nach safety washing.

Der Forscher gilt als einer der renommiertesten Experten für die Zukunft der KI und warnt seit Jahren vor existenziellen Risiken. Die Techindustrie plane eine Automatisierung der KI-Forschung. "überschreitet die Menschheit einen Horizont. Ab diesem Punkt könnte die KI in vielerlei Hinsicht deutlich übermenschliche Fähigkeiten entwickeln – vielleicht in jeder Hinsicht. Das ist äußerst gefährlich", so Kokotajlo.

### Forderung nach staatlicher Einschränkung

Kokotajlo verlangt, die KI-Entwicklung von OpenAI oder Anthropic staatlich massiv einzuschränken. "Wir müssen die KI-Entwicklung im Wesentlichen abschalten", betont er. Der Menschheit fehle derzeit "das Verständnis und die Fähigkeit, KI mit dem Skalpell zu regulieren und zwischen dem Guten und dem Schlechten zu unterscheiden".

Erst wenn ein sicherer und allgemein vorteilhafter Weg für die Entwicklung einer Superintelligenz gefunden sei, dürfe weiterentwickelt werden. "Dafür braucht es vollständige Transparenz, eine breitere Machtverteilung – und einen Kill-Switch", so Kokotajlo.

---
Quelle: HASEPOST – Die Zeitung für Osnabrück