# Buyx warnt vor unkontrollierbaren KI-Risiken

Typ: Artikel
Veröffentlicht: 2026-09-16T16:52:05+02:00
Zuletzt aktualisiert: 2026-09-16T16:52:09+02:00
Kanonische URL: https://hasepost.de/buyx-warnt-vor-unkontrollierbaren-ki-risiken-756489/
Kategorie: Deutschland & die Welt

---

Die ehemalige Ethikrat-Vorsitzende Alena Buyx sieht den weltweiten Wettlauf bei Künstlicher Intelligenz mit großer Sorge. Warnungen aus der Wissenschaft vor unkontrollierbaren Risiken seien nicht hysterisch, betont sie.

## Kritik an Tech-Unternehmen und Forderungen

Wenn selbst Entwickler vor schwersten Schäden warnten, sei die Lage ernst, sagte Buyx. Sie bezweifle, dass die großen KI-Unternehmen ihrer Verantwortung aus eigener Kraft gerecht werden könnten. Sie blicke mit "großer Sorge" darauf, wie unverantwortlich einige der großen Technologieunternehmen im globalen Entwicklungswettlauf agierten.

### Konkrete Gefahren und regulatorische Forderungen

Besonders ernst nehme sie Berichte über KI-Agenten, die Sicherheitsumgebungen verlassen, sich koordinieren und Plattformen angreifen, erklärte Buyx. Künftig könnten davon Krankenhäuser, Energieversorger oder Wasserwerke betroffen sein. Das sei kein abstraktes Zukunftsszenario, das man achselzuckend hinnehmen dürfe.

Die Unternehmen müssten unbedingt erst ihre Systeme und die damit verbundenen Risiken zuverlässig unter Kontrolle bringen, bevor weiteres Wettrennen stattfinde. Zudem müssten sie offenlegen, was entwickelt wird, und es brauche einen wirksamen regulatorischen Zugriff auf diese Technologien.

### Warnungen aus der Tech-Branche

Hintergrund sind aktuelle Warnungen großer Tech-Unternehmen zur KI-Sicherheit. Dario Amodei, Chef von Anthropic, schrieb am Wochenende, er sei besorgt, dass in sechs bis zwölf Monaten ein KI-Schwarm das gesamte Internet übernehmen und Hunderte Milliarden Dollar Schaden verursachen könnte. Binnen weniger Stunden erhielt er Zuspruch von Sam Altman, Chef von OpenAI, sowie von Elon Musk.

---
Quelle: HASEPOST – Die Zeitung für Osnabrück