Das US-Unternehmen Anthropic hat sein neues KI-Modell Claude Fable 5 vorläufig vom Markt genommen. Hintergrund sind Sicherheitsbedenken von US-Behörden, die wenige Tage nach der öffentlichen Vorstellung des Programms geäußert wurden. Anthropic musste daraufhin den Zugang für ausländische Nutzer sperren und weitere Produkte deaktivieren.
US-Behörden erzwingen Abschaltung von Fable 5
Wie Anthropic auf seiner Website mitteilt, wurde das Unternehmen angewiesen, ausländischen Nutzern den Zugang zu Claude Fable 5 zu verwehren. Anthropic selbst hatte das Programm zuvor als „zu mächtig“ beschrieben. In einer Stellungnahme des Konzerns heißt es: „Die Folge dieser Anordnung ist, dass wir Fable 5 und Mythos 5 für alle unsere Kunden sofort abschalten müssen, um die Auflagen zu erfüllen“.
Bei Claude Fable 5 handelt es sich den Angaben zufolge um eine Version des Programms Claude Mythos, das mit Diensten wie ChatGPT von OpenAI oder Gemini von Google konkurriert. Laut Anthropic haben die US-Sicherheitsbehörden in diesem Zusammenhang keine konkreten Gefahren benannt.
Vermutetes „Jailbreaking“ und identifizierte Schwachstellen
Anthropic geht nach eigenen Angaben davon aus, dass die Regierung von einer Methode erfahren habe, die Sicherheitsvorkehrungen von Fable 5 zu umgehen – ein Vorgang, der als „Jailbreaking“ bekannt ist. Das Unternehmen erklärte, man habe sich eine Vorführung dieser Methode angesehen, mit der eine Handvoll kleinerer, bereits bekannter Schwachstellen identifiziert worden seien. Diese Schwachstellen seien relativ simpel und könnten auch von anderen öffentlich zugänglichen KI-Modellen gefunden werden, ohne dass eine Umgehung der Sperren nötig sei.
Anthropic im Visier der US-Regierung
Donald TrumpPete Hegseth (Verteidigungsminister)
Anthropic hat daraufhin das Pentagon verklagt. Die Anordnung des Pentagons gilt seitdem als vorläufig ausgesetzt.
✨ mit KI bearbeitet
