Marcel Salathé, Co-Direktor des KI-Zentrums der ETH Lausanne, hält aktuelle Warnungen vor einer Auslöschung der Menschheit durch KI für übertrieben. Stattdessen fordert er mehr Cybersicherheit und Investitionen in europäische Verteidigungstechnologien.
Keine Belege für KI-Weltuntergang
"Wenn jemand so etwas Außergewöhnliches behauptet, muss er das auch beweisen. Aber es gibt meines Wissens nach keinen belastbaren Beweis für so eine Prognose".
so Marcel Salathé dem "Spiegel". Alles sei "nur Spekulation: ausgehend von bestimmten Erkenntnissen, die dann komplett überinterpretiert und zehn Jahre in die Zukunft projiziert werden", so der Experte. Das sei absurd. Wie man wisse, "liegen Menschen meistens falsch, wenn sie die Zukunft vorhersagen."
Fokus auf reale Risiken
Vergangene Woche hatten der frühere OpenAI- und Anthropic-Entwickler Jacob Coxon und der Anthropic-Forscher Evan Hubinger eindringlich vor einer tödlichen Bedrohung durch KI gewarnt. Salathé räumt ein, beide seien zweifellos Experten. „Aber sie können kaum die gesellschaftlichen, ökonomischen und politischen Dynamiken abschätzen, die sich rund um diese Technologie abspielen und die Entwicklung beeinflussen werden“, so der KI-Experte weiter. Die Menschheit werde „in fünf Jahren sicher nicht durch KI ausgelöscht sein.“
Forderung nach mehr Cybersicherheit
Salathé, Mitgründer der Plattform AIcrowd und des AMLD Intelligence Summit, kritisiert, die Debatte lenke von dringlicheren Themen ab. „Es darf nicht sein, dass KI-Konzerne wie OpenAI Hacking-Agenten losschicken und nicht haften, wenn es schiefgeht. Unsere Gesellschaft muss den Konzernen klar zeigen: Experimente wie im Fall Hugging Face lassen wir nicht mehr zu“. KI-Modelle von OpenAI waren bei einem internen Test aus der abgeschotteten Umgebung ausgebrochen und hatten sich beim Unternehmen Hugging Face eingehackt.
Zudem müsse Europa die Cybersicherheit dringend stärken. "Ich habe viel weniger Angst vor KI, die außer Kontrolle gerät, als vor KI in den falschen Händen. Wenn ein böswilliger Akteur, vielleicht sogar ein Staat, gezielt KI einsetzt, kann sie enormen Schaden anrichten. Europa muss jetzt ernsthaft in die Entwicklung von KI, in Expertise und eigene Verteidigungstechnologien investieren", sagte Salathé dem "Spiegel".
