Der TÜV verlangt verbindliche Sicherheitsprüfungen für Sprachmodelle wie ChatGPT vor deren Markteinführung. Die Bundesregierung baut dafür seit Ende August das KI-Sicherheitsinstitut in Berlin auf. Digitalminister Wildberger (CDU) will die europäische KI-Entwicklung trotz Bedenken vorantreiben.
Forderung nach verbindlicher Abnahme
Franziska Weindauer, Chefin des TÜV AI Lab, kritisiert im Gespräch mit dem Nachrichtenmagazin „Focus“, dass es nicht reiche, Prüfer nur während des Entwicklungsprozesses einzubeziehen. Stattdessen sollte ihrer Meinung nach etwa ein neu entwickelter Chatbot vor der Veröffentlichung eine verpflichtende Abnahme durchlaufen.
Aufbau des KI-Sicherheitsinstituts
Die Bundesregierung arbeitet am Aufbau des KI-Sicherheitsinstituts (AISI) in Berlin. Weindauer hält eigene deutsche Fähigkeiten für nötig. Entscheidend sei, ob es gelinge, das AISI pragmatisch und schnell aufzubauen, die richtigen Leute zu gewinnen und seinen Auftrag klar zu definieren.
Der Aufbau des AISI werde nicht ganz leicht, das wisse man aus Erfahrungen des Aufbaus anderer Institutionen. Die bislang unklare Organisationsstruktur müsse so schnell wie möglich geklärt werden.
Wildbergers Appell für europäische KI-Entwicklung
Digitalminister Karsten Wildberger (CDU) appellierte trotz Sicherheitsbedenken daran, die KI-Entwicklung in Europa weiter voranzutreiben. „Wenn wir KI-Modelle selber bauen, haben wir auch die Fragen nach Werten und Sicherheit selbst in der Hand“, sagte er dem Nachrichtenmagazin.
Deutschland müsse dabei in Zukunft eine viel aktivere Rolle einnehmen. Denn das sei die Chance, Wohlstand und Wettbewerbsfähigkeit für die nächsten Jahrzehnte zu sichern.
