Das Europäische Parlament hat für eine einheitliche Regulation von künstlicher Intelligenz (KI) gestimmt. Diese Regelung teilt KI-Systeme in verschiedene Risikogruppen und setzt je nach potentiellen Gefahren rechtliche Anforderungen.
Neue regulative Maßnahmen für Künstliche Intelligenz
Am Mittwoch stimmten im Europäischen Parlament in Straßburg 523 Abgeordnete für das entsprechende Gesetz, 46 dagegen und 49 enthielten sich. Demnach sollen KI-Systeme nach der potenziellen Gefahr ihrer Anwendungen in Risikogruppen eingeteilt werden, wodurch Basismodelle Mindeststandards wie Transparenz über Trainingsdaten erfüllen müssen. „Systemische Risiken“ ziehen hingegen strengere Vorgaben nach sich.
Hohe potentielle Risiken bei bestimmten Anwendungen
Das Gesetz sieht bei der Nutzung künstlicher Intelligenz in Sicherheitsbehörden, kritischer Infrastruktur und Personalverwaltung grundsätzlich ein „hohes Risiko“ für Menschenrechtsverletzungen. Dies gilt gleichermaßen für Systeme, die Wahlen beeinflussen können. In diesen Fällen soll ein Mensch die Kontrolle über die Entscheidungen der KI haben.
Technische Dokumentation und Risikomanagement
Eine weitere Voraussetzung für den Einsatz von KI ist die Vorlage einer technischen Dokumentation sowie ein System zum Risikomanagement. Darüber hinaus können Betroffene Beschwerden gegen die Nutzung von KI bei den Behörden einreichen.
Verbot bestimmter KI-Systeme
Das Gesetz verbietet KI-Systeme, die Menschen nach politischen und religiösen Ansichten, sexueller Orientierung oder Hautfarbe klassifizieren. Sozialkredit-Systeme, welche auf das Verhalten oder persönliche Eigenschaften abzielen, sind ebenfalls verboten. Unternehmen dürfen KI nicht einsetzen, um Gefühle ihrer Mitarbeiter zu erfassen oder Menschen gegen ihren Willen zu beeinflussen.
Schutz vor Diskriminierung und Einsatz bei Sicherheitsbehörden
Nutzer dürfen aufgrund ihres Alters, einer Behinderung oder ihrer finanziellen Situation nicht benachteiligt werden. Zudem dürfen Polizei und andere Sicherheitsbehörden KI-gesteuerte Gesichtserkennungen an öffentlichen Plätzen nutzen, sofern eine richterliche Anordnung vorliegt. Für die Fahndung nach Verurteilten oder Verdächtigen schwerer Straftaten darf aufgezeichnetes Videomaterial verwendet werden. Bei Echtzeit-Verfolgung des Videomaterials sind KI-Systeme auch für die Suche nach Opfern von Menschenhandel und sexueller Gewalt erlaubt. Eine Anwendung zur „Verhinderung einer konkreten und akuten Terrorgefahr“ ist ebenfalls gestattet.
