"EU-Parlament will KI-Gesetz nachschärfen"

Gesichtserkennung in Echtzeit im öffentlichen Raum soll untersagt, generative KI einer Risikobewertung unterzogen werden: Das EU-Parlament hat seine Verhandlungsposition zum AI Act festgelegt.

Künstliche Intelligenz (KI) soll nach dem Willen des EU-Parlaments künftig strengeren Regeln unterworfen sein. Die Abgeordneten legten am Mittwoch in Straßburg ihre Position für die Verhandlungen mit den EU-Ländern über die endgültige Form des »Gesetzes über künstliche Intelligenz« (AI Act) fest.

Die EU hat sich zum Ziel gesetzt, der erste Wirtschaftsraum weltweit zu werden, der den Einsatz von KI gesetzlich regelt. Demnach sollen KI-Systeme in verschiedene Risikogruppen eingeteilt werden. Je mehr Gefahr von der jeweiligen Anwendung ausgeht, desto strengere Regeln könnten für sie gelten. Auch komplette Verbote soll es geben, etwa von Gesichtserkennung in Echtzeit im öffentlichen Raum. Dagegen hatte es zuletzt zwar noch Widerstand von den Konservativen  im Parlament gegeben, doch zu Änderungen in letzter Minute kam es nicht mehr. Die Abstimmung endete mit 499 zu 28 Stimmen bei 93 Enthaltungen.

Biometrische Gesichtserkennung soll nur nachträglich nach einer richterlichen Entscheidung und zur Aufklärung schwerer Verbrechen erlaubt sein. Den Abgeordneten Patrick Breyer von der Piratenpartei freut das: »Dass sich das Europäische Parlament für ein Verbot biometrischer Echtzeit-Massenüberwachung im öffentlichen Raum starkmacht, ist ein historischer Erfolg für die Bürgerrechtsbewegung und ein klares Zeichen gegen eine dystopische Zukunft der biometrischen Massenüberwachung nach chinesischem Vorbild in Europa«.

KI-Systeme, die Menschen nach ihrem sozialen Verhalten oder ethnischen Merkmalen klassifizieren, wären nach dem Willen des EU-Parlaments ebenfalls nicht zulässig. Die Verhandlungen mit den EU-Staaten im sogenannten Trilog sollten nach Angaben des EU-Parlaments bereits am Abend beginnen.

Der Entwurf der Kommission stammt aus dem Jahr 2021. Sogenannte Transformermodelle, auf denen ChatGPT und andere heute populäre generative KI-Systeme beruhen, gab es damals zwar schon. Ihren Durchbruch hatten sie allerdings erst im Folgejahr. Die Pflicht zur Risikobewertung gilt aber auch für solche Modelle. In einer Mitteilung des Parlaments heißt es, derartige Systeme »müssen offenlegen, dass die Inhalte KI-generiert sind, um beispielsweise sogenannte Deepfake-Fotos von echten Abbildungen zu unterscheiden«. Zusätzlich müssten die Anbieter dafür sorgen, »dass keine rechtswidrigen Inhalte erzeugt werden.« Außerdem müssten sie detaillierte Zusammenfassungen der urheberrechtlich geschützten Daten veröffentlichen, die sie zu Trainingszwecken verwendet haben. [...]