abusesaffiliationarrow-downarrow-leftarrow-rightarrow-upattack-typeburgerchevron-downchevron-leftchevron-rightchevron-upClock iconclosedeletedevelopment-povertydiscriminationdollardownloademailenvironmentexternal-linkfacebookfiltergenderglobegroupshealthC4067174-3DD9-4B9E-AD64-284FDAAE6338@1xinformation-outlineinformationinstagraminvestment-trade-globalisationissueslabourlanguagesShapeCombined Shapeline, chart, up, arrow, graphLinkedInlocationmap-pinminusnewsorganisationotheroverviewpluspreviewArtboard 185profilerefreshIconnewssearchsecurityPathStock downStock steadyStock uptagticktooltiptwitteruniversalityweb
Artikel

28 Sep 2023

Autor:
Amnesty International,
Autor:
AlgorithmWatch

KI-Verordnung der EU: Amnesty International und AlgorithmWatch fordern Bundesminister in offenem Brief dazu auf, sich bei Verhandlungen für den Erhalt zentraler Schutzmaßnahmen einzusetzen

"Offener Brief an die Bundesminister Marco Buschmann und Robert Habeck: Gewährleisten Sie den Schutz der Menschen und Menschenrechte vor den Risiken von KI-Systemen!"

Sehr geehrter Herr Minister Buschmann, sehr geehrter Herr Minister Habeck,

Ihre Ministerien verhandeln federführend die künftige EU-Verordnung zu Künstlicher Intelligenz. Im Namen von AlgorithmWatch und Amnesty International möchten wir Ihre Aufmerksamkeit auf einige alarmierende Entwicklungen in den gegenwärtigen Verhandlungen lenken. In diesen wird derzeit die Einführung verschiedener Ausnahmen von der Regulierung diskutiert, die die Verordnung in weiten Teilen wirkungslos machen könnten.

Die KI-Verordnung verfolgt einen risikobasierten Ansatz. Bei diesem werden KI-Systeme in solche mit inakzeptablem Risiko, hohem Risiko oder in geringere Risikostufen eingruppiert. KI-Systeme mit inakzeptablen Risiken sollen verboten, solche mit hohem Risiko durch verschiedene Schutzmaßnahmen reguliert werden.

Die Verordnung hat das Potenzial, wirksame Maßnahmen zum Schutz der Menschen und unserer Grundrechte festzulegen. Dazu ist Folgendes nötig:

● Hochrisiko-KI und deren Einsatz müssen in einer EU-Datenbank registriert werden. Derzeit werden jedoch Ausnahmen von dieser Transparenzpflicht ausgerechnet für diejenigen Bereiche diskutiert, in denen Menschen besonders verletzlich sind, wie etwa beim Einsatz von KI durch Strafverfolgungs- und Migrationsbehörden. Mangels Nachvollziehbarkeit könnte der Einsatz durch diese Behörden nicht überprüft werden. Daher darf es keine Ausnahmen von der Registrierungspflicht geben.

● Die Betreiber*innen von hochriskanten KI-Systemen sollten dazu verpflichtet werden, vor dem Einsatz des Systems eine Grundrechts-Folgenabschätzung (Fundamental Rights Impact Assessment – FRIA) vorzunehmen und diese öffentlich zugänglich zu machen.

● Die EU-Kommission hat eine klar verständliche Definition für Hochrisiko-KI vorgeschlagen. Derzeit wird darüber verhandelt, diese mit Ausnahmeregelungen zu versehen (sogenannter „Article 6 Extra Layer“). Diese Schlupflöcher würden es unverantwortlichen Anbietern ermöglichen, sich der Regulierung zu entziehen. Verantwortlich agierende Anbieter hätten das Nachsehen. Die Mitgliedstaaten sollten daher auf Ausnahmen verzichten und am ursprünglichen Entwurf der EU-Kommission festhalten.

● Das Versprechen des Koalitionsvertrages muss gehalten werden: Biometrische Erkennungssysteme wie Gesichtserkennungstechnologie müssen in öffentlich zugänglichen Räumen sowohl in Echtzeit als auch mit Zeitverzögerung ("post-RBI“) ausgeschlossen werden, da sie unvertretbare Risiken für die Gesellschaft mit sich bringen. Massenüberwachung ist mit den Menschenrechten nicht vereinbar.

● KI für Zwecke der nationalen Sicherheit darf nicht pauschal von der Verordnung ausgenommen werden. Eine solche explizite Ausnahme stellt eine Einladung für Missbrauch dar, denn der Begriff der nationalen Sicherheit ist europaweit nicht klar definiert. Daher sollten sich die Mitgliedsstaaten auch hier dem Entwurf der EU-Kommission anschließen, der keine solche Ausnahme vorsieht.

Wir fordern Sie auf, sich als federführende Minister der Bundesregierung dafür einzusetzen, dass diese wichtige Verordnung nicht durchlöchert wird und zentrale Schutzmaßnahmen wie die Grundrechts-Folgenabschätzung erhalten bleiben.

Die in diesem Brief vertretenen Positionen teilen wir mit 150 Organisationen der deutschen und europäischen Zivilgesellschaft. Unsere gemeinsamen detaillierten Empfehlungen entnehmen Sie bitte dem Anhang dieses Schreibens.

Markus N. Beeko, Generalsekretär, Amnesty International

Matthias Spielkamp, Geschäftsführer, AlgorithmWatch

Zeitleiste

Informationen zum Datenschutz

Diese Website verwendet Cookies und andere Web-Speichertechnologien. Sie können Ihre Datenschutzeinstellungen unten festlegen. Die Änderungen werden sofort wirksam.

Weitere Informationen über unsere Nutzung von Webspeicherung finden Sie in unserer Richtlinie zur Datennutzung und Cookies

Strictly necessary storage

ON
OFF

Necessary storage enables core site functionality. This site cannot function without it, so it can only be disabled by changing settings in your browser.

Analytics-Cookie

ON
OFF

When you access our website we use Google Analytics to collect information on your visit. Accepting this cookie will allow us to understand more details about your journey, and improve how we surface information. All analytics information is anonymous and we do not use it to identify you. Google provides a Google Analytics opt-out add on for all popular browsers.

Promotional cookies

ON
OFF

We share news and updates on business and human rights through third party platforms, including social media and search engines. These cookies help us to understand the performance of these promotions.

Ihre Privatsphäre-Einstellungen für diese Website

Diese Website verwendet Cookies und andere Web-Speichertechnologien, um Ihre Erfahrung über die notwendigen Kernfunktionen hinaus zu verbessern.