Amnesty International begrüßt die heutige Abstimmung der federführenden Ausschüsse LIBE und IMCO im Europaparlament als entscheidenden Schritt auf dem Weg zu einer weltweit ersten umfassenden Regulierung von Künstlicher Intelligenz (KI). Die Menschenrechtsorganisation fordert die Bundesregierung auf, sich dafür einzusetzen, dass die Regelungen im nun anstehenden Trilog zwischen EU-Parlament, Kommission und Ministerrat nicht verwässert wird.

Amnesty International setzt sich seit vielen Jahren für eine menschenrechtskonforme Regulierung von KI und insbesondere für ein Verbot von Gesichtserkennungstechnologie zur Überwachung im öffentlichen Raum ein. Die heutige Abstimmung der zuständigen Ausschüsse im Europaparlament bewertet die Menschenrechtsorganisation als gutes Signal für den Menschenrechtsschutz - auch, wenn Schlupflöcher bleiben.

Markus N. Beeko, Generalsekretär von Amnesty International in Deutschland, sagt:

"Die KI-Verordnung entscheidet mit, in welcher Welt wir künftig leben werden. Wird Künstliche Intelligenz zum Wohle der Menschen eingesetzt werden oder wird sie dazu beitragen, Menschenrechte zu verletzen und auszuhöhlen?

Die EU-Parlamentarier*innen haben sich heute mehrheitlich für Maßnahmen entschieden, die Menschenrechte achten und schützen. So haben sie u.a. für ein Verbot von Echtzeit-Gesichtserkennung zur Überwachung gestimmt und - mit Ausnahmen - auch für ein Verbot von Gesichtserkennung im Nachhinein. Dies ist wichtig, denn auch die anlasslose Überwachung und Identifikation von Menschen auf bereits aufgezeichneten Videos verletzt die Menschenrechte.

Erfreulich ist auch, dass mehrere KI-Anwendungen verboten werden sollen, die mit den Menschenrechten unvereinbar sind, wie Predictive Policing, bestimmte Emotionserkennung und diskriminierende Kategorisierungen aufgrund beispielsweise sexueller Orientierung.

Leider haben die EU-Parlamentarier*innen aber auch ein neues Schlupfloch für Unternehmen geschaffen: Problematisch ist die unklare Definition davon, wann KI ein 'signifikantes Risiko' darstellt. Dies ermöglicht es Unternehmen, eine Anwendung von Künstlicher Intelligenz aus dem Hochrisikobereich 'herauszudefinieren' und damit wichtige strengere Regulierungen zu umgehen.

Die EU hat die Chance, ein weltweites Vorbild für einen Ordnungsrahmen zu schaffen, in dem Künstliche Intelligenz Menschenrechte nicht verletzt, sondern gut und sinnvoll eingesetzt werden kann. Amnesty fordert die Bundesregierung auf, sich im anstehenden Trilog zwischen EU-Parlament, Kommission und Ministerrat gegen eine Verwässerung der heute von den EU-Parlamentarier*innen gesetzten Standards einzusetzen."