Werbung:

„Öffnet Büchse der Pandora“

KI-Gesetz der EU soll biometrische Identitätsfeststellung ermöglichen

Die Europäische Union plant den weltweit ersten Rechtsrahmen im Zusammenhang mit KI zu verabschieden. Dabei wird den Regierungen ein großer Spielraum bei der Anwendung gelassen. Es sollen biometrische Daten zur Identitätsfeststellung verwendet und gesammelt werden dürfen.

Werbung:

Die Europäische Union will das weltweit erste Gesetz im Zusammenhang mit Künstlicher Intelligenz (KI) auf den Weg bringen. Im April 2021 wurde von der europäischen Kommission eine erster Rechtsrahmen für KI vorgeschlagen. Nach einem Verhandlungsmarathon in der vergangenen Woche haben sich nun die EU-Kommission, das Europäische Parlament und der Ministerrat, die Vertretung der 27 Mitgliedsstaaten auf einen vorläufigen Gesetzentwurf zu dem geplanten KI-Gesetz geeinigt.

Die Freude bei den EU-Spitzen ist groß. „Historisch“ nannte EU-Binnenmarktkommissar Thierry Breton die Vereinbarung. Kommissionspräsidentin Ursula von der Leyen (CDU) ist sich sicher, dass das KI-Gesetz „die Sicherheit und Grundrechte von Menschen und Unternehmen“ schützen werde. Die Bürger könnten dem Gesetz „vertrauen“ und es würden „die europäischen Werte in eine neue Ära übertragen“, so von der Leyen weiter.

Werbung

Gesetzestext noch nicht öffentlich

Details zu dem Gesetz sind bisher jedoch noch nicht bekannt. Der Text soll erst in den kommenden Tagen geschrieben und veröffentlicht werden. Anschließend muss das Gesetz noch förmlich vom EU-Parlament und dem Ministerrat gebilligt werden. Dies soll noch in dieser Legislaturperiode, planmäßig im April 2024 geschehen. Danach müssen die Mitgliedsstaaten das KI-Gesetz binnen zwei Jahren in nationales Recht umsetzen.

Dennoch drangen bereits einige Informationen an die Öffentlichkeit. Netzpolitik.org berichtet, dass insbesondere der behördliche Einsatz von künstlicher Intelligenz in dem Gesetzesentwurf geregelt werden soll. Verboten werden sollen etwa Kategorisierungen durch biometrische Videoüberwachung anhand sensitiver Merkmale. Hierdurch sollen Diskriminierungen aufgrund von Glauben, Herkunft oder sexueller Orientierung ausgeschlossen werden. Emotionserkennungen sollen sowohl an der Schule als auch am Arbeitsplatz ausgeschlossen werden. Das Social Scoring, also das Sammeln, Bewerten und Sanktionieren des sozialen Verhaltens mithilfe von KI soll ebenfalls verboten werden.

Zahlreiche Ausnahmeregelungen geplant

Der Einsatz von KI ist für den Staat also prinzipiell streng reguliert. Jedoch soll es zahlreiche Ausnahmeregelungen geben, durch welche die Regulierungen de facto unterlaufen werden können. So sollen Strafverfolgungsbehörden die biometrische Identitätsfeststellung mittels KI offenstehen. Das Gesetz sieht vor, dass biometrische Identifizierungssysteme in öffentlichen Räumen bei vorheriger richterlicher Genehmigung genutzt werden dürfen. Dies soll etwa zulässig sein, wenn mittels dieser Maßnahme Täter auf frischer Tat identifiziert werden können.

Werbung

Daneben soll auch die retrograde Identifizierung, also die Identitätsfeststellung im Nachhinein einer Straftat zur Anwendung kommen dürfen. Die retrograde Identifizierung soll bei Terrorgefahr oder bei der Bekämpfung schwerer Verbrechen zum Einsatz kommen dürfen.

Bemerkenswert ist hier, dass sich die Bundesregierung auf europäischer Ebene ausdrücklich für die biometrische Gesichtsidentifizierung ausgesprochen hat. Im Koalitionsvertrag wurde die biometrische Erkennung im öffentlichen Raum noch ausgeschlossen: „Biometrische Erkennung im öffentlichen Raum sowie automatisierte staatliche Scoring Systeme durch KI sind europarechtlich auszuschließen“, hieß es dort.

Wird die retrograde Identifizierung gestattet, müssten zu ihrer effektiven Nutzung wohl in erheblichem Maße Daten von Bürgern gesammelt und ausgewertet werden. Schließlich benötigen die Behörden zur Identitätsfeststellung per KI eine Vielzahl von Daten. Nur so könnten biometrische Daten von Verdächtigen wirksam abgeglichen werden.

Werbung

Im Vorfeld forderte zudem die französische Regierung in Fällen der „nationalen Sicherheit“ umfassenden Ausnahmeregelungen zu gewähren. Zu diesen Ausnahmeregelungen soll auch die biometrische Massenüberwachung und Formen des Social Scorings gehören. Laut dem EU-Parlament werden solche Maßnahmen in der erzielten Einigung für verboten erklärt, solange der Gesetzesentwurf aber noch nicht mit allen Details bekannt ist, kann auch dies nicht ausgeschlossen werden.

„Diese Regelungen öffnen die Büchse der Pandora!“

Der Europaabgeordnete der Piratenpartei Patrick Breyer warnt eindringlich vor der Verabschiedung des Gesetzes: „Mit dieser gesetzlichen Anleitung zu biometrischer Massenüberwachung kann unser Gesicht in der Öffentlichkeit immer und überall flächendeckend und verdachtslos gescannt werden.“ Breyer sieht die europäischen Freiheitsrechte sowie das Recht auf Privatsphäre massiv gefährdet: „Es führt Europa in eine dystopische Zukunft eines misstrauischen High-Tech-Überwachungsstaats nach chinesischem Vorbild“.

Seine Parteikollegin und Spitzenkandidatin für die Europawahl, Anja Hirschel, kritisiert dies ebenfalls: „Wenn wir zulassen, dass eine Überwachungsinfrastruktur aufgebaut und entsprechende KI-Systeme trainiert werden, ist es erschreckend einfach, unsere gesamten Bewegungen und Begegnungen im Detail auszuspähen. In Zukunft können leicht die Einsatzzwecke, Speicherdauer und Zugriffsbefugnisse erweitert werden. Diese Regelungen öffnen die Büchse der Pandora!“

Tabea Rößler (Grüne), Vorsitzende des Digitalausschusses im deutschen Bundestag zeigt sich mit der Vereinbarung hingegen zufrieden. Europa bekomme „als erster Kontinent einen ausgewogenen und umfassenden Rechtsrahmen“ für KI, so die Grüne. Die Bundesregierung hält sich mit einer Einschätzung bisher bedeckt. Als „zurückhaltend“ bewertet Bundesverkehrs- und Digitalminister Volker Wissing (FDP) das Ergebnis der Vereinbarungen. Ob „die Regulierung verhältnismäßig“ sei, „werden wir uns in den nächsten Tagen sehr genau anschauen“, so Wissing.

Werbung

Werbung