Heute haben die Abgeordneten des Europäischen Parlaments das EU-Gesetz über künstliche Intelligenz (KI-Gesetz oder AI Act) verabschiedet, mit dem neue Regeln für die Nutzung künstlicher Intelligenz in der EU eingeführt werden. Der digitale Freiheitskämpfer und Europaabgeordnete Dr. Patrick Breyer (Piratenpartei) warnt davor, dass das Gesetz den Weg für die Einführung biometrischer Massenüberwachung in Europa freimacht, wo sich EU-Regierungen dafür entscheiden:
„Mit diesem KI-Gesetz will die EU China offenbar nicht nur technologisch sondern auch innenpolitisch nacheifern. Flächendeckende und permanente Echtzeit-Gesichtserkennung, einschüchternde Verhaltensüberwachung im öffentlichen Raum wie in Hamburg eingesetzt, fehleranfällige Gesichtserkennung in Videoüberwachungsbändern von Demonstrationen schon bei Bagatelldelikten, die KI-gestützte Auswertung der Herkunft von Personen, unwissenschaftliche ‚Video-Lügendetektoren‘ – keine dieser dystopischen Technologien verbietet der AI Act unseren Regierungen, zu denen auch illiberale und rechtsextreme Regierungen wie in Ungarn oder Italien zählen. Statt uns vor einem High-Tech-Überwachungsstaat zu schützen, regelt der AI Act penibel, wie man ihn einführt. So wichtig eine Regulierung von KI-Technologie ist, ist die Verteidigung unserer Demokratie gegen die Errichtung eines High-Tech-Überwachungsstaats für uns Piraten nicht verhandelbar.
Überwachungsexperimente in den Ländern zur ‚Gefahrenabwehr‘ wie mit Verhaltensüberwachung in Hamburg oder Mannheim laufen bereits. Die nächste Große Koalition oder gar eine Regierung mit AfD-Beteiligung kann auch die EU-Anleitung zur Einführung biometrischer Echtzeit-Gesichtsüberwachung jederzeit aufgreifen.“
Anja Hirschel, Spitzenkandidatin der Piratenpartei für die Europawahl 2024, fügt hinzu: „Der AI Act ebnet den Weg für die Einführung einer nie dagewesenen Massenüberwachung in Europa. Der Aufbau einer flächendeckenden, automatisierten Überwachungsinfrastruktur inklusive biometrischer Fernerkennungssysteme wird damit ermöglicht. Eine permanente Gesichtsüberwachung in Echtzeit würde dann zu unserer neuen Realität.“
Breyer bekräftigt: „Einer gesucht, alle überwacht? Mit dieser gesetzlichen Anleitung zu biometrischer Massenüberwachung kann unser Gesicht in der Öffentlichkeit mit der Begründung ‚Personenfahndung‘ immer und überall flächendeckend und verdachtslos gescannt werden. Die vermeintlichen Ausnahmen sind Augenwischerei – wegen der im ‚AI Act‘ genannten Delikte sucht die Justiz per Europäischem Haftbefehl nach über 6.000 Menschen. Unter ständiger Überwachung sind wir nicht mehr frei! In der Realität wurde mit biometrischer Echtzeitüberwachung des öffentlichen Raums noch kein einziger Terrorist gefunden, kein einziger Anschlag verhindert, stattdessen führt sie zu unzähligen Festnahmen Unschuldiger und bis zu 99% Falschverdächtigungen. Das Gesetz legitimiert und normalisiert eine Kultur des Misstrauens. Es führt Europa in eine dystopische Zukunft eines misstrauischen High-Tech-Überwachungsstaats nach chinesischem Vorbild.“
Der Europäische Datenschutzausschuss und der Europäische Datenschutzbeauftragte haben ein “generelles Verbot des Einsatzes von KI zur automatischen Erkennung menschlicher Merkmale in öffentlich zugänglichen Räumen” gefordert, da dies “direkte negative Auswirkungen auf die Ausübung der Meinungs-, Versammlungs- und Vereinigungsfreiheit sowie der Freizügigkeit” habe. Mehr als 200 zivilgesellschaftliche Organisationen, Aktivisten, Technikspezialisten und andere Experten auf der ganzen Welt setzen sich für ein weltweites Verbot biometrischer Erkennungstechnologien ein, die eine massenhafte und diskriminierende Überwachung ermöglichen. Sie argumentieren, dass “diese Instrumente die Fähigkeit haben, Menschen zu identifizieren, zu verfolgen, auszusondern und zu verfolgen, wo immer sie sich aufhalten, und damit unsere Menschenrechte und bürgerlichen Freiheiten untergraben”. Auch die UN-Hochkommissarin für Menschenrechte spricht sich gegen den Einsatz biometrischer Fernerkennungssysteme im öffentlichen Raum aus und verweist auf die “mangelnde Einhaltung von Datenschutzstandards”, “erhebliche Probleme mit der Genauigkeit” und “diskriminierende Auswirkungen”.
Das Europäische Parlament hatte sich im vergangenen Jahr noch für ein Verbot biometrischer Massenüberwachung ausgesprochen.