Bei der Abstimmung am Mittwoch im Europäischen Parlament haben 377 Abgeordnete Sie haben eine Resolution unterstützt die die Verwendung der Gesichtserkennung durch die Strafverfolgungsbehörden einschränkt. 248 stimmten dagegen und 62 enthielten sich der Stimme.
„KI-basierte Identifikationssysteme identifizieren ethnische Minderheiten, LGBTI-Personen, ältere Menschen und Frauen bereits häufiger falsch. Dies ist insbesondere im Zusammenhang mit der Überwachung der Strafverfolgung und der Justiz besorgniserregend“, heißt es in einer Erklärung des Parlaments.
Undurchsichtige Algorithmen, inquisitorische Überwachung
Damit bei der Nutzung dieser Technologien die Grundrechte gewahrt werden, sollten Algorithmen transparent, nachvollziehbar und ausreichend dokumentiert sein. Behörden sollten nach Möglichkeit Open-Source-Software verwenden, um transparenter zu sein.
Erklärung des EU-Parlaments
Es ist eine gute Nachricht, dass die meisten politischen Vertreter der EU diese Einschätzung abgegeben haben. Wer möchte nicht die Gesichtserkennung bei der automatischen Massenüberwachung von Menschen in der Öffentlichkeit einsetzen. Die Überwachung sollte auf diejenigen beschränkt werden, von denen angenommen wird, dass sie gegen das Gesetz verstoßen haben. Von privaten Unternehmen gesammelte Datensätze, wie z Clearview-KI, um Bürger zu identifizieren. Es wäre nützlich, in Wahrheit sogar die Systeme zu verhindern, die es den Polizisten ermöglichen, Verstöße vorhersagen aus dem Verhalten und der Herkunft der Menschen.
Das sagte das EU-Parlament zu Gesichtserkennung und Massenüberwachung:
"Grundrechte sind bedingungslos", sagt er Peter Vitanow, Abgeordneter der Bulgarischen Sozialistischen Partei. "Wir fordern zum ersten Mal ein Moratorium für die Implementierung von Gesichtserkennungssystemen für Überwachungs- und Strafverfolgungszwecke, da sich die Technologie als ineffektiv erwiesen hat und oft zu diskriminierenden Ergebnissen führt."
Wir sind eindeutig gegen eine vorausschauende Polizei, die auf dem Einsatz künstlicher Intelligenz und jeder biometrischen Datenverarbeitung basiert, die zu einer Massenüberwachung führt. Dies ist ein großer Sieg für alle europäischen Bürger.
Peter Vitanow, MdEP
Die Abstimmung ist nicht bindend und kann daher nicht direkt zu Gesetzesänderungen führen. Es wurde beworben, "den Puls zu nehmen" des Europäischen Parlaments und zu verstehen, ob die Mitglieder kommende Gesetze wie das KI-Gesetz unterstützen könnten. Zu den Absichten gehört auch das Verbot biometrischer Daten bei Grenzkontrollen, um Reisende in Europa zu verfolgen.
Die Ausfälle einer noch unvollständigen Technologie
Das Wachstum dieser Überwachungsalgorithmen geschah sehr schnell und mit einem unvollständigen Datensatz, um großzügig zu sein. Diskriminierung durch Gesichtserkennung ist an der Tagesordnung (denken Sie an die Person, die von einem Facebook-Algorithmus als "Affe" identifiziert wurde). Farbige Personen werden derzeit viel häufiger durch den Authentifizierungsmechanismus der Gesichtserkennung falsch identifiziert. Und es gibt einen, der es gekocht und roh macht: Es ist der Uber-Algorithmus.
Ein schwarzer Uber-Fahrer in Großbritannien, der seinen Job verloren hat, nachdem er von der laufenden Anruf-App blockiert wurde, als sein Gesichtserkennungssystem ihn nicht identifizierte, geht rechtliche Schritte gegen den Technologieriesen ein. Unterstützt wird sie von der Union of Independent Workers of Great Britain (IWGB), die zu einem Streik von 24 Personen aufgerufen hat, um Änderungen im Modus Operandi zu fordern.
"Ubers fortgesetzte Verwendung eines Gesichtserkennungsalgorithmus, der bei farbigen Menschen ineffektiv ist, ist diskriminierend", sagte er. Henry Chango Lopez, Generalsekretär des IWGB.
