Bei der Abstimmung am Mittwoch im Europaparlament 377 Abgeordnete Sie haben eine Resolution unterstützt die die Verwendung der Gesichtserkennung durch die Strafverfolgungsbehörden einschränkt. 248 stimmten dagegen und 62 enthielten sich, fürs Protokoll.
„KI-basierte Identifizierungssysteme identifizieren ethnische Minderheitengruppen, LGBTI-Personen, ältere Menschen und Frauen bereits häufiger falsch. Dies ist im Zusammenhang mit der Strafverfolgung und der gerichtlichen Überwachung von besonderer Bedeutung“, heißt es in einer Erklärung des Parlaments.
Undurchsichtige Algorithmen, inquisitorische Überwachung
Damit bei der Nutzung dieser Technologien die Grundrechte gewahrt werden, sollten Algorithmen transparent, nachvollziehbar und ausreichend dokumentiert sein. Behörden sollten nach Möglichkeit Open-Source-Software verwenden, um transparenter zu sein.
Erklärung des EU-Parlaments
Es ist eine gute Nachricht, dass die meisten politischen Vertreter der EU diese Einschätzung abgegeben haben. Wer möchte die Gesichtserkennung nicht bei der automatischen Massenüberwachung von Personen in der Öffentlichkeit einsetzen. Die Überwachung sollte auf diejenigen beschränkt werden, von denen angenommen wird, dass sie gegen das Gesetz verstoßen haben. Von privaten Unternehmen gesammelte Datensätze, wie z Clearview-KI, um Bürger zu identifizieren. Es wäre nützlich, in Wahrheit sogar die Systeme zu verhindern, die es den Polizisten ermöglichen, Verstöße vorhersagen aus dem Verhalten und der Herkunft der Menschen.
Das sagte das EU-Parlament zu Gesichtserkennung und Massenüberwachung:
"Grundrechte sind bedingungslos", sagt er Peter Vitanow, MdEP, Vertreter der Bulgarischen Sozialistischen Partei. „Zum allerersten Mal fordern wir ein Moratorium für die Implementierung von Gesichtserkennungssystemen für Überwachungs- und Strafverfolgungszwecke, da sich die Technologie als unwirksam erwiesen hat und oft zu diskriminierenden Ergebnissen führt.“
Wir sind klar gegen eine vorausschauende Polizei, die auf dem Einsatz künstlicher Intelligenz und jeglicher Verarbeitung biometrischer Daten basiert, die zu einer Massenüberwachung führt. Dies ist ein großer Sieg für alle europäischen Bürger.
Peter Vitanow, MdEP
Die Abstimmung ist nicht bindend und kann daher nicht unmittelbar zu Gesetzesänderungen führen. Es wurde gefördert, um „am Puls“ des Europäischen Parlaments zu sein und zu verstehen, ob die Mitglieder kommende Gesetze wie das KI-Gesetz unterstützen könnten, darunter sogar das Verbot biometrischer Daten bei Grenzkontrollen, um Reisende in Europa zu verfolgen.
Die Ausfälle einer noch unvollständigen Technologie
Das Wachstum dieser Überwachungsalgorithmen geschah sehr schnell und mit einem unvollständigen Datensatz, um großzügig zu sein. Diskriminierung durch Gesichtserkennung ist an der Tagesordnung (denken Sie an die Person, die von einem Facebook-Algorithmus als „Affe“ identifiziert wird). People of Color werden derzeit viel wahrscheinlicher durch den Authentifizierungsmechanismus der Gesichtserkennung falsch identifiziert. Und es gibt einen, der es gekocht und roh macht: Es ist der Uber-Algorithmus.
Ein schwarzer Uber-Fahrer in Großbritannien, der seinen Job verlor, nachdem er von der laufenden Anruf-App blockiert wurde, als sein Gesichtserkennungssystem ihn nicht identifizieren konnte, ergreift rechtliche Schritte gegen den Technologieriesen. Sie wird von der Union of Independent Workers of Great Britain (IWGB) unterstützt, die zu einem 24-tägigen Streik aufgerufen hat, um Änderungen der Vorgehensweise zu fordern.
„Ubers fortgesetzte Verwendung eines Gesichtserkennungsalgorithmus, der für Farbige unwirksam ist, ist diskriminierend“, sagte er. Henry Chango Lopez, Generalsekretär des IWGB.
