Der Queensland Police Service (QPS) in Australien leitet einen Prozess gegen künstliche Intelligenz (KI) ein um das zukünftige Risiko zu bestimmen dass einige gemeldete Personen an häuslicher Gewalt beteiligt sind.
Als „Hochrisiko“ identifizierte Autoren (basierend auf früheren Anzeigen, Strafregistern oder anderen) werden von der Polizei zu Hause besucht, bevor die häusliche Gewalt eskaliert und ein Verbrechen begangen wird.
Häusliche Gewalt: Prävention ist besser, aber ...
Ich sage es gleich: Wir müssen bessere Wege finden, um die Sicherheit von Frauen zu verbessern, die Opfer häuslicher Gewalt werden. Der Einsatz von KI-Technologie in diesem Zusammenhang kann jedoch unbeabsichtigte Folgen haben, und dieser vorgeschlagene Plan wirft ernsthafte Fragen zur Rolle der Polizei bei der Verhinderung von Vorfällen häuslicher Gewalt auf.
Der Ansatz basiert auf einem Algorithmus, der aus bestehenden Daten entwickelt wurde. Alle statistischen Algorithmen müssen das Risiko anhand der verfügbaren Daten bewerten. Das wiederum bedeutet, dass sie „nur“ so gut sind wie die Daten, die sie unterstützen. Nicht umsonst kritisieren Experten datenbasierte Risikobewertungsinstrumente bei der Polizeiarbeit und weisen auf die mangelnde Transparenz der analysierten Datentypen hin.
Vorsicht beim Spielen von "Pre Crime"
Wie erwähnt, sind die am häufigsten erhobenen Schlüsseldaten Informationen über vergangene Situationen, in denen die Polizei gerufen wurde, und Daten über kriminelle Hintergründe. Die Verwendung dieser Informationen zum Trainieren eines Algorithmus für künstliche Intelligenz könnte bestehende Vorurteile im Strafjustizsystem verstärken. Es könnte eine endlose Rückkopplungsschleife schaffen, einen Teufelskreis aus einer Sackgasse zwischen der Polizei und den Bürgern, die mehr Kontakt zur Polizei haben.
Wenn Ihnen auch ethnische Diskriminierung in den Sinn kommt, sind Sie nicht weit von der Wahrheit entfernt. In Australien zum Beispiel sind die Aborigines die Menschen, die am häufigsten mit der Polizei in Kontakt kommen. Es ist nicht schwer vorstellbar, dass Aborigines unter diesem neuen Regime „antihäuslicher Gewalt“ mehr von der Polizei besucht werden.
Die Polizei möchte mitteilen, dass für dieses Pilotprojekt die Attribute Ethnizität und geografische Lage entfernt wurden, bevor das KI-Modell trainiert wurde. Trotzdem ist es weiterhin wahrscheinlich, dass Aborigines weiterhin unverhältnismäßig stark angegriffen werden, da sie bei allen Arten von Kontakten mit der Polizei überrepräsentiert sind.
Ist das Kriminalitätsrisiko ein guter Ansatz?
Das Ziel dieser Polizeistrategien basiert aufkünstliche Intelligenz es dient der Verhütung oder Verringerung von Kriminalität durch eine Bewertung des Risikos zukünftiger Straftaten. Theoretisch bedeutet dies, dass die Polizei frühzeitig eingreifen würde, um eine Straftat zu verhindern. Wer erinnert sich an den bereits erwähnten "Pre Crime" von "Minority Report"?
Ich sage, dass bei diesem Ansatz Risiken bestehen, die die Polizei möglicherweise sogar Kriminalität schaffen. Ein solches "präventives" Programm kann Widerstands- und Umgehungsmechanismen verstärken: Es würde mich nicht wundern, wenn dies zu anderen Straftaten führen würde.
Zusammenfassend birgt der von der australischen Polizei vorgeschlagene Plan ein klares Risiko. Das Netzwerk der Kriminalisierung sowohl für die Täter als auch für die Opfer (die fälschlicherweise als Täter identifiziert werden können) zu erweitern. Wie? Beispielsweise wurden Opfer, die Gewalt zur Selbstverteidigung anwendeten, manchmal anstelle des Täters festgenommen.
Könnte es Opfern häuslicher Gewalt weiteren Schaden zufügen?
Besorgniserregend ist auch die Rolle des Opfers in einem solchen Programm. Jedes Programm, das die Überwachung der Täter vertieft, vertieft auch die Überwachung der Opfer.
Opfer wollen nicht immer, dass die Polizei in ihr Leben eingreift. In einigen Fällen mag diese Form der proaktiven Polizeiarbeit eher wie eine Erweiterung der Kontrolle denn als Hilfe erscheinen. Was passiert, wenn die Polizei vorbeikommt und feststellt, dass ein Täter und ein Risikoopfer wieder zusammenleben?
Die Risiken sind da
Opfer befürchten möglicherweise, dass Kinderschutzbehörden eingeschaltet werden, und fühlen sich gezwungen, die Tatsache zu verbergen, dass sie immer noch mit dem Täter zusammen sind. Und wenn ein Opfer einmal gezwungen wurde zu lügen, zögert es möglicherweise, die Polizei zu rufen, wenn es das nächste Mal ein Eingreifen der Polizei benötigt. In anderen Fällen kann der Täter oder das Opfer entscheiden, den Sicherheitsratschlägen der aufgesuchten Polizeibeamten nicht Folge zu leisten. Es ist unklar, was die Polizei in einer Situation tun könnte, in der sie einen Angreifer auffordert zu gehen oder versucht, ein Opfer zu retten, aber sie weigert sich.
Die Mission jeder Intervention bei häuslicher Gewalt sollte darin bestehen, den Opfern die Macht zurückzugeben. Aber wir wissen, dass Interventionen nicht allen Frauen (oder Männern) gleichermaßen helfen. Strukturelle Ungleichheiten, einschließlich Rasse und Klasse, führen dazu, dass Interventionen von verschiedenen Menschen unterschiedlich erlebt werden.
