Ein Leben, wie George Orwell 1984 beschrieb, "könnte im Jahr 2024 wahr werden", wenn der Gesetzgeber die Öffentlichkeit nicht vor künstlicher Intelligenz schützt, warnte Microsoft-Präsident Brad Smith. Und es werde angesichts des rasanten Fortschritts dieser Technologie "schwer aufzuholen" sein.
„Wenn wir die Gesetze, die die Öffentlichkeit vor einer solchen Zukunft schützen, nicht durchsetzen, werden wir bald feststellen, dass die Technologie zu weit gegangen ist, um sie wieder unter Kontrolle zu bringen“, sagte Smith unverblümt.
Ich werde ständig an George Orwells Lehren in seinem Buch von 1984 erinnert. Er sprach von einer Regierung, die alles sehen konnte, was jeder tat, und alles hören konnte, was jeder zu jeder Zeit sagte. Es geschah nicht 1984, aber wenn wir nicht aufpassen, wird es 2024 passieren.
Wenn Orwell in Peking gewesen wäre
In einigen Teilen der Welt rückt die Realität der dystopischen Vision von George Orwell immer näher.
Chinas Ambition ist es, bis 2030 weltweit führend in der KI zu werden, und viele betrachten seine Fähigkeiten als weit über die Europas hinaus.
- Im Jahr 2019 hat China schlagen die USA bei der Zahl der Patente von akademischen Einrichtungen für Innovation in KI-Technologien garantiert.
- Laut einer Comparitech-Studie ist die, 54 % der 770 Millionen CCTV-Kameras der Welt befinden sich in China.
Der Arzt Lan Xue, ein chinesischer Regierungsberater, sagte, die Gesichtserkennung könne sich im Falle eines „schweren Unfalls“ als „extrem nützlich“ erweisen, um Menschen in Massenversammlungen zu identifizieren. Und ich kann Ihnen versichern, dass die Entwicklung dieser Technologie es ist schon ziemlich fortgeschritten.
Chinesische Reaktionen auf die Vorwürfe der Amerikaner
Eric Schmidt, ein ehemaliger CEO von Google und jetzt Vorsitzender der US-amerikanischen Nationalen Sicherheitskommission für künstliche Intelligenz, warnte davor, China bei der KI zu schlagen.
"Wir befinden uns in einem strategischen geopolitischen Konflikt mit China", sagte er. „Der Weg zum Sieg besteht darin, unsere Ressourcen zu bündeln, um nationale und globale Strategien zu entwickeln, damit Demokratien in der KI gewinnen können. Wenn wir dies nicht tun, werden wir in eine Zukunft blicken, in der uns andere Werte auferlegt werden. Werte a la Orwell.
Dr. Xue ist nicht derselben Meinung. „China versucht nicht, seine Werte zu exportieren. Natürlich hat es in der technologischen Entwicklung in der Tat enorme Fortschritte gemacht, und die USA empfinden dies als Bedrohung. Aus diesem Grund haben sie eine Art Kalten Krieg gegen die Technologie ausgelöst "(und nicht nur das würde ich sagen).
Obwohl China in seinen Werten und seiner Politik große Unterschiede zu den USA hat, ist sein Weltbild nicht Konvergenz, sondern Koexistenz.
Keyu Jin, außerordentlicher Professor an der London School of Economics.
Projekt Maven
Wenn es um die Orwellsche Kontrolle geht, zeigen die USA jedoch, dass sie Ambitionen haben, die denen Chinas nicht ganz unähnlich sind. Dr. Schmidt wurde 2016 Pentagon-Berater und behielt gleichzeitig die Position des Executive Chairman von Alphabet, der Muttergesellschaft von Google, bei. In den Folgejahren schloss Google einen Vertrag mit der Pentagon wodurch er einige seiner Bilderkennungstechnologien im Rahmen eines Militärprojekts einsetzen kann.
Das Projekt namens Maven nutzte maschinelles Lernen, um Personen und Objekte in Drohnenvideos zu unterscheiden.
„Maven war damals … eine Möglichkeit, menschliche Augen durch automatisches Sehen für Drohnenaufnahmen zu ersetzen, die in verschiedenen arabischen Konflikten verwendet wurden“, sagt Schmidt. Orwell fällt mir da wohl nicht ein. "Ich sah den Einsatz dieser Technologie als einen deutlichen Vorteil für die nationale Sicherheit und eine gute Partnerschaft für Google." Ich würde gerne verstehen, warum eine Technologie in chinesischer Hand sofort "repressiv" wird und dieselbe Technologie in amerikanischer Hand sofort "positiv für die nationale Sicherheit" wird, und na ja.
Und ich bin nicht der einzige, der sich darüber wundert. Sogar Google-Mitarbeiter haben dies getan, das Projekt kritisiert, eine Petition gegen das Projekt eingereicht und sogar gekündigt.
"Google sollte sich nicht in das Kriegsgeschäft einmischen", sagte der Software-Ingenieur Laura Nolan die 2018 zurücktrat, als sie die Natur des Projekts entdeckte. "Ich hatte das Gefühl, dass meine Hände mit Blut befleckt waren."
Unnötig zu erwähnen, dass Google sagte, seine KI würde nur für nicht-offensive Zwecke verwendet, bevor es sich im Juni 2018 vollständig (?) aus dem Maven-Projekt zurückzog "die richtigen Entscheidungen treffen" und zu glauben, dass es eine "gute Sache" ist.
Wannabe Orwell, das KI-Wettrüsten
Kurz gesagt, es ist leicht "Orwell" zu sagen, aber die Wahrheit ist, dass die Bürger der Welt einem eher parteiübergreifenden potentiellen Risiko ausgesetzt sind. Das Verteidigungsministerium suche weiter nach partnerschaften im Silicon Valley, um den globalen Wettlauf mit China um Waffen für künstliche Intelligenz zu gewinnen.
Weil wir in einem Wettbewerb sind, weil wir in diesem Wettbewerb sind, darum geht es hier wirklich. Werden sie uns helfen, dieses Rennen zu gewinnen, oder werden sie im Wesentlichen gegen uns sein? China hat nicht das gleiche Regierungssystem wie wir. Könnte das KI-Wettrüsten zu einem Konflikt mit China führen? Absolut."
Seth Moulton, Vorsitzender der US-amerikanischen Task Force Future of Defense, fordert Technologieunternehmen auf, das Verteidigungsministerium zu unterstützen.
Dr. Orwell, Entschuldigung, Xue (ich sehe Orwell mittlerweile überall) stimmte zu, dass es einen möglichen Konflikt gibt. Aber schlau und in dem weichen Stil, der das Establishment des Celestial Empire ausmacht, sagt er, "aber es ist nicht unvermeidlich: Die Vereinigten Staaten und China sollten wirklich zusammenarbeiten, um dies zu verhindern."