Sie müssen den unglaublichen Showdown zwischen Scarlett Johansson und OpenAI über das angebliche Klonen der Stimme der Schauspielerin verfolgen, Sie müssen es tun, weil es uns viel lehren kann. Es ist der perfekte Mikrokosmos der Philosophie hinter dem Goldrausch der generativen KI: eine unaufhaltsame Zukunft, die auf Daten basiert, die online ohne Zustimmung der Urheber und Urheberrechtsinhaber gesammelt werden.
Eine Zukunft, in der die Regeln der Gesellschaft nicht gelten, weil der Einsatz (eine hypothetische Superintelligenz, die den Lauf der Menschheitsgeschichte neu schreiben würde) zu hoch ist, um sich über Details wie Namensnennung und Privatsphäre Gedanken zu machen. Willkommen in der Welt von OpenAI, wo das Schicksal der KI bereits vorgezeichnet ist, ob es Ihnen gefällt oder nicht.
Die nackten Fakten: die Stimme von Scarlett Johansson und die Botschaft von OpenAI
Nach Angaben der Anwälte der US-Schauspielerin ist der CEO von OpenAI Sam Altman angeblich hat er sie vor neun Monaten kontaktiert, um ihre Stimme für einen neuen digitalen Assistenten zu lizenzieren. Scarlett Johansson hätte abgelehnt: nur zwei Tage vor der Systemeinführung GPT-4oAltman bestand angeblich darauf, dass die Schauspielerin den Vorschlag noch einmal überdenke. Obwohl Johansson nie seine Zustimmung gab, debütierte OpenAI mit Sky, einem Programm mit einer Stimme, die der der Schauspielerin sehr ähnlich ist. Der Name selbst, Sky, hat einen ähnlichen Klang wie Scarlett (in OpenAI aßen sie Brot und Fuchs).
Altmans Antwort auf die „Klonen“-Vorwürfe? Eher zweideutig: Während er bestritt, Johanssons Stimme geklont zu haben, gab er zu, dass er Skys Stimme „aus Respekt“ vor der Schauspielerin entfernt hätte. Ein ironischer Beitrag auf
Die „messianische“ Vision von OpenAI
Über spezifische Verantwortlichkeiten hinaus ist der Fall Johansson-OpenAI ein Sinnbild für die Mentalität, die die Entwicklung generativer KI vorantreibt: eine Technologie, die auf Daten basiert, die online ohne Zustimmung von Urhebern und Urheberrechtsinhabern im Namen eines hypothetischen größeren Wohls gesammelt werden.
Das erklärte Ziel von OpenAI war schon immer die Schaffung einesAGI (Künstliche Allgemeine Intelligenz) was zu einer undenkbaren Revolution in Produktivität und Wohlstand führen würde. Eine utopische Welt, in der die Arbeit verschwindet und durch ein universelles Grundeinkommen ersetzt wird und in der die Menschheit Quantensprünge in Wissenschaft und Medizin macht. (Wenn Sie die dystopische Version wollen: Maschinen verursachen das Ende des Lebens auf der Erde, wie wir es kennen. Wir sind dafür dazwischen feuern wir Protopia an).
In dieser messianischen Erzählung steht so viel auf dem Spiel, dass sie jedes Mittel zur Beschleunigung des Fortschritts rechtfertigen. Wie Altman in einem Interview erklärte, ist die Entwicklung von KI ein geopolitischer Wettlauf gegen Autokratien wie China. Es sei besser, sich für den Erfolg von OpenAI einzusetzen als für den Erfolg „autoritärer Regierungen“, argumentiert er.
Ein OpenAI-Ingenieur, Jeff WuIn einem Video äußerte er sich letztes Jahr noch deutlicher: „Es ist zutiefst unfair, dass ein Haufen Leute einfach KI aufbauen und allen die Jobs wegnehmen kann, und in gewisser Weise kann man sie im Moment nicht aufhalten“, gab er zu . Dann fügte er hinzu: „Kommen Sie zu uns und Sie werden einen der wenigen verbleibenden Jobs haben.“
Scarlett Johansson (und der Rest der Welt), verstanden? „Es gibt nichts, was du tun kannst.“
Das ist die grobe, paternalistische Logik von OpenAI. Dass eine so kleine Gruppe von Menschen mit der Entwicklung zivilisationsverändernder Technologien beauftragt wird, sei von Natur aus ungerecht, geben sie zu. Aber sie werden trotzdem weitermachen, denn sie haben sowohl eine Vision für die Zukunft als auch die Mittel, um zu versuchen, sie in die Tat umzusetzen. Wus Vorschlag ist aufschlussreich: Man kann versuchen zu kämpfen, aber man kann sie nicht aufhalten. Am besten steigen Sie ein.
Die gleiche Dynamik spiegelt sich in den Inhaltslizenzvereinbarungen wider, die OpenAI mit Plattformen wie Reddit und Verlagsgruppen unterzeichnet hat. Ein Technologiemanager verglich es mit einer Geiselnahme: KI-Unternehmen werden immer noch einen Weg finden, die Websites von Verlagen zu „durchkämmen“, wenn sie nicht kooperieren. Es ist besser, einen dürftigen Preis zu bekommen, solange sie können.
Die Vorwürfe von Scarlett Johansson bestätigen diese Vermutungen nur. Wenn das stimmt, hätte Altman den Auftrag für die Stimme der Schauspielerin damit begründet, dass ihr vertrautes Timbre für diejenigen „tröstend“ sein könnte, die KI-Assistenten als störend empfinden. Kein ästhetisches, sondern ein Rekrutierungsinstrument für eine Technologie, nach der viele nicht gefragt haben und der sie offenbar misstrauen. Das ausgezeichnete Pier Luigi Pisa Auf Linkedin fasste er zusammen diese Denkweise auf bewundernswerte Weise (Wenn Sie ihr nicht folgen, Fangen Sie damit an). Auch hier lautet die Logik von OpenAI: Vorangehen, Konsens hin oder her, denn es steht zu viel auf dem Spiel, um den Kurs zu ändern oder abzuwarten.
Die Hybris generativer KI
Hybris und Anspruchsdenken sind wesentliche Bestandteile der Entwicklung jeder transformativen Technologie. Eine kleine Gruppe von Menschen muss sich ihrer Vision sicher genug fühlen, um sie in die Welt zu bringen, und den Rest von uns bitten, sich anzupassen. Was hat der andere gesagt? Sei hungrig, sei verrückt? Hier das. Ich weiß nicht, wie verrückt diese Jungs sind, aber der Hunger ist offensichtlich.
Generative KI führt diese Dynamik jedoch ad absurdum. Es handelt sich um eine Technologie, die eine manifeste Schicksalsmentalität der Herrschaft und Eroberung erfordert. Wenn Sie glauben, dass die Zukunft Ihnen gehört, stehlen Sie nicht: Sie bauen sie auf. Gegensprechanlage Indianerstämme.
Aber ist das wirklich die Zukunft, die wir wollen? Eine Zukunft, in der eine Handvoll Technologieunternehmen beschließt einseitig, die Gesellschaft zu stürzen, unter Umgehung von Einwilligung, Urheberrecht und Privatsphäre im Namen einer noch zu beweisenden Einzigartigkeit?
Der Fall Scarlett Johansson-OpenAI stellt uns vor die Wahl: passiv das „offensichtliche Schicksal“ der KI zu akzeptieren oder zu fordern, dass ihre Entwicklung wie jede andere Technologie Regeln, Grenzen und Verantwortlichkeiten unterliegt.
Denn wenn es wahr ist, wie OpenAI behauptet (und ich halte es für wahrscheinlich), dass KI den Lauf der Menschheitsgeschichte für immer verändern wird, ist es umso wichtiger, sicherzustellen, dass sie dies unter Achtung der Rechte und des Willens aller tut, nicht nur wer die Macht und die Mittel hat, es durchzusetzen. Andernfalls besteht die Gefahr, dass die Revolution der künstlichen Intelligenz zu einer neuen Form der Unterdrückung und Ausbeutung wird. Und dass sich die von OpenAI versprochene glänzende Zukunft in Wirklichkeit als Albtraum erweist.
