Im Februar letzten Jahres gab OpenAI bekannt, einen Algorithmus entwickelt zu haben, mit dem vollständig plausible Spam- und gefälschte Nachrichten geschrieben werden können.
Damals entschied sich das Team, es nicht zu veröffentlichen, da es als zu gefährlich erachtet wurde. Dafür hat OpenAI beschlossen, ein vorsichtiges Studienprogramm zu starten, indem nur Teile des Algorithmus verbreitet werden, um Fake News zu schreiben und die Auswirkungen zu bewerten.
Heute behauptet die Gruppe, ihre Risikoschätzung überprüft und keine übermäßigen möglichen Fehler festgestellt zu haben. Dafür entschloss er sich, der Öffentlichkeit zugänglich zu machen der vollständige Code des "Lügner"-Algorithmus.
Künstliche Intelligenz, GPT-2 genannt, wurde ursprünglich entwickelt, um Fragen zu beantworten, Texte zu übersetzen und Inhalte zu sortieren. Die Forscher verstanden dann (nicht wenig überrascht), dass das System auch dazu dienen kann, eine enorme Menge an Desinformationen ins Netz zu bringen.
Falscher Alarm? Vielleicht.
Glücklicherweise waren die während des Überwachungszeitraums vorgenommenen Verwendungen viel moderater: Der Algorithmus wurde für narrative Strukturen und textuelle Videospiele verwendet.
In dem offiziellen Beitrag, in dem die öffentliche Verbreitung des Mechanismus angekündigt wird, hofft OpenAI, dass dies der Fall ist künstliche Intelligenz kann verwendet werden, um Texterkennungsmodelle zu entwickeln, mit denen gefälschte Nachrichten im Internet gefunden werden können. „Wir führen dieses Modell ein, um die Forschung bei der Suche nach synthetischem Text zu unterstützen“, Lesen Sie auf der Website.
Die Idee, dass es eine KI gibt, die in der Lage ist, eine gigantische Masse an gefälschten Nachrichten zu produzieren, die nicht leicht zu leugnen ist, ist irritierend, aber die Geschichte weist darauf hin, dass solche Technologien auftauchen, ob wir es wollen oder nicht.
Nun, OpenAI hätte es getan, seine Arbeit sofort zu teilen, um den Forschern noch mehr Zeit und Möglichkeiten zu geben, kampffähige Werkzeuge zu identifizieren oder zumindest künstlich erstellte Texte zu erkennen. Jedenfalls besser spät als nie.
