Im Februar letzten Jahres gab OpenAI bekannt, einen Algorithmus entwickelt zu haben, mit dem vollständig plausible Spam- und gefälschte Nachrichten geschrieben werden können.
Zu diesem Zeitpunkt war die Entscheidung des Teams, es nicht freizugeben, da es als zu gefährlich eingestuft wurde. Zu diesem Zweck beschloss OpenAI, ein vorsichtiges Studienprogramm zu starten, indem nur Teile des Algorithmus verbreitet wurden, um gefälschte Nachrichten zu schreiben und die Auswirkungen zu bewerten.
Heute behauptet die Gruppe, ihre Risikoschätzung überprüft und keine übermäßigen möglichen Fehler festgestellt zu haben. Dafür entschloss er sich, der Öffentlichkeit zugänglich zu machen der vollständige Code des "Lügner" -Algorithmus.
Künstliche Intelligenz, GPT-2 genannt, wurde ursprünglich entwickelt, um Fragen zu beantworten, Text zu übersetzen und Inhalte zu sortieren. Die Forscher verstanden dann (ohne große Überraschung), dass das System auch dazu dienen kann, eine große Menge an Desinformation ins Netz zu bringen.
Falscher Alarm? Vielleicht.
Glücklicherweise waren die während des Überwachungszeitraums vorgenommenen Verwendungen viel moderater: Der Algorithmus wurde für narrative Strukturen und Textvideospiele verwendet.
In dem offiziellen Beitrag, in dem die öffentliche Verbreitung des Mechanismus angekündigt wird, hofft OpenAI, dass dies der Fall ist künstliche Intelligenz kann verwendet werden, um Texterkennungsmodelle zu entwickeln, mit denen gefälschte Nachrichten im Internet gefunden werden können. "Wir führen dieses Modell ein, um die Suche nach synthetischem Text zu unterstützen." Lesen Sie auf der Website.
Die Idee, dass es eine KI gibt, die in der Lage ist, eine gigantische Masse gefälschter Nachrichten zu produzieren, die nicht leicht zu leugnen ist, ist irritierend, aber die Geschichte weist darauf hin, dass solche Technologien eintreffen, ob wir es wollen oder nicht.
Nun, OpenAI hätte es getan, seine Arbeit sofort zu teilen, um den Forschern noch mehr Zeit und Möglichkeiten zu geben, kampffähige Werkzeuge zu identifizieren oder zumindest künstlich erstellte Texte zu erkennen. Jedenfalls besser spät als nie.
