Es wird extrem einfach (und ich glaube nicht, dass es nur gut ist), ein Video zu ändern, und die neuesten Entwicklungen in der KI sind wirklich beeindruckend.
Eine Zusammenarbeit zwischen Giganten (Stanford University und Princeton sowie dem Max-Planck-Institut für Informatik und Adobe) macht es möglich, die Sprache in einem Video zu verändern, indem einfach die Texttranskription geändert wird, und ohne den „Synchronisationseffekt“ zu erzeugen.
Mit anderen Worten, die Person, die auf Video spricht, ändert buchstäblich die Wörter ihrer Rede und modifiziert auch die Lippenbewegungen.
Um dieses etwas verstörende Ergebnis zu erzielen, „lernt“ der Algorithmus die Phoneme und ihre Aussprache von der Person im Video und erstellt ein genaues 3D-Modell seines Gesichts, das alle Geräusche und Bewegungen nachbilden kann: An diesem Punkt reicht es aus, den Text der Rede zu bearbeiten, und der Algorithmus ersetzt den ursprünglichen Satz.
Derzeit benötigt der Algorithmus mindestens 40 Minuten Video, um zu „trainieren“, eine Person in einem Video nachzubilden.
Hier ist ein Video, das zeigt, wie das System funktioniert:
Riesige ethische Zweifel
Es ist klar, dass dieser Mechanismus die Möglichkeit schafft, dass jeder einen Diskurs (möglicherweise von politischen oder öffentlichen Persönlichkeiten) ändern kann, indem er Elemente des Hasses oder der Desinformation einfügt und sie als originell und natürlich verbreitet: Dies erhöht nur die Besorgnis über die Verbreitung systembasierter Elemente auf Deepfake.
Auf der anderen Seite gibt es einige positive Aspekte, und zwar in den enormen Einsparungen, die der Schnitt erzielen wird, indem vermieden wird, dass ganze Szenen aufgrund kleiner Aussprachefehler neu aufgenommen werden müssen.
Im Übrigen bin ich mir sicher, dass auch andere „Anti-Fälschungs“-Methoden für Videos entwickelt werden: dynamische Wasserzeichen oder Wasserzeichen, die die Arbeit der künstlichen Intelligenz noch komplexer machen, in einem Wettbewerb zwischen Realität und Manipulation, der bereits dazu bestimmt zu sein scheint, ihn zu charakterisieren die nächsten Jahre.
