Es wird extrem einfach (und ich denke nicht, dass es nur gut ist), ein Video zu ändern, und die neuesten Entwicklungen in der KI sind wirklich beeindruckend.
Eine Zusammenarbeit zwischen Giganten (Stanford University und Princeton sowie dem Max-Planck-Institut für Informatik und Adobe) ermöglicht es, die Sprache in einem Video zu ändern, indem einfach die Texttranskription geändert wird und ohne den „Synchronisationseffekt“ zu erzeugen.
Mit anderen Worten, die Person, die auf Video spricht, ändert buchstäblich die Wörter ihrer Rede und modifiziert auch die Lippenbewegungen.
Um dieses etwas störende Ergebnis zu erzielen, „lernt“ der Algorithmus die Phoneme und ihre Aussprache vom Motiv im Video und erstellt ein genaues 3D-Modell seines Gesichts, das alle Geräusche und Bewegungen nachbilden kann: An diesem Punkt bearbeiten Sie einfach den Text der Rede und der Algorithmus ersetzt den ursprünglichen Satz.
Derzeit benötigt der Algorithmus mindestens 40 Minuten Video, um eine Person in einem Video zu "trainieren".
Hier ist ein Video, das zeigt, wie das System funktioniert:
Riesige ethische Zweifel
Es ist klar, dass dieser Mechanismus die Möglichkeit schafft, dass jeder einen Diskurs (möglicherweise von politischen oder öffentlichen Persönlichkeiten) ändern kann, indem er Elemente des Hasses oder der Desinformation einfügt und sie als originell und natürlich verbreitet: Dies erhöht nur die Besorgnis über die Verbreitung systembasierter Elemente auf Deepfake.
Auf der anderen Seite gibt es einige positive Seiten, und es sind die enormen Einsparungen, die durch die Bearbeitung erzielt werden, indem vermieden wird, dass ganze Szenen aufgrund kleiner Aussprachefehler erneut aufgenommen werden.
Im Übrigen bin ich sicher, dass auch andere "Fälschungsschutz" -Methoden für Videos entwickelt werden: dynamische Wasserzeichen oder Wasserzeichen, die die Arbeit der künstlichen Intelligenz in einem Wettbewerb zwischen Realität und Manipulation, der bereits dazu bestimmt zu sein scheint, noch komplexer zu gestalten In den nächsten Jahren.