„Fake News“ sind den meisten Menschen heutzutage ein Begriff. Gerade bei wichtigen politischen Themen oder in Wahlkämpfen wissen wir, dass wir längst nicht alles glauben sollten, was im Internet geschrieben wird. Bei Video- oder Audioaufnahmen sieht es etwa anders aus. Einem Anruf von Freunden oder einem Videoclip von einem bekannten Politiker vertrauen wir, weil wir die Stimme und das Aussehen erkennen.

Täuschend echte Videos durch KI

Dabei können auch Ton- oder Videoaufnahmen inzwischen täuschend echt gefälscht werden. Mithilfe von Künstlicher Intelligenz (KI) ist es immer leichter möglich, Menschen Wörter in den Mund zu legen, die diese nicht gesagt haben. „Deep Fake“ wird diese Möglichkeit der Videomanipulation auch genannt. Ausschlaggebend dafür ist eine Technik, die von Forschern des Max-Planck-Instituts für Informatik in Saarbrücken entwickelt wurde.

Die sogenannten „Deep Video Portraits“ erleichtern unter anderem die Synchronisation in Filmen und können auch in der Postproduktion oder bei Videokonferenzen unterstützend verwendet werden. Gleichzeitig bietet die neue Technik aber auch Möglichkeiten zum Missbrauch und Videomanipulationen – eine Tatsache, die vielen Experten und Politikern Sorge bereitet.

Mehr zum Thema

 

Deepfakes: Sind manipulierte Videos eine Gefahr?

 

Deepfake: Bill Hader imitiert Tom Cruise - Unterhaltung oder Gefahr?

Gesetz verbietet politische „Deepfakes“

Der US-Bundesstaat Kalifornien hat nun Konsequenzen gezogen und den Einsatz von „Deepfake“-Videos in politischen Wahlkämpfen verboten. In der vergangenen Woche unterzeichnete der Gouverneur von Kalifornien, Gavin Newsom, ein entsprechendes Gesetz, wie das Technikportal „The Verge“ berichtet. Das neue Gesetz verbietet, Audios oder Videos zu verbreiten, die ein falsches Bild der Worte oder Taten eines Politikers vermitteln. So soll verhindert werden, dass manipulierte Videos die Wahlen beeinflussen. Obwohl das Wort „Deepfake“ in dem Gesetzestext nicht explizit auftaucht, bezieht es sich laut „The Verge“ eindeutig auf die Technik.

Das Verbot schließt alle Kandidaten einer politischen Wahl ein und gilt ab 60 Tagen vor der Wahl. Allerdings lässt es einige wenige Ausnahmen zu: So sind Nachrichtenmedien davon ebenso ausgeschlossen wie Videos, die ausdrücklich als Satire oder Parodie erstellt werden. Möglicherweise irreführende Videos sind außerdem erlaubt, wenn sie einen klaren Hinweis enthalten, dass der Inhalt gefälscht ist.

Gegner kritisieren eingeschränkte Meinungsfreiheit

Das Gesetz ist in Amerika nicht unumstritten. Bemängelt wird vor allem die Einschränkung der Meinungsfreiheit. Einige Gruppen wie die Amerikanische Bürgerrechtsunion in Kaliforniern zweifeln die Legitimität des neuen Verbotes an. „Trotz der guten Intentionen wird dieses Gesetz nicht das Problem von täuschenden politischen Videos lösen“, so die Kritik der Gruppe in einem Statement gegenüber der „Asscociated Press“. Stattdessen würde es zu Verwirrung bei den Wählern, Rechtsstreitigkeiten und einer Einschränkung der Meinungsfreiheit führen.

Mehr zum Thema

 

Datenschutzskandal um chinesische Deepfake-App Zao

 

Wie geht Facebook in Zukunft mit „Deepfake“-Videos um?

Das eigentliche Problem sind pornografische „Deepfakes“

Neben dem Verbot politischer „Deepfakes“ unterzeichnete Newson ein weiteres Gesetz, das sich auf gefälschte pornografische Videos bezieht. Denn obwohl es die politischen „Deepfakes“ sind, die derzeit die größte Aufmerksamkeit bekommen, stellen pornografische „Deepfakes“ ein deutlich größeres Problem dar.

Das zeigt eine aktuelle Studie des Cybersicherheitsunternehmens „Deeptrace“. Der Studie zufolge sind inzwischen über 14.000 „Deepfakes“ im Internet im Umlauf. Bei 96 Prozent dieser Videos handelt es sich um gefälschte pornografische Videos. „‚Deepfake‘ ist ein Phänomen, das ausschließlich Frauen angreift“, schreiben die Autoren der Studie. Alle pornografischen Videos zeigten demnach Frauen, meist bekannte Sängerinnen oder Schauspielerinnen.

Steigende Anzahl an Videos

Bereits 2017 hatte ein Reddit-Nutzer mit dem Pseudonym „Deepfakes“ mehrere pornografische Videos ins Netz gestellt. Dabei waren die Gesichter von Prominenten wie Emma Watson oder Gal Gadot auf die Körper von Pornodarstellerinnen montiert worden. Laut „Deeptrace“ ermöglichen neue Tools und Programme zunehmend auch technischen Laien, derartige Videos zu erstellen. Während die Anzahl der Videos den Autoren zufolge bisher noch nicht besonders hoch ist, bezeichnen sie deren schnellen Anstieg durchaus als besorgniserregend: Allein in den letzten sieben Monaten ist die Anzahl der „Deepfakes“ im Internet um 75 Prozent gestiegen.

Mehr zum Thema

 

So erkennen Profis manipulierte Fotos – und so erkennt sie auch der Laie