Reddit-Benutzer erstellen nicht nur Deepfakes-Pornos, sondern haben auch Spaß, indem sie Nicolas Cage zu verschiedenen Videos hinzufügen.
Die chinesische Regierung hat ein neues Regelwerk für die Nutzung von Virtual Reality und die Erstellung von Deepfakes veröffentlicht. Die Verwendung dieser Technologien ohne ausdrückliche Kennzeichnung wird als strafbare Handlung gewertet, berichtet Reuters unter Berufung auf die PRC Cyberspace Administration.
In den letzten Jahren haben Face-Swap-Technologien beeindruckende Ergebnisse erzielt, die es praktisch jedem ermöglichen, ein Gesicht originalgetreu durch ein Video zu ersetzen, ohne dass spezielle Fähigkeiten erforderlich sind. Nicht zuletzt dabei, die öffentliche Aufmerksamkeit auf diese Nutzung neuronaler Netze zu lenken, spielte ein unter dem Spitznamen Deepfakes registrierter Reddit-Benutzer, der 2017 begann, die Gesichter von Schauspielerinnen in Pornovideos zu ersetzen - heute werden nicht nur überarbeitete Pornovideos als Deepfakes bezeichnet, aber alle Videos mit Face-Swapping im Allgemeinen.
Da das Training neuronaler Netze eine große Anzahl frei verfügbarer Bilder einer Person erfordert, haben die Macher von Deepfakes zunächst auf Prominente geachtet: Schauspieler und Politiker. Die Ergebnisse solcher Algorithmen werden immer schwerer zu erkennen und gleichzeitig kann die Face-Swap-Technologie offensichtlich nicht nur als Scherz verwendet werden, sondern auch um glaubwürdig aussehende Videos zu erstellen, die zum Nachteil verwendet werden können und eine Vielfalt aufweisen Folgen je nach Anwendungsfall.
Bisher wurden Deepfakes an wenigen Stellen direkt verboten, bzw. unter Vorbehalt verboten. Kalifornien hat beispielsweise kürzlich Wahlkampagnen verboten, das Verbot gilt jedoch nur für Videos mit Politikern und dauert 60 Tage vor den Wahlen.
Nun wurde bekannt, dass in China der Einsatz von Virtual Reality und Deepfakes tatsächlich verboten wird. Die Cyberspace Administration der VR China verlangt, dass die Produktion und Verbreitung solcher Materialien ausdrücklich auf die Verwendung geeigneter Technologien hingewiesen wird, und die Nichteinhaltung dieser Anforderungen wird als strafbare Handlung angesehen.
„Neue Technologien wie Deepfakes haben sich in der Video- und Audioindustrie durchgesetzt, und es besteht die Gefahr, dass solche Inhalte der Gesellschaft und den Interessen des Einzelnen schaden, politische Risiken schaffen und die nationale Sicherheit und Stabilität in der Gesellschaft beeinträchtigen. “berichtet die Position des Office of Cyberspace Affairs of the PRC, veröffentlicht von der South China Morning Post.
Die neuen Regeln gelten sowohl für Inhaltsproduzenten als auch für Inhaber von Online-Sites, auf denen Video oder Audio verbreitet werden, und treten am 1. Januar 2020 in Kraft.
Von der Redaktion
Erstens ist nicht klar, wie die Regulierungsbehörde Deepfakes und VR in ein Regal bekommen hat – solche Kuriositäten treten oft auf, wenn Beamte versuchen, einen Bereich zu regulieren, den sie nicht vollständig verstehen. Zweitens ist die garantierte Erkennung von Deepfakes eine äußerst schwierige Aufgabe, so dass nicht klar ist, wie die Überprüfung der Anforderungen der Regulierungsbehörde erfolgen soll. In der Praxis wird sich vielleicht alles auf das Erscheinen eines Haftungsausschlusses beschränken, der Videos überlagert, die von Anwendungen wie Zao generiert wurden.
Neben einzelnen Ländern und Regionen sind auch große IT-Unternehmen auf den Kampf gegen Deepfakes umgestiegen. Google hat beispielsweise bereits seinen Datensatz zur Bekämpfung von Deepfakes gesammelt und Facebook und Microsoft haben zusätzlich zum Datensatz den Start eines Wettbewerbs für Entwickler angekündigt.
