Neue Technologie ist immer ein zweischneidiges Schwert. Das zeigt sich wieder im aktuellen Fall der Deepfake-Videos auf Facebook: Internetuser nutzen verschiedene KI-Technologien, um Fake-Videos zu erzeugen, indem sie beispielsweise verschiedene Teile eines Clips neu animieren und somit den originalen Inhalt verändern. Die Verbreitung solcher Videos soll nun auf Facebook ein Ende haben. Bei allem, was gerade über Zuckerbergs jüngste Entscheidung, gegen Deepfake-Videos auf Facebook vorzugehen, diskutiert wird, sollten besonders wir als Marketing Experten auf dem neuesten Stand sein. Wir erklären hier, was dieses Thema genau für eure Arbeit bedeutet und welche Konsequenzen die Umsetzung dieser Entscheidung nach sich zieht.
Was sind Deepfake-Videos?
Das Wort „Deepfake“ kombiniert die Begriffe „Deeplearning“ und „Fake“ und ist eine Form der künstlichen Intelligenz, die sowohl böswillig als auch kreativ in sozialen Medien eingesetzt wird. Ein Deep-Learning-System kann eine Fälschung erzeugen, indem es Fotos und Videos einer Zielperson aus verschiedenen Blickwinkeln untersucht und dann deren Verhaltens- und Sprachmuster nachahmt. Ist eine Fälschung einmal hergestellt, sucht eine Methode, die als GANS (generative gegnerische Netzwerke) bekannt ist, nach Fehlern in der Fälschung und verbessert diese, um sie noch realistischer zu machen.
Hier ein Beispiel (Spoiler, das ist nicht wirklich Salvador Dali):
Diese Technologie ist nicht neu. Hollywood hat sie bereits in “Solo: A Star Wars Story” ausgiebig genutzt, um Harrison Fords junges Gesicht auf das Gesicht von Han Solo zu setzen. Gleiches gilt auch für die Darstellung der Prinzessin Leia in “Rogue One”. Jetzt haben einfache Software-Tools wie FakeApp und DeepFaceLab die Technologie für alle zugänglich gemacht, was Bedenken hinsichtlich der Privatsphäre und der Identität aufwirft, sowie die Frage, ob es möglich sein wird, noch mehr Details der digitalen Identität oder Attribute zu reproduzieren.
Während KI viele aufregende Fortschritte in der Technologie bieten mag, nutzen einige Menschen diese auch mit böswilligen Absichten, indem sie Methoden entwickeln, um – besonders im politischen Milieu – auf eine kriminelle oder ethisch fragwürdige Weise Unheil zu stiften.
Obwohl diese Art von Technologie interessante Möglichkeiten und Unterhaltung bietet, scheint die Hauptbefürchtung zu sein, dass sie für ruchlose Zwecke eingesetzt werden könnte. Laut einem MIT-Technologiebericht sei eine solche Art von Software „eine perfekte Waffe für Anbieter von gefälschten Nachrichten, die alles beeinflussen wollen, von Aktienkursen bis hin zu Wahlen.”
Deepfakes geben auch Anlass zur Sorge um die Klärung von Rechtsfällen, da Gerichte oft zulassen, dass von Smartphones oder Bodycams aufgenommenes Material in die Beweisführung aufgenommen wird.
Verbot der Deepfake-Videos auf Facebook
Deepfakes sind eine Form der Verbreitung von Fehlinformationen, die äußerst schädlich sein und negative Auswirkungen haben kann – wie im Fall der US-Politikerin Nancy Pelosi.
In diesem Video wurde der Ton so verändert, dass es so klingt, als würde Pelosi betrunken ihre Worte lallen.Das ist eine der Möglichkeiten, wie Deepfake-Videos gegen Prominente, Politiker, religiöse Führer, Einflussnehmer und andere vorgehen können – jeder ist Freiwild, einschließlich Mark Zuckerberg, CEO von Facebook.
Dieses Deepfake-Video zeigt Zuckerberg, wie er sich mit der Verwendung von Daten zur Kontrolle der Zukunft brüstet, und ist raffinierter und satirischer als das von Pelosi – was es ironischerweise glaubwürdiger macht.
So ist es keine Überraschung, dass sich Facebook, nachdem Zuckerberg selbst ins Visier geraten ist, dazu entschlossen hat, gegen Deepfake-Videos vorzugehen, um die Verbreitung von Fehlinformationen und Fake News einzudämmen – wofür das beliebte soziale Netzwerk ständig unter Beschuss genommen wird.
Tipp: Zusätzliche Hinweise zu den rechtlichen Aspekten bei Deepfakes erfahrt ihr im Ratgeber von anwalt.org.
Wie will Facebook gegen Deepfake-Videos vorgehen?
Genauso wie KI genutzt werden kann, um Deepfake-Videos zu erstellen, so kann sie auch genutzt werden, um diese aufzuspüren und zu enttarnen. Forscher konzentrieren sich momentan darauf, diesen Medientyp aufzudecken und zu regulieren. In ähnlicher Weise arbeiten Weltverbesserer an einer Technik, die Blockchain verwendet, um Medienquellen zu verifizieren. Allerdings gibt es auch einen Haken an der Sache. Wie bei jeder potentiell bösartigen Technologie gibt es Wege, wie KI genutzt werden kann, um Medien endgültig zu manipulieren. Wie es sich herausstellt, stellen gefälschte Medien eine Grauzone dar.
So verbreitet ist die Deepfake-Technologie bereits
- Will Smith ist in seinem neuesten Film, Gemini Man, ein gutes Beispiel für den Einsatz von Deepfake in Hollywood. Hier spielt Smiths 23-jährigen Klon neben dem 51-Jährigen. Der Doppelgänger ist eine komplette digitale Nachbildung, konstruiert von Weta Digital, einem neuseeländischen Visual-Effects-Studio.
- Bill Hader von Ctrl Shift Face, einer der produktivsten Schöpfer von Deepfakes auf YouTube, erscheint in diesem Video, verwandelt sich in Arnold Schwarzenegger [DeepFake] und anschließend noch einmal in Tom Cruise [DeepFake].
- Ein weiteres Beispiel ist das BBC One-Drama „The Capture“.
- ShamOOK zeigt eine Zusammenstellung verschiedener Schauspieler, wie in dem folgenden YouTube-Clip sehen ist, während NOVA PBS Official zeigt, wie leicht man sich täuschen lassen kann.
Wie sollten wir ethisch mit Deepfake-Videos umgehen?
Obwohl Deepfakes nun auf Facebook und Instagram verboten sind, bezieht sich die Richtlinie nicht auf Parodien oder Satire-Videos, bei denen die Reihenfolge der Wörter verändert wurde. Aus diesem Grund werden sowohl die Zuckerberg- (Satire) als auch die Pelosi-Videos (technisch gesehen war es kein Deepfake, da es ohne KI erstellt wurde) online bleiben. Allerdings müssen solche Videos mit einer Warnung versehen werden, die die Zuschauer darauf hinweist, dass es sich dabei um eine Fälschung handelt.
Letztes Jahr hat Facebook die “Deep Fake Detection Challenge” ins Leben gerufen, um Open-Source-Tools zu entwickeln, die jeder nutzen kann, um manipulierte Medien für sich selbst zu erkennen.
Laut Vijay Balasubramanian, CEO und Mitbegründer des Betrugspräventionsunternehmens Pindrop, rechnen Sicherheitsexperten mit einem Zustrom von manipulierten und irreführenden Videos in sozialen Netzwerken, da die Wahlen in den USA im Jahr 2020 bevorstehen, da dies „der perfekte Katalysator für eine Flut dieser Videos“ sei, sagte Balasubramanian gegenüber Business Insider. „Jede Politik, die zumindest sagt, dass man das ernst nimmt, ist ein Schritt in die richtige Richtung, aber ich frage mich irgendwie, warum die [Facebook-]Politik so eng gefasst ist.“
In diesem Sinne scheint es sich für andere Social-Media-Plattformen zu lohnen, dem Beispiel Facebooks zu folgen. YouTube hat das Pelosi-Video entfernt, und Twitter hat eine Änderung seiner Politik in Bezug auf Deepfakes untersucht, aber bis heute bleibt die Twitter-Politik in dieser Hinsicht unverändert.
Welche Auswirkungen hat die Deepfake-Technologie auf Vermarkter und Verbraucher?
Mit der frei verfügbaren Deepfake-Technologie wird Influencer Marketing auf ein ganz neues Level gehoben, was bedeutet, dass Vertrauen und Transparenz in jeder Marken-, Marketing- und Werbekampagne noch wichtiger wird.
Deepfake-Videos gibt es seit ca. zwei Jahren. Damit handelt es sich also um ein relativ neues, weitgehend unreguliertes Feld. Wie bei jeder neuen Technologie kann diese Entwicklung entweder einen positiven oder negativen Einfluss auf Marketer haben. Doch es ist noch zu früh, vorhersagen zu können, in welche Richtung es gehen wird. In vielerlei Hinsicht liegt die Macht als Teil der Marketingindustrie in euren Händen. Bis jetzt waren die Reaktionen meist negativ, aber es gibt auch eine Reihe von positiven Aspekten.
Solltet ihr Deepfake-Videos in euren Kommunikationskampagnen einsetzen?
Dazu gibt es sowohl Für als auch Wider:
Pros
- Innovative Videomarketing-Techniken
- Zugang zu neuen Inhalten
- Ein breiteres Publikum, z.B. andere demographische Daten durch Synchronisation in verschiedenen Sprachen besser zugänglich machen
- Unterhaltsame Inhalte, die das Publikum bei Laune halten
- Schaffung neuer Arbeitsplätze sowohl in der Schaffung von Inhalten als auch in rechtlichen Fragen
- Potenzielle Verwendung in der Therapie
- Personalisierung, tiefere Verbundenheit und emotionale Interaktion
Cons
- Konkurrenten könnten falsche und irreführende Inhalte erstellen, die den Ruf eines Unternehmens ernsthaft schädigen können und das auch mit rechtlichen Komplikationen
- Könnte zu anderen Arten von Rechtsstreitigkeiten wie Urheberrechtsverletzungen und Verleumdung führen
- Potenzieller Vertrauensverlust bei Kunden, Partnern und Lieferanten
- Einige soziale Netzwerke verbieten bereits die Verbreitung dieser Videos
Globale Anwendungsfälle und Potenziale von Deepfake-Videos
Einige Marketingexperten haben sich bereits frühzeitig für die Deepfake-Technologie entschieden und bieten interessante Anwendungsfälle für die kreative Zielgruppenansprache.
Malaria Must Die
Ein großartiges Beispiel für den Einsatz von Deepfake-Videos wurde von einem Startup-Unternehmen namens Synesthesia in Zusammenarbeit mit Ridley Scott Associates für die gemeinnützige Kampagne “Malaria Must Die” produziert. Darin sehen wir David Beckham, der neun verschiedene Sprachen sowohl mit männlichen als auch mit weiblichen Stimmen spricht. Durch die Verwendung von KI und Deepfake-Technologie zur Manipulation der Gesichtsbewegungen scheint Beckhams Mund perfekt mit den Worten synchronisiert zu sein.
Die Top 10 Deepfake-Videos: Beispiele
In dem folgenden Video findet ihr Beispiele von 10 Deepfake-Videos. So könnt ihr euch selbst ein Bild davon machen!
Mit dabei sind Kim Kardashian, Donald Trump, Adele und viele weitere bekannte Gesichter.
Gesundheitswesen
Die Weiterentwicklung dieser Technologie eröffnet unentdeckte Möglichkeiten, die zu neuen und effizienteren Wegen der Diagnose und Behandlung von Krankheiten führen könnten. Forscher können lebensechte Daten generieren, um Diagnosen oder die Überwachung von Krankheiten zu entwickeln und zu testen, ohne die Privatsphäre der Patienten zu verletzen.
Filmvertonung, Rundfunk und Unterhaltung
Die KI- und Deepfake-Technologie hat das Potenzial für eine breite Palette positiver Anwendungen, z.B. können Studios Zeit und Geld sparen, indem sie KI-Technologien für die Bearbeitung von Videotranskriptionen (Synchronisationen) nach dem Filmen einsetzen und zusätzliche Kosten für einen erneuten Dreh sparen.
Kunst
Wenn wir uns auf unser voriges Beispiel beziehen, bei dem das Dali-Museum Salvador Dali mit Hilfe von GANs wiederbelebt hat, können wir einen tiefgreifenden Anwendungsfall für den Einsatz dieser KI-Technologie im künstlerischen Bereich sehen.
Einzelhandel
Schon bald können GANs im Einzelhandel eingesetzt werden, sodass Kunden sehen können, wie sie in den Online-Produkten aussehen würden.
Deepfake-Videos: Ein Fazit
Alles in allem könnte die Deepfake-Technologie Marketingexperten dabei helfen, innovative Kampagnen zu entwickeln und die Grenzen zwischen Werbeerlebnis und Online-Messaging zu verwischen. Sie bietet Markeninhabern eine Welt voller Möglichkeiten, in der sie ethisch interagieren und kreative Ideen entwickeln können. Das harte Vorgehen von Facebook als Mittel zur Regulierung der Verbreitung von Fake News erscheint jedoch als notwendiger Schritt zur Verwaltung bösartiger Inhalte.
PS: Wenn ihr keine derartigen Trends mehr verpassen wollt, ist ein Media Monitoring Tool genau das Richtige für euch!