Die Spezialeffekttechnologie hat in den letzten Jahrzehnten einen regelrechten Boom erlebt. CGI hat sich von rudimentär roh und primitiv zu fast nicht mehr von der Realität zu unterscheiden. Jetzt, da die Erstellung von sehr ähnlichen Bildern immer häufiger wird, erwarten sowohl Experten als auch Experten der Strafjustiz eine Panik in Bezug auf die sogenannte 'Deep Fake' -Technologie, die das Potenzial hat, eine anhaltende internationale Diskussion über 'Fake News' weiter zu erschweren. Aber was genau ist eine 'tiefe Fälschung' und wie stark wird diese Technologie in Zukunft eine Bedrohung darstellen?
Deep-Fake-Technologie (manchmal als 'Deepfake' bezeichnet) bezieht sich auf synthetisierte und / oder überlagerte Bilder und / oder Videos, die durch künstliche Intelligenz unter Verwendung vorhandener Bilder und Videos erstellt wurden. Mithilfe von maschinellem Lernen könnte diese Technologie theoretisch überzeugendes Filmmaterial einer Person erstellen, die eine Handlung ausführt, die im wirklichen Leben nie stattgefunden hat.
Owen Williams, ein professioneller Softwareentwickler und Künstler für visuelle Effekte, gab eine einfache Erklärung.
'Es ist eine Möglichkeit, ein automatisiertes Softwaresystem zu verwenden, um das Gesicht einer Person in einem Video durch ein anderes Gesicht zu ersetzen, das viel automatischer und überzeugender ist als dies mit früheren Technologien möglich war', sagte Williams Oxygen.com .
Heidi Broussard und 2 Wochen alte Margot Carey
Williams bemerkte, dass populäre Mainstream-Filme wie 'Jurassic Park' und 'Blade Runner: The Final Cut' Computersoftware für bestimmte Szenen auf eine Weise verwendeten, die ein Vorläufer für tiefe Fälschungen gewesen sein könnte: 'In der Filmindustrie ist dies wirklich üblich. Angenommen, Sie haben einen Charakter, der einen Stunt ausführen muss, und Sie möchten, dass sein Gesicht sichtbar ist. Die klassische Problemumgehung wäre, dass Sie sie nur von hinten sehen würden oder dass ihre Haare in ihrem Gesicht wären, sodass Sie nicht sagen könnten, dass es sich um ein Doppel handelt. Aber es gibt eine ziemlich verwickelte Geschichte von Filmemachern, die Computer benutzen, um das Gesicht eines Schauspielers über das eines Stuntdouble zu legen. '
'Früher war es ein sehr manueller Prozess', fuhr Williams fort. „Mit der Deep-Fake-Technologie füttern Sie einen Computer mit zwei Dingen: Zuerst dem Video, das Sie ersetzen möchten, und dann einer Reihe von Eingaben des Gesichts, durch das Sie ersetzen möchten. Sie müssen genügend Bilder von einer Person erhalten, die unterschiedliche Gesichtsausdrücke und aus unterschiedlichen Blickwinkeln macht. Sie erstellen eine Bibliothek darüber, wie das Gesicht dieser Person in verschiedenen Situationen aussehen kann, und dann geht der Computer durch und schaut sich das Video an. Es braucht auch keine genaue Übereinstimmung. Es kann zerquetschen und verwandeln, was es in der Bibliothek hat, um zu passen, was es braucht. Früher brauchten Dutzende von Künstlern Hunderte von Stunden, um einen wirklich komplizierten Effekt zu erzielen, jetzt ist es nur noch ein Knopfdruck. '
Eine Facette dieser Technologie, die die Menschen beunruhigt, ist, dass eine Person nicht unbedingt bereitwillig ihr Gesicht einreichen muss, damit dieser Prozess ausgeführt werden kann, wenn man bedenkt, wie viele Bilder online von den meisten Menschen existieren - insbesondere von Prominenten und politischen Persönlichkeiten.
Sieh dir ungelöste Rätsel online kostenlos an
'Es gibt genug Bilder von Prominenten in genügend Winkeln, um diese Bibliothek [ohne Zustimmung] zu erstellen', sagte Williams. „Dafür ist ein gewisser Arbeitsaufwand erforderlich, aber für jede marginal beliebte Figur wird es solche Dinge geben. Meiner Meinung nach ist es weniger wahrscheinlich, dass dies für eine normale Person so gut wie möglich ist. '
Die ersten Deep-Fake-Videos wurden Ende 2017 in den Reddit-Foren veröffentlicht. nach Sorte . Ein Benutzer gab an, mit seinem Computer höchst realistische pornografische Videos von verschiedenen Prominenten erstellt zu haben, die an sexuellen Aktivitäten beteiligt waren, die im wirklichen Leben nie stattgefunden haben. Der Benutzer behauptete, er habe seinem Computer Tausende von Fotos der Sterne zugeführt, von denen die KI die abgebildeten Gesichtsausdrücke und Bewegungen beziehen konnte. Eine App, die von Deep-Fake-Entwicklern verwendet und auf Reddit geteilt wurde, wurde schließlich über 100.000 Mal heruntergeladen. (Reddit würde diese Art von Inhalten schließlich verbieten und sagen, dass dies gegen ihre Politik der 'unfreiwilligen Pornografie' verstoße. nach The Verge .)
Der Realismus, den dieses Medium im Moment erreichen kann, wird von Williams angezweifelt.
'Wenn Sie jemals eine dieser tiefen Fälschungen gesehen haben ... gibt es dort eine gewisse Verrücktheit', sagte Williams. 'Sie sind nicht poliert. Es wird jedoch wahrscheinlich immer besser, vor allem, weil Hollywood ein Interesse daran hat, dies zu automatisieren, anstatt teure Künstler zu bezahlen. '
Ebenso vermutete Williams das trotz die Panik um tiefe gefälschte Pornos Die sich ändernden kulturellen Einstellungen in Bezug auf die Natur von Dingen wie Rachepornos oder durchgesickerten Nacktbildern bedeuten, dass es wahrscheinlich ist, dass Menschen, die diese Art von Medien erstellen, verurteilt und nicht gefeiert werden, selbst innerhalb der Unterhaltungsindustrie für Erwachsene.
Was mit Jason geschah, war die Stimme
'Es wird niemals Mainstream', theoretisierte Williams. 'Nach dem ' Das Fappening 'Auf Reddit ist etwas passiert, die Leute konnten das Gespräch ändern und sagen:' Dies ist kein Skandal, es ist ein Sexualverbrechen. ' Ich sehe das einfach nicht so sehr als Skandal, wie die Leute denken. Die Leute können auch ziemlich leicht den Originalporno finden, aus dem die tiefe Fälschung erstellt wurde, was bedeutet, dass es ziemlich einfach ist, sie zu entlarven. '
Aber es gibt nicht nur Anlass zur Sorge, weil es verwendet werden könnte, um gefälschte Promi-Pornos zu erstellen. Die Menschen sind auch besorgt über die politischen Auswirkungen.
Politische Experten begannen 2018 über die Verbreitung tiefer Fälschungen zu schreiben. Ein Guardian-Artikel ab November dieses Jahres wurde die virale Verbreitung eines Videos vermerkt, das angeblich Präsident Donald Trump zeigt, der die belgische Nation ermutigt, vom Pariser Klimaabkommen zurückzutreten. Dies katalysierte eine größere Diskussion über das Potenzial verschiedener Regierungen, diese Technologie in Massen-Desinformationskampagnen einzusetzen. Dieses Gespräch wurde bereits dank der laufenden Untersuchung der Beteiligung Russlands an den Präsidentschaftswahlen 2016 in den USA aufgenommen.
Die Panik um tiefe Fälschungen inspirierte sogar die Redaktion der Bloomberg Media Group, eine stark formulierte Stellungnahme zu diesem Thema abzugeben.
Corey Feldman Corey Haim Charlie Sheen
'Videobeweise sind zu einer Säule des Strafjustizsystems geworden ... gerade weil der Film eine so verlässliche Aufzeichnung der Sprache oder Handlungen eines Menschen zu sein scheint. Tiefe Fälschungen könnten solche Beweise durchaus verdächtig machen. ' Sie schrieben im Juni 2018. 'Eine vorrangige Herausforderung wird es also sein, diese Fälschungen zu identifizieren und auszurufen - wenn dies möglich ist.'
Williams stimmte zu, dass die Natur tiefer Fälschungen unsere Vorstellung von „Realität“ in Bezug auf Videobeweise bedroht, stellte jedoch fest, dass dieser rechtliche Sumpf nicht nur in unserer heutigen digitalen Landschaft zu finden ist.
„Es kommt irgendwie auf die Idee an, dass die Leute dieses Video gleich der Wahrheit haben, was nie der Fall war. Wir wussten das von Rodney King an. Oder denken Sie an Eric Garner : Die Leute dachten, [der Offizier, der ihn getötet hat] sei unschuldig, egal welches Video des Vorfalls vorausgesagt wurde. Für mich [viele der Ängste um tiefe Fälschungen] scheinen etwas unbegründet. '
Williams listete mehrere andere Vorfälle auf, bei denen es sich nicht um Deep-Fake-Technologie handelte, die zeigten, wie Videos mutig manipuliert wurden, um die öffentliche Meinung in einer Angelegenheit zu verzerren, wie z James O'Keefes umstrittener Abbau von ACORN und ein neuer Skandal mit Doktorvideo, das angeblich den CNN-Reporter Jim Acosta zeigt, der einen Mitarbeiter des Weißen Hauses angreift .
Williams 'endgültige Schlussfolgerung war, dass die Hysterie, die tiefe Fälschungen umgibt, etwas übertrieben ist.
„Ich sehe, dass es in beide Richtungen funktionieren wird. Wenn ein Video herauskommt und es echt ist, werden die Leute behaupten, es sei gefälscht. Wenn ein Video herauskommt und es gefälscht ist, behaupten die Leute, dass es echt ist. Jeder Fall setzt eine bestimmte Menge an Wahrheit voraus, die dem Video [selbst] zugewiesen ist. Es ist schwer zu wissen, in welche Richtung das alles gehen wird. Wenn Das Pee Tape kam tatsächlich heraus, zum Beispiel wissen Sie genau, was passieren würde: Die Hälfte der Leute würde sagen: 'Das sind Bullen - t, es ist ein Schauspieler!' und die Hälfte der Leute würde sagen: 'Da ist es! Es ist echt!' Es würde sich also nichts wirklich ändern. Das passiert in der Regel mit neuen Technologien: Die Dinge ändern sich nicht so sehr, wie die Leute denken. '
[Foto: SAUL LOEB / AFP / Getty Images]
