Deep-Fakes boomen: Gefahr fürs Super-Wahljahr 2021

https://blog.wdr.de/digitalistan/deep-fakes-boomen-gefahr-fuers-super-wahljahr-2021/

Deep-Fakes boomen: Gefahr fürs Super-Wahljahr 2021

Kommentare zum Artikel: 6

So manche Überzeugung sollten wir dringend überdenken. Etwa das weit verbreitete Prinzip: “Ich glaube nur, was ich mit eigenen Augen sehe!”

Das war zwar auch in der Vergangenheit schon nicht immer ein optimaler Zugang zur Welt, wird aber in Zukunft mehr und mehr zum gefährlichen Trugschluss. Denn KI gaukelt uns eine Welt vor, die so gar nicht existiert – aber unglaublich real aussieht. Im Super-Wahljahr 2021 könnte das ungeheuer brisant sein.

Mit wenigen Handgriffen lässt sich Angela Merkel zum Lächeln bringen - Fake! Rechte: WDR/Schieb

Mit wenigen Handgriffen lässt sich Angela Merkel zum Lächeln bringen – Fake!

Deep Fakes: KI täuscht uns Menschen heute mühelos

Die Rede ist von Deep-Fakes: So werden Fotos, Videos und Audios genannt, die zwar echt aussehen und sich auch so anhören – aber nicht echt sind. Ganz im Gegenteil: Es handelt sich um Fälschungen. Fakes, die aus dem Computer kommen.

Mit Hilfe Künstlicher Intelligenz (KI) lassen sich heute verblüffend echt aussehende Videos erzeugen, die jeden arglosen Betrachter zu überzeugen vermögen: Ja, das sitzt Barack Obama und sagt in seinem unverwechselbaren Slang den Satz “Donald Trump is a totally and complete Dip Shit”.

Erzeugt haben dieses Video Wissenschaftler der Washington University. Das Video ist im Netz bestens bekannt. Es wäre kein Problem, wenn solche KI-Fähigkeiten nur zu Anschauungszwecken oder von mir aus für Hollywood zum Einsatz kämen.

Auch kein Problem: Jens Spahn in der Hauptrolle von "Forrest Gump"; Rechte: WDR/Schieb

Auch kein Problem: Jens Spahn in der Hauptrolle von “Forrest Gump”

Von Verwirrung bis Panik ist alles denkbar

Aber natürlich ist es anders. Fake-Videos, die alles Mögliche behaupten können, sind geeignet, die Gesellschaft zu spalten. Verwirrung zu stiften. Den politischen Diskurs zu manipulieren. Angst und Schrecken zu verbreiten und Panik zu verursachen.

Man stelle sich vor: Es kursieren Videos, die Gesundheitsminister Spahn zeigen, der nach der Impfung kollabiert. Oder in einem vermeintlich vertraulichen Gespräch oder auch öffentlich behauptet, die Impfung sei unwirksam. Oder eine Kanzlerin, die verkündet: “Ich trete noch mal an”.

Mit Hilfe von KI ist das heute mühelos machbar. Mit Apps wie FaceApp, Reface und anderen lässt sich heute sogar schon auf dem Handy Erstaunliches erzeugen. Mit etwas mehr Mühe ist mehr möglich.

Deepfakes: Facebook will sie in seinem Netzwerk bekämpfen, Rechte: WDR/Schieb

Fake-Medien im Super-Wahljahr 2021

Die Folgen sind absolut dramatisch: Welche Beweis- und Überzeugungskraft haben Videobelege in Zukunft noch, wenn wir wissen, dass sich alles leicht fälschen lässt? Wie soll Berichterstattung möglich sein, wenn ein Kleinkind mit Maus in der Hand so ziemlich alles faken kann?

Die Zahl der Deep-Fakes verdoppelt sich etwa alle sechs Monate. Die technische Qualität der Deep-Fakes nimmt rasant und enorm zu. Wir haben 2021 ein Super-Wahljahr in Deutschland. Und müssen davon ausgehen, dass wir zum ersten Mal mit Fake-Medien werden umgehen müssen. Dafür braucht es unbedingt den richtigen Umgang.

Netzpolitig.org-Frontmann Markus Beckedahl mit einem interessanten Vorschlag

Über den Autor

Jörg Schieb ist Internetexperte und Netzkenner der ARD. Im WDR arbeitet er trimedial: für WDR Fernsehen, WDR Hörfunk und WDR.de. In seiner Sendung "Angeklickt" in der Aktuellen Stunde berichtet er seit 20 Jahren jede Woche über Netzthemen – immer mit Leidenschaft und leicht verständlich.

6 Kommentare

  1. Die Manipulation durch Bilder und Kakenews ist so alt wie die Bilder und Kommunikation selbst, nur weil die Techniken zur Erzeugung von Bildern und Nachrichten ausgefeilter werden, macht es nicht zu einem Problem. Schon im Mittelalter wurden Bilder von der Hölle eingesetzt, um Gläubige zu disziplinieren und unbewiesene Behauptungen als Fakten dargestellt.
    Was beängstigend ist, die Flut der Bilder, die auf uns einstürmt. Und diejenigen, die die Bilder und Nachrichten auswählen, die wir zu sehen bekommen. Wenn ich mir vor Augen führe, wie einseitig Informationen zu bestimmten Sachverhalten sind und in welchem Ausmaß selbst in den öffentlich rechtlichen Medien Bilder und Nachrichten verbreitet sind, die eher meinung als Tatsachen verbreiten, besorgt mich das viel mehr.

    • Sascha Kollert am

      Fake News ( auf original lippisch : wat den en sin Uhl is des andern Nachtigall)
      Ja man kann alles noch viel blöder verdenglischen… Aber statt Fakten Neuigkeiten gibt’s dann ehr Kauderwelsch… Kleiner Tip etwas übermalen um es als neue Wahrheit rauszuposaunen ( Beispiel Röntgenbild eines Gemäldes des englischen Königs mit Buckel dürfte da auch ein Fake gewesen sein,ganz ohne Maus, Kabel, Silizium und co… Verpinselte Sache nannte es ein schottischer Bekannter!!!)…
      Ich habe bereits vor 1990 mit c64 und passender Hardware vor mp3 bereits digitalisiert… Wenn ich dann unsere analogen Minister so betrachte die 2-3 Mal Digitalisierung schon sagen können aber in der Realität des wahren digitalisieren dann einem ewig lange das Kupferkabel lobpreisen und die Wühlmäuse im Erdreich vor den digitalen Glasfaser wohl ebenso wie die Nutzer daheim beschützen wollen! Ich nenn das Mal “bescheißen” Deluxe … Geburtsort kriegt nen Amazon Lager , Geburtsort hat Glasfaser selbst legen lassen weil die tkom 400er DSL durchs Kupfer trommelte… Unsere Glasfaser wächst bereits durch den Hügel ins nächste Dorf wo der Bekannte ( an der Bundesstraße eins/one/Uno jetzt auf ein vernünftiges Internet hofft im nächsten Jahr… Zwei Bürgermeister kriegen garnix zustande ,also peinlich peinlich Deluxe… Spricht man es an vor den Analogistan Herren an… so nennt man uns Lügner, next Level wir dann wohl sein, man zieht ihnen im Wald den Schlüpfer von hinten übern Kopf ( Vorderleitung abklemmen, hintere Kotspur direkt über den Holzkopf bis zur Nase führen damit sie es direkter aufnehmen können ab der Nase )… als alter Digitalisierungs Hase kann und will ich das nichtmehr hören/ lesen … Als ost- west- fale wird man sauer und macht es selbst das es klappt… Wir sind halt multimedial kompatible Menschen ,die Mauern lieber umwerfen statt in der Sauna alles zu verpassen( oh jetzt ist mir der lippische schwarze Humor aber entglitten werte FDJ Kanzlerin haha) … Fake News kennen wir ,die kriegen wir ja ständig auch vom trimedialen omnipotenten megagehypten ultimedialen Sender am Hermanns Denkmal… Den wir garnicht kündigen dürfen/können auch wenn wir es wollten… Einen guten digitalen Rutsch euch allen

    • Ich würde das nicht ganz so locker sehen. In Zeiten eines Facebooks oder YouTubes erreicht man in kürzester Zeit unglaublich viele Menschen.. auch ganz kurz vor entscheidenden Ereignissen wie Wahlen bevor eine Aufklärung möglich ist.. und wenn man sich die Häufigkeit von Fake News, zB von bestimmten „Alternativen“ Parteien, und die Reaktionen derer (man muss es schon fast sagen) Gläubigen, so treiben Deepfakes diese wahrscheinlich noch weiter in die „Alternativen“ Realitäten.

      Viele Menschen befinden sich auch schon in Echokammern und sind für Aufklärung überhaupt nicht mehr erreichbar.

  2. Das wird auf jeden Fall spannend. Den es geht ja nicht nur um ein paar vereinzelte Leute oder heimische extremistische Organisationen, welche mit allen Mitteln ihren eigenen Ansichten und Meinungen fördern wollen, sondern es ist sehr wahrscheinlich das fremde Staaten ebenfalls mitmischen.

    Wie schon beim “Hacken” (siehe Digitalistan 28.12.2020), ist davon auszugehen, das hier mehr Mittel bereitstehen und mit mehr Professionalität herangegangen wird.

    Ich mache mir da wenig Illusionen, wenn das Narrativ sehr clever gestrickt und aufgezogen ist, dann kann auch ich und jeder andere auf Fake-Storys reinfallen. Oder bin ich es schon ? Ebenfalls wie bei IT-Sicherheit, einen 100% Schutz gibt es nicht.

  3. Egal ob Fotos oder Videos. Die können heute schon perfekt gefälscht werden. Der Mensch glaubt halt immer noch das was er sieht. Hier sollte schon frühzeitig eine Aufklärung in den Schulen stattfinden!

Fehler beim Kommentieren

Ihr Kommentar konnte aus folgenden Gründen nicht abgeschickt werden:

  • Es gab einen kritischen Fehler auf deiner Website.

    Erfahre mehr über die Problembehandlung in WordPress.

  • Top