Mit Künstlicher Intelligenz (KI) ist heute so Einiges möglich. Es ist zum Beispiel kein Problem, praktisch jeden Text mit einer fremden Stimme sprechen zu lassen. Adobe hat solche Software in der Entwicklung: Sie wird trainiert – etwa mit Beispielen aus öffentlich zugänglichen Interviews – und wenig später plappert die Software mit der Stimme von Trump, Putin oder Merkel.
Andere KI-Software wiederum kann Videobilder so manipulieren, dass man zum Audio auch noch das passende Video bekommt. Deepfake nennt sich das dann. Für den Laien sind solche Videos von echten Aufnahmen praktisch nicht zu unterscheiden.
Sieht aus wie Barack Obama, spricht wie Barack Obama – ist aber nicht Barack Obama
Erkennbare Deepfakes werden entfernt – außer bei Satire
Wenn man sich die Ergebnisse anschaut, die heutzutage durchaus beeindruckend sind, ist das erst mal unterhaltsam. Bei näherer Betrachtung aber auch bedrohlich: Denn was, wenn jemand Donald Trump – in diesen hässlichen Zeiten – bestimmte Worte in den Mund legt, die er gesagt haben könnte, aber nicht gesagt hat? Etwa eine Kriegserklärung an den Iran. Alles denkbar – und leider auch technisch möglich. Und was möglich ist, das wird auch passieren – früher oder später.
Deshalb hat sich Facebook entschlossen, Deepfakes aus dem Angebot zu entfernen. Freilich erst, wenn sie entdeckt werden – was aufgrund der Qualität mancher Deepfakes alles andere als einfach ist. Und: Die Deepfakes sollen nur dann entfernt werden, wenn sie “ernst gemeint sind”, erklärt das Unternehmen. Bedeutet: Parodien und Satire mit Deepfakes sind erlaubt. Die Content-Moderatoren müssen also ganz genau hinschauen. Und wie wir wissen: Satire kann auch Empörungsstürme auslösen.
Deepfakes lassen sich heute sogar mit einfachen Apps erstellen
Blockchain könnte Authentizität von Fotos und Videos dokumentieren
Generell ist es aber eine gute Idee, kritische Deepfakes nicht zuzulassen und sie aktiv zu entfernen. Mittelfristig werden wir uns wohl auch privat Gedanken darüber machen müssen, die Authentizität von Fotos, Videos und Audios besser überprüfen zu können. Kommt das Video aus dem Weißen Haus wirklich aus dem Weißen Haus? Mit Blockchain wäre es durchaus möglich, die Echtheit nachzuweisen – und zu sehen, ob etwas manipuliert wurde und von wem.
13 Kommentare
Kommentar Funktionen
Das ist wirklich beängstigend. Vertraue nichts!
Wohin soll der ganze Mist noch führen? Man spricht jetzt über Deepfakes. Es gibt allzuviele Fakes im Internet und bei z.B. Facebook werden einige Kommentare und Bilder gefaked um sich in ein besseres Licht darzustellen, oder um andere zu denunzieren und zu mobben. Das finde ich nicht nur sehr bedenklich, sondern auch sehr traurig.
Wir tun hier in Deutschland immer so, als wenn wir andersgläubige, kranke oder andersdenkende akzeptieren würden. Aber im Internet kann man seinen Rachegelüsten ja freien Lauf lassen. Und dort werden Menschen denunziert, gemobbt und bedroht.
Und kaum niemand derer würde es sich Face to Face eingestehen (um beim englischen zu bleiben) und sich persönlich mit den Menschen, die man denunziert, auch zu unterhalten. Facebook ist der grösste Scheiß, den die Menschheit nicht braucht. Dort kann man sich ja auch über andere auslassen und sich selber im hellen Licht darstellen.
Klatsch und Tratsch, üble Nachrede, Verbreitung von Lügen … gab es schon immer. Natürlich am besten, wenn derjenige über den man redet nicht dabei ist. Das Internet und Facebook bringt das ganze nur in eine neue Dimension.
–
Dadurch wird das Spiegelbild unserer Gesellschaft intensiv sichtbar.
–
Die Ursache ist somit nicht Facebook sondern wir, wie wir leben, wie wir miteinander umgehen, im kleinen (z.B. Klatsch in einem Dorf) wie im großen (z.B. Facebook)
Manchmal reicht auch der gesunde Menschenverstand, um zu erkennen, dass es sich um ein Fake handeln muss. Leider setzen aber nur wenige Menschen ihren Verstand auch ein. Ich bin oft erschrocken darüber, was Bekannte, die ich eigentlich für intelligent gehalten habe, ohne nachzudenken einfach weiterleiten. Wir haben damals in der Schule gelernt, Medien (damals noch analog) immer zu hinterfragen und nicht einfach alles zu glauben. Mit dieser Kenntnis kommt man auch online ganz gut zurecht.
Jein. Das Gesagte stimmt — aber es gibt Deepfakes, da kommt man ins Grübeln… Wirklich nicht so einfach festzustellen. Und das könnten dann die Gefährlichen sein: Was, wenn man Trump etwas in den Mund legt, was er gesagt haben könnte…
Wobei Mister Trump schon so oft (wirklich!) Dinge gesagt hat, die ich nicht glauben konnte / wollte … :)
Mag zwar utopisch klingen, aber besser wäre es, ganz auf social media und seinen ganzen Unrat und fake zu verzichten…
“…ganz auf social media und seinen ganzen Unrat und fake zu verzichten…”
Tu ich schon immer – und auf ein Smartphone gleich mit!
Und ich bin NICHT allein! :-)
Nicht SO utopisch also… :-)
Nur ernstgemeinte Deep-Fakes? Was für ein Ermessungsspielraum … So ist eine Kontrolle praktisch doch kaum umsetzbar. “Sie haben den Präsidenten beleidigt!” – “Ne, das war doch nur ein Witz.” – “Achso, na dann …”
Gemeint ist: Wenn Betrugsabsicht vorliegt. Also keine Deepfakes in offenkundiger Satire zB.
Hm ok, naja dennoch … Wie Satire missverstanden nach hinten losgehen kann, sehen wir ja grad ;)
… oder sahen es vor Jahren in Frankreich mit über 10 Hinrichtungen …
Und was ist Morphing … ? Das Gegenteil von Schizo?
Der staatlich anerkannte Ermittlungsdienst durch die Einwohnermeldeämter für den Perso … ?
Doll – Toller – krank!
Auf Grund dieser Gemengelage dürften keine demokratische Wahlen mit EDV mehr durchgeführt werden! Die Manipuationsmöglichkeiten sind einfach inzwischen zu groß!
Was sagt Söder mit seinem gewünschten Digi-Ministerium dazu?
Hallo, hallo … steht die Leitung noch?
… lieber mit einer Seeotter ‘gemorpht’ werden, als mit Seehofer!