Das Netz hat gerade mal wieder eine Scheußlichkeit ausgespuckt, die neu und abstoßend ist – uns alle aber wohl noch lange beschäftigen wird. Wie Technology Review berichtet, bietet jemand auf einer Website einen perversen Dienst an: Hier kann jeder das Porträtfoto einer Person hoch laden und auf Knopfdruck ein Hardcore-Video erstellen, mit der betroffenen Person als Akteurin oder Akteur. Wohlgemerkt ein Pornovideo, kein Foto.
Das Gesicht des Opfers wird gescannt – und damit kann es verfielfältigt werden
Neue Dimension: Fake-Technologie für alle verfügbar
Die Ergebnisse sehen – aus technischer Sicht – keineswegs perfekt aus. Wer nur einen flüchtigen Blick darauf wirft, hält die Videos aber für echt. Man muss schon genauer hinsehen, um Verdacht zu schöpfen: Da ist dann mal ein Gesicht etwas verzerrt oder es stimmt irgendwie etwas mit der Belichtung nicht. Am Ende spielt das aber auch keine Rolle. Fest steht: Es ist jetzt möglich, mithilfe einer öffentlich zugänglichen KI-Anwendung im Netz solche Videos zu erzeugen.
Wer nun sagt: „Das gab’s schon immer!“, der liegt nicht ganz richtig. Zweifellos kursieren schon seit Jahren immer wieder Fotos und Videos im Netz, die zum Beispiel Prominente in Pornos zeigen – vor allem Frauen sind Opfer. Aber das wurde in der Regel noch manuell angefertigt und war mit hohem Aufwand verbunden. Der sich allerdings „lohnt“, da für solche Fotos und Videos im Netz Geld gezahlt wird.
Quarks Daily Spezial zum Thema Deepfakes (Podcast)
Enthemmt: Jeder kann Fake-Pornos erstellen
Nun kann aber jeder, ohne den geringsten Aufwand und ohne jeden technischen Sachverstand solche Videos herstellen. Auch Jugendliche, um solche Videos im Klassen-Chat herzuzeigen. Oder Verrückte, die einfach mal pöbeln wollen. Nicht zu vergessen gewissenlose PR-Agenturen, die Kampagnen gegen Personen fahren und oft genug zu allen sich bietenden Mitteln greifen.
Mit einem Wort: Wer nur enthemmt genug ist, muss keine technischen Hindernisse mehr überwinden. Es gibt Fake-Pornos für die Massen.
Das war abzusehen. Denn populäre Apps wie ReFace oder Wombo gibt es schon länger: Auch sie ermöglichen, auf Knopfdruck ein Gesicht in einen Film zu montieren, etwa in Hollywood-Szenen oder Musik-Videos. Darüber hinaus ist vor einigen Monaten eine KI-Anwendung namens DeepNude aufgetaucht, mit der Frauen auf Fotos „virtuell ausgezogen“ werden können. Auch das war schon ein Dammbruch.
Ein KI-System, das Frauen “auszieht” kursiert bereits im Netz
Eindeutig ethische Grenzen überschritten
Diese neue KI-Anwendung überschreitet eindeutig ethische Grenzen. Denn die psychischen Folgen der Opfer sind unabsehbar – aber immer grausam. Egal, von wem ein Pornovideo kursiert: Es wird immer Schaden entstehen. Vor allem seelische Schäden. Aber auch Einschnitte in die Karriere: Es sind schon Frauen mit solchen Fake-Pornos erpresst worden.
Es braucht dringend ethische Rahmenbedingungen für KI-Anwendungen. Weltweit. Und wenn Anwendungen zum Einsatz kommen, die gegen diese Bedingungen verstoßen, müssen sie unverzüglich eingezogen werden. Vollständig.
Fake-Videos sind zur Popkultur geworden – jeder kann sie anfertigen
5 Kommentare
Kommentar Funktionen
Einen Vorteil haben solche KIs gerade für Prominente. Wenn dann peinliche Nacktbilder auftauchen kann man einfach behaupten, dass dies Fake wäre.
Ich zitiere “Es braucht dringend ethische Rahmenbedingungen für KI-Anwendungen. Weltweit. Und wenn Anwendungen zum Einsatz kommen, die gegen diese Bedingungen verstoßen, müssen sie unverzüglich eingezogen werden. Vollständig.”
———–*grübel*———-
Mal vorneweg Realität AUS: JA, so Zeugs der KI gehört in die Tonne; sofort, meine Meinung. Realität wieder AN: Ersetzen wir mal den Begriff “KI-Anwendungen” durch “Menschen-Tötungsmaschinen”. Die abzuschaffen oder in einen kontrollierten Rahmen zu bringen hat auch nie geklappt und wird nicht klappen. Wir Menschen sind für Ethik eben nur bedingt empfänglich und wenn die auch noch “abgewogen” werden muss gegen 3G ( Geld, Gier und Geilheit), dann dürfte klar sein was gewinnt.
Rache ist sehr befriedigend !
Allerdings muss man nach dem physischen Ableben in die grausame Hölle,
wie der Schalkknecht.
Das ist dann aber umso befriedigender für den Folterknecht,
der in der Hölle auf ihn wartet.
Die Büchse ist geöffnet. Es gibt genügend Leute auf der Welt, irgendjemand wird es nutzen und ausprobieren.
Regulation für die Büchse der Pandorra? Glaube ich nicht mehr dran. Die Technik wird dank zunehmender Rechenleistung immer besser und feiner, sodass man künftig generell nur noch dem trauen kann, was man selbst gefilmt bzw. live, mit eigenen Augen, gesehen oder auch gehört, gerochen, geschmeckt hat. Und das gilt dann für alle Bereiche aus Politik, Nachrichten, Unterhaltung, Kriminalität etc.. Was technisch möglich ist, wird auch um- und eingesetzt, ob zur derben Belustigung einer Masturbationcommunity, zur politischen Manipulation oder irgendwann auch zur gerichtlichen Beweisführung.
Der Zug ist längst uneinholbar abgefahren, und damit auch Ethik, Moral und Vertrauen. Das ist eine von vielen Kehrseiten der Digitalisierungsmedaille.