Software “Fawkes” will Gesichtserkennung austricksen

https://blog.wdr.de/digitalistan/software-fawkes-will-gesichtserkennung-austricksen/

Software “Fawkes” will Gesichtserkennung austricksen

Kommentare zum Artikel: 4

Im Augenblick haben es Gesichtserkennungs-Systeme nicht besonders leicht: Wer eine Maske trägt, kann von diesen Systemen kaum zuverlässig erkannt werden.

Bei Gesichtern ohne Maske haben die Systeme heute aber schon eine erstaunlich hohe Trefferquote, können mühelos Millionen von Menschen unterscheiden. Darum sind Projekte wie Clearview AI oder Pimeyes auch eine ernsthafte Bedrohung für uns: Wenn Unternehmen – auch wenn sie damit gegen Datenschutz-Vorschriften oder Gesetze verstoßen – Milliarden Fotos mit Gesichtern aus dem Netz ziehen und dann für Suchdienste nutzen, sind viele von uns erkennbar. Es bedeutet das Ende der Anonymität.

Kleinste Veränderungen am Gesicht täuschen die KI-Algorithmen; Rechte: WDR/Schieb

Schon kleinste Veränderungen am Gesicht täuschen die KI

Forscher haben eine virtuelle Maske entwickelt

Nur: Was tun, wenn Gesetzgeber und Behörden nicht entschlossen genug durchgreifen?

Forscher an der Universität Chicago haben eine Lösung entwickelt: einen Algorithmus namens “Fawkes”, der Fotoaufnahmen mit Gesichtern derart manipuliert, dass Gesichtserkennungs-Systeme gestört werden. Benannt nach Guy Fawkes, einem Widerstandskämpfer gegen die englische Krone. Wir kennen Menschen, die Guy-Fawkes-Masken auf Demos tragen, um ihre Identität zu schützen. Oder Hacker. Die “Anonymous”-Maske soll das Gesicht verdecken – und gleichzeitig signalisieren: Ich bin ein Freiheitskämpfer.

Die Chicagoer Software funktioniert wie eine virtuelle Guy-Fawkes-Maske. Wangenknochen, Augenlider, Kinn, Ohren – sie werden in ihrer Position minimal verändert. Die Veränderung ist so gering, dass wir Menschen nichts bemerken – aber Gesichtserkennungs-Software glaubt, einen anderen Menschen vor sich zu haben. Weil diese Erkennungssysteme sich auf ein paar hundert Punkte stürzen, die eine Art biometrischen Fingerabdruck ergeben.

Algorithmus “Fawkes” soll KI-Systeme täuschen

“Fawkes” täuscht die KI

Wer alle Fotos, die er auf Instagram, Youtube, Facebook und Co. von sich hochlädt, vorher per “Fawkes”-Algorithmus verändert, programmiert die Scanner um. Denn neuronale Netze “lernen”: Sie schauen sich Dutzende Bilder an, auf denen zum Beispiel angeblich “Jörg Schieb” zu sehen sind. Wenn diese Bilder alle per “Fawkes” verändert wurden, kann das KI-System auf einem Foto von mir, das nicht nachbearbeitet wurde, keinen Jörg Schieb erkennen.

Der “Fawkes”-Algorithmus würde aber nur dann gut funktionieren, wenn das überall gemacht würde, wo im Netz Fotos hochgeladen werden. Anbieter wie Instagram, Facebook, Youtube und Co. müssten die Funktion als Standard anbieten. Oder – noch besser – es kommen Plugins zum Einsatz, die das auf PC oder Smartphone automatisch machen.

Der Algorithmus der Forscher aus Chicago steht kostenlos für jedermann zur Verfügung.

Über den Autor

Jörg Schieb ist Internetexperte und Netzkenner der ARD. Im WDR arbeitet er trimedial: für WDR Fernsehen, WDR Hörfunk und WDR.de. In seiner Sendung "Angeklickt" in der Aktuellen Stunde berichtet er seit 20 Jahren jede Woche über Netzthemen – immer mit Leidenschaft und leicht verständlich.

4 Kommentare

  1. Hannibal am

    Wird die Frage wie Bürgeramter dann in Zukunft mit Fotos umgeht. Habe es selbst ausprobiert und mein Foto schon vor Jahren modifiziert. Wurde vom Bürgeramt anstandslos akzeptiert. :-)

    • Kord-Henrich Wolff am

      daher wurde ja schon angedacht, dass die Bürgerämter die notwendigen Fotos selbst erstellen und so Manipulationen ausschließen.

    • Linguator am

      Aus den FAQ der entsprechenden Seite:
      “Wie bekomme ich Fawkes und benutze es, um meine Fotos zu schützen?”

      Wir arbeiten hart daran, benutzerfreundliche Versionen von Fawkes für Mac- und Windows-Plattformen zu erstellen.

      Beachten Sie, dass wir keine Pläne zur Veröffentlichung von Fawkes-Apps für Mobilgeräte haben, da dies eine erhebliche Rechenleistung erfordert, die für die leistungsstärksten Mobilgeräte eine Herausforderung darstellen würde.

      Gruß, Christian

Antworten auf /span> Kommentieren abbrechen

Die mit * gekennzeichneten Felder müssen ausgefüllt werden.

Solve : *
22 + 21 =


Top