Im Augenblick haben es Gesichtserkennungs-Systeme nicht besonders leicht: Wer eine Maske trägt, kann von diesen Systemen kaum zuverlässig erkannt werden.
Bei Gesichtern ohne Maske haben die Systeme heute aber schon eine erstaunlich hohe Trefferquote, können mühelos Millionen von Menschen unterscheiden. Darum sind Projekte wie Clearview AI oder Pimeyes auch eine ernsthafte Bedrohung für uns: Wenn Unternehmen – auch wenn sie damit gegen Datenschutz-Vorschriften oder Gesetze verstoßen – Milliarden Fotos mit Gesichtern aus dem Netz ziehen und dann für Suchdienste nutzen, sind viele von uns erkennbar. Es bedeutet das Ende der Anonymität.
Schon kleinste Veränderungen am Gesicht täuschen die KI
Forscher haben eine virtuelle Maske entwickelt
Nur: Was tun, wenn Gesetzgeber und Behörden nicht entschlossen genug durchgreifen?
Forscher an der Universität Chicago haben eine Lösung entwickelt: einen Algorithmus namens “Fawkes”, der Fotoaufnahmen mit Gesichtern derart manipuliert, dass Gesichtserkennungs-Systeme gestört werden. Benannt nach Guy Fawkes, einem Widerstandskämpfer gegen die englische Krone. Wir kennen Menschen, die Guy-Fawkes-Masken auf Demos tragen, um ihre Identität zu schützen. Oder Hacker. Die “Anonymous”-Maske soll das Gesicht verdecken – und gleichzeitig signalisieren: Ich bin ein Freiheitskämpfer.
Die Chicagoer Software funktioniert wie eine virtuelle Guy-Fawkes-Maske. Wangenknochen, Augenlider, Kinn, Ohren – sie werden in ihrer Position minimal verändert. Die Veränderung ist so gering, dass wir Menschen nichts bemerken – aber Gesichtserkennungs-Software glaubt, einen anderen Menschen vor sich zu haben. Weil diese Erkennungssysteme sich auf ein paar hundert Punkte stürzen, die eine Art biometrischen Fingerabdruck ergeben.
Algorithmus “Fawkes” soll KI-Systeme täuschen
“Fawkes” täuscht die KI
Wer alle Fotos, die er auf Instagram, Youtube, Facebook und Co. von sich hochlädt, vorher per “Fawkes”-Algorithmus verändert, programmiert die Scanner um. Denn neuronale Netze “lernen”: Sie schauen sich Dutzende Bilder an, auf denen zum Beispiel angeblich “Jörg Schieb” zu sehen sind. Wenn diese Bilder alle per “Fawkes” verändert wurden, kann das KI-System auf einem Foto von mir, das nicht nachbearbeitet wurde, keinen Jörg Schieb erkennen.
Der “Fawkes”-Algorithmus würde aber nur dann gut funktionieren, wenn das überall gemacht würde, wo im Netz Fotos hochgeladen werden. Anbieter wie Instagram, Facebook, Youtube und Co. müssten die Funktion als Standard anbieten. Oder – noch besser – es kommen Plugins zum Einsatz, die das auf PC oder Smartphone automatisch machen.
Der Algorithmus der Forscher aus Chicago steht kostenlos für jedermann zur Verfügung.
5 Kommentare
Kommentar Funktionen
Gesichtserkennung sind schon in China, das finde ich aber grauenvoll
Wird die Frage wie Bürgeramter dann in Zukunft mit Fotos umgeht. Habe es selbst ausprobiert und mein Foto schon vor Jahren modifiziert. Wurde vom Bürgeramt anstandslos akzeptiert. :-)
daher wurde ja schon angedacht, dass die Bürgerämter die notwendigen Fotos selbst erstellen und so Manipulationen ausschließen.
Schade, dass es das anscheinend nur für PC und Mac, aber nicht als App gibt. ☹️
Aus den FAQ der entsprechenden Seite:
“Wie bekomme ich Fawkes und benutze es, um meine Fotos zu schützen?”
Wir arbeiten hart daran, benutzerfreundliche Versionen von Fawkes für Mac- und Windows-Plattformen zu erstellen.
…
Beachten Sie, dass wir keine Pläne zur Veröffentlichung von Fawkes-Apps für Mobilgeräte haben, da dies eine erhebliche Rechenleistung erfordert, die für die leistungsstärksten Mobilgeräte eine Herausforderung darstellen würde.
Gruß, Christian