Heute schon ein paar Worte mit Alexa, Cortana, Google Assistant oder Siri gewechselt? Den meisten ist gar nicht klar, was passiert, nachdem das Schlüsselwort (“Alexa”, “Google”, “Siri”) gefallen ist. Die Geräte stellen blitzschnell eine Online-Verbindung zu den Servern des jeweiligen Anbieters her, übertragen das Gesagte und warten auf die Auswertung durch die KI-Software. Das geschieht in der Regel derart schnell, dass die Menschen denken, das Smartphone oder die Box hätte den Job erledigt. Ist aber nicht so.
Bei allen Assistenten hören gelegentlich auch echte Menschen mit
Echte Menschen hören Gespräche ab
Doch nicht immer “verstehen” die Algorithmen, was gesagt wurde. Unter anderem auch deshalb, weil häufig versehentlich Sprachfetzen übertragen werden, die gar nicht für den Assistenten gedacht waren. Dann gehen einzelne Wörter oder Sätze an die Server – obwohl das Schlüsselwort nicht gefallen ist.
Von Amazon, Apple und Google wissen wir, dass sich deshalb echte Menschen aus Fleisch und Blut einige dieser Sprachfetzen anhören – und analysieren, warum die Algorithmen das nicht verstanden haben. Sie schreiben Protokolle, was gesagt wurde. So soll das “Verstehen” verbessert werden, indem unterschiedliche Aussprachen und Dialekte trainiert werden.
Das Problem: Die User wissen nichts davon – sie wurden auch nicht wirklich gefragt. Denn wenn eine Maschine zuhört, ist das eine Sache. Wenn echte Menschen etwas anhören, was ich gesagt habe – auch wenn ich sie nicht kenne und die Gesprächsfetzen angeblich anonymisiert untersucht werden -, so hat das doch eine ganz andere Qualität. Den meisten Menschen ist das schlichtweg unangenehm. Verständlicherweise.
Alle Sprachassistenten sind indiskret
User müssen besser informiert werden
Google hat deshalb schon im Juli das Abhören von Sprachdateien beim Google Assistant in Europa ausgesetzt. Jetzt hat auch Apple nachgezogen – und verzichtet vorerst ebenfalls darauf, Anweisungen oder Gespräche von echten Menschen analysieren zu lassen. Allerdings nur, weil Siri-User davon nichts wissen. Künftig sollen sie besser informiert und um Erlaubnis gebeten werden. Das ist natürlich eine enorme Verbesserung der Situation.
Was auch geklärt werden müsste: Was bedeutet es konkret, wenn Unternehmen wie Amazon, Apple, Google und Microsoft behaupten, die Daten würden anonymisiert, bevor sie von Menschen ausgewertet werden? Ist das wirklich zuverlässig? Außerdem: Wer wertet die Gesprächsfetzen aus? Die meisten Unternehmen lassen nicht nur eigene Mitarbeiter ran, sondern auch Mitarbeiter in externen Unternehmen – was ein zusätzliches Sicherheitsproblem darstellt.
Darüber hinaus hilft alle Anonymisierung nichts, wenn sich anhand der aufgezeichneten Gesprächsfetzen ableiten lässt, wer da mit wem spricht – und worüber. Das ist in Einzelfällen durchaus möglich.
Es gibt also viele gute Gründe, die Sprachassistenten (auch) kritisch zu sehen.
3 Kommentare
Kommentar Funktionen
Dafür, daß sich Menschen freiwillig Apparate anschaffen und dafür auch noch bezahlen, die ihrer Ausspionierung, Überwachung, Kontrolle und Manipulation dienen, habe ich nur die Erklärung, daß es so freiwillig gar nicht geschieht, wie die Leute denken, sondern Konsequenz einer blinden, hirn- und kritiklosen Anbetung alles Digitalen ist, in immer mehr Fällen gepaart mit echtem, schwerwiegenden, pathologischem Suchtverhalten.
Das wird besonders deutlich, wenn man bedenkt, daß die Dinger niemand wirklich “braucht” und sie nur denen dienen, die damit ihre Profite maximieren.
Also wegwerfen bzw. gar nicht erst anschaffen!
Für geh-, seh-, geistig- oder in sonstiger Form eingeschränkte bzw. “behinderte” Menschen, sehe ich durchaus einen Nutzen für eine Verbesserung ihres jeweiligen Handycaps und der Lebensqualität.
Ansonsten finde ich, wie Sie, ebenfalls keinen einzigen Grund, warum ich mir diesen quasselnden und lauschenden Plastiksozialschrott freiwillig in die Wohnung stellen sollte. Nur, damit aus Multimilliardenkonzernen Mega-Multimilliardenkonzerne werden? Geschenkt; behaltet Euren Krempel!
@ B. Franke”Für geh-, seh-, geistig- oder in sonstiger Form eingeschränkte bzw. “behinderte” Menschen, sehe ich durchaus einen Nutzen für eine Verbesserung ihres jeweiligen Handycaps und der Lebensqualität.”:
Touché: Da gebe ich Ihnen uneingeschränkt recht.
Für diese Menschen muß dann aber unbedingt ein wirksamer Überwachungs-, Ausspionier- und Manipulationsschutz ersonnen werden – durch Technik, Recht und Schulungen im Umgang.