Künstliche Intelligenz ist ein Begriff, der schwer zu fassen ist. Im Kern natürlich schon, die KI im wissenschaftlichen Sinn. Aber der Begriff hat sich längst verselbständigt – wird als Mode- und PR-Begriff verwendet. Auf der IFA waren viele Geräte mit “KI” gelabelt… Oft eine hoffnungslose Übertreibung und jedenfalls nicht der Bereich, über den wir uns Gedanken oder sogar Sorgen machen müssten.
Faire Regeln für KI: Diskussion auf einer Veranstaltung in Köln
KI ist kaum beherrschbar
Ein kritischer Blick auf KI in jeder Daseinsform ist immer dann nötig, wenn sie in unser Leben eingreift – und das passiert durchaus. Sehr häufig sogar. Wir wissen nur nicht, dass es sich um KI handelt. Welche Inhalte uns Facebook in der Timeline präsentiert, entscheiden KI-Algorithmen. Welche Antworten wir bekommen, wenn wir Assistenten wie Alexa, Cortana, Siri oder Google Home befragen, entscheiden KI-Systeme. In welche Stimmungslage wir uns gerade befinden, das beurteilen KI-Systeme – etwa bei Amazon.
Bisher dürfen sie das munter und nahezu schrankenlos. Der klassische Datenschutz greift kaum oder schwer, denn welche Daten fallen an, welche werden verarbeitet und welche Ergebnisse entstehen? Das wissen selbst die Betreiber von KI-Systemen nicht immer. Selbst wie und warum KI-Systeme Kreditanträge bearbeiten oder ablehnen, verstehen die Betreiber mitunter nicht mal selbst – hat mir der Leiter der Verbraucherzentrale NRW Wolfgang Schuldzinski in einem Interview (siehe Video) verraten.
Interview mit NRW-Ministerin für Verbraucherschutz Ursula Heinen-Esser
Kennzeichnungspflicht und Datenschutz
Kurz: Es ist eine desaströse Situation. KI fällt Entscheidungen, von denen wir nichts wissen. Wir erfahren auch nicht, nach welchen Regeln. Wir erfahren nicht mal, dass KI im Einsatz ist. Das will die NRW-Ministerin für Verbraucherschutz, Ursula Heinen-Esser, ändern. Sie spricht das Problem energisch an und hat erkennbar vor, die Spielregeln zu ändern. Es soll eine Kennzeichnungspflicht geben: Da wo KI drin ist, soll auch KI drauf stehen. Außerdem soll auch klar werden, nach welchen Mechanismen entschieden wird.
KI bietet eine Menge Chancen, birgt aber eben auch Risiken. So gibt es zum Beispiel das Problem der verdeckten Diskriminierung. Darum ist es so wichtig, klare Regeln für den Einsatz von KI aufzustellen. Das gilt ganz besonders für den Einsatz bei Onlinediensten und Sozialen Netzwerken. Denn diese Dienste nutzen wir alle tagtäglich – und die Entscheidungen greifen tief in unser aller Leben ein. Etwa, indem die öffentliche Meinung geprägt wird.
Zugegeben: Es ist nicht einfach, gesunde und funktionstüchtige Regeln aufzustellen. Aber es ist ein guter Anfang, die Verbraucher über die Hintergründe zu informieren. Denn das geschieht bislang praktisch überhaupt nicht.
Interview mit Vorstand der Verbraucherzentrale NRW Wolfgang Schuldzinski
4 Kommentare
Kommentar Funktionen
Schon erstaunlich, wie aktuell dieses Thema wieder angesichts der Trends um Chatbots und anderen AI Systemen wieder aufflammt. KI ist aber ein sehr breites Spektrum, relativ wenig erforscht, weswegen nur wenige Experten da richtig mitreden können.
“Es ist eine desaströse Situation. KI fällt Entscheidungen, von denen wir nichts wissen. Wir erfahren auch nicht, nach welchen Regeln. Wir erfahren nicht mal, dass KI im Einsatz ist.”
Sorry, das klingt mir eher danach als habe jemand zu viel “Terminator” geschaut und Angst vor dem bösen Syknet. Tatsächlich fallen um uns herum fallen ständig Entscheidungen, deren genaues Zustandekommen mit keinem Wort erklärt wird, ob täglich in der Politik oder – ganz individuell – bei einem neuen Tarifangebot des Telekommunikationsanbieters oder einer Schufa-Auskunft. Ob da im Einzelfall KI im Spiel ist oder nicht, spielt für diese Tatsache allerdings überhaupt keine Rolle. Dass Regeln nötig wären, um da mehr Transparenz zu schaffen, da bin ich ganz bei Ihnen, aber spezielle KI-Regeln brächten da wenig, da sie an dem generellen übergeordneten Intransparenzproblem nichts ändern würden. Abgesehen davon würde ein Laie solche Erklärungen in vielen Fällen sowieso nicht verstehen, da Entscheidungen, die auf maschinellem Lernen oder Neuronalen Netzen beruhen nun mal einigermaßen komplex und nicht in drei Sätzen zu erklären sind. Viel wichtiger als genau zu verstehen, wie eine Entscheidung zustandekommen ist, dürfte für den Einzelnen sein, 1) darüber informiert zu werden, DASS entschieden wurde, und 2) einen kompetenten Ansprechpartner/Verantwortlichen zu haben, der befugt ist, diese Entscheidung gegebenenfalls zu revidieren.
Ich schaue eher selten Terminator, sonderm beschäftige mich eher mit weltlichen Dingen. :)
” KI fällt Entscheidungen, von denen wir nichts wissen. Wir erfahren auch nicht, nach welchen Regeln. Wir erfahren nicht mal, dass KI im Einsatz ist.”
Wenn es die Straßenampel ist, ist das mir egal! Aber ist es überhaupt “KI” oder nur sinnvolle Schaltungen …
Auf jeden Fall ein inflationärer Marketing-Begriff!
Und Mutti meint einschläfernd hierzu nur: “Neuland”
Mit ZUVERSICHT in eine digitale Zukunft hat das absolut nichts zu tun!