Wir regeln das: Gezähmte KI in Europa

https://blog.wdr.de/digitalistan/wir-regeln-das-gezaehmte-ki-in-europa/

Wir regeln das: Gezähmte KI in Europa

Kommentare zum Artikel: 11

Künstliche Intelligenz (KI) ist zu einem regelrechten Modebegriff verkommen. Überall fällt das Buzzword – um Aufmerksamkeit zu generieren und/oder besondere Fortschrittlichkeit zu suggerieren. Das klappt auch häufig, denn noch verbinden die meisten Menschen mit KI etwas Positives. Sie glauben, die Dinge würden mit KI besser: Schnellere und bessere Entscheidungen.

Die Funktionsweise von KI ist komplex; Rechte: WDR/Schieb

Die Funktionsweise von KI ist komplex

„Social Scoring“ soll in Europa verboten sein

Das ist allerdings ein Trugschluss. KI bietet enorme Chancen, etwa in Forschung, Wissenschaft, Medizin und Wirtschaft. Allerdings kann sich KI auch ganz leicht gegen uns wenden. Natürlich nicht à la „Terminator“, indem die Technik aus eigenem Willen aufbegehrt, sondern eher durch den bewussten Einsatz gegen die Interessen der Allgemeinheit. So eignet sich KI zum Beispiel wunderbar dazu, menschliches Verhalten zu überwachen.

In China gibt es das bereits in Reinkultur: „Social Scoring“, wird das genannt. KI überwacht jede Bewegung, bewertet sie und führt Buch.

Doch heute kommt KI in allen möglichen Bereichen unseres Lebens zum Einsatz. KI bestimmt, was in unserer Timeline auftaucht, welche Anzeigen wir zu sehen bekommen, antwortet auf unsere Sprachbefehle – selbst in Küchengeräten ist heute angeblich KI aktiv.

KI kommt aber auch zunehmend in sensiblen Bereichen zum Einsatz: Zur Überwachung öffentlicher oder privater Räume, um Kreditwürdigkeit zu berechnen oder Diagnosen in der Medizin zu stellen.

Allerhöchste Zeit, diesen Bereich zu regeln.

EU-Digitalkommissarin Magrethe Vestager; Rechte: WDR/Schieb

EU-Digitalkommissarin Magrethe Vestager will KI regulieren

Umfassendes Regelwerk

Die EU-Kommission hat deswegen einen umfassenden Vorschlag zur Regulierung von KI vorgelegt. Das Regelwerk soll vor allem Auswüchse wie in China verhindern.

So soll es in Europa zum Beispiel generell verboten sein, KI zur Massenüberwachung oder zur Manipulation einzusetzen. Auch Social Scoring soll ausdrücklich verboten werden.

Richtig so. Allerdings ist der Begriff „Manipulation“ sehr unkonkret. Sind schon auf individuelle Bedürfnisse zugeschnittene Anzeigen eine Manipulation? Oder wenn passende Wahlprogramme präsentiert werden? Wo fängt Manipulation an, wo hört sie auf? Das ist noch nicht konkret genug formuliert.

Auch stören sich einige Experten daran, dass die Erfassung und Verarbeitung biometrischer Daten im öffentlichen Raum nicht generell verboten wird. Andere halten den Einsatz von Gesichtserkennung im öffentlichen Raum prinzipiell für sinnvoll, etwa um vermisste Kinder aufzuspüren oder Kriminalität zu verhindern. Auch hier gibt es den Bedarf, die Grenzen näher zu spezifizieren.

Vier Kategorien: Regeln und Kontrollen

Generell soll KI in vier Kategorien eingeteilt werden. Von „harmlos“ (etwa, wenn KI im Spam-Filter unerwünschte Mails herausfiltert) bis hin zu „riskant“, etwa wenn KI in autonomen Fahrzeugen entscheidet, wann gebremst wird. Oder wenn KI Kredite bewilligt oder in der Medizin Diagnosen stellen. Hier sind strenge Vorschriften und Kontrollen geplant. Die Anbieter müssen die KI genau dokumentieren – und den Zweck definieren.

Das ist nicht einfach. Denn KI ist anders aufgebaut als ein gewöhnliches Computerprogramm. KI-Systeme lernen selbständig dazu, erkennen Muster und fällen Entscheidungen. Es kommt ganz wesentlich darauf an, mit welchen Daten die Systeme zu Training „gefüttert“ werden. Das entscheidet darüber, wie gut die Systeme funktionieren – und ob sie möglicherweise diskriminieren.

Es ist gut, dass die EU das regeln will. Allerdings muss auch darauf geachtet werden, dass in Europa KI-Forschung möglich bleibt.

NRW-Ministerin Ursula Heinen-Esser über Künstliche Intelligenz

Über den Autor

Jörg Schieb ist Internetexperte und Netzkenner der ARD. Im WDR arbeitet er trimedial: für WDR Fernsehen, WDR Hörfunk und WDR.de. In seiner Sendung "Angeklickt" in der Aktuellen Stunde berichtet er seit 20 Jahren jede Woche über Netzthemen – immer mit Leidenschaft und leicht verständlich.

11 Kommentare

  1. FairBert am

    Auffällig oft wird der Begriff im Sprachraum der Politiker verwendet. Neu dazu hat jetzt „Blockchain“ Hochkonjunktur.
    Wer es nun schafft, beide Begriffe in einem Satz zu kombinieren – der kennt sich in der „Digitalisierung“ aus

  2. Naja, die EU wird schlecht das ganze Internet kontrollieren können. Andere Anbieter werden es in anderen Ländern anbieten, das ist wohl das hauptproblem.

    • Jörg Schieb am

      Merkwürdiges Argument. Die StVO gilt auch nur bei uns -/ und nicht in Taiwan. Natürlich regelt man was im eigenen Gebiet passiert. Es geht vor allem um den Einsatz der Systeme, nicht deren Entwicklung.

  3. Der wesentliche Unterschied zwischen KI und herkömmlicher Programmierung ist – meiner Meinung nach – die fehlende Verfolgbarkeit. Eine KI ist eine Black Box, bei der es selbst einem Fachmann nicht oder nur sehr aufwändig möglich ist, nachzuvollziehen, warum die KI mit ihren selbst entwickelten Logiken zu genau diesem Ergebnis gekommen ist. Das macht nicht nur ein Debugging fast unmöglich, sondern auch die Verwendung von KI-Ergebnissen vor Gericht.

    • Jörg Schieb am

      Das ist weitgehend korrekt. Unso wichtiger ist die eingeforderte Dokimentation von Zielsetzung und eingespeisten Datensätzen zum Training. Leicht ist das nicht, aber machen muss man es.

      • Ich gebe ihnen recht. Aber das initiale Training ist ja nur ein Anfang. Im Normalfall wird/soll eine KI ja weiter lernen. Mit irgendwelchen Daten, die wir nicht kennen, sondern die sich aus der Umgebung ergeben (Sprache, Posts, Fotos, Videos, …) Warum Ihnen heute genau diese Werbung angezeigt oder genau diese Nachricht empfohlen wird, wissen wahrscheinlich noch nicht einmal die KI-Entwickler/Betreuer. Was meiner Meinung nach zwingend nötig wäre, ist eine Protokollfunktion, in der die KI auf Anfrage erklärt, warum sie zu genau diesem Ergebnis kommt. Und weil das Ganze vor allem angewandte Statistik ist, müsste ein Protokoll Daten und Wahrscheinlichkeiten liefern, z.B. „Jemand mit dem Vornamen Jörg ist mit 98%iger Wahrscheinlichkeit männlich“, „Jemand mit dem Namen Jörg Schieb hat in den 90er Jahren Bücher zu MS-DOS geschrieben, also ist dieser User zu 13% computerinteressiert und zu 42% um die 60 Jahre alt“ usw. Nur dann kann ich auch klagen, wenn die Schufa-KI ein falsches Scoring auswirft.

  4. Vielleicht wird eines Tages eine KI auch die Welt retten ;) Dass die Menschheit es nicht hinbekommt, den Planeten als Alphatier in eine annehmbare Zukunft zu führen, sieht man ja an allen Ecken und Enden … (ja, ich weiß, Science Fiction…)

  5. Mungo Park am

    Sehr gut, dass Frau Vestanger von der EU Regeln setzen will. Auch wenn das die Entwicklung verlangsamer sollte.

    Manipulation ist leider nicht so leicht zu verhindern.

    Gibt es eigentlich Anwendungen von KI, die bei der Bekämpfung der Klimakatastophe wirksam sein könnten?

    Ethische Regeln finde ich spannend im Straßenverkehr: Soll das KI-Auto lieber die zwei alten Männer oder die junge Frau überfahren, wenn es zu einer Extremsituation kommt und ein Ausweichen und Bremsen unmöglich ist?

    Zur Kreativität:
    KI wird niemals so etwas wie die „Dreigroschenoper“ hervorbringen. Oder „Der Zauberberg“ oder „Die Blechtrommel“. – Etwas ähnliches vielleicht, aber ich denke, es wird von Menschen immer ein bisschen schräg empfunden werden.

  6. Carsten Mohr am

    Erstmal muß man KI klar definieren. Denn das ist von Thema zu Thema unterschiedlich besetzt. Was Sie ansprechen ist in erster Linie Maschine Learning, auch KI, aber anders weil rein Zahlenbasiert. KI diskriminiert nicht, weil KI keine moralische Bewertung vornimmt. Sie stellt heraus bzw., um genauer zu sein, sie gibt Interpretationsvorlagen. Was wir „Lesenden“ daraus machen ist unser Ding.
    KI kann nichts, was Menschen nicht auch können. Sie macht es dann nur sehr viel schneller und hält sich strikt an ihr vorgegebene Regeln. Darum kann man damit in leichter Weise Massen „kontrollieren“. Es sind ja nicht die Massen das Problem, sondern deren produzierte Daten.
    Ich halte es aber auch für äußerst wichtig, hier klare ethische und sinnhafte Grenzen zu setzen, von gesetzeswegen. Denn freiwillig machen FB und Co. das sicher nicht.

    • Zwei Dinge: Erstens, KI kann sehr wohl diskriminierend sein. Dann nämlich, wenn künstliche Intelligenz vor allem mit Daten gefüttert worden ist, die bereits diskriminierend ist. Beispiel: ein System, das für die Auswahl von Bewerbungen zuständig ist, wird nur mit Bewerbungen von Männern gefüttert. Dann sind Bewerbungen von Frauen quasi automatisch benachteiligt.

      Zweitens: die Behauptung, künstliche Intelligenz könne alles was Menschen können, halte ich für doch extrem bedenklich, um nicht zu sagen falsch. Bestes Beispiel: Künstliche Intelligenz kann niemals kreativ sein. KI kann bestenfalls Kreativität simulieren. Und das ist nur ein Beispiel.

      • Carsten Mohr am

        Herr Schieb, ich habe nicht gesagt, KI könne alles, was Menschen können. Ich sagte, KI könne nichts, was Menschen nicht auch können. Den himmelweiten Unterschied muß ich Ihnen nicht erst noch erläutern.
        Dann ist zweitens KI nicht diskriminierend, denn die Datenlage hat es so vorgegeben. Das ist jetzt kein herausreden oder ähnliches, es ist einfach so. Wenn ich, wie in Ihrem Beispiel genannt, nur Daten von männlichen Personen eingebe, woher soll eine Aussage über Frauen getroffen werden können. Und wenn, Achtung bei Maschine Learning, die Kriterienauswahl und Gewichtung so vorgegeben ist, dann kommen dementsprechend Daten heraus.
        Und letzter Punkt, weil Ihnen die Kreativität soviel bedeutet: Ich habe nicht behauptet, Computer könnten Kreativität auf menschlichem Niveau. Aber was für einen riesen Müll produzieren Menschen unter der Flagge der Kunst. Ehrlich, kann ich nicht verstehen. Maschinen können gezielt harmonische (Synthesizer), disharmonische oder auch mathematische Zusammenhänge wunderschön visualisieren (Apfelmänchen-Grafiken etc.), akustisch ausdrücken, oder aber auch nicht. Kreativität ist nur die Kombination der Möglichkeiten. Da werden Computer eines Tages hinkommen.
        Wissen Sie, warum Affen keine Kirchen bauen? Weil sie sie nicht brauchen…

Einen Kommentar schicken

Die mit * gekennzeichneten Felder müssen ausgefüllt werden.

Bitte lösen Sie die Rechenaufgabe : *
26 − 8 =


Top