re:publica: Julia Krüger fordert bei KI “qualifizierte Transparenz”

https://blog.wdr.de/digitalistan/republica-julia-krueger-fordert-qualifizierte-transparenz/

re:publica: Julia Krüger fordert bei KI “qualifizierte Transparenz”

Kommentare zum Artikel: 1

Künstliche Intelligenz (KI) bekommt einen immer größeren Stellenwert. Selbst lernende Systeme kommen nicht nur in hoch spezialisierten Bereichen wie der Forschung zum Einsatz, sondern auch in Games, in Sozialen Netzwerken oder Digitalen Assistenten. Die Sozialwissenschaftlerin Julia Krüger, die auf der re:publica über KI spricht, sieht KI “ganz klar als Chance und Risiko”. Die Möglichkeiten seien enorm, die Risiken aber eben nicht zu unterschätzen. “Wir haben große Herausforderungen bei Transparenz und Kontrolle”, erklärt sie.

re:publica: 10.000 Besucher diskutieren über die Zukunft der Digitalen Gesellschaft; Rechte: WDR/Schieb

re:publica: 10.000 Besucher diskutieren über die Zukunft der Digitalen Gesellschaft

Was ist der Zweck von KI? Transparenz ist wichtig

“Wir brauchen dringend Übersicht und Kontrolle”, warnt die Expertin. Julia Krüger macht die Schwierigkeit sehr anschaulich: Wenn zum Beispiel ein KI-System darüber entscheidet, was mit einem Kreislaufpatienten im Krankenhaus passiert – also: Auf welche Station soll er? Wie sieht die Behandlung aus? Entscheidet das KI-System zum Patientenwohl? Wird die Krankenhausauslastung optimiert? Oder steht das Renommee des Arztes im Vordergrund? Eine Person, die entscheidet, kann man zur Rechenschaft ziehen – eine Maschine nicht.

Julia Krüger plädiert daher für “qualifizierte Transparenz”. Das bedeutet: Unternehmen, die KI entwickeln und einsetzen, sollen Details über die Systeme nicht der Öffentlichkeit präsentieren, sondern öffentlich bestellten Experten, die im Zweifel untersuchen, wie das KI-System funktioniert und welchem Zweck es dient. Allerdings braucht es dafür natürlich jede Menge Mitarbeiter, die entsprechend qualifiziert sind – und den entschlossenen Willen, solche Kontrollen überhaupt durchzuführen.

https://vimeo.com/267973633

Julia Krüger im Gespräch mit Jörg Schieb: KI sollte kompetent überwacht werden

Diktatur der Algorithmen? Nicht ganz – aber ein Problem

KI-Systeme sind aber längst massenhaft im Einsatz – und entscheiden über unser Schicksal. Sie wählen zum Beispiel aus, wer uns als Freund vorgeschlagen wird, welche Nachrichten wir zu sehen bekommen oder ob wir als kreditwürdig eingestuft werden. Leben wir in einer Diktatur der Algorithmen? Julia Krüger sieht schon Probleme auf uns zukommen, etwa “dass das Individuum nur das zu sehen bekommt, was der eigenen Position entspricht”. Doch es sei auch “unklar, welche Rolle die Plattformen da einnehmen”. Logisch: Da KI-Systeme eine Art Blackbox sind und wir keine Einblicke bekommen, lässt sich auch nur schwer einschätzen, wie sie konkret vorgehen.

“Ich denke, es ist am Gesetzgeber, hier ganz klar Transparenz herzustellen”. Also wieder ein klarer Aufruf an die Politik, sich des Themas anzunehmen – und für nötige Rahmenbedingungen zu sorgen. Julia Krüger meint: “Es ist die letzte Chance, KI-Entwicklung zu gestalten”. Ein weiteres Problem: KI wird vor allem in den USA und China entwickelt. Wir haben hier praktisch den Anschluss verloren. Ein Problem, denn “KI schaltet der Monopolisierung den Turbo zu”. Wir brauchen eine kluge Regulierung – mit Transparenz und Kontrolle (Auditing). “Ich hoffe, dass wir das hinkriegen”, sagt Krüger. Ich hoffe auch.

 

 

Über den Autor

Jörg Schieb ist Internetexperte und Netzkenner der ARD. Im WDR arbeitet er trimedial: für WDR Fernsehen, WDR Hörfunk und WDR.de. In seiner Sendung "Angeklickt" in der Aktuellen Stunde berichtet er seit 20 Jahren jede Woche über Netzthemen – immer mit Leidenschaft und leicht verständlich.

1 Kommentar

  1. banana blues am

    In der ganzen AI-Euphorie sollte man nicht aus den Augen verlieren, daß jede Entscheidung eine Verantwortlichkeit generiert. Computerprogramme können zwar Entscheidungen treffen, irgendjemand muß aber dafür die Hand ins Feuer legen. Die Softwareentwickler werden das sicher nicht tun. Also können die per AI gelieferten “Ergebnisse” nur Vorschläge sein, zu denen anschließend reale Menschen eine verantwortliche Entscheidung treffen – mit allen rechtlichen Konsequenzen.

Einen Kommentar schicken

Die mit * gekennzeichneten Felder müssen ausgefüllt werden.

Um Ihren Kommentar zu versenden, beantworten Sie bitte die folgende Frage: *

Top