Wie moralisch sind autonome Fahrzeuge?

https://blog.wdr.de/digitalistan/wie-moralisch-sind-autonome-fahrzeuge/

Wie moralisch sind autonome Fahrzeuge?

Kommentare zum Artikel: 12

Die ersten selbstfahrenden Fahrzeuge hat der Onlinekonzern Google auf die Straße geschickt. Autos also, die ohne Fahrer auskommen und trotzdem ihr Ziel erreichen. Mittlerweile experimentieren auch die meisten Autohersteller mit autonomen Fahrzeugen. Selbst führerlose LKWs werden mittlerweile getestet. Doch wenn nicht mehr Menschen die Fahrzeuge steuern, sondern Computer und Software, stellen sich einige Fragen. Was passiert in brenzligen Situationen? Welche Entscheidungen sind die richtigen? Wer haftet, wenn ein autonomes Auto einen Unfall baut?

Bundesverkehrsminister Dobrindt hat darum eine Ethikkommission ins Leben gerufen, die sich mit Fragen des autonomen Fahrens beschäftigt. Da selbstfahrende Autos praktisch alles auf den Kopf stellen, was Autos und Autoverkehr betrifft, hat sich die 20-köpfige Kommission vor allem Gedanken über die ethischen Folgen gemacht. Zum Beispiel die Frage, wie ein selbstfahrendes Auto in kritischen Situationen reagieren soll. Die Software muss schließlich entsprechend programmiert werden.

Autonome Fahrzeuge: Google hat sie zuerst getestet; Rechte: dpa/Picture Alliance

Autonome Fahrzeuge: Google hat sie zuerst getestet

Ethische Entscheidungen treffen

Dass ein Auto an einer roten Ampel stehen bleiben muss, ist klar. Auch, dass niemand umgefahren wird. Doch es gibt Situationen, da muss zwischen zwei Übeln entschieden werden – welche Entscheidung ist die richtige? Da bedarf es einer Abwägung. Beispiel: Die Bremsleitung ist defekt. Bremsen ist unmöglich. Ein mit zwei Personen besetztes Auto kann entweder gegen einen Rammbock fahren – mit zwei möglichen Toten. Oder in eine Menschengruppe mit drei Personen, mit drei potenziellen Todesopfern. Für welche Alternative soll sich das Auto entscheiden?

Ein menschlicher Autofahrer reagiert instinktiv – und entscheidet sich auch nicht immer „richtig“. In der Regel wird sich ein Fahrer selbst zu retten versuchen. Aber ist das eine Entscheidung, die man in die Software autonomen fahrender Fahrzeuge programmieren möchte? Plötzlich wird das uralte Trolley-Dilemma wieder diskutiert. Ein Zug rast auf Gleisen dahin, auf fünf Personen zu. Durch Umlegen einer Weiche kann der Zug an den fünf Menschen vorbei geschleust werden – dann fällt dem Zug aber eine Person zum Opfer. Ist das ethisch vertretbar? Wer entscheidet, wer geopfert wird?

Auch Elektrofahrzeuge werden zu selbstfahrenden Fahrzeugen; Rechte: dpa/Picture Alliance

Auch Elektrofahrzeuge werden zu selbstfahrenden Fahrzeugen

Software hat keine Reflexe

Software hat keine Reflexe. Software entscheidet so, wie sie programmiert wurde. Deshalb müssen vorab Entscheidungen gefällt werden, die dann programmiert werden und von der Software einzuhalten sind.  In der Anfangszeit muss der menschliche Fahrer jederzeit eingreifen und die Kontrolle übernehmen können. Mittel- bis langfristig wird das nicht mehr der Fall sein, da steuern die Computer die Fahrzeuge komplett. Deshalb sind solche Diskussionen wichtig.

Das ehrwürdige MIT – eine Elite-Uni aus den USA, die sich vor allem mit technischen Themen beschäftigt, hat ein eigenes Projekt an den Start gebracht, die Moral Machine. Die Forscher wollen herauszufinden, wie Menschen zu moralischen Entscheidungen stehen. Es geht um konkrete Dilemmata, bei denen ein führerloses Auto das kleinere Übel wählen muss. Der Besucher kann sagen, welche Entscheidung er unter moralischen Aspekten besser findet: Drei Rehe umfahren oder einen Menschen – sofern unausweichlich. Man kann auf der Plattform abstimmen, über die Fälle diskutieren oder auch eigene Situationen formulieren, die zur Diskussion gestellt werden.

Auch Datenschutz beachten

Auch dieser Frage ist man in der Ethikkommission auf den Grund gegangen. Denn wenn alle Fahrzeuge auf den Straßen vollständig vernetzt sind und die Fahrzeuge sogar zentral gesteuert werden, was im Interesse eines optimalen Verkehrsflusses wünschenswert wäre, käme das natürlich eine Totalüberwachung der Insassen gleich. Wenn sich das nicht ausschließen lässt, findet die Ethikkommission es „ethisch bedenklich“, alle Daten zu erfassen und auch potenziell die Steuerung der Fahrzeuge übernehmen zu können.

Die Kommission hat sogar 20 Regeln aufgestellt, die eingehalten werden müssten. Etwa, dass Fahrzeuginhaber und Nutzer grundsätzlich über Weitergabe und Verwendung anfallender Daten selbst entscheiden können müssen. Es ist richtig und gut, sich rechtzeitig alle relevanten Fragen zu stellen. Bevor Fakten geschaffen werden weil Millionen autonome Fahrzeuge über deutsche Straßen rollen.

 

 

Über den Autor

Jörg Schieb ist Internetexperte und Netzkenner der ARD. Im WDR arbeitet er trimedial: für WDR Fernsehen, WDR Hörfunk und WDR.de. In seiner Sendung "Angeklickt" in der Aktuellen Stunde berichtet er seit 20 Jahren jede Woche über Netzthemen – immer mit Leidenschaft und leicht verständlich.

12 Kommentare

  1. Jo Beeck am

    Hier wird laufend über die technischen Schwächen debattiert -dabei geht es um zukünftige neue Verkaufs-Optionen !
    Der autonome (Mit-)Fahrer braucht keine Zulassung oder Führerschein….was für den noch offenen freien Markt in aller Welt bedeutet:
    per App ein Fahrzeug mieten und von A nach B chauffiert werden!
    ohne eigene Garage /eigene Strom-Zapfsäule usw.
    UND die Hersteller werden alle mitziehen !Der Rest der Welt wird so motorisiert!

  2. Martin Däniken am

    „Die Gefahr-O-Sensitiv-Brille verdunkelt sich automatisch bei Gefahr.
    Weil er die Gefahr also gar nicht erst wahrnimmt,
    verfällt der Träger nicht in Panik.“
    Das Konzept aus „Per Anhalter…“ auf ein Fahrzeug übertragen….hmmmm!
    Wenn sich das Fahrzeug selbst die Sicht nimmt,damit es nicht in Panik verfällt…

  3. Dietmar dcf am

    Was mich bei diesen „ethischen“ Entscheidungsspieln stört, ist dass die Rahmenbedingung so stark reduziert wurden, dass es nur noch extreme Entscheidungen geben kann. Es wird nicht die wichtige Frage gestellt, wie ist es überhaupt zu dieser Situation gekommen und welche technischen Möglichkeiten zur Schadensminderung hat das Fahrzeug. Also beim Fall mit der Wohnstrasse man sich zwischen dem Rentner, dem Kind und einem anderen PKW entscheiden muss, wird die Frage, warum fährt das Fahrzeug nicht der Situtation angepasst. Dass der Bremsweg generell reicht oder bei einer unvermeidbaren Kollision mit irdendeinem Objekt nur geringster Schaden (Sachschaden) entsteht. An die Situation angepasstes Fahren ist doch Hauptgegenstand der Fahrausbildung. Lernen Gefahren und mögliche Situationen so früh zu erkennen, dass man passend reagieren kann. Nicht wie bei diesen Szenarien, heize du ch die Gegend, als bist Du auf der Carrerabahn und dann handle wie ein Kopfloser Anfänger in einem Autoscooter

    • Ich weise auf einige Videos hin, die Tesla-Fahrer mit Dashcams aufgenommen haben. Die Technik ist so fortschrittlich, dass ebenjene Fahrzeuge Unfälle bereits erkennen, bevor er überhaupt sichtbar wird, teilweise sogar, bevor sie überhaupt geschehen. Die Technik ist so präzise, dass nur noch von absoluten Grenzfällen geredet werden kann, weil die „Normalfälle“ bereits geregelt sind bzw. vermieden werden können.

  4. Martin Däniken am

    Also ich wüsste einen Ausweg,der halb ernst gemeint ist!!!
    Priester unterschiedlichster Glaubensgemeinschaften segnen die Chips auf denen die Algothrymnen enthalten sind….
    Früher hat man ja auch Kanonen gesegnet!

  5. „Wie moralisch sind autonome Fahrzeuge?“.
    „Moralisch“, im Ernst?
    Schon kühn, einem Gemenge aus Quellcode, perspektivischem Elektro-, Gummi,- Kunststoff- und Metallschrott „Moral“ andichten zu wollen.
    Jeder Feldhamster verfügt über mehr „Moral“, als dieser hochgejubelte Industriehype, auf den sich nunmehr alle stürzen, wie die Schmeißfliegen auf den Misthaufen!
    Einer Industrie, die sich schon unfähig zeigt, eine funktionierende, „ehrliche“ Abgaskontrollsoftware (vgl. „Diesel-Gate“) zu programmieren und sich blamabelst selbst entlarvt, wird nunmehr also zugetraut, ein hochkomplexes, „moralisch“ agierendes System in ein Kraftfahrzeug zu implementieren!?
    M. E. nur eine Frage der Zeit, bis die ersten (voll)autonomen Lkw, ganz im Sinne ihrer „moralischen“ Programmierung, ein blutiges Autobahnmassaker (sei es durch Programmfehler oder aber durch externen Angriff) verursachen werden.
    Auf die Schuldfindung und entsprechende Urteils-/Rechtsprechung darf man heute schon gespannt sein – die Opfer und Hinterbliebenen tun mir jetzt schon leid!
    Aber erklären Sie das mal einem Politiker; der o. g. Feldhamster würde es vermutlich kapieren…

  6. Martin Däniken am

    Wie war das noch:
    Freie Fahrt für Freie Bürger…
    Leute,die stundenlang im Stau stehen und sich als Menschen verstehen,die frei und selbstständige Entscheidungen treffen Können wollen haben sich selbst das Gehirn entsprechend gewaschen,sorry.
    Und mit autonomen Fahen wird die Illusion der Wirklichkeit angepasst auf eine schräge Art oder sagen wir hat seine eigene Logik!

  7. Hier trifft uns die gleiche Moralische Entscheidung, die auch in F. von Schirachs „Terror“ schon thematisiert wird. Hat der Mensch das Recht, über den Tod von Menschen zum Wohle anderer zu entscheiden? Autonomes Fahren ist unter rechtlichen Umständen momentan gar nicht möglich, denn der Programmierer eines solchen Fahrzeugs würde sich nach aktuellem Recht auch zum Mörder machen, da Menschenleben schließlich nicht bewertbar sind.

    Es wird interessant, wo die Reise hingeht.

  8. Ein Auto wird durch Lenkrad und Gaspedal von mir gefahren. Alles andere sind „Fahrkabinen“, für die jeder sein Geld ausgeben kann, wenn er mag. Ich werde eine solche Fahrkabine jedenfalls nicht käuflich erwerben.

  9. Martin Däniken am

    @Detlef Löffelholz:
    Das de Schaden auf dem Weihnachtsmarkt nicht grösser war,lag mWn an den im Lkw verbauten Sicherheitsystemen!
    Und was die Zufallsalgorythmen angeht..basieren glaube ich auf Pi und den Stellen nach dem Komma,
    also so zufällig kann das dann nicht sein….nach Maschinenstandart ;-)
    Das Obige wurde jetzt nicht gesuchmaschint,
    sondern aus dem Gedächtnis erzeugt

  10. Detlef Löffelholz am

    denkt vielleicht jemand mal an Terrorismus in diesem Bezug?!
    Es geht doch dann recht einfach die LKWs in Menschenmengen zu lenken, jetzt auch ohne Fahrer.

  11. Ich würde für solche moralisch schwierigen Situationen einen Zufallsalgorithmus programmieren, so dass der Zufall entscheidet, wer überlebt. Das ist im wirklichen Leben ja auch oft so. Ob ich dem Reh ausweiche und somit riskiere, das Auto vor einen Baum zu setzen und damit meine Mitfahrer zu töten oder das Reh totfahre, entscheide ich ja auch nicht wirklich, sondern handele stattdessen intuitiv und evtl. falsch. Da Computer nicht intuitiv entscheiden können, muss eben der Zufall herhalten.

Einen Kommentar schicken

Die mit * gekennzeichneten Felder müssen ausgefüllt werden.

Um Ihren Kommentar zu versenden, beantworten Sie bitte die folgende Frage: *

Top