Das moralische Dilemma selbstfahrender Autos

Update: jetzt auch mit sinnvollem Titel

Das MIT hat ein interessantes Tool gebaut, mit dem Menschen ihren Input zu den moralischen Dilemmas geben können, die selbstfahrende Autos in Zukunft eventuell lösen müssen. Dabei kann der Nutzer das Auto z.B. entscheiden lassen, lieber ältere oder kriminelle statt jüngere oder rechtstreue Menschen umzubringen. Dabei soll ausgewertet werden, inwiefern Menschen andere Menschen bewerten bzw. ihr Recht zu überleben einschätzen.

Ich denke, es gibt für diese moralischen Dilemmas vernünftige Lösungen, die auf zwei Annahmen basieren:

  • zukünftige selbstfahrende Autos sind unfassbar sicher. Sie blicken mit LIDARS mehrere hundert Meter in alle Richtungen, haben eine viel niedrige Reaktionslatenz als Menschen und eine sehr viel feinere Kontrolle über die Physik des Fahrens. Wenn sie dann noch mit anderen selbstfahrenden Autos in der Umgebung kommunizieren, sind die vom MIT aufgezeigten Dilemmas eine Seltenheit und stellen absolute Extremfälle dar
  • auch in Zukunft wird es für ein selbstfahrendes Auto nicht möglich sein, alles über seine Nutzer oder mögliche Kollisionspartner zu wissen. Es gibt keine „Menschen Datenbank“, die es dem Auto ermöglicht, den verschiednen potenziellen Opfern irgendeinen Wert zuzuschreiben

Unter diesen Vorzeichen möchte ich folgenden Entscheidungsablauf vorschlagen:

Tiere
Wenn die Kollision mit Tieren unvermeidbar ist, sollte das Auto diese Kollision erlauben. Dies hängt natürlich auch von der Größe der Tiere ab, aber wenn das Ausweichen vor einer auf die Straße laufenden Katze eine Gefahr für Insassen oder andere Passanten bedeutet, sollte – und das klingt jetzt hart – die Katze sterben.

Insassen/bewusste Beteiligung
Davon ausgehend, das die dargestellten moralischen Dilemmas eine Seltenheit sind und Insassen selbstfahrender Autos im Vergleich zu Insassen normaler Autos ein weit geringeres Unfallrisiko haben, sollte das selbstfahrende Auto Menschen schützen, die keine Kontrolle darüber haben, ob sie mit einem selbstfahrenden oder einem normalen Auto in eine Unfallsituation geraten. Will meinen: die Insassen selbstfahrender Autos sind sich über den Umstand der künstlichen Intelligenz und die möglichen Probleme bewusst. Die Entscheidung, die Kontrolle an eine künstliche Intelligenz abzugeben, war eine bewusste, die von den Insassen kontrolliert werden kann.
Wenn ein selbstfahrendes Auto also die Wahl hat, seine Insassen oder Fußgänger zu töten, sollte es seine Insassen töten.

Kriminalität
Das MIT-Tool lässt seine Nutzer auch entscheiden, ob Kriminelle eher getötet werden sollten. Ich finde diesen Entscheidungsfaktor ekelhaft. Nicht nur ist es ohne eine (oben angesprochene) „Menschen-Datenbank“ nur schwer möglich, Kriminelle zu identifizieren, auch die Frage, ob der soziale Status einer Person ihre Überlebenschancen beeinflussen sollte, beantworte ich eindeutig mit nein.
Wenn ein selbstfahrendes Auto also die Wahl hat, seine Insassen oder kriminelle Fußgänger zu töten, sollte es seine Insassen töten, weil der Sozialstatus der Fußgänger kein Faktor in der Entscheidung ist.

StVO
Die Frage, ob ein selbstfahrendes Auto Fußgänger überfahren sollte, die sich illegaler Weise (etwa bei einer roten Fußgängerampel) auf der Straße befinden, werden viele wahrscheinlich bejahen.
Dabei ist das ein zweischneidiges Schwert. Zum einen machen Menschen nunmal Fehler. Zum anderen könnte das Missachten einer roten Fußgängerampel auch eine bewusste Entscheidung sein, für die die entscheidende Person durchaus entstehende Konsequenzen tragen kann.

Nicht eingreifen
Falls am Unfall zu viele Menschen beteiligt sind oder von den genannten Regeln keine zutrifft, sollte das selbstfahrende Auto so wenig wie möglich in den Verkehrsfluss eingreifen, da ein untypisches Fahrverhalten (z.B. ein plötzlicher Wechsel auf die andere Straßenseite) weitere Risiken birgt. Selbst wenn alle Autos miteinander vernetzt sind, gibt es für etwaige, die Straße überquerende Fußgänger keine Möglichkeit, dieses untypische Fahrverhalten vorauszusehen.

Die Todesreihenfolge
Aus den genannten Regeln ergibt sich der folgende, von oben nach unten abnehmende Schutzfaktor:

  • Fußgänger, die sich an die StVO halten
  • Fußgänger, die sich nicht an die StVO halten
  • Insassen
  • Tiere

Menschen bewerten
Aus den genannten Regeln geht hervor, dass, bis auf das beachten der StVO, keinerlei „Bewertung“ von Menschen vorgenommen wird. Ein kleines Kind könnte morgen genauso gut sterben wie eine alte Person. Sportliche Menschen sind nicht „mehr wert“ als unsportliche. Die Zukunft lässt sich ohne genug Informationen nicht voraussagen oder einschätzen.
Das Auto sollte im Zweifel die Entscheidung treffen, die den sonstigen Verkehr am wenigsten gefährdet und damit weitere Risiken produziert.

Der Optimalfall
Ein Kind rennt zwischen zwei parkenden Autos auf die Straße. Der Fahrer eines normalen Autos kann nicht mehr rechtzeitig Bremsen. Folgende Möglichkeiten:

a) in den Gegenverkehr ausweichen, Kind retten (wenn alles gut läuft), Frontalaufprall mit Gegenverkehr

b) Vollbremsung, Kind trotzdem überfahren, Auffahrunfall

c) Kind überfahren und (nicht abrupt) abbremsen

Der Fahrer wird sich nie für Lösung c entscheiden.

Ein selbstfahrendes Auto könnte in dieser Situation zum Beispiel folgendes tun:

Ausweichen in den Gegenverkehr, der dank Kommunikation zwischen den Autos davon weiß, selbst frühzeitig bremsen und ggf. auch ausweichen kann, sodass ein Frontalaufprall verhindert oder stark abgeschwächt wird. Kind lebt, sonstige Unfallteilnehmer ggf. nur leicht verletzt.

Falls sich im Gegenverkehr nun aber gerade ein LKW befindet, der nicht einfach ausweichen kann, dann ist es eine vollkommen sinnvolle Entscheidung für das selbstfahrende Auto, oben genannte Lösung c zu wählen.

Allerdings könnte man die Awesomekeit selbstfahrender Autos noch weiter spinnen:

Wenn besagter LKW einfach zu breit ist, um selbst auszuweichen und so einen Frontalaufprall mit dem vor dem Kind ausweichenden PKW zu vermeiden…

  • befinden sich Menschen in den am Straßenrand parkenden PKW?
  • befinden sich Menschen auf dem Fußweg hinter den Parkenden PKW?

Wenn die Antwort auf beide Fragen „nein“ lautet, könnte der LKW in die am Straßenrand parkenden PKW ausweichen. Ggf. würde der LKW-Fahrer dank seiner hohen Sitzposition nur leicht verletzt. Die nun freigewordene Gegenfahrbahn könnte nun als Ausweichfläche für den initial auf das Kind zurollenden PKW genutzt werden. In beiden Richtungen nachfließender Verkehr wird automatisch gestoppt. Ergebnis:

Kind unverletzt, PKW-Fahrer unverletzt, LKW-Fahrer leicht verletzt. Versicherung bezahlt Sachschaden (Totalschaden bei LKW und geparkten PKW). Alle sind glücklich.

Nur mal so dahingesponnen. Ich hab keinen Führerschein. Vielleicht hab ich auch gerade ziemlichen Bullshit geschrieben. :'D