Ethik – Reden wir darüber

In der letzte Zeit werden im Rahmen der Digitalisierung endlich auch Diskussionen über die Ethik beim Einsatz künstlicher (artifizieller) Intelligenz (KI) geführt. Ich spreche hier gern von Robotern, obwohl der Begriff in dem Zusammenhang eher unüblich ist.

Warum spreche ich vom Roboter?

Wikipedia sagt:

„Ein Roboter ist eine technische Apparatur, die üblicherweise dazu dient, dem Menschen mechanische Arbeit abzunehmen. Roboter können sowohl ortsfeste als auch mobile Maschinen sein und werden von Computerprogrammen gesteuert.“

„Üblicherweise mechanische Arbeit“ – die Einschränkung beinhaltet ja, dass es Weiterungen gibt z.B. in der geistigen Arbeit. Roboter nehmen uns zunehmend auch andere als körperliche Arbeiten ab, wir nennen sie dann nur nicht mehr Roboter. Wir sprechen in dem Zusammenhang von Bots, was nur eine Verkürzung von Roboter ist.

Wo liegen die ethischen Herausforderungen?

Isaac Asimov und die Robotergesetze

Isaac Asimov, ein Wissenschaftler und Science-Fiction-Schriftsteller, sah sich bereits in den 40er Jahren des zwanzigsten Jahrhunderts mit dieser Thematik konfrontiert. Seine Lösung formulierte er 1948 die „Grundregeln des Roboterdienstes“ die er später als die drei Robotergesetze bezeichnete.

Ein Roboter darf kein menschliches Wesen (wissentlich) verletzen oder durch Untätigkeit (wissentlich) zulassen, dass einem menschlichen Wesen Schaden zugefügt wird.
Ein Roboter muss den ihm von einem Menschen gegebenen Befehlen gehorchen – es sei denn, ein solcher Befehl würde mit Regel eins kollidieren.
Ein Roboter muss seine Existenz beschützen, solange dieser Schutz nicht mit Regel eins oder zwei kollidiert.

Nun schrieb Asimov Science-Fiction-, besser gesagt zu großen Teile Social-Fiction-Literatur, aber wir befinden uns in der realen Welt: Was können wir nun davon gebrauchen?

Das erste Robotergesetz

Ich beschränke mich auf dieses, die anderen resultieren daraus. Hier ist die wichtigste Frage: „Was weiß ein Roboter?“ Asimov schränkt das Gesetz ja auf ‚wissentlich‘ ein. Ich weiß nicht, wann er diese Einschränkung getroffen hat, in einer Ausgabe der Foundation-Trilogie (als mir diese Gesetze erstmals unter kamen) stand diese, meiner Meinung nach, nicht. Das mag allerdings an meinem Gedächtnis oder am Übersetzer liegen.

Die Antwort ist einfach, er „weiß“, was ihm programmiert wurde.

Das verlagert also die ethische Frage auf die Programmierer und ihre Auftraggeber.

Wissentlich Menschen schaden

Hier verlasse ich Asimov und begebe mich in die Gegenwart mit ihren Herausforderungen durch Roboter, Bots oder allgemein künstliche Intelligenz. Deshalb verwende ich hier auch nicht „verletzen“ sondern „Schaden zufügen“, Asimovs Definition gilt ja hauptsächlich für mobile, wenn nicht gar humanoide, Roboter.

Ich denke, wir müssen nicht darüber streiten ob künstliche Intelligenz (KI) den Menschen, oder der menschlichen Gesellschaft, Schaden zufügen kann. Selbst Computerwürmer, wie Stuxnet, oder Trojaner können das. KI in autonomen Autos kann Menschen verletzen und in Kampfdrohnen ist es ihr Ziel, Menschen zu töten. Andererseits ist es in vielen wirtschaftlichen Bereichen das Ziel, mit dem Einsatz von KI Menschen um ihre Arbeitsplätze zu bringen und ihnen ihre materielle Lebensgrundlage zu entziehen, also ihnen zu schaden – wenn auch zu vermeintlich höherem Nutzen. Das kann man so sehen, wenn keine Lösungen für neue Arbeitsplätze oder z.B. andere Arbeits- und Lebenszeitregelungen angeboten werden.

Der Roboter, Bot oder die KI kann das nicht selbst lösen – auch bei Asimov wurden die Roboter „mit den Robotergesetzen ausgestattet“.

Was tun?

Ich bin ziemlich ratlos. Die einzige Möglichkeit sehe ich darin, analog zur Bewegung zur „Ächtung der Atomwaffen“ eine starke internationale Bewegung für die „Unschädliche Nutzung der künstlichen Intelligenz“ ins Leben zu rufen, internationale Verträge abzuschließen und schädliche Nutzung unter schwere Strafen zu stellen.

Ihr werdet sagen, dass ich träume. Aber ich sage mit John Lennon:

You, you may say I’m a dreamer
But I’m not the only one
I hope someday you will join us
And the world will be as one.

P.S. Ich bin nicht allein mit meinem Interesse für dieses Thema. Die University of Harvard und das MIT beschäftigen sich unter „The Ethics and Governance of Artificial Intelligence“ und die University of Texas at Austin unter „Ethical Foundation of Computer Science“ mit ethischen Fragen. Soweit mir bekannt ist, ist auch die Stiftung Globale Werte Allianz in Basel an diesem Thema dran.

Bildnachweis: unter CCO Creativ Commons by Geralt

Zur Einleitung sei mir eine kleine Fiktion des Jahres 2040 gestattet.

Seit einem Jahr sind Benzin- und Dieselautos in Leipzig verboten, die Straßen werden von autonomen Elektroautos (AEA) dominiert. Am Morgen eines sommerlichen Werktages gegen 04.00 Uhr, stehen in ehemals wild zugeparkten Straßen diese AEAs mit 20 cm Abstand zueinander wie an einer Schnur aufgereiht – ein schönes ordentliches Bild. Dieses ändert sich, als gegen 5.30 Uhr die Autos leise schnurrend erwachen, autonom ausparken und sich auf die Suche nach ihrem Besitzer begeben. Da der Parkraum knapp ist löst sich der morgendliche autonome Stau gegen 07.00 Uhr auf, als jedes Auto seinen Besitzer gefunden hat. Dieser steigt mit einem Coffee-To-Go und Smartphone ein und beginnt seine Fahrt zur Arbeitsstelle. Der allmorgendliche Stau auf dem Weg dahin ist nicht so schlimm, denn seit er sich nicht mehr mit dem Fahrzeug beschäftigen muss, loggt er sich schon mal ins Firmennetzwerk ein und beginnt mit der Arbeit. Am Arbeitsplatz angekommen, steigt der Besitzer des AEA aus und dieses begibt sich leise surrend auf die Suche nach einem Parkplatz für den Tag.

Hier breche ich ab.

Es sei mir hier eine persönliche Betrachtung gestattet. Ich war 1976 stolz als ich mein erstes Auto kaufte (Bild). Autofahren machte Spaß und es war uncool mit der Straßenbahn zu fahren. Heute fahre ich Fahrrad oder ÖPNV, nicht weil ich Autogegner bin, sondern weil das Autofahren purer Stress für mich geworden ist.

Ein wenig Geschichte

Seit meinem ersten Auto (Baujahr 1962, 45 PS, 12 l Benzin 79 Oktan/100 km, Einkreisbremssystem, Diagonalreifen) hat sich vieles geändert und ich konnte das live miterleben, unter anderem als Mitarbeiter beim Straßendienst des ADAC. Das Gewicht der Fahrzeuge hat sich verringert, die Motorenleistung ist gestiegen bei gleichzeitigem Rückgang des Verbrauchs und des Schadstoffausstoßes. Auch die Sicherheitsvorkehrungen haben sich verbessert. Sicherheitsgurt, ABS, ESP und ähnliche Vorrichtungen schützen den Autofahrer und bedingt auch andere Verkehrsteilnehmer. Jetzt kommt die nächste Stufe: Für die Umwelt soll es der Elektroantrieb sein und für die Sicherheit der Fahrassistent, dieser soll in der höchsten Stufe den Fahrer völlig ersetzen.

Stimmt das alles so?

Ich gebe zu, dass ich da skeptisch bin. Das Elektroauto soll mit Öko-Strom betrieben werden, aber der ökologische Fußabdruck der Solar- und Windanlagen ist für mich noch nicht völlig nachvollziehbar. Das heißt: Wann wird dieser ökologische Fußabdruck, zieht man den Material- und Energieaufwand für Produktion, Aufstellung und Unterhaltung in Betracht, wirklich kleiner? Was passiert, wenn die Anlagen der ersten Generation ersetzt werden müssen? Gleiches gilt für das Auto selbst, besonders für die Akkumulatoren. Auch hier gilt: Ich bin kein Gegner der Energiewende, aber in welcher Form sind Autos ein Garant für diese?

Mein größtes Problem ist aber das autonome Auto. Nun hat unser allseits beliebter Herr Bundesverkehrsminister Dobrindt eine Ethikkommission einberufen um ethische (besser rechtliche) Fragen des autonomen Fahrzeuges zu klären.

Brauchen wir autonome Autos?

Ich werde später auf die Frage eingehen, ob wir überhaupt immer mehr Autos brauchen. Aber hier schon mal ein Zitat aus einem älteren Beitrag, welches meine Desillusion für eine vernünftige Verkehrspolitik ausdrückt:

Wie ernst ist den Politikern die Forderung nach einer neuen Verkehrspolitik?

Diese Frage ergibt sich zwangsläufig aus der Tatsache, dass Deutschland im allgemeinen und Leipzig im speziellen „am Tropf der Automobilindustrie hängen“. Eine Abnahme des „motorisierten Individualverkehrs“ bringt zwangsläufig eine Verringerung der Absatzzahlen dieser Industrie und der damit verbundenen Wirtschaftszweige mit sich.

Für mich ist das autonome Auto für den motorisierten Individualverkehr einfach eine Absurdität. Es mag sein, dass der Fahrassistent eine Gefahr schneller erkennt als ein menschlicher Fahrer und effizienter reagieren kann, aber was bedeutet das? Das Auto fährt mit einer angepassten Geschwindigkeit (natürlich orientiert an der zulässigen Höchstgeschwindigkeit) auf dem effektivsten Weg (gesteuert über GPS, gekoppelt mit der aktuellen Verkehrslage) von A nach B. Tritt eine Gefahrensituation auf, dann entscheidet das Auto nach Effizienzkriterien – also dem geringst möglichen Schaden über die Reaktion.

Wo sind die ethischen Aspekte?

Ich habe mit Absicht meine Vision an den Anfang des Artikels gestellt. Wenn das autonome Auto erst einmal eingeführt und für den Straßenverkehr zugelassen ist, dann ist es nur eine Frage der Zeit, bis dem Gesetzgeber einfällt, dass nur noch dieses im Straßenverkehr genutzt werden darf. Dafür gibt es einen einfachen Grund: Der Fahrassistent macht nicht die Fehler menschlicher Fahrer. Dominiert dann das fehlerfreie autonome Auto, sind es nur noch Fußgänger und Radfahrer die Fehlerquellen im Straßenverkehr darstellen. Diese werden also juristisch gesehen generell die Verursacher von Unfällen sein, sieht man von technischem Versagen ab. Dem Effizienzkriterium des Fahrassistenten, welcher ja ethisch und juristisch programmiert sein wird, entspricht es dann eher, einen Fußgänger (schuldig) zu verletzen als den Insassen eines anderen autonomen Autos (schuldlos). Der Fahrassistent entscheidet dann vielleicht noch zwischen den verschiedenen Fußgängern und Radfahrern, die er verletzen könnte, aber damit hat es sich.

Wo hat die Fiktion Anhänger?

Wo ist die Anhängerschaft des autonomen Autos zu finden. Die Hardcore-Fans finden sich gehäuft in den Vorstandsetagen der DAX-Konzerne (für Deutschland). Wen wundert es, es geht schließlich letztendlich um die Erneuerung des gesamten Kfz-Bestandes. Die Politik handelt hier wieder als Interessenvertreter der Wirtschaft. Für Juristen ist die Einführung autonomer Autos ebenfalls ein Glücksfall. Nachdem das Rechtssystem die Digitalisierung des merkelschen Neulandes verpasst hat, wollen sie hier von vornherein dabei sein. Es geht um Gesetzesänderungen, Zulassungen für den Straßenverkehr, Haftungsfragen aber auch um die grundsätzliche Frage des Führerscheinrechts. Braucht der Mensch noch einen solchen, wenn nur noch das Ziel eingegeben werden muss? Da gibt es über viele Jahre viel Geld zu verdienen.

Brauchen wir autonome Autos?

Etwas scherzhaft haben es die Freunde von CriticalmassMuenchen mit dem nebenstehenden Tweet ausgedrückt. Aber ganz ernsthaft: Wir brauchen autonome Autos nicht als Massenware für den motorisierten Individualverkehr. Wir brauchen neue ÖPNV-Konzepte, Car-Sharing, Verbesserung der Infrastruktur für Radfahrer und Fußgänger und alles was den motorisierten Individualverkehr überflüssig macht – ganz ohne Feindschaft zu autofahrenden Mitmenschen.