Maschinen mit Seele?

2014 hat Google das 2010 gegründete Start-up DeepMind übernommen, das sich zum Ziel setzte, Intelligenz zu verstehen. AlphaGo, ein von DeepMind entwickeltes Programm, schlug 2015 den mehrfachen Europameister Fan Hui im Go. 2016 trat AlphaGo gegen den Südkoreaner Lee Sedol an und gewann 4:1. Das grundsätzlich Neue an den jüngeren Maschinen ist der Umstand, dass sie lernen können, selbst zu lernen - auch wenn, wie in diesem Beispiel, der Aktionsradius einer Maschine bloß auf ein Spiel beschränkt bleibt.

Somit müssen Maschinen nicht mehr sämtliche Daten einprogrammiert werden, um eine Operation auszuführen, sondern "nur" noch das Prinzip, wie bestimmte Daten zu verarbeiten sind. Freilich ist es immer noch nicht einfach, einer Maschine beizubringen, wichtige von unwichtigen Daten zu unterscheiden, wie ein Verkehrsunfall in den USA mit einem teilautomatisierten Auto der Reihe Tesla Model S gezeigt hat.

Elon Musk, der Gründer von Tesla, zeigt sich ebenso besorgt wie auch Stephen Hawking, dass Maschinen eines Tages mehr Kon-trolle übernehmen könnten, als uns lieb ist - was eine Frage des Aktionsradius der Maschine und der ihr zur Verfügung stehenden Datenmenge sein wird. Musk wie auch Hawking gehören dem Advisory Board des von Jaan Tallin, einem Skype-Mitbegründer, ins Leben gerufenen Future of Life-Instituts an, das über Vorteile und Risiken technologischer Entwicklungen forscht. In eine ganz ähnliche Richtung gehen auch die Überlegungen des Future of Humanity Institute, das an der Universität Oxford angesiedelt ist. Wie können wir fortschrittliche künstliche Intelligenz ohne unerwünschte Nebeneffekte erschaffen?

Günther hielt es logisch für unmöglich, dass eine Maschine über das Bewusstsein hinaus ein der "Seele" vergleichbares Selbstbewusstsein erlangt, da es für die Maschine keinen transzendenten Zustand zu 0 und 1 gibt. Zwar gibt es statistisch zwischen 0 und 1 unendlich viele Zwischenzustände, die sich als Bewusstseinsinhalte beschreiben lassen, über die dem Bewusstsein analoge Disjunktion von 0 und 1 käme eine Maschine aber nicht hinaus.

Dieser Mangel des Selbstbewusstseins kann der Maschine nicht bewusst werden, da dies wiederum Selbstbewusstsein voraussetzte. Um diesen Mangel auszugleichen, könnte die Maschine Netzwerkstrukturen mit Menschen eingehen, die für die fehlende Selbstreflexion sorgten. Die Frage wird also sein: Wird der Mensch sich dessen bewusst sein, inwiefern er seine Freiheit an die Maschine bindet? Dass man hier nicht allzu optimistisch sein darf, zeigen die bereits vorhandenen Mensch-Maschine-Netzwerke, bei denen der Mensch Fähigkeiten zur Orientierung, des Rechnens und des Archivierens an die Maschine delegiert hat, ohne dass dadurch wesentliche Freiheitsgrade entstanden wären. Im Gegenteil: Die Maschine überwacht - wie etwa bei "Pokémon Go" -, wie viel der Spieler sich zu Fuß bewegt, um ihn dann mit einem ausgebrüteten Pokémon-Ei zu belohnen.

Die neuen Götter

Das sukzessive Abtauchen in die Unmündigkeit ist die Folge des freiwilligen Delegierens eigenen Handelns an maschinelle Prozesse. Die Frage, was durch dieses Delegieren gewonnen wurde, ist offen. Je mehr also der Mensch sich selbst und damit seine Denkprozesse als maschinell begreift, umso enger wird auch die Analogie von Mensch und Maschine werden. Somit wäre es auch möglich, dass eine Maschine moralische Probleme löst, wenn diese sich durch berechenbare Wahrscheinlichkeiten beschreiben lassen. Dies setzt jedoch grundsätzlich voraus, dass die Maschine auch in der Lage wäre, kulturspezifische Unterschiede zu erkennen, um sie in ihren moralischen Bewertungen berücksichtigen zu können.

In der TV-Serie "Person of Interest" (bei uns seit 2013 beim Sender ATV zu sehen) wird gegen Ende von den Maschinen gesprochen, als seien sie neue Götter. In einer Schlüsselszene der vierten Staffel unterhalten sich die zwei Maschinen mittels ihrer menschlichen Avatare miteinander: Auf der einen Seite wird die Maschine 1 vertreten von einer Frau, auf der anderen Seite wird "Samaritan" repräsentiert durch ein - Kind. Dieser dramaturgische Schachzug erinnert an das Motiv des Kindes, das vom Teufel besessen ist, der sich selbst göttlichen Status zuschreibt. Doch dieser Status der Maschine bleibt uneindeutig, da sie die Lücke der Transzendenz, die der vielbeschworene "Tod Gottes" hinterließ, nicht füllen kann.

Wenn der Mensch jedoch auf einen jenseitigen Ereignishorizont endgültig verzichtet, könnte dies zu einem zumindest virtuellen Ersatz klassischer Metaphysik durch Digitalisierung führen, der über den Konsumpragmatismus von Pokémon-Go-Anhängern hinauswiese. Dafür müsste der Mensch aber wohl auch auf die klassische Vorstellung eines autonomen Ichs verzichten. Zu welchen Spekulationen diese Frage in "Person of Interest" führt, hat die jüngst in den USA (bei CBS) ausgestrahlte, abschließende fünfte Staffel der Serie offenbart: Der Kampf Maschine gegen Maschine ist für die Menschen nur zu gewinnen, wenn diese - werden sie nun als Götter betrachtet oder nicht - geopfert werden.