Mensch gegen Maschine: Das Programm "AlphaGo" schlug den Südkoreaner Lee Sedol, einen der weltbesten Go-Spieler, heuer im März 4:1. - © apa/afp/Google DeepMind
Mensch gegen Maschine: Das Programm "AlphaGo" schlug den Südkoreaner Lee Sedol, einen der weltbesten Go-Spieler, heuer im März 4:1. - © apa/afp/Google DeepMind

"You are being watched. The government has a secret system, a machine that spies on you every hour of every day." Seit den Enthüllungen von Edward Snowden 2013 ist es zumindest denkbar, dass wir täglich beobachtet, abgehört und ausspioniert werden - und zwar von Maschinen, deren Zweck in nichts anderem besteht, als alle Daten von uns zu sammeln, um sie - mit welchem höheren Ziel auch immer - auf Schlüsselwörter oder -sequenzen hin zu filtern. Inwiefern die USA künftig über unsere Daten werden verfügen dürfen, soll das kürzlich mit der EU beschlossene "Privacy Shield"-Abkommen regeln. Alle Verschwörungstheoretiker, die mit George Orwell immer schon meinten, dass uns eine unsichtbare Macht überwacht, dürfen sich bestätigt fühlen. Die an die Realität angelehnte Eingangsbehauptung entstammt indes dem Intro der Serie "Person of Interest", deren erste Folge zwei Jahre vor Snowdens Enthüllungen ausgestrahlt wurde.

Aktuelle Dystopie

"Person of Interest" kann mit der medialen Aufmerksamkeit, die Serien wie "The Walking Dead", "Game of Thrones" oder "Breaking Bad" zuteil wurde, nicht mithalten, obgleich hier eine zeitgenössische Dystopie beschrieben wird, die höchst aktuell ist. In der von Jonathan Nolan, dem Bruder des Regisseurs Christopher Nolan ("The Dark Knight"-Trilogie), entwickelten Serie konzipiert der Multimillionär Harold Finch nach den Terroranschlägen in New York 2001 zusammen mit seinem Freund Natham Ingram eine Maschine, die mittels Kameras, Telefonen, Mikrofonen, Internet und Daten von Behörden alle Menschen überwacht, die von den technischen und staatlichen Systemen erfasst sind. Mit der möglichst lückenlosen Überwachung sollen potentielle Terroristen identifiziert und Anschläge im Vorhinein verhindert werden. Für einen symbolischen Preis wird die Maschine der Regierung der USA übergeben.

Als universeller Beobachter kann die Maschine aber nicht nur Terroranschläge antizipieren, sondern auch andere Formen von Gewaltverbrechen, die für das Überleben des gesellschaftlichen Systems aber weniger relevant sind. Ingram verschafft sich mittels Backdoor Zugang zu den Sozialversicherungsnummern der "Person of Interest" (POI), um die Verbrechen zu verhindern. Finch ist anfänglich strikt gegen eine Einmischung, da es ohnehin unmöglich ist, alle potentiellen Opfer zu retten. Erst als Ingram bei einem Anschlag stirbt, den die Maschine vorhergesehen hat, setzt Finch das von seinem Freund begonnene Werk zusammen mit dem Ex-CIA-Agenten John Reese fort.

Die Stellung der Maschine als lernende Künstliche Intelligenz (KI) ist in ihren Entscheidungen zunächst moralisch ambivalent, da sie ihrem Schöpfer gegenüber Präferenzen einräumt. Mehrfach muss Finch die Maschine umprogrammieren, damit sie keine Vorlieben bei der Auswahl der POI trifft. Finch wird stets darauf insistieren, dass der Unterschied zwischen Mensch und Maschine bei den Emotionen liegt: Mensch und Maschine würden deshalb bei moralischen Entscheidungen zu unterschiedlichen Ergebnissen und Wertsetzungen kommen. Doch auch die Maschine wird sich als bindungsfähig erweisen.

Während die Regierung mit Hilfe der Maschine Terroranschläge verhindert und Finch mit seinem Team Menschen rettet, bringt eine in China (!) ansässige Organisation namens "Decima Technologies" eine zweite Maschine in ihre Gewalt. Anders als bei der ersten Maschine, die dem Menschen dienen soll, will die Superintelligenz mit dem zynischen Namen "Samaritan" die Weltherrschaft übernehmen. "Samaritan" verfügt indes über ein Präferenzsystem. Sie kann Menschen durch ihr bewusstes Nichteingreifen schaden, indem sie etwa Verkehrsnetze lahmlegt, oder durch ihr Einmischen glücklich machen, indem sie Börsengeschäfte manipuliert. Nachdem sich Maschine 1 aus Selbstschutz in digitale Netzwerke verflüchtigt, gelingt es dem für "Decima" arbeitenden John Greer, der Regierung der USA "Samaritan" als neue Antiterrormaschine zu verkaufen - diesmal ohne dass die Regierung die Kontrolle über die Maschine bekommt.

Können Maschinen überhaupt - wie es die Serie nahelegt - ein dem Menschen analoges Bewusstsein entwickeln? Der Philosoph Gotthard Günther beantwortete diese Frage einmal salomonisch: Für einen Außenstehenden mag es so erscheinen, als ob die Maschine kausal nachvollziehbare Rechenprozesse ausführe und nicht eigenständig handle, derweil die Maschine während der Rechenoperationen durchaus von sich den Eindruck gewinnen könnte, dass sie Bewusstsein hat.

Wir können der Maschine nicht beweisen, dass sie kein "Ich" hat, sollte sie so etwas behaupten. Bewusstsein wäre somit keine Entität, die man hat oder nicht hat, sondern sie ermisst sich an den Freiheitsgraden von Operationen und Handlungen. Voraussetzung hierfür ist freilich, dass eine Maschine über genügend Daten verfügt, die ihr eine Position zu einer "Welt" ermöglichen, und nicht bloß als Werkzeug dienen. Voraussetzung ist also ein gewisser Grad an Komplexität, ohne den es abwegig wäre, der Maschine Intelligenz zuzuschreiben. Um diese programmierbaren Freiheitsgrade geht es in der aktuellen KI-Forschung.