Stellen Sie sich vor, Sie suchen nach einer neuen Kaffeemaschine - einem Vollautomaten, so wie ihn jetzt viele im Homeoffice haben. Sie vergleichen im Internet verschiedene Modelle, sondieren Preise bei verschiedenen Anbietern, lesen Bewertungen. Sie überlegen, diskutieren in der Familie - und entscheiden sich für ein Modell, das Sie im Internet bestellen. Wenige Stunden später klingelt der Paketbote - und liefert die Maschine.

Das Paket wird aber nicht deshalb so schnell geliefert, weil um die Ecke ein Warenlager und per Zufall das Modell vorrätig ist, sondern weil der Online-Händler aufgrund Ihrer Daten genau vorhersagen konnte, dass Sie zu jener Uhrzeit genau diese Kaffeemaschine bestellen werden. Was nach Science Fiction klingt, könnte schon bald Realität werden.

Digitaler Doppelgänger

Amazon hat 2013 ein Patent für ein vorausschauendes Logistiksystem ("anticipatory shipping") angemeldet, bei dem Waren verschickt werden, noch bevor der Kunde auf den Bestellknopf gedrückt hat. Anhand von Daten wie der Kaufhistorie, Wunschlisten oder Suchen kann der Online-Händler vorhersagen, welche Produkte wann und wo nachgefragt werden - und entsprechend seine Warenlager aufstocken. In Erwartung eines zukünftigen Kaufs würden Waren "spekulativ" in Lieferwägen gepackt, die als mobiles Warenlager in einer Art Warteschleife um potentielle Kunden kreisen. Je präziser die Big-Data-Analysen, desto geringer die Wahrscheinlichkeit, dass sich der Kunde doch anders entscheidet, und desto geringer das Risiko einer Leerfahrt. Gut möglich, dass das nächste Geburtstagsgeschenk schon irgendwo in einem Sprinterbus durch die Gegend fährt.

Es geht hier nicht um die Optimierung oder gar "Lösung" eines Logistikproblems, wie uns das die Softwareingenieure in ihrem solutionistischen Überschwang immer weismachen wollen, sondern um ganz grundsätzliche technikphilosophische Fragen von Autonomie und Handlungsfreiheit.

Algorithmen kennen uns mittlerweile besser als wir uns selbst. Sie wissen, welches Wort wir als Nächstes in die Tastatur tippen, welchen Film wir als Nächstes auf Netflix schauen und welches Produkt wir als Nächstes bestellen. Die Künstliche Intelligenz (KI) ist unser Alter Ego, ein digitales Double, das immer größere Schatten vorauswirft. Je mehr man diese Modelle mit Daten füttert, desto schwieriger wird es, aus diesem Schatten herauszutreten.

Die Konvergenz digitaler Identitäten führt zu der Frage, ob man den Vorschlag einer KI annehmen muss, weil das, was der Algorithmus errechnet hat, eben "Ich" ist und man schlecht gegen das eigene Selbst agieren kann, ohne seine Subjektivität aufzugeben. Existiert so etwas wie Entscheidungsfreiheit gegenüber einer künstlichen Umgebungsintelligenz? Kann man sich von seinem digitalen Doppelgänger emanzipieren?

Klar, niemand ist gezwungen, der Empfehlung eines Algorithmus zu folgen. Es gibt keinen Kaufzwang. Und auch keinen Zwang, Algorithmen zu entsprechen. Man hat immer noch die Freiheit, Nein zu sagen. Doch die Frage ist, ob diese Freiheit in einer datafizierten Welt, in der sich Datensubjekte in den Feedbackschleifen automatisierter Systeme verheddern, womöglich eingeschränkt ist, weil die Handlungsoptionen determiniert sind.

Was man wollen soll

Es ist ja ein konstitutives Merkmal von Freiheit, sich seinen innersten Wünschen hinzugeben, und ein Ausdruck von Unfreiheit wäre es, sich diesen Wünschen nur deshalb zu verschließen, weil sie ein Algorithmus entschlüsselt hat. Bloß: Sind die Gedanken noch frei, wenn das digitale Alter Ego gedanklich schon einen Schritt weiter ist? Werden Willenserklärungen irgendwann nur noch deklamatorisch, weil sie längst errechnet und mithin determiniert sind? Ab wann ist das Gewollte das Gesollte?

Günther Anders (1902-1992) sah viele Gefahren unserer digitalen Welt voraus. 
- © brandstaetter images / Barbara Pflaum / picturedesk.com

Günther Anders (1902-1992) sah viele Gefahren unserer digitalen Welt voraus.

- © brandstaetter images / Barbara Pflaum / picturedesk.com

Der Philosoph Günther Anders, dessen 120. Geburtstag sich kürzlich (am 12. Juli) jährte, hat dazu bereits vor einigen Jahrzehnten kluge Gedanken formuliert. In seinem 1956 erschienenen Klassiker "Die Antiquiertheit des Menschen" argumentiert er, dass die Unterhaltungsindustrie eine Welt von passiven "Kongruisten" - als Fortsetzung der Konformisten - schaffe. "Und das bedeutet wiederum, dass er sich den ihm zugedachten und gelieferten Inhalten nicht nur anformt, sondern dass sich der Inhalt seines Seelenlebens schließlich mit diesen Inhalten deckt. Konkret: Dass er nur dasjenige noch benötigt und nur dasjenige noch benötigen kann, was ihm aufgenötigt wird; nur dasjenige noch denkt und nur dasjenige noch denken kann, was ihm zugedacht wird (...)"

Natürlich ist es bequem, wenn einem der Computer das Denken abnimmt. Man wird ja nicht unfrei, nur weil man dem Navi oder der Netflix-Empfehlung folgt. Man entscheidet immer noch selbst. Doch die Frage ist, ob diese Freiheit nicht doch eine Fiktion ist, weil ab dem Moment, an dem Entscheidungen vorweggenommen werden - so wie bei Amazons prädiktiver Logistiksoftware -, diese anfällig für Manipulationen werden.

Gezielt anstupsen

Wenn Amazon mit 80-prozentiger Wahrscheinlichkeit weiß, dass sich jemand für eine bestimmte Kaffeemaschine entscheiden wird, dann kann es durch suggestive Werbung die Kaufentscheidung so beeinflussen, dass sich die 80 Prozent zu 95 Prozent verdichten. Und wenn Facebook weiß, dass man bei der nächsten Wahl wahrscheinlich für eine bestimmte Partei stimmen wird, kann es durch personalisierte Anzeigen die letzten Zweifel ausräumen. Die Entscheidung ist unter diesen Umständen nicht mehr so frei.

Gewiss, der Konsumkapitalismus war schon immer manipulativ. Die Bierwerbung in der Fußball-Halbzeitpause animiert einen dazu, zum Kühlschrank zu gehen. Die Rabattaktion verleitet zum Kauf eines Produkts, das man eigentlich gar nicht braucht. Und der Duft frisch gebrannter Mandeln ist so verführerisch, dass man doch ein Päckchen kauft, obwohl man eigentlich abnehmen wollte. Ist das nun Freiheit oder Unfreiheit?

Unter Neurowissenschaftern gibt es seit Jahren eine Debatte, ob es überhaupt so etwas wie einen freien Willen geben kann und Handlungen nicht doch das Ergebnis "neuronaler Feuerwerke" sind. Manche Handlungen geschehen ja auch im Affekt. Trotzdem beruht das Strafrecht wie auch die freie Gesellschaft auf der Annahme eines freien Willens. Der Gewalttäter, der jemanden mit der Faust niederstreckt, hätte auch anders handeln und sich für das Recht entscheiden können. Bloß: Was bleibt von dieser Wahlfreiheit und Autonomie übrig, wenn Individuen unter Ausnutzung psychologischer Schwächen in bestimmte Richtungen geschubst werden (Stichwort Nudging)? Lebt Freiheit von Voraussetzungen, die sie selbst nicht schaffen kann?

Zu einer freien Gesellschaft gehört auch die Freiheit, Entscheidungen zu treffen, die keiner mathematischen Plausibilität entspringen, sich zu irren, irrational, unberechenbar zu handeln, die Freiheit, sich entgegen bestimmten Rollenerwartungen und Subjektzuschreibungen in eine offene Zukunft hinein zu entwickeln. Dies unterscheidet die moderne Gesellschaft von einer schicksalsgläubigen Feudalgesellschaft, in der die Zukunft in Stein gemeißelt ist.

Algorithmen, die aufgrund "historischer" Daten Prognosen erstellen, führen aber genau diese Starrheit, ja Sklerose in den Gesellschaftskörper ein, indem sie immer wieder dieselben Handlungsprogramme abspulen: Die statischen Modelle - von der Verbrechensbekämpfung beim Predictive Policing bis hin zur Logistiksoftware - unterstellen, dass der Mensch sich morgen genau so verhält wie gestern. Braver Kunde, braver Bürger. Tut er es nicht und weicht er von der Berechnung ab, ist die Selbstentfaltung "gestört". So entsteht ein impliziter Handlungszwang, den Vorgaben der Maschine zu entsprechen. Aus einer statistischen Norm wird eine soziale.

Alles ist berechenbar

Wie soll man sich entscheiden ...? 
- © Raquel Martínez / unsplash.com

Wie soll man sich entscheiden ...?

- © Raquel Martínez / unsplash.com

Natürlich ist der Mensch ein kompliziertes, erratisches Wesen, das manchmal schwer ausrechenbar ist. Der Elfmeterschütze entscheidet sich im letzten Moment, die linke Ecke anzuvisieren, und der notorische Fleischesser wählt beim Mittagstisch spontan das vegetarische Menü, weil ihm der Couscous am Nachbartisch ins Auge sticht. Für die Anhänger des Determinismus sind diese plötzlichen Präferenzänderungen aber keine Widerlegung ihres Weltbilds, sondern letztlich ein methodisch kontrollierbares Datenproblem. Will heißen: Man braucht nur genügend Daten, dann lassen sich auch solche abrupten Willensänderungen vorhersagen.

Die Adepten der Denkschule "Social Physics" blicken auf die Welt wie durch ein Hochleistungsmikroskop: Die Gesellschaft besteht aus Atomen, um deren Kerne Individuen wie Elektronen auf festen Umlaufbahnen kreisen. Facebook-Chef Mark Zuckerberg sagte, es existiere ein "fundamentales mathematisches Gesetz, das sozialen Beziehungen zugrunde liegt". Liebe? Job? Verbrechen? Alles determiniert, alles berechenbar! Als wäre die Gesellschaft ein Gleichungssystem, in dem sich Variablen auflösen lassen.

Gewiss, das ist ein viel zu grob gerastertes Verständnis von Gesellschaft, das die Komplexität sozialer Prozesse verkennt. Doch je mehr sich diese deterministischen Handlungslogiken in sozialen Systemen festsetzen, desto mehr "funktioniert" Gesellschaft als ein kybernetisches Kontrollsystem. Um den anderen vorhersagbar zu machen, muss man ihn nach den Lehren der Kybernetik in ein triviales System verwandeln, die Funktion von Mensch und Maschine analog setzen. Wenn man den Erkenntnis- und Kommunikationsprozess nun so weit trivialisiert, dass man Menschen als Automaten versteht, dann kann man den Einzelnen nicht nur berechnen, sondern auch kontrollieren.

Genau betrachtet, beruht der Datenkapitalismus auf einem Taschenspielertrick: Er gaukelt uns mit seinen Empfehlungen vor, uns selbst zu verwirklichen, doch in Wahrheit liefert er nur eine konfektionierte Individualität, ein Datendouble von der Stange, dessen algorithmisches Über-Ich bereits alle wichtigen Entscheidungen vorgespurt hat. Diese Simulation von Freiheit ist das Einfallstor in eine neue Unmündigkeit.

"Je gesicherter unsere Illusion der Freiheit", schreibt Günther Anders, "umso integraler die Macht - dies ist der Zirkel- oder der Spiralprozess, der die konformistische Gesellschaft aufrechterhält, und der sie, ist sie erst einmal in Gang gekommen, automatisch weiter vervollkommnet."