Europa. Im Film beginnt die Herrschaft der Maschinen oft mit einem Knall, mit Explosionen, Laserattacken und Überlebenskampf. Es spricht aber einiges dafür, dass die Machtübernahme friedlich erfolgen könnte. Bedrohungen, die von der IT ausgehen, erscheinen eher als zuvorkommende Services, die auf servile Weise unsere Bequemlichkeit bedienen und dabei unauffällig Gefühle, Einstellungen und Verhalten bestimmen. Das befürchten zumindest neun namhafte europäische Wissenschafter. In einem "Digital-Manifest" warnen sie vor dem schleichenden Kontrollverlust, der von ausgefeilten, auf den ersten Blick nützlichen Super-Algorithmen ausgeht.

Die Forschergruppe - acht Professoren und eine KI-Expertin - befürchtet nicht weniger, als dass am Ende des digitalen Vergleichs- und Empfehlungswesens die Automatisierung des menschlichen Verhaltens stehen könnte. Die Technik ist längst noch nicht perfekt, aber sie funktioniert bereits überraschend gut: "Heute wissen Algorithmen, was wir tun, was wir denken und wie wir uns fühlen - vielleicht sogar besser als unsere Freunde und unsere Familie, ja als wir selbst. Oft sind die unterbreiteten Vorschläge so passgenau, dass sich die resultierenden Entscheidungen wie unsere eigenen anfühlen, obwohl sie fremde Entscheidungen sind."

Die Fliege im Urinal

Die Entwicklung, so der Tenor des Manifests, führt von der Programmierung von Computern zur Programmierung von Menschen. Diese Entwicklung verläuft subtil, unmerklich. In der Sozialwissenschaft gibt es schlüssige Theorien darüber, wie gut Verhalten durch so genannte "Nudges" gesteuert werden kann: Am Ende tut man etwas aus freien Stücken, ohne dazu überredet oder gezwungen worden zu sein. Ein gerne zitiertes Beispiel dafür ist die Fliege im Urinal, die Männer dazu bringt, auf sie zu zielen - geringere Streuverluste sind die Folge.

Im Zeitalter von Big Data lässt sich mit "Big Nudging" das Verhalten von Millionen Menschen in großem Maßstab beeinflussen, indem Milliarden von Datensätzen in Bruchteilen von Sekunden intelligent kombiniert und zu plausiblen Handlungsempfehlungen umgemünzt werden. Facebook hat in einigen unerklärten Experimenten am lebenden User schon gezeigt, wie leicht sich User-Stimmungen beeinflussen lassen, wenn man nur gezielt negative oder positive Statusmeldungen ausspielt.

Jährliche Daten-Verdopplung

Und Datensätze gibt es wahrlich genug: Allein 2015 landen so viele Bytes in den weltweiten Datenspeichern, wie die Menschheit bis 2014 insgesamt zusammengetragen hat. Mit dem "Internet der Dinge" besiedeln bald Sensoren sonder Zahl mit Internetanschluss unsere private Umgebung und unseren Körper. Dann wird sich die Datenmenge alle zwölf Stunden verdoppeln. Und es gibt mittlerweile leistungsfähige Big-Data-Algorithmen, die sie lesen, verstehen und analysieren können.

Bisher unbekannte Formen hinterhältiger Gängelei werden damit machbar. In China zum Beispiel gibt das angedachte Konzept eines Citizen Score eine Vorstellung davon: Klicks im Internet, penibel registriert und ausgewertet, und Punkte für politisches Wohlverhalten führen zu einer Rankingskala, die für Jobs, Reisevisa und Kreditwürdigkeit entscheidend ist.

Polarisierung

In den westlichen Ländern führt der unübersehbare Trend zu personalisierten Angeboten zu einer prinzipiellen Ungleichbehandlung. Er "bewirkt eine gesellschaftliche Polarisierung, also die Entstehung separater Gruppen, die sich gegenseitig nicht mehr verstehen und vermehrt miteinander in Konflikt geraten".

Die Fernsteuerung menschlichen Verhaltens, so die Conclusio im Digital-Manifest, läuft letztlich auf digitale Sklaverei hinaus und führt uns in einen Datenkerker, der uns unsichtbar festsetzt. Die Freiheit verschwindet "langsam, aber sicher". Dem entkommt man nur, folgern die Forscher geschlossen, wenn man Sozio-Diversität mindestens so wichtig nimmt wie Bio-Diversität. Sie verlangen eine breit vorgetragene, legistisch abgesicherte "digitale Aufklärung".

Ganz oben auf der Forderungsliste des Digital-Manifests stehen eine Stärkung der informationellen Selbstbestimmung, die Zentralisierung von Informationssystemen, die Vermeidung von Informations-Verschmutzung und eine weitgehende Transparenz.