"Wie bei den Alchemisten"

Vielmehr gab es zum Weiterforschen zunächst kein Geld. In die Grundlagen der Artificial Intelligence wollte die US-Regierung keineswegs so viel investieren wie in den Bau der Atombombe.

"Niemand stieg ein. An einzelnen Unis wurde zwar gearbeitet, aber nicht eben mit den besten Computern. Die KI bestand aus Symbolverarbeitung", erzählte der Pionier: "Aufmerksam wurden die Leute erst wieder, als 1996 Schach-Weltmeister Garri Kasparow gegen den Schach-Computer Deep Blue verlor. Das überraschte aber niemand. Man wusste, dass man alle 1,5 Jahre 1,5 Züge weiter vorherberechnen kann."

Die Verarbeitung von mathematischen Symbolen hatte außerdem einen großen Vorteil. Man konnte nämlich überprüfen, wie das Programm zu seinem Ergebnis kam. Heute wissen die Programmierer zwar prinzipiell, wie ein Ergebnis entstanden ist, aber sie wissen es nicht genau. Die Rückverfolgung, welche Schlüsse der Rechner auf der Basis welcher Prämissen gezogen hat, fällt weg, der Algorithmus ist zur Blackbox geworden. "Das ist eines der großen Probleme", merkte Trappl an, insbesondere zumal Computer in der medizinischen Diagnostik zum Einsatz kommen und man sie sogar bei psychologischen Tests heranziehen will, etwa um die Rückfälligkeitswahrscheinlichkeit von Straftätern abzuschätzen. Wer trägt dabei die Verantwortung, und wer hat falsch entschieden?

"Früher waren die Programme überschaubar. Sie konnten zwar nicht viel, aber sie konnten es nachvollziehbar verlässlich. Bei einer Million Pseudo-Neuronen - jede Ähnlichkeit mit lebenden Nervenzellen ist zufällig und unbeabsichtigt - kann niemand die Arbeitsschritte nachvollziehen", erklärte der Wissenschafter. Mitunter seien die Auswüchse skurril. Etwa hätte ein Programm in einer Studie ausschließlich Pferde mit 100-prozentiger Zuverlässigkeit erkannt, weil der Fotograf der Tiere sein Logo in für das freie Auge unsichtbarer Größe angebracht hatte.

"Explainable AI" heißt der nächste Schritt: die Nachvollziehbarkeit der Lösung. Allerdings sei dieses Öffnen der Black Box derzeit "eine etwas skurrile Bastelei. Auf der Suche nach der optimalen Lösung geht man zwischen Versuch und Irrtum wie bei den Alchemisten vor."

"Haben weniger Kontrolle"

Das Computerprogramm Watson wurde von IBM entwickelt, um Antworten auf Fragen zu geben, die in digitaler Form in natürlicher Sprache eingegeben werden. Das darunterliegende System des Deep Learning hat den bislang höchsten Grad an Genauigkeit erreicht. Die Algorithmen können die menschliche Leistung beim Klassifizieren von Bildern übertreffen und den weltbesten Spieler in dem komplexen Brettspiel "Go" schlagen. Alle drei Forscher, die an der bahnbrechenden Arbeit beteiligt sind, arbeiten übrigens für den Google-Konzern, der bei der Finanzierung dieser Innovationen weitaus mehr Geld in die Hand nimmt als Österreich oder Europa.