Nach wie vor erkennen Algorithmen nicht jedes Bild. Trotzdem sind wir ihnen stärker ausgeliefert als früher. "Da man die Abläufe nicht mehr rückverfolgen kann, kann man sie besser austricksen", sagte Trappl. Verbrecher könnten schauen, dass Gesichtserkennungssysteme sie nicht sehen. T-Shirts mit skurrilen Mustern könnten autonome Autos anhalten. "Wir haben weniger Kontrolle."

Mechanische Dienstboten

Wann also werden Computer, Roboter, die Herrschaft über die Welt und letztlich über den Menschen übernehmen? "Warum sollte ein Roboter das tun? Er hat keine Motivation", fand Trappl, und machte einen Vergleich: "Das wäre, als würde der Computer aufbegehren und erklären, dass er keine Bilder mehr erkennen, sondern Sprachen und Namen lernen will. Doch dazu fehlt ihm doch die Neugier." Erst komplexe Persönlichkeitsmodelle könnten ein Programm neugierig machen. Es könnte dann feststellen, was es lernen sollte, um Zusatzerfolge zu erreichen. "Mit Persönlichkeitsmodellen stehen wir jedoch am Anfang", schränkte der Experte ein. Dabei stelle sich die Frage, ob man Bewusstsein schaffen kann oder nicht.

Ein komplexes Persönlichkeitsprogramm müsste Bedürfnis und Begehren entwickeln, die längerfristige Planung ermöglichen. "Heute kann man aber ziemlich sicher sein, dass im Computer nichts drinnen ist. Ein Roboter hat zwar ein internes Abbild der Umwelt, mit dem er erkennt, wo Objekte im Raum stehen, damit er sich bewegen kann. Aber er trifft keine Annahmen auf der Basis von Glaubsenssätzen, hat kein Begehren und bildet keine Absichten", sagte er. In diesem Sinne seien intelligente Maschinen weniger wie intelligente Menschen als wie immer schnellere, immer effizientere mechanische Dienstboten: "Sie sind wie Sklaven, ohne das schlechte Gewissen", so Trappl.