Welche Bedeutung kommt ProgrammierInnen in Zukunft zu?

Die Negierung der Moralfähigkeit von Maschinen hat zur Folge, dass die ethische Verantwortung für Tun und Lassen von Maschinen bei den Menschen bleibt und nicht an Maschinen delegiert werden kann. Dies wirkt sich u. a. auch auf die Bedeutung der ProgrammierInnen und der EntscheidungsträgerInnen in den entsprechenden Wertschöpfungsketten aus. Gleichzeitig ist darauf hinzuweisen, dass im Bereich der Programmierung heute bereits äusserst komplexe Herausforderungen von KI gelöst werden. Dies ist durchaus als Kritik an der einseitigen bildungspolitischen Schwerpunktsetzung auf IT zu verstehen.

Wie kann sichergestellt werden, dass es einen allgemein gültigen Katalog an ethischem Verhalten bei Künstlicher Intelligenz gibt?

Es braucht internationale, rechtlich definierte Regeln und Rahmenbedingungen und dazu korrespondierende Durchsetzungsmechanismen, um sicherzustellen, dass mit oder durch KI die Menschenwürde aller Menschen geachtet und zur Umwelt Sorge getragen wird.

Ist es nicht einfacher, Künstlicher Intelligenz einen ethischen Rahmen beizubringen, an dem entlang Entscheidungen getroffen werden?

Natürlich ist es sinnvoll, KI ethische und rechtliche Prinzipien und Regeln anzutrainieren. Bei KI – insbesondere bei "Super-Intelligenz" – gilt es aber die Möglichkeit mitzubedenken, dass sie sich von ihr vom Menschen vorgegebenen normativen Prinzipien und Regeln loslösen könnte. Des Weiteren kann diese Verselbstständigung auch Formen annehmen, bei der die ursprünglichen Gründe und Zwecke für die Entwicklung der Maschinen nicht mehr ersichtlich sein könnten. Schliesslich könnte die Vernetzung von selbstlernenden Systemen und von "Super-Intelligenz" eine Verwässerung der normativen Prinzipien und Regeln bewirken. So könnte z. B. ein automatisiertes Waffensystem, das "Feinde" zu töten hat, ein selbstfahrendes Fahrzeug auf die Idee bringen, die Menschenwürde aller Menschen nicht mehr zu respektieren und einen Menschen zu überfahren, um seine Zweckerfüllung – möglichst schnell einen Fahrgast von A nach B zu transportieren – zu optimieren.

Verschmelzen Mensch und Maschine?

Das Risiko scheint angesichts des technologischen Fortschritts und der zunehmenden Intensität der Interaktion zwischen Menschen und Maschinen zu bestehen, sodass dagegen gezielt etwas unternommen werden muss – u. a. wegen der hohen Missbrauchsgefahr einer solchen Verschmelzung (z. B. zur Manipulation von Menschen, zur Freiheitsberaubung an Menschen, ...). Einen Vorgeschmack davon bietet die wachsende Abhängigkeit der Menschen von Maschinen, im Zuge derer die Menschen dank der Maschinen viele Vorteile geniessen, gleichzeitig aber immer mehr den Maschinen ausgeliefert sind und unbewusst oder bewusst (aber ohne reale diesbezügliche Wahlmöglichkeit) kostenlos Daten an die Maschinen abgeben. Dabei werden insbesondere das Recht auf Privatsphäre und der Datenschutz verletzt und so die Freiheit der Menschen angegriffen.