Im Daten-, Algorithmen- und Überwachungsdschungel

Mit dem Voranschreiten der Digitalisierung verstärken sich Sorgen über ihre Auswirkung auf Arbeitsplätze, Menschenrechte und unsere Zukunft als Gesellschaft. Ebenso evident wie der Nutzen von Innovation - in der Medizin, im Maschinenbau, bei der Bilderkennung oder bei Sprachübersetzungen - ist auch die Angst, dass Maschinen uns Menschen als Entscheidungsträger ersetzen werden. Künstliche Intelligenz stellt uns vor besondere Herausforderungen, da mittels maschinellen Lernens produzierte Ergebnisse inzwischen nur noch schwer reproduzierbar oder beweisbar sind. In den Anwendungsbereichen von KI, etwa bei Posten- und Kreditvergabe, Bildung oder Strafverfolgung, sind wir demnach mit blinden Flecken konfrontiert. Noch dazu sind diese Systeme oft voreingenommen, Tendenzen mit schwer abschätzbaren Folgewirkungen sind tief in ihrem Design verankert.

Was können wir tun? Manche warnen vor jeglicher Form der Regulierung mit dem Argument, Gesetze würden Innovation behindern. Kai-Fu Lee, ein führender chinesischer KI-Wissenschafter, ist etwa gegen die EU-Datenschutzbestimmungen, die der Entwicklung seiner umfangreichen Datenmodelle im Weg stehen. Auch Eric Schmidt, Ex-Chef von Google, lehnt Regeln für KI ab und will ihr die Entscheidungsfindung gänzlich überlassen. Doch viele sind nicht bereit, ihre Zukunft in die Hände von Maschinen und branchenführenden KI-Unternehmen zu legen. Auf der ganzen Welt haben Regierungen nationale KI-Strategien entwickelt. Diese machen die Priorität einer menschenzentrierten und vertrauenswürdigen KI deutlich. Internationale Organisationen wie OECD oder Unesco setzen sich für eine KI-Politik ein, die Fairness, Rechenschaftspflicht und Transparenz bei automatisierten Entscheidungen gewährleistet. EU und Europarat arbeiten an der ersten umfassenden Verordnung für KI und am ersten globalen KI-Vertrag.

Sowohl Gesetzgebung als auch internationale Verträge sind dringend erforderlich. Diese Initiativen wollen nicht Innovation behindern, sondern sicherstellen, dass Fortschritt an einem umfassenden Nutzen für die Gesellschaft gemessen wird. Nicht zuletzt sollen Gesetze auch vor realen Risiken schützen - wenn KI etwa unsere Stromnetze verwaltet, Personal einstellt, Zeitungsartikel schreibt und Wahlen organisiert. Die laufenden Tätigkeiten politischer Institutionen sind ein gutes Zeichen dafür, dass sich politische Entscheidungsträger der Herausforderung bewusst sind und daran arbeiten, die notwendigen Regeln für den Schutz der öffentlichen Sicherheit, unserer demokratischen Werte, der Grundrechte und der Rechtsstaatlichkeit zu schaffen.

Aber Technologie wartet auf niemanden. KI-Systeme schreiten mit alarmierender Geschwindigkeit voran. Im aktuellen "KI-Wettrüsten" setzen viele Behörden, Unternehmen und Forschungseinrichtungen KI-Technologien rasch ein und gehen davon aus, dass alles Neue zwangsläufig besser ist - auch wenn die Folgen nicht ausreichend bekannt sind. Wir befinden uns in einem Wettlauf, bei dem es darum geht, ob wir die KI kontrollieren oder die KI uns kontrolliert. In Filmen enden solche Geschichten selten gut für die Menschheit. Hoffen wir, dass wir in der realen Welt ein Ende wie im Film vermeiden können.

Marc Rotenberg nimmt gemeinsam mit dem Datenschutzaktivist Maximilian Schrems und Christiane Wendehorst, Professorin für Zivilrecht an der Universität Wien, an der internationalen Podiumsdiskussion "Algorithms. Data. Surveillance - Is There a Way Out?" (in englischer Sprache) am 5. Mai um 17.30 Uhr an der TU Wien (Kuppelsaal, 1040 Wien, Karlsplatz 13) teil. Es geht um den Umgang mit Datensicherheit, Überwachung und Privatsphäre, die Rolle von Politik und Rechtsprechung in der Technologieentwicklung sowie Chancen der Digitalisierung für Europa. Anmeldung, Info und Livestream: https://informatics.tuwien.ac.at/stories/2194