Jede neue Technologie wirft neue Fragen auf. Die erste Eisenbahn fuhr knapp 30 km/h schnell, und Mediziner rätselten, ob solche Belastungen bei Menschen zu Gesundheitsschäden führen könnten. Als in den 1970ern Roboter ihren Siegeszug in der Industrie antraten, fragten Experten, was die ganzen Arbeiter in Zukunft tun würden. Wenn Sie bei nächster Gelegenheit Ihre Versicherung oder Ihren Online-Händler kontaktieren, überlegen sie kurz, wer da antwortet: ein Service-Mitarbeiter oder ein Chatbot? In ein paar Jahren gilt das Gleiche auch für die Entscheidung über den Kreditantrag, den Sie ausfüllen. Oder für die Zusage zum Job, den Sie haben wollen.

Das sind die technologischen Fragen unserer Zeit: Wer (oder was) entscheidet? Und auf welcher Basis? Gedankenspiele, die bisher keine Rolle spielten: Es gab schlicht keine Alternative zum menschlichen Entscheider. Aber Systeme arbeiten autonomer. Die Zahl der Szenarien, bei denen sie gar keinen menschlichen Experten mehr hinzuziehen, wächst. Immer häufiger stehen Menschen Automatismen gegenüber. Das mag noch keine große Rolle spielen, wenn es um die Auswahl des Werbebanners geht, das mir eine Suchmaschine anzeigt. Anders sieht es aus, wenn irgendwann das KI-System meiner Krankenkasse autonom einen Reha-Plan für mich entwirft. Dann will ich schon wissen, warum es welche Maßnahme auf die Agenda setzt. Die Antwort "Das hat unsere KI so entschieden" wird nur wenigen reichen.

Wenn Menschen den Eindruck haben, Maschinen in einem kafkaesken Szenario ausgeliefert zu sein, sind sie kaum offen für die positiven Aspekte von KI. Denn: Mit Algorithmen lässt sich schlecht diskutieren. Für die Akzeptanz von KI-Anwendungen ist Transparenz entscheidend. Diese Transparenz fängt schon vorne beim Design von KI-Lösungen an. Die vorhandenen Daten sind das Fundament, auf dem die Lösungen aufbauen. Wissen Anwender, welche Daten über sie gesammelt werden? Haben sie die Hoheit darüber, was Unternehmen erfassen dürfen und was sie löschen müssen? Wie ist die rechtliche Situation der Datennutzung? Welche Annahmen oder Vorurteile stecken in den Daten?
All diese Aspekte müssen die Verantwortlichen berücksichtigen, wenn Sie auf KI-Anwendungen setzen wollen.

Unternehmen werden, je nach Anwendungsgebiet, unterschiedliche Technologien und Prozesse einsetzen. Bei einem System zur Prognose von Ausfallwahrscheinlichkeiten einer Maschine ist es den Anwendern im Zweifel egal, wie das System seine Vorhersagen trifft - und wie groß der Grad der Autonomie ist. Hauptsache, das Ergebnis stimmt. Beim vorhin genannten Reha-Beispiel dagegen sollten Versicherungen ausschließlich Technologien zum Einsatz bringen, deren Ergebnisfindung die Beteiligten nachvollziehen können. Und ein menschlicher Ansprechpartner muss greifbar sein, der diese erklärt, vermittelt und einordnet.

Nicht nur wir Software-Experten, sondern alle müssen sich Gedanken darüber machen, was gute KI-Anwendungen eigentlich sind. Denn bei einigen Prozessen kommt es nicht auf ihre Vollkommenheit an - sondern auf ihre Menschlichkeit.