Gesichtserkennungstechnologien sind weltweit auf dem Vormarsch und bergen enorme gesellschaftliche Risiken. Umso dringlicher ist wirksame Regulierung. Die Fehleranfälligkeit der Technologie ist dabei nur Teil einer komplexen Problematik. Bei einem Sportevent in Wales 2017 identifizierte "smarte" Videoüberwachung zum Beispiel per Abgleich mit Polizeidaten über 2000 Menschen als vermeintlich aktenkundig. Fehlerrate: 92 Prozent.

Aber die Systeme werden laufend verbessert. Mit welchen Mitteln, zeigt unter anderem der Skandal um die Firma Clearview AI, die mit einigen Milliarden Fotos aus dem Web ihre Überwachungstechnologie optimierte. Ungeschützte Selfies im Netz sind perfekte Bedingungen. Die perfekten Bedingungen rechtfertigen aber keinesfalls derart unethische Praktiken.

Eine Überwachungskamera in der Moskauer U-Bahn. Viele dieser Kameras sind mit automatsierter Gesichtserkennung ausgestattet. - © APAweb / AFP / Kirill Kudryavtsev
Eine Überwachungskamera in der Moskauer U-Bahn. Viele dieser Kameras sind mit automatsierter Gesichtserkennung ausgestattet. - © APAweb / AFP / Kirill Kudryavtsev

Dass auch Behörden weltweit die Technologien zusehends nutzen, verschärft ein Grundproblem der Digitalisierung noch weiter: die wachsende, unkontrollierte Identifizierbarkeit von Individuen und die Erosion der Privatsphäre.

Ein Ausbau dieser Technologien auf öffentliche Bereiche hat massive negative Folgen auf zentrale grundrechtliche Prinzipien: Eingriffe in die Privatsphäre sind nur unter bestimmten Voraussetzungen erlaubt. Im Regelfall bleiben Privatsphäre und Anonymität daher an sich gewahrt. Lückenlose Gesichtserkennung kehrt dieses Prinzip um. Permanente Überwachung und Identifikation würden zum Normalfall, Personen zu potenziell Verdächtigen.

Doch wollen wir wirklich in einer Welt leben, in der Anonymität nur noch maskiert möglich ist? Das wäre in Österreich übrigens dank des 2017 eingeführten Vermummungsverbots bereits riskant. In autoritären Staaten wie Russland dient Gesichtserkennung unter anderem zur Verfolgung von Regierungskritikern. In China ist umfassende Überwachung sehr weit fortgeschritten und Gesichtserkennung ein zentraler Baustein automatisierter Kontrolle der Bevölkerung. Individuelle Freiheit wird schrittweise auf eine Menge an "Social Credit Points" reduziert. Die Folge: Diskriminierung von Personen und sozialen Gruppen. All das kann kein Vorbild für demokratische Staaten sein.

"Doch wollen wir wirklich in einer Welt leben, in der Anonymität nur noch maskiert möglich ist?"

Stefan Strauß, ITA

Ohne strikte Regulierung stehen Grundrechte und individuelle Freiheiten als Kern der Demokratie auf dem Spiel. Wegschauen bei Regulierungsfragen ist daher keine Option. Jetzt können Risiken mit sinnvollen Steuerungsmaßnahmen noch verringert werden. Es braucht strikte Vorgaben für Entwicklung und Nutzung, um unkontrollierte Gesichtserkennung in smarten Geräten, Apps usw. einzudämmen. Gesichtsbilder sind biometrische Daten und daher besonders schützenswert. Dieser Schutz muss aber auch wirksam sein durch verbindliche Datenschutzstandards und äußerst restriktive Verwendungszwecke. Zudem braucht es stärkere Maßnahmen gegen automatisierte Einzelentscheidungen und Diskriminierung. Selbst in den USA gibt es bereits Gesichtserkennungsverbote in einzelnen Städten – unter anderem im technikaffinen San Francisco – und wachsenden Widerstand.

In Europa stehen Verbote zwar im Raum, jedoch nur zögerlich. Dabei könnte die EU gerade hier unter Beweis stellen: "Ethische KI" ist kein reines Lippenbekenntnis, sondern Europa ist internationales Vorbild mit Weitsicht für die Bewahrung der Menschenrechte.

***

Ein Beitrag zum Schwerpunktthema "Digitale Bürgerrechte" aus der "Digitalen Republik", ein Verlagsprodukt aus der Content Production der "Wiener Zeitung".