Nicht einmal zwei Monate hat es gedauert: Anfang März konnte der Vizepräsident von Hanwang Technology bereits verkünden, nun auch solche Personen mittels Gesichtserkennung identifizieren zu können, deren Gesichter durch Atemschutzmasken halb verdeckt sind. Dabei hatte Hanwang Technology erst im Januar, nach Ausbruch der Covid-19-Pandemie in China, begonnen, seine auf Künstlicher Intelligenz basierende Technologie neu zu trainieren.

Und die Technologie kann noch mehr, wie der Vizepräsident des Unternehmens, Huang Lei, gegenüber der Nachrichtenagentur Reuters erklärt: "Wenn die Gesichtserkennung mit einem Temperatursensor verbunden ist, kann sie die Temperatur messen, während die Person namentlich identifiziert wird. Das Ergebnis wird weiterverarbeitet, sobald die Temperatur, sagen wir, 38 Grad überschreitet."

Ein Software-Techniker von Hanwang Technology in Peking arbeitet an einer Gesichtserkennungstechnologie, die auch Personen identifizieren kann, die eine Gesichtsmaske tragen. - © APAweb / Reuters / Thomas Peter
Ein Software-Techniker von Hanwang Technology in Peking arbeitet an einer Gesichtserkennungstechnologie, die auch Personen identifizieren kann, die eine Gesichtsmaske tragen. - © APAweb / Reuters / Thomas Peter

Aus der Perspektive des Datenschutzes und der Menschenrechte sind dies keine guten Nachrichten. "Im Zuge der Coronakrise erleben wir, dass sukzessive die Grenzen des Akzeptablen verschoben werden und dass Firmen dies als ‚Chance‘ nützen, um ihre KI-Systeme zu verbessern, besonders im Bereich der Gesichtserkennungstechnologie", sagt Iwona Laub von der österreichischen NGO Epicenter Works.

KI-basierte Gesichtserkennungstechnologien haben sich in den letzten Jahren auch in Europa stark verbreitet. Eine Analyse von Algorithm Watch, einer NGO, zeigt, dass der überwiegende Teil der  Mitgliedstaaten der Europäischen Union in ihren Polizeibehörden eine Gesichtserkennungssoftware einsetzen will. Auch Österreich.

2019 hat das Bundeskriminalamt  (BK) eine entsprechende Software gekauft, die sich derzeit noch im Test befindet. Sie soll im Echtbetrieb Bilder, die im Zusammenhang mit Straftaten entstehen, also zum Beispiel Fotos aus Überwachungskameras, mit den Fotos der erkennungsdienstlichen Evidenz, einer Bilddatenbank des BK, abgleichen. Die Gesichtserkennung soll damit ebenso wie andere biometrische Daten, etwa Fingerabdrücke oder DNA-Proben, als erkennungsdienstliches Beweismittel der Strafverfolgung dienen.

Wie der Pressesprecher des Bundeskriminalamts, Vincenz Kriegs-Au erklärt, erwartet das BK von der Software "Ermittlungsansätze zur Ausforschung unbekannter Strafstäter". Risiken sieht das BK nicht. Vincenz Kriegs-Au: "Es gibt keine Risiken, da alle gesetzlichen Vorgaben und insbesondere die datenschutzrechtlichen Standards eingehalten werden."

In einem Park in Peking im März 2020. Smartphones werden von vielen Behörden in der Coronakrise zur Kontrolle und Überwachung von Bewegung eingesetzt. - © APAweb / AFP / Nicolas Asfouri
In einem Park in Peking im März 2020. Smartphones werden von vielen Behörden in der Coronakrise zur Kontrolle und Überwachung von Bewegung eingesetzt. - © APAweb / AFP / Nicolas Asfouri

Gesellschaften unter Generalverdacht

Datenschützer wie Epicenter Works und Algorithm Watch haben  grundlegende Bedenken: Die Einführung der Technologie sei rechtlich nicht abgedeckt, sie sei zudem nicht ausgereift und daher fehleranfällig; außerdem seien die zugrundliegenden Algorithmen den Behörden und den Parlamenten nicht bekannt, es gäbe kein unabhängiges Monitoring oder eine unabhängige Technikfolgenabschätzung und schließlich öffne die unkontrollierte Implementierung das Tor zu noch weiter reichenden Formen der Überwachung, etwa durch Live-Videoüberwachung des öffentlichen Raums. "Wir haben alle als Bürgerinnen und Bürger das Recht, nicht überwacht zu werden. Das ist vielen nicht bewusst. Gesichtserkennung und groß angelegte Videoüberwachung sind aber eine Form der Massenüberwachung, die jede und jeden unter Generalverdacht stellt", fasst Iwona Laub von Epicenter Works zusammen.

Als gesetzliche Grundlage für die Einführung von Gesichtserkennungstechnologie durch das Bundeskriminalamt in Österreich zieht die Behörde das Sicherheitspolizeigesetz  heran, wie aus der parlamentarischen Anfragebeantwortung vom Juni letzten Jahres hervorgeht.

Die offene Formulierung in Bezug auf die Einführung von neuen Technologien in diesem Gesetz ist aus Sicht von Epicenter Works kein Freibrief, jedwede neue Technologie auch erkennungsdienstlich zu verwenden. "Theoretisch könnte man mit dem Verweis auf das Sicherheitspolizeigesetz jede neue, x-beliebige Technologie einsetzen und damit argumentieren, dass die Bestimmungen dies abdecken, weil sie ja so weit gefasst sind. Diese vom Innenministerium behauptete Rechtsgrundlage sehen wir einfach nicht", so Laub.

Die Software, die in Österreich zum Einsatz kommen soll, ist perspektivisch auf den Abgleich mit bis zu fünf Millionen Bildern ausgelegt, wie Mathias Huter von der NGO Forum Informationsfreiheit herausfand.

Eine Kopplung der nationalen Datenbank mit biometrischen Datenbanken anderer Mitgliedstaaten der EU ist derzeit nicht vorgesehen, aber nicht ausgeschlossen: "Eine allfällige EU-Koppelung ist von EU-Rechtsvorgaben abhängig", so Vincenz Kriegs-Au vom Bundeskriminalamt.

Für eine Erweiterung der Rechtsvorgaben auf EU-Ebene setzt sich Österreich derzeit sehr stark ein, wie das amerikanische Investigativ-Medium The Intercept  berichtet. Österreich ist Teil einer Arbeitsgruppe mit neun weiteren Mitgliedstaaten, die eine Erweiterung des Prümer Vertrages wollen. Der Vertrag erlaubt es den unterzeichnenden Staaten wechselseitig auf jeweilige nationale Datenbanken (Fingerabdrücke, DNA und Autokennzeichen) zuzugreifen. In einem Report argumentiert die Arbeitsgruppe nun dafür, dass eine gemeinsame biometrische Datenbank inklusive Bilddaten geschaffen werden soll, auf die alle Polizeibehörden der EU zugreifen können. Eine solche biometrische Datenbank mit Fingerabdrücken und Gesichtsbildern gibt es für EU-Bürger derzeit noch nicht, wird aber bereits für Nicht-EU-Bürger aufgebaut. Sie wird rund 300 Millionen biometrische Daten enthalten.

Datenschützer wie Edin Omanovic von Privacy International bewerten die Entwicklung kritisch, berichtet The Intercept: "Solange es keine Transparenz und rechtliche Absicherung für die Rechtmäßigkeit des Einsatzes von Gesichtserkennungstechnologie gibt, sollte es ein Moratorium geben", so Omanovic.

 

Nikolai Grunin ist Techniker bei NtechLab. Die Firma hat den Tender zur Ausstattung der Moskauer Kameras mit Gesichtserkennungstechnologie gewonnen. Laut Moskauer Polizei kam es durch die biometrischen Kameras bereits zu 200 Festnahmen aufgrund von Verstößen gegen Quarantäneauflagen. - © APAweb / AFP / Kirill Kudryavtsev
Nikolai Grunin ist Techniker bei NtechLab. Die Firma hat den Tender zur Ausstattung der Moskauer Kameras mit Gesichtserkennungstechnologie gewonnen. Laut Moskauer Polizei kam es durch die biometrischen Kameras bereits zu 200 Festnahmen aufgrund von Verstößen gegen Quarantäneauflagen. - © APAweb / AFP / Kirill Kudryavtsev

EU-Kommission will Einsatz prüfen

Ein solches Moratorium hat die EU-Kommission in ihrem White Paper zur Weiterentwicklung von Künstlicher Intelligenz in Europa jedenfalls nicht vorgesehen. Stattdessen soll geprüft werden "unter welchen Bedingungen" ein Einsatz von Gesichtserkennungstechnologie möglich sein soll.

"Biometrische Daten, dazu gehört unser Gesicht, sind hochsensible Daten", erinnert Iwona Laub. "Sie sollten nur dann abgegriffen werden können, wenn es ein hohes berechtigtes Interesse gibt." Aus ihrer Sicht ist Gesichtserkennung daher nicht das "gelindeste Mittel" um zu einem Ergebnis zu kommen, etwa der Identifikation von Straftätern.

Iwona Laub gibt zu bedenken, dass Gesichtserkennungstechnologien hohe Fehlerquoten aufweisen. Die Fehlerquote von KI-gestützter Gesichtserkennung liegt Studien zufolge zwischen zehn und zwanzig Prozent: "Kein Finanzamt der Welt würde die Lohnsteuer von einer Künstlichen Intelligenz berechnen lassen, die nur in achtzig Prozent der Fälle richtig rechnet", sagt Laub. "Da nützt es auch nichts, wenn man argumentiert, dass letztlich ja ein Mensch entscheidet, denn das ist dann im Arbeitsalltag nicht so." Laub verweist auf die Erfahrungen des polnischen Arbeitsamtes mit Künstlicher Intelligenz: "Lediglich 0,58 Prozent der Entscheidungen des Algorithmus wurden von den Betreuern im Nachhinein korrigiert. Das heißt nicht, dass der Computer recht hat, sondern dass Menschen dazu neigen, die Entscheidungen von Computern unhinterfragt zu übernehmen."

Zu möglichen Trefferquoten könne man derzeit noch nichts sagen, erklärt indes das Bundeskriminalamt. Die Behörde ist sich sicher, dass es "jedenfalls zu zusätzlichen Täterausforschungen kommen wird", so Pressesprecher Kriegs-Au.
Die Softwaretests laufen derzeit noch. Allerdings ist das Ziel dieser Tests nicht, mögliche Fehlerquoten zu bestimmen, sondern die "Einbindung der Basissoftware in die bestehenden Systeme und die Schnittstellenfunktionen zu diesen Systemen" zu testen. "Weiters dient die Testphase der Optimierung der Arbeitsprozesse und der Arbeitsumgebung." Die Software soll bereits ab Ende Juni 2020 in den Echtbetrieb überführt werden.

Welche Art von Machine Learning und welche Datenbasis für die zum Einsatz kommende Software verwendet wurde, ist auch dem Bundeskriminalamt selbst nicht bekannt. "Die Algorithmen solcher Software sind immer Betriebsgeheimnis des jeweiligen Anbieters", so der Pressesprecher.

Fußgänger in Tokio im März 2020. - © APAweb / AFP / Charly Triballeau
Fußgänger in Tokio im März 2020. - © APAweb / AFP / Charly Triballeau

Keine Echtzeit-Überwachung geplant

Eine Live-Videoüberwachung mit automatisierter Gesichtserkennung plant das österreichische Innenministerium derzeit nicht. Es gibt datenschutzrechtliche Bedenken gegenüber einem "Vollzugriff", wie es in einer weiteren parlamentarischen Anfragebeantwortung  von Anfang März 2020 heißt.

Die Voraussetzungen für eine Ausweitung der automatisierten Gesichtserkennung stehen in Österreich "beängstigend" gut, wie Iwona Laub sagt. Durch die im so genannten "Überwachungspaket" beschlossenen Änderungen am Sicherheitspolizeigesetz kann  die Polizei seit dem 1. März 2019 auf das Bildmaterial von Kameras von öffentlichen Einrichtungen wie etwa Schulen, Krankenhäusern oder Gemeinden zugreifen.

Für Laub ändern sich damit die Bedingungen grundlegend: "Dies ermöglicht einen Echtzeitzugriff", sagt sie. "Ohne richterliche Anordnung." Die Datenschützerin warnt: "Was spricht dagegen, dass die Behörden morgen diesen Echtzeitzugriff auf die Kameras öffentlicher Einrichtungen mit ihrer Gesichtserkennung verbinden?"

Die Echtzeitüberwachung stößt derzeit an technische Grenzen: Bei einem Test an zwei Objekten konnten die Daten nicht in Echtzeit übermittelt werden bzw. stellten sich die Systeme als inkompatibel heraus. Entsprechend gibt das Innenministerium den öffentlichen Stellen, auf deren Kameras es zugreifen darf, eine Empfehlung "hinsichtlich der Beschaffung eines professionellen Multimedia- Managementsystems und einer Überprüfung und gegebenenfalls notwendig werdenden Hochrüstung des Datennetzes."

Aus Sicht der Datenschützerin stellt die biometrische Videoüberwachung, zumal live, grundlegende Bürgerrechte in Frage; etwa das Recht, sich anonym versammeln und im öffentlichen Raum bewegen zu dürfen. "Jede Form der Gesichtserkennung führt zu einem Chilling-Effekt in der Gesellschaft: Menschen, die sich beobachtet fühlen, verhalten sich anders. Man kennt das von sich selbst: Wenn man an der Kassa im Supermarkt vorbeigeht, weil man nichts gekauft hat, kommt man sich bereits komisch vor, obwohl man ja nichts gestohlen hat. Jetzt stellen Sie sich vor, wie sich eine Gesellschaft verändert, wenn sich dieses Gefühl im öffentlichen Raum ausbreitet", so Laub.

Das Ministerium für Diigitales in Polen hat eine App entwickelt, um die Einhaltung von Quarantäne-Vorschriften zu überwachen. - © APAweb / AFP / Wojtek Radwanski
Das Ministerium für Digitales in Polen hat eine App entwickelt, um die Einhaltung von Quarantäne-Vorschriften zu überwachen. - © APAweb / AFP / Wojtek Radwanski

Vor dem Hintergrund der Covid-19-Pandemie scheint eine erhöhte Aufmerksamkeit für Bürgerrechte besonders vonnöten zu sein. Ende März vermeldete die Moskauer Polizei, mittels Videoüberwachung in Kombination mit Gesichtserkennung rund 200 Menschen identifiziert zu haben, die gegen Quarantäne-Auflagen verstoßen hatten.

In Polen müssen sich Menschen, die sich mit dem Coronavirus infiziert haben, mittels App registrieren. Sie bekommen mehrmals am Tag ein SMS zugeschickt, auf das sie innerhalb von zwanzig Minuten mit einem Selfie reagieren müssen. Die App erfasst den Standort und gleicht das Bild mit einer Datenbank ab. Wer nicht rechtzeitig reagiert, bekommt Besuch von der Polizei.

Die Krise der Gesundheitssysteme durch Covid-19 vereinfacht die Implementierung von Technologien, die ansonsten wohl umstritten wären. "Die Innovationsgeschwindigkeit von neuen digitalen Technologien wird oft durch strukturelle, finanzielle oder bürokratische Zwänge gebremst", so der Digitalberater Jonathan Tanner zur Thomson Reuters Foundation. "Aber vor Herausforderungen wie dem Ausbruch des Coronavirus gibt es starke Anreize, diese Zwänge schnell zu überwinden und die neuen Technologien auszutesten."

***

Ein Beitrag zum Schwerpunktthema "Digitale Bürgerrechte" aus der "Digitalen Republik", ein Verlagsprodukt aus der Content Production der "Wiener Zeitung".