Stalker-Brillen

Es gab ein kurzes Zeitfenster, in dem das Internet Spaß machte, erinnerst du dich noch? Es war irgendwann Anfang der 2010er, als Windows Vista überstanden war, Betriebssysteme sicherer wurden und man auf Instagram Fotos seiner Freunde zu sehen bekam – inklusive ihrer Katzen und ihres Mittagessens. In Ein-Slide-Posts, versteht sich. Als Instagram noch nicht von Facebook gekauft wurde. Als wir noch nicht mit AI-Slop zugeballert wurden, es keine Deepfakes gab und keine KI-gebaute Malware. Als man auf Google noch Suchergebnisse erhielt und nicht eine KI, die einem erklärt, dass die Hauptstadt von Italien Paris ist. Als man seinen Augen noch trauen konnte und nicht bei jedem Foto und jedem Video, das man zu Gesicht bekam, davon ausgehen musste, dass es genauso gut ein Fake sein könnte. Als man noch durch die Stadt oder ins Schwimmbad gehen konnte und nicht bei jedem Typen mit Brille daran denken musste, dass er einen vielleicht gerade ohne Einverständnis filmt und dann die Aufzeichnung nutzt, um Deepfakes daraus zu basteln, das Video auf Social Media hochzuladen oder einen zu googeln und dann am nächsten Tag vor der Haustür zu stehen. Oder all diese Dinge nacheinander.

• Kennst du schon?: „Meine Mutter würde das nicht machen“

Risiken und Nebenwirkungen

Aktuell sind wir mit einer Reihe von sich exponentiell weiterentwickelnden technischen Revolutionen konfrontiert, die handfeste Sicherheitsrisiken für uns alle bedeuten, aber für Frauen, wenig überraschend, in einem speziellen Ausmaß.

Da ist zum einen Künstliche Intelligenz. Dass sie und die mit ihr einhergehenden Datencenter aus ökologischer Perspektive eine katastrophale Entwicklung darstellen, hat sich mittlerweile rumgesprochen. Dann ist da das Problem, dass viele Menschen derzeit ihre Jobs verlieren, weil sie durch KI wegrationalisiert wurden (mit teils desaströsen Ergebnissen).

Dass genau das aber gesamtökonomisch zu einem Super-GAU führen kann, vor allem wenn es keine kompetenten politischen Antworten gibt, ist ein Problem, in das wir gerade sehenden Auges laufen, und das noch nicht ausreichend diskutiert wird. Die Gefahr lässt sich mit folgendem Beispiel erklären: Sagen wir, du stellst T-Shirts her. Sagen wir, für die Herstellung und die Gestaltung dieser T-Shirts hast du eine Reihe von Mitarbeiter:innen eingestellt, die die Designs erstellen, die sie färben, bedrucken oder verpacken. Sagen wir, irgendwann wird ein Tool eingeführt, das all diese Beschäftigten überflüssig macht – es kann all das nämlich gratis und schnell –, ohne Arbeitsrechte zu fordern, ohne einen Arbeitsplatz zu brauchen, ohne eine Obstschale zu wollen und ohne Lohnnebenkosten. Sogar das freundliche tägliche „Guten Morgen“ kannst du dir sparen. Du kündigst also deine Mitarbeiter:innen, die mit den Arbeitsrechten und der Obstschale und dem „Guten Morgen“.

Leider hast du nicht daran gedacht, dass nun all jene Personen, die aufgrund Ihrer Kündigung keinen Lohn mehr beziehen, auch keine T-Shirts mehr bei dir kaufen können. Ein paar Monate später musst du Konkurs anmelden, weil du dir selbst die Lebensgrundlage wegrationalisiert hast. Genau das könnte bald auf der Makroebene passieren – je mehr Menschen durch KI ihre Jobs verlieren, desto weniger Menschen werden Google und Apple ihre KI-Smartphones abkaufen können (oder irgendwem sonst irgendwas).

Diebstahl und digitale Gewalt

Da ist das Problem, dass alles, was KI produziert, ein Ergebnis von Diebstahl durch Tech-Konzerne ist. Jeder Song, jeder Text, jedes Bild basiert auf der Arbeit von Menschen, denen diese Arbeit gestohlen wurde.

Da ist die Tatsache, dass KI nicht nur bereits von vornherein gegen Frauen gebiased ist – durch die Informationen, mit denen sie gefüttert wurde –, sondern auch als Tool eine Reihe von neuen Feldern der Gewalt gegen Frauen eröffnet, in Form von Deepfakes, Hacking und Stalking und Cyberangriffen in einem nie dagewesenen Ausmaß.

Da ist das Problem, dass KI ein riesiges Cybersecurity-Risiko darstellt – ein Risiko, das ahnungslose politische Entscheidungsträger:innen und Tech-Konzerne über oft ebenso nichtsahnende User:innen ausschütten lassen. Das Problem, dass mit KI von Hinz und Kunz gratis oder extrem günstig sehr elaborierte Schadsoftware entwickelt werden kann, dass Sicherheitslücken gefunden und missbraucht werden können für Angriffe, die vor Monaten noch hunderttausende Euro gekostet hätten. KI ist eine Superwaffe für Hacker, Cyberkriminelle und Online-Stalker – und sie gefährdet uns alle.

Lust auf gute Nachrichten?

Na gut

Der Newsletter mit den guten Nachrichten: Kleine Geschichten über Fortschritte und Erfolg.

Jeden Mittwoch

Und dann ist da noch die Tatsache, dass KI sehr einfach über Prompt Injections oder Social Engineering manipuliert werden kann. Prompt Injections sind Befehle an die KI, die von außen „eingeschleust“ werden, Wenn du beispielsweise eine einfache Frage an die KI stellst, ist nicht gewährleistet, dass in den Seiten, auf denen die KI dann surft, nicht (oft für das menschliche Auge unsichtbar) Prompts versteckt sind, die die KI auffordern, deine Passwörter oder Kreditkartendaten herauszugeben. Es gibt sogar einen Namen dafür: ChatGPhish – und keine KI ist sicher davor. Und es kommt noch wilder: Prompt Injections können auch per Audio durchgeführt werden, in Podcasts, in Musik, als Hintergrundrauschen in einem Zoom Call und für das menschliche Ohr nicht als Prompt erkennbar. Das ist im Übrigen auch der Grund, warum aktuell Bluetooth-Kopfhörer ein beliebtes Hacking-Ziel sind. Und es ist der Grund, warum du dringend checken solltest, auf welche Daten und Apps die auf deinem Mobiltelefon vorinstallierte KI Zugang hat, und den Zugriff überall dort entziehen, wo es möglich ist.

Ein aktuelles Beispiel für Social Engineering ist ein Instagram-Hack, der Anfang Juni bekannt wurde: Hacker fragten die Meta-KI, die wohlgemerkt zuvor ohne Zustimmung der Nutzer:innen in alle Meta-Apps gezwängt wurde, um Zugang zu Accounts – und die KI gewährte ihnen diesen. So wurde unter anderem ein alter Account von Ex-US-Präsident Barack Obama gehackt. Als User dann versuchten, ihre Accounts zurückzubekommen, waren sie mit derselben KI konfrontiert, die ihren Account an Hacker weitergereicht hatte. Denn: Bei Meta gibt es keinen Support mehr, bei dem man mit echten Menschen sprechen kann, die wurden schließlich schon mit KI wegrationalisiert.

Gesetze

Wenn wir schon bei Instagram sind: Gerade eben wurde eine neue Funktion eingeführt. Nutzer:innen können nun mit öffentlichen Posts und Videos KI-generierten Content (Deepfakes) mithilfe der Meta-KI erstellen. Diese Funktion ist automatisch eingestellt; möchte man das nicht, muss man rausoptieren. Ein guter Moment, die Einstellungen zu prüfen, die KI-Verarbeitung für eigene Inhalte abzustellen und all jene, die sie posten, zu bitten, dasselbe zu tun. Auch hier ist unklar, ob Instagram das überhaupt darf, getan haben sie es trotzdem.

Denn Tech-Konzerne bewegen sich derzeit mit einer derartigen kriminellen Geschwindigkeit, dass Gesetzgeber:innen nicht mehr hinterherkommen, und auch gültige rechtliche Rahmenbedingungen ignorieren sie. Es scheint so, als wären geltende Gesetze für sie nicht relevant; sie sind das Gesetz.

Der Name ist Propaganda

Und als würde KI noch nicht ausreichend Sicherheitsrisiken bergen, gibt es jetzt auch noch Meta-Glasses. Schon der Name ist Propaganda, denn die Brillen wurden dazu entwickelt, unbemerkt zu filmen. Denn wir alle wissen, wer filmen wird. Und wir alle wissen, wer gefilmt werden wird und zu welchen Zwecken. Meta-Glasses sind predator glasses, pervert glasses, stalker glasses, und als solche sollten wir sie auch benennen. Stalker glasses werden jetzt schon verwendet, um Frauen unbemerkt zu filmen, die Videos dann auf Social Media hochzuladen und sie dort bloßzustellen oder mit Online-Hass zu überschütten. Sie werden verwendet, um zu filmen und danach Deepfakes herzustellen. Sie werden verwendet, um Frauen zu stalken, weil alles, was mit ihnen gefilmt wird, auch online nachgeschlagen werden kann.

Die EU versucht die Sicherheitsrisiken zu minimieren, indem sie Hersteller dazu verpflichtet, eine LED-Anzeige anzubringen, mithilfe derer man sieht, ob aufgezeichnet wird. Das ist Augenauswischerei. Die einzige richtige Antwort auf Meta-Glasses wäre ein Komplettverbot. Es gibt von vornherein keinen nachvollziehbaren Grund, warum ein technisches Gerät, das für Übergriffe konzipiert ist, überhaupt legal erhältlich sein sollte. Unbemerktes Filmen – Übergriffigkeit also und das Verletzen der Privatsphäre der Betroffenen – ist in Bezug auf Meta-Glasses nicht ein Missbrauch der Technik, sie wurden genau dafür gemacht.

Meta hat offenbar vernommen, dass ihre Stalker-Brillen ein kleines Imageproblem haben, und deshalb Kylie Jenner engagiert, um Werbung für sie zu machen und ihren Ruf ein Stück weit von „creepy“ in Richtung „stylish“ zu verschieben. Die Strategie nennt sich „feminization of technology“ und ist ein alter Hut: Über Frauen als Testimonials soll bestimmten Technologien ein harmloses Image verschafft werden. Das ist Tech-Riesen offenbar vor allem dann ein Anliegen, wenn es um Technologien geht, die für Frauen eine besondere Gefahr darstellen. Und die jetzt schon aktiv gegen sie verwendet werden.

Wenn die zurecht höhnischen Reaktionen auf Social Media ein Seismograf sind, hat das allerdings nicht geklappt. Gut so. Solange Smart Glasses legal sind (was sie nicht sein sollten), müssen wir offenbar mit vereinten Kräften dafür sorgen, dass sie nicht normalisiert werden. Alle, die sie kaufen und benutzen, müssen dafür geshamed werden. Ach, du hast dir Meta-Glasses gekauft? Ich glaube, du meinst Stalker-Brillen, oder? Vergewaltiger-Brillen? Predator-Brillen? Wie geht es dir damit, ein übergriffiges Arschloch zu sein?