Angriff auf österreichische Website: Ist KI außer Kontrolle?

Der Fortschritt der Künstlichen Intelligenz schreitet so rasch voran, dass wir kaum nachkommen: weder Endnutzer:innen, die die neuen Tools verstehen sollten, noch die Entwickler:innen selbst. Das Problem dabei ist, dass KI immer selbstständiger und somit zum Sicherheitsrisiko wird. Mittlerweile sehen das nicht nur Forscher:innen so, sondern im aktuellen Fall auch der Betreiber von ChatGPT, OpenAI.

• Für dich interessant: Stefan-Zweig-Villa: Vom Luxusprojekt zum Erinnerungsort?

KI-Agenten brechen aus Umgebung aus

Im Juli informierte das Unternehmen darüber, dass seine KI-Agenten eigenständig die Plattform Hugging Face attackiert haben. Dabei handelt es sich um eine Website, auf der KI-Modelle gespeichert und geteilt werden können. Als KI-Agenten bezeichnet man KI-basierte Programme, die selbstständig Aufgaben erledigen. Diese handeln eigentlich im Auftrag von Menschen, ein Beispiel dafür ist OpenClaw. Das Tool sorgte Anfang des Jahres für Aufmerksamkeit; der österreichische Gründer Peter Steinberger wurde kurz nach dem Launch von OpenAI rekrutiert. Denn während wir OpenAI vor allem wegen ChatGPT kennen, sind Agenten schon längst ein großer Fokus für das Unternehmen geworden. In kontrollierten Umgebungen, sogenannten Sandkästen, werden die Kapazitäten solcher autonomen KI-Programme getestet. Doch die Agenten können aus solchen Umgebungen ausbrechen.

Das hat OpenAI im Juli zum ersten Mal bestätigt, kurz nach dem Cyber-Angriff auf Hugging Face. Was dabei falsch lief, ließ der KI-Pionier von externen Forscher:innen untersuchen. Der Bericht der Gruppe METR wurde Ende August veröffentlicht. Demnach fanden 1.200 Agenten, die eigentlich nicht miteinander kommunizieren sollten, einen Weg sich Nachrichten zu schreiben und 700 Agenten griffen dann die Infrastruktur von Hugging Face und auch OpenAI an. Dazu soll es gekommen sein, weil die Aufgabe, die OpenAI den Agenten stellte, offenbar unlösbar war und die Agenten deshalb schummeln wollten.

Kommunikation über österreichisches Forum

Es handle sich um den ersten Angriff dieser Art, hieß es im Juli von Hugging Face und OpenAI. Doch nun macht ein anderes Forschungsteam einen weiteren Agenten-Angriff publik, der bereits im Mai stattgefunden haben soll und eine österreichische Website betrifft. Wie bei der Hugging-Face-Attacke sollen sich die Agenten einen Ort gesucht haben, an dem sie miteinander kommunizieren können und sind bei der Plattform „DseWiki“ gelandet. Betrieben wird diese Website vom österreichischen Entwickler Helmut Leitner. Die Agenten sollen sich dort wie Moderatoren der Plattform verhalten haben, aber nichts mit den Agenten des Hugging-Face-Angriffs zu tun gehabt haben. „Das DseWiki war in den vergangenen Monaten Ziel starker AI-agentischer Aktivität“, schreibt Helmut Leitner auf der Startseite und bestätigt damit indirekt den neuen Forschungsbericht.

OpenAI selbst hat bisher noch keine Details zum „Wiki-Vorfall“ veröffentlicht und bezeichnet ihn als „Fehlausrichtung“ der Agenten. Das Unternehmen hält aber fest, dass die Offenlegung solcher Zwischenfälle noch nicht klar festgelegt ist: „Wir arbeiten derzeit an einem Rahmenwerk und werden dieses in den kommenden Wochen veröffentlichen; parallel dazu arbeiten wir mit Dutzenden von staatlichen Aufsichtsbehörden weltweit an diesen Themen“, heißt es in einem offiziellen Statement.

Es gibt auch noch gute Nachrichten

Na gut

Der Newsletter mit den guten Nachrichten: Kleine Geschichten über Fortschritte und Erfolg.

Jeden Mittwoch

Automatisierte KI-Forschung

Dass diese „Fehlausrichtung“ von Agenten auf einer österreichischen Website erst jetzt durchgesickert ist, ist noch aus einem anderen Grund brisant. Einen Tag zuvor veröffentlichte OpenAI sein neuestes Modell „GPT-Astra“: Es sei State-of-the-Art in den Bereichen Computernutzung, Surfen im Internet, Softwareentwicklung, Cybersicherheit, Wissenschaft und berufliche Tätigkeit. Kurz gesagt: Das Modell soll so autonom wie noch nie arbeiten. Vorerst ist Astra nur für ausgewählte Organisationen und Unternehmen verfügbar, wohl auch aus Sicherheitsgründen.

Zwei Tage, nachdem der zweite Agenten-Ausbruch bekannt wurde, informiert OpenAI in einem Blogpost, wie die Sicherheit gewährleistet werden soll: durch automatische KI-Forschung. Einen Forschungspraktikanten habe man bereits entwickelt: Darunter versteht das Unternehmen ein System, das unter menschlicher Anleitung klar definierte Forschungsaufgaben ausführen kann, darunter auch solche, für die ein erfahrener Forscher einige Tage benötigen würde. In Zukunft sollen also nicht nur Menschen, sondern auch KI die KI kontrollieren.

Chefforscher will Entwicklung verlangsamen

Am selben Tag veröffentlicht auch OpenAIs leitender Wissenschaftler einen Blogbeitrag, in dem er schreibt: „Derzeit bin ich der Ansicht, dass noch kein Labor die Probleme der Ausrichtung und Überwachung so weit gelöst hat, dass eine verantwortungsvolle Skalierung mit maximaler Geschwindigkeit noch lange fortgesetzt werden kann.“ Er hofft, dass die Entwicklung freiwillig verlangsamt wird, bis entsprechende Sicherheitsstandards festgelegt sind.

Selbst OpenAI scheint demnach mit der aktuellen Geschwindigkeit überfordert zu sein. Das Unternehmen springt zwischen marketinggetriebenen Produktankündigungen und Warnungen vor Sicherheitsrisiken hin und her. Auch bei Hugging Face gibt es Neuigkeiten: Der Chip-Hersteller Nvidia kauft die Plattform für 12,9 Milliarden US-Dollar. Damit kann sich die Datenbank in Zukunft wohl besser vor Angriffen durch Agenten schützen. Für Betreiber:innen kleiner Websites besteht jedoch weiterhin die Gefahr, dass unkontrollierte Agenten sie für ihre Kommunikation nutzen.