)
Seit mittlerweile zwei Jahren soll der „AI Act“ der EU als weltweit erster KI-Rechtsrahmen User:innen Sicherheit geben. Er ist aber noch nicht voll in Kraft.
„Unser künftiger Wohlstand und unsere Sicherheit werden entscheidend davon abhängen, wie wir mit den Wendepunkten unserer Zeit umgehen: Klimawandel und KI“, sagte EU-Kommissionspräsidentin Ursula von der Leyen in ihrer Rede zur Lage der Europäischen Union Mitte September. Während inzwischen kaum jemand bestreitet, dass die Klimakrise eine Gefahr darstellt, sieht bei der Künstlichen Intelligenz wahrscheinlich jede:r sowohl Positives als auch Negatives. Medizinischer Fortschritt gehört schließlich genauso dazu wie Betrug mittels Deepfakes.
- Für dich interessant: "Be like Poland" - ich weiß ja nicht.
Die EU, der diese Ambivalenz bewusst ist, hat deshalb schon vor zwei Jahren den „Artificial Intelligence Act“ („AI Act“) als weltweit ersten umfassenden Rechtsrahmen für KI verabschiedet, um „die Risiken anzugehen, aber auch dafür zu sorgen, dass unsere Gesellschaft und Industrie den größtmöglichen Nutzen daraus ziehen“, wie es heißt. Einerseits muss Europa seine Bürger:innen vor negativen Auswüchsen schützen, andererseits will es nicht noch weiter abgehängt werden im globalen Wettlauf um konkurrenzfähige KI-Systeme.
Europäisches KI-Büro und Gigafabriken
Mittlerweile gibt es ein eigenes Europäisches KI-Büro, das den „AI Act“ durchsetzen, aber auch die Entwicklung und Einführung von KI-Technologien in der EU fördern soll; mehr als 200 Milliarden Euro sollen in diesen Bereich fließen, zum Beispiel in europäische KI-(Giga-)Fabriken zur Unterstützung von Start-ups, Industrie und Forschung (eine solche KI-Fabrik steht bereits in Wien) Gleichzeitig schlägt die EU-Kommission ein einheitliches Bewertungssystem für Rechenzentren vor, um Wildwuchs vorzubeugen, und hat einen Aktionsplan zu Cybersicherheit und Künstlicher Intelligenz vorgelegt. Die meisten neuen KI-Modelle erden von der EU-Sicherheitsbehörde ENISA getestet.
Schrittweise Umsetzung
Was nun das europäische KI-Regelwerk betrifft, so betrifft dieses nur die kommerzielle Nutzung. Militär und Verteidigung sind ebenso ausgenommen wie Forschung und Entwicklung, aber auch Open-Source-Lizenzen und rein private Zwecke. Das Gesetz nimmt vor allem Anbieter:innen und Betreiber:innen in die Pflicht und nicht Endkund:innen. Nach dem Inkrafttreten mit 1. August 2024 muss der „AI Act“ nun gestaffelt umgesetzt werden: Seit 2. Februar 2025 sind „KI-Systeme mit unannehmbarem Risiko“ verboten, außerdem muss KI-Kompetenz unterstützt werden (zum Beispiel durch Schulungen in Unternehmen). Seit 2. August 2025 gibt es Sanktionen bei Verstößen. Seit 2. August 2026 gelten Transparenzpflichten, sprich: Nutzer:innen müssen klar erkennen können, wenn sie mit KI (etwa Chatbots) interagieren. Außerdem müssen Deepfakes sowie KI-generierte oder KI-manipulierte Texte zu Themen von öffentlichem Interesse klar gekennzeichnet werden (ausgenommen davon sind Teile der Strafverfolgung, etwa die Suche nach vermissten Personen oder die Verhinderung von Terroranschlägen, sowie Medieninhalte, die redaktionell nochmals überarbeitet wurden). Auch mit KI hergestellte Werbespots werden inzwischen als solche deklariert.
Ab 2. Dezember 2026 muss die Kennzeichnung dann auch maschinenlesbar sein. Außerdem ist ab diesem Zeitpunkt manipulative KI, die Schäden anrichten könnte, ebenso verboten wie KI-generierte Nacktdarstellungen ohne Einverständnis der Betroffenen (hier gab es zuletzt in den USA einen Rückschlag). Mit 2. Dezember 2027 werden dann noch spezielle Anforderungen an Hochrisiko-KI-Systeme (etwa bei Maschinen, Spielzeug, Verkehr und Medizin) in Kraft treten, mit 2. August 2028 folgen dann noch viele weitere Bereiche: bestimmte biometrische Systeme, kritische Infrastruktur, Bildung, Beschäftigung, grundlegende private und öffentliche Dienstleistungen (einschließlich Finanzdienstleistungen), Strafverfolgung, Wahlen, Migration, Asyl und Grenzkontrollen.
Sind wir ausreichend vorbereitet?
Freilich ist jeder Rechtsrahmen nur so wirksam wie seine Umsetzung in der Realität. Laut einer Deloitte-Umfrage aus dem Vorjahr war damals knapp die Hälfte der befragten Unternehmen noch nicht ausreichend auf die KI-Regeln der EU vorbereitet. Doch egal ob riesiger Konzern oder kleines Start-up: Sie gelten für alle. Und die jüngsten Meldungen über KI-Agenten, die aus ihrer gesicherten Testumgebung ausgebrochen sind, haben die Sorge vergrößert.
Es ist unbegreiflich, dass das einfach abgetan wird.René Mayrhofer, Professor für Netzwerke und Sicherheit, über KI-Angriffe
Der „AI Act“ greife hier eigentlich gar nicht, meint René Mayrhofer, Professor für Netzwerke und Sicherheit an der Johannes Kepler Universität Linz, „weil er nur besagt, wie KI-Systeme gebaut werden sollten, und nicht, ob und wie man sie kontrolliert.“ KI-gestützte Angriffe sind aber ohnehin schon jetzt strafrechtlich relevant. Deshalb ist es ihm „unbegreiflich, dass das jetzt schon dreimal vom OpenAI-Firmenchef schulterzuckend abgetan wurde mit dem Fingerzeig auf die KI, die da scheinbar die Verantwortung tragen sollte – und nicht die Firma, die sie unkontrolliert losgelassen hat. Das ist reine Fahrlässigkeit. In der Vergangenheit wurden Einzelpersonen für solche Aktionen sofort verfolgt und eingesperrt.“
Nicht alles mit dem Internet verbinden
Dass solche Angriffe möglich sind, egal ob durch menschliche Akteure oder durch autonome KI, „liegt daran, dass die Systeme, die sich mit dem Internet verbinden, nicht besonders sicher sind. Das ist schon lange bekannt. Was sich geändert hat, ist die Geschwindigkeit.“ Umso wichtiger ist es, bestehende Systeme besser abzusichern, um sie und ihre User:innen vor Schaden zu bewahren. Wie das geht, ist laut Mayrhofer bekannt. Umgesetzt wurde es von den Verantwortlichen bisher allerdings oft zu wenig. Hundertprozentige Sicherheit kann es freilich gar nicht geben, weil immer irgendwelche Sicherheitslücken offen bleiben werden. Deshalb gilt für Mayrhofer als Faustregel: „Nicht alles, was man derzeit mit dem Internet verbinden kann, sollte man damit verbinden.“
Um Konsument:innen besser zu schützen, werden seit 11. September 2026 die Hersteller stärker in die Pflicht genommen. Im Rahmen des „Cyber Resilience Act“ der EU müssen sie Sicherheitslücken, durch die Kriminelle via Internet (auch mittels KI) auf Geräte zugreifen könnten, frühzeitig erkennen, analysieren und beheben – und ausgenutzte Schwachstellen sowie schwerwiegende Sicherheitsvorfälle innerhalb kurzer Fristen melden. Betroffen sind nahezu alle Produkte mit digitalen Elementen von Smart-Home-Anwendungen über Router und Apps bis zu Wearables wie Fitness-Trackern. Bei Verstößen drohen Bußgelder und Verkaufsverbote für den europäischen Markt.
Mit dem WZ-Newsletter bleibst du immer auf dem Laufenden.
)
WZ Weekly
Einblicke in die WZ-Redaktion. Ohne Blabla.
Dir hat dieser Beitrag besonders gut gefallen, dir ist ein Fehler aufgefallen oder du hast Hinweise für uns - sag uns deine Meinung unter feedback@wienerzeitung.at. Willst du uns helfen, unser gesamtes Produkt besser zu machen? Dann melde dich hier an.
Infos und Quellen
Gesprächspartner
René Mayrhofer ist Professor für Netzwerke und Sicherheit. Er leitet das Christian Doppler Laboratory for Private Digital Authentication in the Physical World an der Johannes Kepler Universität Linz.
Quellen
- „Artificial Intelligence Act“ der EU
- „Cyber Resilience Act“ der EU
- Deloitte: Das Wichtigste zum „AI Act“
- Zentrale Informationsplattform zum „AI Act“
- Künstliche Intelligenz – Was tut die EU?
- Transparenzregeln für KI-Systeme
- Europäisches KI-Büro
- KI-Fabriken in Europa
- EU-Cybersicherheitsbehörde ENISA
- EU-Aktionsplan für Cybersicherheit und Künstliche Intelligenz
- Österreichische KI-Fabrik
- Public AI Hackaton
Das Thema in der WZ
- Worum es bei der KI-Panikmache wirklich geht
- Will die KI wirklich die Weltherrschaft?
- Angriff auf österreichische Website: Ist KI außer Kontrolle?
- Wie künstliche Intelligenz Kriege verändert
- Jetzt streitet auch Stetten über ein Rechenzentrum
Das Thema in anderen Medien
- ORF: UNO: Aufruf zu stärkerer Regulierung von KI
- ORF: Neue KI-Strategie für Österreich
- Börse-Express: Österreichs KI-Strategie: Pröll stellt erste Ergebnisse am 19. November vor
- Frankfurter Allgemeine: US-Gericht stoppt KI-Nacktbild-Verbot nach Klage von xAI
- Persoenlich.com: Deepfake-Spot mit Jürgen Klopp
)
)
)
)