Zum Hauptinhalt springen

Wer den Papst kleidet, muss sich künftig zu erkennen geben

7 Min
Ein KI-generiertes Bild von Papst Franziskus in einer weißen Daunenjacke.
Texte und Bilder der Künstlichen Intelligenz sollen gekennzeichnet werden.
© Midjourney via Reddit

Die Europäische Union stellt Regeln für den Umgang mit Künstlicher Intelligenz auf. Die wichtigsten Punkte im Überblick.


So einfach war die Deutsch-Matura noch nie. Wer möchte, lässt sich den Text einfach schreiben. Doch der Ghostwriter ist kein Mensch, sondern eine Maschine – das Sprachmodell ChatGPT. Legal ist das nicht, kontrollierbar aber auch nicht. Mühsame Recherchearbeiten auf der Uni oder Motivationsschreiben bei der Jobsuche können damit schnell erledigt werden. Doch wie lange noch?

Die EU will das rege Treiben stoppen. Die Kommission brachte mit dem Artificial Intelligence Act (AI Act) einen Verordnungsentwurf auf den Weg, der bereits vom EU-Parlament erweitert wurde. Das Parlament nahm seine Verhandlungsposition zum Entwurf mit 499 zu 28 Stimmen bei 93 Enthaltungen an.

Gespräche über detaillierte Ausgestaltung

Derzeit laufen die Gespräche mit den EU-Mitgliedsstaaten im Europäischen Rat über die endgültige Ausgestaltung des Gesetzes. Kommenden Dienstag findet die zweite Verhandlungsrunde statt, im Oktober die dritte. Bis Ende des Jahres wollen sich Kommission, Parlament und Rat auf ein Gesetz einigen. Es wäre die weltweit erste Regulierung von Künstlicher Intelligenz (KI). 

  •  Inwieweit ist Künstliche Intelligenz bisher geregelt? 

Grundsätzlich gelten für KI dieselben Gesetze wie für Menschen. Hinzu kommt: Computer dürfen keine Entscheidungen gegenüber Personen treffen. So steht es im Artikel 22 der europäischen Datenschutz-Grundverordnung (DSGVO). Kündigungen müssen von Personen ausgesprochen und Verträge von Personen unterzeichnet werden. Betroffene können einer Automatisierung jedoch zustimmen. Die DSGVO weist große Lücken auf, vor allem in Hinblick auf die Transparenz von KI.

  • Was soll sich ändern? 

KI-Systeme wie ChatGPT erzeugen Texte und Bilder, wie etwa den Papst in einer erfundenen weißen Daunenjacke, Donald Trump bei einer nie stattgefundenen Verhaftung und Texte für Maturaarbeiten. Laut EU sollen Werke von KI künftig gekennzeichnet sein. Lehrer werden dann wissen, ob die Arbeit von einer KI stammt oder eben nicht. Die KI speist ihr Wissen aus Daten aus dem Internet, darunter Gesichtsfotos, Lebensläufe und sonstige Einträge. In ihrem Entwurf verlangt die EU künftig Quellenangaben und eine Einwilligung der Betroffenen. Daten müssen einsehbar und löschbar sein. Zudem wird gerade verhandelt, welche Entscheidungen KI treffen darf.

  • Was ist künftig erlaubt? 

Der Gesetzesentwurf sieht eine Einteilung in vier Risikostufen vor. KI-fähige Videospiele oder Spamfilter werden am häufigsten in der EU verwendet. Sie zählen zu den minimalen Risiken und sollen kostenlos genützt werden dürfen. Chatbots wie ChatGPT fallen unter die Kategorie begrenztes Risiko, sie sollen künftig gekennzeichnet sein. Als hohes Risiko stuft die EU KI-Systeme ein, die in Bereichen wie Kritischer Infrastruktur, Bildung und demokratischen Verfahren zur Anwendung kommen. Sie sollen streng reguliert werden. Zur Beweissicherung in behördlichen Verfahren sollen Gerichte die Nutzung künftig erlauben können. 

  •  Was soll verboten werden? 

Als inakzeptables Risiko sollen KI-Systeme bewertet werden, die als eindeutige Bedrohung für Sicherheit, Lebensunterhalt und Rechte der Menschen gelten. Darunter finden sich soziale Bewertungen und Überwachung durch Regierungen sowie manipulierende Spielzeuge mit Sprachunterstützung.

  • Welche Positionen gibt es innerhalb der EU? 

Auf der liberal-linken Seite befürchtet man eine Zunahme von Überwachung und damit den Verlust demokratischer Freiheiten, dort fordert man daher eine stärkere Regulierung. Auf der konservativ-rechten Seite warnt man vor Technologiefeindlichkeit und setzt daher auf weniger Regulierung. Die Verhandlungen könnten bis Jahresende abgeschlossen sein. Bis zur Übernahme in nationale Gesetze würden dann noch einmal ein paar Monate vergehen. 

  • Wie steht es um die Pläne Österreichs für eine KI-Behörde?

Sobald das EU-Gesetz in Kraft ist, müssen die Mitgliedstaaten eigene KI-Behörden gründen. In Österreich soll bereits davor eine Anlaufstelle für Bürger:innen und Unternehmen entstehen. Hier sollen alle Fragen zum Thema KI beantwortet werden. Laut Florian Tursky, zuständiger Staatssekretär für Digitalisierung, bis Ende Dezember. Sobald die rechtliche EU-Grundlage durch das EU-Parlament beschlossen ist, kann die Anlaufstelle zu einer Behörde ausgebaut werden. Sie soll KI-Anwendungen in verschiedene Risikostufen einordnen und etwa Genehmigungen von Hochrisiko-KIs übernehmen, laut Tursky werde die Behörde auch KI-Gütesiegel ausstellen.

  • Wer steht hinter ChatGPT? 

Künstliche Intelligenz soll der gesamten Menschheit zugutekommen, so lautete der Grundsatz bei der Gründung des US-amerikanischen Unternehmens Open AI vor acht Jahren. Das Gründerteam rund um Elon Musk (Tesla), Reid Hoffmann (LinkedIn), Peter Thiel (PayPal) und Sam Altman (Y Combinator) investierte eine Milliarde Dollar. Doch von dem breit aufgestellten, gemeinnützigen Forschungsunternehmen mit frei zugänglicher Software entfernt sich Open AI zusehends. Microsoft ist mittlerweile Exklusiv-Partner, die Codes hinter der Software sind kostenpflichtig. ChatGPT wurde im November 2022 gestartet und erreicht mittlerweile ein dreistelliges Millionenpublikum.