Worum es bei der KI-Panikmache wirklich geht

Wird Künstliche Intelligenz uns bald töten? Diese Frage wird seit einigen Wochen heftig diskutiert. Wie wir bereits erklärt haben, wollen KI-Entwickler die Entwicklung selbst verlangsamen und Regulierungen schaffen. Wer die publikumswirksamen Ankündigungen der KI-Industrie ernst nimmt, sollte auch das, was zeitgleich im Hintergrund passiert, ernst nehmen.

• Mehr für dich: Gaming hat seinen Preis

Seit unserer Kolumne über den Ausbruch der KI-Agenten ist einiges passiert. Dario Amodei, Gründer von Anthropic, bestätigte in einem Blogbeitrag auf seiner Website die öffentlichen Aussagen anderer KI-Entwickler, dass der rasante Fortschritt Risiken mit sich bringe. Sein Konkurrent, OpenAI-Gründer Sam Altman, stimmte Amodeis Essay öffentlich zu. Diese Warnungen scheinen nicht ohne Kalkül zu sein, denn mittlerweile wächst auch in den USA, dem Ursprungsland von ChatGPT und Claude, die Kritik an Künstlicher Intelligenz.

Stimmungsumbruch im KI-Markt

Die Errichtung von KI-Rechenzentren sorgt nicht nur in Österreich, sondern auch im Silicon Valley für öffentliche Aufregung. Denn neben dem Kontrollverlust steht KI auch wegen ihres hohen Energieverbrauchs in der Kritik. Die öffentliche Debatte geht so weit, dass der Nukleartechnologieanbieter Holtec Nuclear vergangene Woche seinen Börsengang kurzfristig abgesagt hat. Begründung: Der KI-Markt sei aktuell zu unruhig – denn in den USA sollen KI-Rechenzentren in erster Linie mit Kernkraft betrieben werden. In Großbritannien protestierte die Organisation „Pull The Plug“ bei der Konferenz des Softwareunternehmens Canva mit dem Aufruf „KI stiehlt von den Menschen“. Die Stimmung ist also aufgeheizt.

Die Macher von ChatGPT und Claude, zwei der beliebtesten KI-Tools, sprechen mit der Selbstkritik nicht nur ihre Nutzer:innen, sondern auch ein anderes Publikum an: die Politik. Und hier scheinen Sam Altman und Dario Amodei erfolgreich zu sein, denn der Ruf nach Regulierung beschäftigt die US-Regierung jetzt tatsächlich wieder. In seinem Essay schlägt Claude-Betreiber Amodei vor, dass die Unternehmen gemeinsame Standards entwickeln, bis die notwendigen Gesetze stehen. „Aus kartellrechtlichen Gründen ist es hilfreich, wenn die US-Regierung bei diesen Gesprächen vermittelt oder sie zumindest ermöglicht – sie muss sich nicht daran beteiligen, sollte aber eine eng gefasste Ausnahmegenehmigung für bestimmte Arten von Sicherheitsgesprächen erteilen“, empfiehlt der Anthropic-CEO. Sam Altman schreibt in seiner Replik auf X: „Bei der internationalen Koordination werden wir auf die Unterstützung unserer Regierung angewiesen sein. Aber zunächst sollten wir selbst tun, was wir können.“

KI-Dialog mit China

Im Gegensatz zum AI Act der Europäischen Union gibt es in den USA noch keine vergleichbare Regulierung. Die KI-Unternehmen zahlen für ihre politischen Interessen in Form von Lobbying. Sowohl OpenAI als auch Anthropic haben in diesem Jahr ihre Ausgaben in diesem Bereich erhöht. Bei der Verfassung des EU-KI-Gesetzes soll OpenAI Berichten zufolge erfolgreich dafür lobbyiert haben, dass ChatGPT nicht als Hochrisiko-Anwendung eingestuft wird. Die KI-Industrie bemüht sich, so wie viele andere Branchen, ihre Regelwerke mitzugestalten. Und im aktuellen Fall teilen die großen Marktteilnehmer der Politik mit, dass sie sich Selbstkontrolle auferlegen.

OpenAI und Anthropic haben es mit ihren Warnschreiben nicht nur in den öffentlichen Diskurs, sondern auch auf die politische Agenda geschafft. Während US-Präsident Donald Trump vor zwei Wochen noch keine Besorgnis darüber zeigte, dass KI zur Gefahr werden könnte, hat er jetzt eine „AI Task Force“ angekündigt: „Wir werden das Wachstum dieser unglaublichen Branche in keiner Weise behindern oder bremsen.“

Mehr Details zu dieser Einrichtung sind noch nicht bekannt, allerdings bringt Trump bei der Diskussion China ins Spiel. Die beiden Wirtschaftsmächte stehen vor allem in der Technologiebranche seit Jahren im Handelskonflikt. Beim Gipfeltreffen zwischen Trump und dem chinesischen Präsidenten Xi Jinping diese Woche soll KI ein zentrales Thema sein. US-Handelsminister Scott Bessent will verhandeln, wie die beiden Nationen Informationen zu KI-Entwicklungen austauschen können.

Eigennützige Selbstkritik

Ursprünglich kam die Skepsis gegenüber der Technologie vor allem aus Europa, doch in der aktuellen Diskussion spielt die Union eine untergeordnete Rolle. In den Rufen nach Regulierung und Vorsicht wird weder von der US-Regierung noch von den Unternehmen auf die KI-Verordnung der EU verwiesen. Die europäischen KI-Startups kritisieren die Debatte in den USA als eigennützig: „Einige etablierte Unternehmen nutzen diese Gelegenheit, um ihre Marktposition zu festigen, und drängen auf Vorschriften, die darauf abzielen, sie gegenüber ihren Mitbewerbern zu begünstigen“, heißt es in einer Stellungnahme des französischen Startups Mistral.

Selbst innerhalb der USA schließen sich nicht alle dem Narrativ von OpenAI und Anthropic an. Nvidia-CEO Jensen Huang sieht ebenfalls versteckte Absichten: „Sie fordern eigentlich keine neuen Gesetze. Sie fordern, von bestehenden Gesetzen befreit zu werden.“ Wenn die Betreiber von KI-Software die Gunst der US-Regierung erhalten und sich lediglich der Selbstregulierung unterwerfen, könnten die Warnrufe aus der Gesellschaft und von Protestorganisationen in Zukunft berechtigt sein.