Superintelligenz: Verlieren wir bald die Kontrolle über KI?

Wir beobachten derzeit, wie rasant sich technologische Anwendungen weiterentwickeln. Künstlich generierte Bilder und Videos wirken immer echter und Chatbots werden immer intelligenter. Das als Tech-Superzyklus bezeichnete Phänomen könnte dazu führen, dass eine seit Jahrzehnten prognostizierte Entwicklung bald Realität wird: Superintelligenz.

• Mehr für dich: Hört mein Handy wirklich mit?

Drei Stufen der KI

Während Künstliche Intelligenz den öffentlichen Diskurs in nahezu allen Bereichen bestimmt, taucht nun zunehmend der Begriff „Superintelligenz“ auf. Einfach ausgedrückt bezeichnet er die höchste Stufe der KI.

Denn bei näherer Betrachtung unterscheidet die KI-Forschung drei Ebenen der Künstlichen Intelligenz: Die Künstliche Enge Intelligenz (Artificial Narrow Intelligence, ANI) führt sehr genau definierte Aufgaben aus. Sie ist die Form, die wir heute in Tools wie ChatGPT oder Gemini sehen. Die Künstliche Allgemeine Intelligenz (Artificial General Intelligence, AGI) soll die nächste Stufe sein und menschenähnliche Aufgaben erledigen. Auch wenn aktuelle KI-Anwendungen dem schon sehr nahekommen, sind sie laut Forscher:innen noch keine echte AGI. Und trotzdem sprechen wir bereits über die fortgeschrittenste Form: Die Künstliche Superintelligenz (Artificial Super Intelligence) übertrifft die kognitiven Fähigkeiten des Menschen in jedem Bereich. Sie soll also smarter sein als die smartesten Menschen.

In seiner Arbeit „How long before superintelligence“ definierte Nick Bostrom, Philosoph und Neurowissenschaftler der Universität Oxford, den Begriff schon im Jahr 1997: „Unter Superintelligenz verstehen wir einen Intellekt, der in praktisch allen Bereichen, einschließlich wissenschaftlicher Kreativität, allgemeiner Weisheit und sozialer Kompetenzen, weitaus intelligenter ist als die besten menschlichen Gehirne.“ Damals rechnete er vor, dass es voraussichtlich bis 2024 dauern würde, bis Hardware und Software so weit fortgeschritten wären, dass solche Systeme entwickelt werden könnten.

Wöchentliche Updates aus der Redaktion

WZ Weekly

Einblicke in die WZ-Redaktion. Ohne Blabla.

Jeden Dienstag

Tech-Konzerne arbeiten an Superintelligenz

An genau diesem Punkt befinden wir uns jetzt tatsächlich – zumindest, wenn wir den Geschäftsführern der wichtigsten Technologieunternehmen glauben. „Es ist möglich, dass wir in wenigen tausend Tagen (!) über Superintelligenz verfügen werden; es könnte auch länger dauern, aber ich bin zuversichtlich, dass wir dieses Ziel erreichen werden“, schrieb OpenAI-CEO Sam Altman im September 2024. Meta-CEO Mark Zuckerberg ist im Juli 2025 ähnlich optimistisch: „Die Entwicklung von Superintelligenz ist in greifbarer Nähe.“ Um seine Aussage wahr werden zu lassen, hat der Facebook-Konzern ein eigenes Institut für Superintelligenz gegründet und dafür Expert:innen von Elite-Universitäten sowie vom ChatGPT-Betreiber OpenAI engagiert.

Wenn man die Essays von Sam Altman und Mark Zuckerberg liest, könnte man meinen, Superintelligenz werde all unsere Probleme lösen und für Wohlstand auf der ganzen Welt sorgen. „Eine persönliche Superintelligenz, die uns genau kennt, unsere Ziele versteht und uns dabei helfen kann, diese zu erreichen“, schwebt dem Meta-CEO vor. Tatsächlich gibt es viele Anwendungsgebiete, aber nicht alle sind so sozial wie von Zuckerberg beschrieben.

Die Schattenseiten der Super-KI

In der von Ex-Google-Chef Eric Schmidt mitverfassten Publikation „Superintelligent Strategy“ heißt es, dass superintelligente Anwendungen die Forschung rationalisieren und die Wirtschaftsleistung fördern können. Medizinische Durchbrüche, politische Stabilität durch KI-Prognosen und die Automatisierung der Industrie seien damit möglich. Die Studienautoren sehen die Schattenseiten aber ähnlich umfangreich: Die Entwicklung von Superwaffen und deren Einsatz im Cyberterrorismus könnte sogar zu einer neuen Weltordnung führen. Zudem drohe ein Kontrollverlust, wenn Menschen zu sehr von der KI abhängig werden. Der KI-Pionier und Nobelpreisträger Geoffrey Hinton prognostiziert, dass es eine Chance von 10 bis 20 Prozent gebe, dass KI die Kontrolle über uns übernehmen werde.

Diese Szenarien klingen derzeit noch utopisch. Wann kommt also die Superintelligenz tatsächlich? Weder Altman noch Zuckerberg oder Schmidt und andere KI-Forscher:innen lassen sich auf konkrete Prognosen ein. Einig sind sie sich jedoch in der Annahme, dass sie kommen wird. Nick Bostrom, der sich bereits 1997 diese Frage stellte, hat auch 2025 noch keine Antwort darauf. In einem aktuellen Interview mit dem Tech-Magazin CNet sagt er, dass es möglich sei, dass wir nur noch wenige Jahre davon entfernt sind. Es werde jedenfalls ernsthaft geforscht und es handle sich nicht nur um ein Buzzword der Technologiebranche.

Die Superintelligenz beschäftigt nicht nur die Wirtschaft, sondern auch die Wissenschaft. Forscher:innen wie Bostrom legen ihren Fokus darauf, welche Auswirkungen die tiefgreifende Transformation haben wird. Die Frage ist also nicht mehr ob, sondern wann die Superintelligenz kommt.