Wie künstliche Intelligenz Kriege verändert

Nie zuvor hat eine Armee KI in einem solchen Maßstab eingesetzt. Allein am ersten Tag hat das US-Militär mithilfe von Maven Smart System (MSS), dem KI-Targeting-System des Pentagon, Tausend Ziele ausfindig gemacht und angegriffen. Bis zur Waffenruhe am 8. April waren es 13.000 Ziele. Das US Central Command sagt, KI habe Abläufe, die früher Stunden oder Tage gedauert hätten, auf Minuten und Sekunden verkürzt. Was wir allerdings nicht wissen: wie genau die vom System vorgeschlagenen Ziele von Menschen geprüft werden.

Das US-Militär untersucht den Angriff, hat aber bislang nicht gesagt, was genau passiert ist. Nach meinen Recherchen wurde auch dieses Ziel mit MSS ausgewählt. Doch die Daten, auf die die KI zurückgegriffen hat, waren veraltet. Das Gebäude war im System als Basis der Revolutionsgarden, also als legitimes militärisches Ziel gespeichert. Das war es früher auch – doch schon vor vielen Jahren wurde es in eine Schule umgewandelt. Das scheint vor dem Abschuss nicht geprüft worden zu sein. Es besteht also berechtigterweise der Verdacht: KI beschleunigt Fehler, anstatt sie zu korrigieren.

Der militärische Entscheidungszyklus beim 18. US-Luftlandekorps – jener Einheit der US Army, die den Einsatz von Maven bei der Zielerfassung als Erste getestet hat – umfasst sechs Schritte. Vor allen anderen Schritten gibt der Kommandeur Vorgaben für die Zielbekämpfung heraus. Erstens legen Menschen den operativen Ansatz fest. Zweitens werden die vorhandenen Daten ausgewertet. Drittens entscheidet der Kommandeur, zu handeln. Viertens wird die Entscheidung des Kommandeurs übermittelt. Fünftens wird diese Entscheidung ausgeführt. Und sechstens ermittelt eine Gefechtsbeurteilung, wie effektiv der Einsatz war. Maven hat diesen Zyklus radikal verändert und den Menschen aus drei der sechs Schritte komplett herausgenommen. Direkt eingebunden ist er nur noch bei zwei Kernelementen: beim dritten Schritt, wenn entschieden wird, überhaupt zu handeln – und beim fünften, der eigentlichen Ausführung des Angriffs.

Der Leiter der für Maven zuständigen Abteilung im Pentagon hat dieses Jahr behauptet, dass es nur noch wenige Klicks braucht, um einen Angriff durchzuführen. Stellen sie sich eine digitale Landkarte vor auf der automatisch mögliche Ziele angezeigt werden: per Klick kann man das Ziel und das Waffensystem auswählen; sowie die Logistik und den benötigten Treibstoff festlegen und schließlich den Angriff starten. Es funktioniert wie eine Flugbuchung im Internet, nur einfacher. Die fundamentale Bedingung für dieses System ist allerdings, dass alle Daten, die es füttern, absolut fehlerfrei sind – was beim Angriff auf die Schule in Minab nicht der Fall war.

Ich saß neulich auf einem Panel mit Jack Shanahan, dem ersten Direktor von „Project Maven“. Früher hat er gesagt: Das Pentagon solle nie wieder eine Waffe ohne KI bauen. Nach dem Angriff auf den Iran wurde er nachdenklich: Der Sinn von Maven sei gewesen, Kommandeur:innen mehr Zeit für Entscheidungen zu verschaffen. Aber viele dieser Militärs seien Alphatiere. Statt sich mehr Zeit zu nehmen, würden sie schlicht mehr Entscheidungen treffen. Ein Problem: Es besteht die Gefahr, dass Einsatzkräfte den Empfehlungen von Maschinen mehr vertrauen als dem eigenen Urteil. Das nennt man „Automation Bias“.

Der Anstoß kam aus einer Gruppe namens „Breakfast Club“ im Umfeld des stellvertretenden Verteidigungsministers. Dort hatte man die Sorge, dass China zwei Jahrzehnte lang die Schwachstellen des US-Militärs studiert hatte, während das vermeintlich fähigste Militär der Welt zwei verlustreiche Kriege im Irak und in Afghanistan geführt hat. KI, so die Idee, sollte dabei helfen, die Überlegenheit des US-Militärs wiederherzustellen – und China so von einem Angriff auf Taiwan abzuschrecken.

Cukor ist sozusagen der Erfinder von „Project Maven“. Er wurde 2001, direkt nach dem 11. September, nach Afghanistan geschickt, gehörte zu den ersten Marines in Kandahar und erlebte mit eigenen Augen, wie Sprengsätze US-Soldaten töteten und verstümmelten. Seine Erfahrung war: Die Informationen waren vorhanden, doch die Soldat:innen wurden nicht rechtzeitig darüber informiert, wo Sprengfallen lagen oder wo der nächste Angriff drohte. Sein Ziel war es, das mithilfe von KI zu ändern, die etwa dabei helfen sollte, große Mengen Bildmaterial von Drohnen auszuwerten. Das Problem: Herkömmliche Rüstungskonzerne hatten überhaupt keine Erfahrung damit. Also wandte er sich an Game-Designer:innen im Silicon Valley, die ihm helfen sollten. Schließlich entwickelte er „Maven Smart System“ federführend mit der Hilfe von Palantir.

Mit Russlands Invasion in der Ukraine! Damals wurde das Maven Smart System zum US-Stützpunkt nach Wiesbaden in Deutschland gebracht. Das 18. US-Luftlandekorps wollte von dort aus Objekte aus Luftaufnahmen identifizieren. Am Anfang funktionierte es überhaupt nicht. Denn die KI war auf militärische Objekte im Nahen Osten und auf Dschungel auf den Philippinen trainiert worden. Nun sollte sie Panzer im Schnee finden, und das konnten die Algorithmen schlicht nicht. Der Kommandeur sagte damals: Wenn es nicht funktioniert, schafft es weg, ich will nicht, dass es meine Leute verwirrt. Aber weil die russische Panzerkolonne Richtung Kiew im Schlamm feststeckte, konnte das Militär plötzlich große Mengen an Bildmaterial sammeln. Mithilfe dieser Aufnahmen wurde die KI neu trainiert. Und das System funktionierte schnell viel besser.

In vielen Fällen, so wurde es mir geschildert, lieferten die USA den ukrainischen Streitkräften mithilfe von MSS erzeugte „points of interest“. Also mögliche Ziele. Die Entscheidung über einen Angriff traf dann die Ukraine selbst. Das war so erfolgreich, dass inzwischen auch die NATO das Maven Smart System für ihre Einsatzplanung und Entscheidungsfindung nutzt.

Manche Beobachter erheben diesen Vorwurf mit Blick darauf, wie Israel seine eigenen KI-gestützten Zielerfassungssysteme in Gaza als Reaktion auf die Hamas-Massaker vom 7. Oktober 2023 entwickelt und eingesetzt hat – und mit Blick auf die Zahl der getöteten Zivilisten in Gaza, darunter laut UNO bis September 2025 mehr als 18.000 Kinder. Ich habe Israels militärische KI-Systeme nicht untersucht. Aber die Recherchen des israelische Magazin +972, die sich auf Quellen innerhalb der israelischen Streitkräfte stützen, haben den Einsatz der Systeme namens „Lavender" und „Where's Daddy?" aufgedeckt.

Die Entscheider:innen beim Militär haben die von der KI vorgeschlagenen Ziele laut den anonymen Quellen des Magazins teils nur zwanzig Sekunden oder kürzer geprüft, bevor über den Abschuss entschieden wurde. Eine Quelle sagte dem Reporter, das System habe eine Fehlerquote von zehn Prozent. Der inzwischen pensionierte Vier-Sterne-General Mark Milley warnte schon im Oktober 2024 davor, dass mit KI-Kriegsführung die Büchse der Pandora geöffnet würde. Er verwies auf die hohen Opferzahlen in der Ukraine und in Gaza und sagte, das seien die „Kinotrailer" künftiger Kriege – Gefechte in Megastädten, ausgetragen in Blitzgeschwindigkeit.

Seit 2014 verhandeln Staaten im Rahmen der UN-Waffenkonvention CCW über ein Verbot autonomer Waffensysteme. Dabei handelt es sich um Waffen, wie zum Beispiel Drohnen, die völlig autonom, ohne das Zutun von Menschen, Ziele auswählen und angreifen können. Zuletzt gab es Berichte, wonach Russland solche Systeme in der Ukraine eingesetzt haben soll. Aber das ist eher noch die Ausnahme. Wir sehen im Moment vor allem Targeting-Systeme, die Kriege beschleunigen.

Richtig. Diese Militärmächte würden nichts unterschreiben, was ihren vermeintlichen Vorteil zunichte macht. Aber Aktivist:innen sagen, dass sich die Staatengemeinschaft davon nicht abschrecken lassen sollte: Auch bei den Verhandlungen über ein Verbot von Landminen wurde in den 1990ern im Rahmen der CCW keine Einigung erzielt. Doch dann haben sich einzelne Staaten in Ottawa getroffen und ein Abkommen geschlossen. So wurden Landminen zu einem international geächteten Kriegsmittel. Und auch wenn die USA den Vertrag nie unterschrieben haben, so haben sie später dennoch große Summen in die Räumung von Minen gesteckt. Für ein Verbot, argumentieren Aktivist:innen, braucht es also Staaten, die diesen ersten Schritt machen.