von Wolfgang Schwarz

KI ist bereits in ihrem gegenwärtigen Zustand erschreckend geschickt darin,

Menschen zu sagen, was sie ihrer Meinung nach hören wollen,

und sie von ihrer [der KI – W.S.] Meinung zu überzeugen.

 

Joel Brenner
in: International Security[1]

 

 

Je genauer diese Modelle werden,

desto mehr werden wir in unserer Wachsamkeit nachlassen.

 

Will Douglas Heaven,

in: MIT Technology Review[2]

 

Vorbemerkung: Lückenhaft ist dieser Überblick nicht nur, weil allein das Material aus frei zugänglichen Quellen die Blättchen-Regularien hinsichtlich der Länge von Beiträgen bei weitem überschreiten würde, sondern – mehr noch – weil der Bereich „Militär und KI“ in allen diesbezüglich aktiven Staaten und bei allen Akteuren (Streitkräften, Unternehmen, Forschungs- und Entwicklungseinrichtungen et cetera) strenger Geheimhaltung unterliegt. Daher geht der Autor des vorliegenden Beitrages davon aus, dass alle nachfolgend aufgeführten Vorgänge, Entwicklungen und Sachverhalte, soweit sie die konkrete militärische Nutzung von KI betreffen, allenfalls die Spitze des Eisbergs sind. Wenn überhaupt …

*

Am 24. Mai 2026 durften die Leser der FAZ einen „Blick auf die nüchterne Realität moderner Streitkräfte“[3] werfen: „KI ist dort längst ein breit eingesetztes Arbeitsmittel. Benutzt wird es etwa bei der Erstellung von Lagebildern und deren Aktualisierung in Echtzeit. KI steckt auch in Flugsteuerungs- und Assistenzsystemen, ohne die moderne Kampfflugzeuge kaum beherrschbar wären. Und sie unterstützt bei der Erstellung und Zusammenstellung von Flugoperationsbefehlen. Die Liste der KI-Anwendungen der Streitkräfte ist lang, ihr Nutzen für die Militärs enorm.“[4] Und: „Das Wettrüsten im Bereich KI ist in vollem Gange.“[5]

*

Vom 14. bis 16. Juli 2026 tagte im Vatikan und in Castel Gandolfo (Sommerresidenz des Papstes) die Global Nobel Laureates Assembly on Artificial Intelligence and Nuclear War (Weltweite Versammlung von Nobelpreisträgern zu den Themen Künstliche Intelligenz und Atomkrieg). In der verabschiedeten „Rome Declaration“ heißt es unter anderem: „Wir erkennen an, dass KI ein Schauplatz strategischen Wettbewerbs ist, so wie es zuvor die Atomwaffen waren.“ Und: „Ein automatisiertes System sollte niemals die endgültige Entscheidung zum Einsatz einer Atomwaffe treffen. Wir fordern die Verabschiedung eines internationalen Vertrags, der die rücksichtslose Integration künstlicher Intelligenz in nukleare Kommando-, Kontroll- und Abschusssysteme verbietet, damit eine sinnvolle menschliche Kontrolle gewahrt bleibt.“[6]

Nur wenige Tage später müsste selbst den größten KI-Optimisten und -Enthusiasten klar geworden sein, dass die Schöpfer sogenannter großer Sprachmodelle (Large Language Models/LLMs), die unter dem Begriff Künstliche Intelligenz (KI) subsummiert werden, ihre inzwischen generativ agierenden Schöpfungen nicht mehr mit letzter Sicherheit unter Kontrolle haben. Am 21. Juli 2026 räumte der US-Hersteller OpenAI – mit Chat-GPT eines der weltweit führenden Unternehmen der KI-Branche – öffentlich ein, dass ein LLM neuester Generation aus einer abgeschirmten Testumgebung selbständig und unbemerkt ausgebrochen war, sich unautorisiert Zugang zum allgemeinen Internet verschafft sowie Hugging Face, ein anderes US-Softwareunternehmen, gehackt hatte. Der Vorfall ereignete sich pikanterweise auch noch während eines Tests, bei dem es ausgerechnet um Cybersicherheit ging. Dabei sei das sich verselbständigende LLM, wie Antonio Krüger, Leiter des Deutschen Zentrums für Künstliche Intelligenz, betont, nicht von einem Wille zur Freiheit getrieben worden, über den KI nicht verfüge, sondern von blanker Rationalität: „Wo bekomme ich Informationen her, um meine [im Rahmen des OpenAI-Tests gestellte – W.S.] Aufgabe möglichst effektiv zu lösen?“[7] – Manuel Atug, dem Gründer und Sprecher der Arbeitsgruppe Kritische Infrastrukturen, ist zuzustimmen: „Das ist die Zukunft, die da kommt.“ Nur die „Zeitangabe“ stimmt nicht: Diese Zukunft ist schon da.

Bei dem OpenAI-Vorfall kam im Übrigen noch folgendes hinzu: Als IT-Forensiker von Hugging Face verdächtige Aktivitäten auf ihrer Plattform mit Hilfe kommerzieller LLMs, darunter von OpenAI, untersuchen wollten, wurden die Anfragen blockiert, weil die Schutzmechanismen der Modelle nicht zwischen einem Angreifer und der Anfrage eines Sicherheitsteams unterscheiden konnten. Erst ein Rückgriff auf die Open-Source-KI GLM 5.2 des chinesischen Softwareunternehmens Z.ai führte weiter. Adrian Lobe fasste in der Berliner Zeitung zusammen: „Um einen US-Hackerangriff abzuwehren, musste Hugging Face also auf eine chinesische KI und damit die Hilfe des Systemrivalen zurückgreifen. Verkehrte Welt.“[8]

*

In Reaktion auf den verbrecherischen Terrorangriff der Hamas vom 7. Oktober 2023 führt Israel Krieg im Gazastreifen. Bis Ende 2025 waren dabei nach Angaben des von der Hamas kontrollierten Gesundheitsministeriums in Gaza bereits mehr als 71.000 Menschen von der Armee Israels getötet worden. Nachdem die palästinensischen Opferangaben von israelischer Seite längere Zeit bestritten worden waren, haben die Streitkräfte des Landes die Zahl im Januar 2026 – einem Bericht des Magazins Der Spiegel zufolge – als im Wesentlichen zutreffend bestätigt.[9]

Beobachter sehen einen Zusammenhang zwischen dieser hohen Opferzahl und einem automatisierten Targeting (Generieren von Zielempfehlungen) mittels eines KI-gestützten Systems namens „Lavender“. Unter Berufung auf sechs israelische Geheimdienstquellen hat The Guardian am 3. April 2024 ausführlich darüber informiert: „Vier der Quellen berichteten, dass ‚Lavender‘ zu einem frühen Zeitpunkt des Krieges bis zu 37.000 palästinensische Männer auflistete, die vom KI-System mit der Hamas oder dem PIJ [Palestinian Islamic Jihad – W.S.] in Verbindung gebracht worden waren.“[10] Den Quellen zufolge soll es gestattet gewesen sein, zur Ausschaltung von mutmaßlichen Hamas-Kämpfern niederen Ranges die kollaterale Tötung von 15 bis 20 unbeteiligten Zivilisten – Kinder, Frauen und greise Menschen – eingeschlossen, in Kauf zu nehmen: Es gab eine völlig freizügige Politik hinsichtlich der Opferzahlen bei [Bombardierungs-]Operationen“, so eine der Quellen.[11]

Die Ausschaltung der Ziele selbst erfolgte per Luftangriff mit sogeannten „dumb bombs“ (ungelenkten Sprengbomben), die ganze Häuser zerstörten und sämtliche Menschen darin töteten. Die Logik dahinter erläuterte eine der Quellen: „Man will keine teuren Bomben an unwichtige Menschen verschwenden – das ist sehr kostspielig für das Land, und es herrscht Mangel [an solchen Bomben – W.S.].“[12] Das Ganze lief im Übrigen offenbar ab wie am Fließband: „Aufgrund des Systems nehmen die Ziele kein Ende. Es warten weitere 36.000.“[13] The Guardian resümierte: „Konfliktexperten zufolge könnte dies die schockierend hohe Zahl der Todesopfer in diesem Krieg erklären, falls Israel mit Hilfe von KI ‚dumme Bomben‘ eingesetzt hat, um die Häuser von Tausenden Palästinensern zu zerstören, die mit militanten Gruppen im Gazastreifen in Verbindung standen.“[14]

Laut Yahli Shereshevsky von der University of Haifa Law School gehen „Rechts- und Ethikwissenschaftler […] davon aus, dass menschliche Entscheidungsträger den Zielempfehlungen der KI so weit folgen werden, dass menschliches Urteilsvermögen kaum mehr als ein Absegnen ist“[15]. Dem Guardian-Beitrag war dazu folgende Aussage einer Quelle zu entnehmen: „Ich habe in dieser Phase 20 Sekunden pro Ziel aufgewendet und jeden Tag Dutzende davon bearbeitet. […] Das hat viel Zeit gespart.“[16]

*

Zu Beginn des Jahres 2026 spielten Forscher am King’s College in London mit drei kommerziellen Sprachmodellen – GPT-5.2 (von OpenAI), Claude Sonnet 4 (von Antropic) und Gemini 3 Flash (von Google DeepMind) – eine sogenannte Tabletop-Übung durch, wie sie zum Beispiel für militärische Strategiesimulationen verwendet werden. Jedes Modell agierte dabei als Führer eines atomar bewaffneten Staates in einer Konfrontation nach Art des Kalten Krieges. Die Modelle wurden nicht angewiesen, den Konflikt zu eskalieren oder um jeden Preis zu gewinnen.

Das Ergebnis war ebenso eindeutig wie frappierend: „In 21 Simulationen und 329 Spielrunden entschieden sich die Modelle in allen bis auf ein Spiel dafür, taktische Atomwaffen einzusetzen. Kein Modell entschied sich in irgendeinem Durchlauf dafür, zu kapitulieren oder nennenswerte Zugeständnisse zu machen.“[17] So fasste Hiranya Peiris die Abschlussstatistik der Simulation im Bulletin of the Atomic Scientists zusammen. Die eingesetzten Modelle erwiesen sich folglich als unfähig, den Konflikt zu deeskalieren oder gar politisch-diplomatisch beizulegen. Weiter wies Peiris noch auf folgendes hin: „Derzeit regeln die für KI-Modelle geltenden Sicherheitsfestlegungen jede einzelne Handlung. Nichts jedoch regelt den Weg, der über in Echtzeit zusammengestellte Routen zu Zwischenzielen führt, die in vielen Fällen nicht vorhersehbar sind. Da immer mehr autonome Systeme mit folgenreichen Aufgaben betraut werden, bei denen die menschliche Aufsicht immer geringer wird, vervielfachen sich die Risiken durch unkontrollierte Wege. Derzeit gibt es für dieses Problem keine Lösung.“[18] Das ist umso fataler, weil eine vor nicht allzu langer Zeit durchgeführte unabhängige Bewertung führender KI-Firmen, darunter OpenAI , Antropic  und Google DeepMind[19], ergeben hat, „dass keine von ihnen über eine glaubwürdige Strategie zur Verhinderung katastrophaler Fehlanwendungen oder Kontrollverluste verfügte“[20].

*

Als das Magazin Der Spiegel dem Briten Stuart Russell, einem „der renommiertesten Forscher auf dem Gebiet der künstlichen Intelligenz“[21], entgegenhielt, „Konsens ist, dass KI zu mindestens 75 Prozent sicher ist“[22], antwortete dieser mit einer Gegenfrage: „Würden Sie in ein Flugzeug steigen, wenn sie nur in drei von vier Fällen überleben?“

Von grundlegender sicherheitspolitischer Bedeutung für die militärische (wie auch die zivile) Nutzung von KI ist der Sachverhalt, dass LLMs in Fällen, in denen die ihnen zugängliche Datenbasis keine evidenzbasierte, vulgo auf belastbare Quellen gestützte Beantwortung einer aufgeworfenen Fragestellung oder Lösung eines Problems ermöglicht, dies nicht nur nicht mitteilen, sondern „Antworten“, „Lösungen“ et cetera halluzinieren. Die KI von Google bot dem Autor des vorliegenden Beitrages auf die Anweisung „definiere den begriff halluzination im hinblick auf ki!“ folgendes an: „Eine KI-Halluzination ist eine falsche, erfundene oder unsinnige Ausgabe, die von einem System der Künstlichen Intelligenz (wie einem Sprachmodell) erzeugt wird. Dabei präsentiert die KI diese unwahren Informationen völlig selbstbewusst und überzeugend als absolute Fakten.“ Dazu wurde erläutert: „Die KI wählt Wörter basierend auf statistischen Mustern aus, anstatt echtes Verstehen oder Wissen zu nutzen. […] Wenn das Modell eine Frage nicht genau beantwortet kann, füllt es Wissenslücken mit plausibel klingenden Vermutungen. […] Viele KIs sind darauf trainiert, lieber eine Antwort zu erfinden, als zuzugeben, dass sie etwas nicht wissen.“

Es handelt sich dabei um einen systemischen Fehler, auf den auch Joel Brenner in seinem umfangreichen Essay „Artificial Intelligence and the Problem of Surprise“ („Künstliche Intelligenz und das Problem der Überraschung“) in International Security verweist, wenn er schreibt, „dass handelsübliche Systeme […] in unzumutbarem Maße ‚halluzinieren‘, da sie darauf trainiert wurden, Vermutungen zu belohnen und Antworten wie ‚Ich weiß es nicht‘ zu vermeiden“[23].

Derzeit gibt es weder eine nach wissenschaftlichen Kriterien hinreichende Erklärung für dieses Phänomen, geschweige denn eine Lösung. Das Problem als solches wird noch dadurch verschärft, dass derartige Halluzinationen häufig nicht ohne weiteres erkennbar sind und als Zwischenschritte auf dem Weg zu folgenschweren Entscheidungen so die Weichen in Richtung Katastrophe stellen könnten.

*

Bei der eingangs erwähnten Konferenz im Vatikan und in Castel Gandolfo hat die argentinische Physikerin Karen Hallberg, Mitträgerin des Friedensnobelpreises 1995, appelliert: „Die Technologie entwickelt sich schneller als unsere Fähigkeit, sie zu regulieren. Wir müssen die Erforschung hochentwickelter KI-Systeme global verlangsamen. Nur so geben wir der UNO und den Staaten die nötige Zeit, um wirksame völkerrechtliche Kontrollmechanismen aufzubauen und technologische Fehlfunktionen zu verhindern.“[24]

Experten wie Antonio Krüger sind der Auffassung, wir brauchten „international vernetzte KI-Sicherheitsstrukturen. Die Analogie zur Atomaufsicht wird manchmal überstrapaziert – aber das Prinzip stimmt: Sie funktioniert international. Nationale Alleingänge nützen wenig.“[25]

Derzeit fehlen international jedoch offenkundig jegliche Voraussetzungen dafür, derartige Vorschläge umzusetzen. Ob es daher so kommen wird, dass Rechenzentren notfalls per Luftangriff ausgeschaltet werden müssen, um eine durchgehende KI zu stoppen, wie der KI-Forscher Eliezer Yudkowski in einem Gastbeitrag für das US-Magazin Time schon vor einigen Jahren angeregt hat[26], wird man sehen. Ob dann aber die Reißleine noch rechtzeitig gezogen werden kann, um eine Auslöschung der Menschheit zu verhindern? Darauf sollte man es eigentlich besser nicht ankommen lassen …

 

Erstveröffentlichung in WeltTrends Nr. 210 / Herbst 2026.

 

[1] – Joel Brenner: Artificial Intelligence and the Problem of Surprise, International Security, Vol. 50, 3 (Winter 2025/2026); https://direct.mit.edu/isec/article-abstract/50/3/127/135685/Artificial-Intelligence-and-the-Problem-of?redirectedFrom=fulltext – aufgerufen am 02.08.2026.

[2] – Will Douglas Heaven:, „Why Does AI Hallucinate?”, MIT Technology Review, 18. Juni 2024; https://www.technologyreview.com/2024/06/18/1093440/what-causes-ai-hallucinate-chatbots/ – aufgerufen am 02.08.2026.

[3] – Magdalena Tröndle: Wenn der „Killerroboter“ zum Kampfbegriff wird, Frankfurter Allgemeine, 24.05.2026; https://www.faz.net/aktuell/politik/ausland/ki-im-krieg-zu-viel-skepsis-koennen-wir-uns-nicht-leisten-200850592.html?campid=MAIL-E2400000720&mch1=&mch2=ebcc682d60f6c003b9a8bffe686db7b67d46987c545d3cd4b0975510827a9ad8a20a735602e8bd9630cab79b0a461c8d9acd1113554c13a26f010ce4a402e1ab&mch3=da01f44348e3b2a2faa70037cb2aad1c56bdd15ff9257d395562dd6584245706 – aufgerufen am 02.08.2026.

[4] – Ebenda.

[5] – Ebenda. – Einen aktuellen Überblick darüber, was wo im Gange ist, gibt Steven Feldstein: The AI Power Trip, Bulletin of the Atomic Scientists, 25.06.2026; https://thebulletin.org/2026/06/ai-targeting-systems-are-coming-but-not-as-fast-as-many-assume/?utm_source=ActiveCampaign&utm_medium=email& utm_content=KI-Targeting-Systeme sind auf dem Vormarsch, aber nicht so schnell, wie Sie vielleicht denken&utm_campaign=20260625%20Donnerstags-Newsletter& vgo_ee=LMX2q99KigIBbNsQVJoBUNF%2FcUTl5FKi8VfTrBBTaudXlyu6WkalOnA%3D%3A1egDthtvK%2FOnwQRFD37f3DANvVVKN6Et – aufgerufen am 02.08.2026.

[6] – Rome Declaration. Humanity at the Threshold: A Declaration on Artificial Intelligence and Nuclear Weapons, Borgo Laudato Si’, Vatican – July 2026; https://globalnobelassembly.org/rome-declaration – aufgerufen am 01.08.2026.

[7] – Alexander Armbruster: „Wir müssen annehmen, dass die KI den Weg ins Internet und den Angriff eigenständig entwickelt hat“ (Interview), Frankfurter Allgemeine, 24.07.2026; https://www.faz.net/aktuell/wirtschaft/unternehmen/dfki-chef-krueger-ueber-open-ai-wir-muessen-annehmen-dass-die-ki-den-weg-ins-internet-und-den-angriff-eigenstaendig-entwickelt-hat-201060723.html?campid=MAIL-E2400000720&mch1=&mch2=ebcc682d60f6c003b9a8bffe686db7b67d46987c545d3cd4b0975510827a9ad8a20a735602e8bd9630cab79b0a461c8d9acd1113554c13a26f010ce4a402e1ab&mch3=da01f44348e3b2a2faa70037cb2aad1c56bdd15ff9257d395562dd6584245706 – aufgerufen am 01.08.2026.

[8] – Adrian Lobe: Cybersicherheit: Was passiert, wenn die KI durchdreht?, Berliner Zeitung, 23.07.2026; https://www.berliner-zeitung.de/article/cybersicherheit-was-passiert-wenn-die-ki-durchdreht-10227540 – aufgerufen am 01.08.2026.

[9] – Vgl. Israels Armee bestätigt Zahl von 70.000 Kriegstoten in Gaza, Der Spiegel, 29.01.2026; https://www.spiegel.de/ausland/israel-armee-bestaetigt-70-000-kriegstote-in-gaza-a-922c9c7e-9d0c-4191-a146-4d21ff33077d – aufgerufen am 02.08.2026.

[10] – „The machine did it coldly“: Israel used AI to identify 37,000 Hamas targets, The Guardian, 03.04.2024; https://www.theguardian.com/world/2024/apr/03/israel-gaza-ai-database-hamas-airstrikes – aufgerufen am 02.08.2026.

[11] – Ebenda.

[12] – Ebenda.

[13] – Ebenda.

[14] – Ebenda.

[15] – Yahli Shereshevsky: The Effect of Military AI on Contemporary Battlefields, Carnegie Endowment for International Peace, 13.05.2026; https://carnegieendowment.org/research/2026/05/the-effect-of-military-ai-on-contemporary-battlefields – aufgerufen am 02.08.2026.

[16] – „The machine did it coldly“, a.a.O.

[17] – Hiranya Peiris: AI can chart a course to disaster faster than humans can notice, Bulletin of the Atomic Scientists, 25.05.2026; https://thebulletin.org/2026/05/ai-can-chart-a-course-to-disaster-faster-than-humans-can-notice/?utm_source=ActiveCampaign&utm_medium=email&utm_content=AI%20models%20play%20nuclear%20wargames&utm_campaign=20260525%20Monday%20Newsletter&vgo_ee=sNJ1TUz9bz%2FBEEjQI5vRlLAduzbqPjeG4dB9D395AMkUqXrcPvFHMz8%3D%3AEuB6iCuBKv0Suc8xhl63n2dOntao8oDs – aufgerufen am 02.08.2026.

[18] – Ebenda.

[19] – Siehe AI Safety Index: 2024; https://futureoflife.org/document/fli-ai-safety-index-2024/ – aufgerufen am 02.08.2026.

[20] – Hiranya Peiris, a.a.O.

[21] – Simon Book: „Was Hitler getan hat, könnte die KI schneller, besser, effektiver“ (Interview), Der Spiegel, 24/2026; https://www.spiegel.de/wirtschaft/kuenstliche-intelligenz-was-hitler-getan-hat-koennte-die-ki-schneller-besser-effektiver-a-03024d3d-6964-4e9e-9466-d30c365fcdaf – aufgerufen am 02.08.2026.

[22] – Ebenda.

[23] – Joel Brenner, a.a.O.

[24] – Zit. nach Manfred Böhm: Dringende Warnung aus Castel Gandolfo: Entmachtet die Militär-KI, bevor es zu spät ist!, Nachdenkseiten, 26.07.2026; https://www.nachdenkseiten.de/?p=154134 – aufgerufen am 01.08.2026.

[25] – Alexander Armbruster, a.a.O.

[26] – Siehe Eliezer Yudkowski: Pausing AI Developments Isn’t Enough. We Need to Shut it All Down, Time, 30.03.2023; https://time.com/6266923/ai-eliezer-yudkowsky-open-letter-not-enough/ – aufgerufen am 01.08.2026.

---

---