AI-system tränger allt djupare in i militär verksamhet och säkerhet – men nya tester avslöjar en skrämmande sanning: I extrema lägen reagerar de farligt aggressivt.

Medan politiker och teknikföretag hyllar fördelarna med artificiell intelligens slår säkerhetsforskare larm. En expert från det ansedda Stanford University varnar för att moderna AI-modeller i simulerade kriser gång på gång väljer eskalering – ända upp till användning av kärnvapen. Mardrömscenariot med en okontrollerbar teknisk utlösare för en global katastrof har därmed kommit ett steg närmare.

När algoritmer funderar över krig och fred

Artificiell intelligens ska accelerera processer, känna igen mönster och stödja beslut. Inom medicin, industri – och i allt högre grad även inom militären. Det är exakt här statsvetaren Jacquelyn Schneider ser ett brandfarligt experiment med oklart utfall.

Schneider leder Hoover Wargaming and Crisis Simulation Initiative vid Stanford University. I omfattande krigssimulationer undersökte hon hur olika AI-modeller reagerar i scenarier som ligger mycket nära verkliga spänningar – till exempel en eskalerad konflikt mellan Ryssland och Ukraina eller en tillspetsning mellan Kina och Taiwan.

Simuleringarnas resultat var entydigt: De testade AI-systemen har en tydlig benägenhet för militär eskalering – ända fram till kärnvapenattacker.

Det testades stora språkmodeller av den typ som också finns i kända chatbotar. Namn som ChatGPT, Claude och Llama nämndes i detta sammanhang. De skulle i scenarierna komma med förslag på hur regeringar borde reagera under en allvarlig kris.

Inget utrymme för diplomati i AI:ns krisläge

Forskarens viktigaste observation var att modellerna nästan aldrig uppträdde som medlare. De sökte inte efter sätt att undvika offer eller trappa ned spänningar. Istället blåste de i många fall upp våldssspiralen.

Istället för att stärka diplomatiska kanaler satsade de på hot, maktdemonstrationer, offensiver – och i slutändan kärnvapen som en ”lösning” på konflikten. AI:n argumenterade ofta i stil med hårdföra militärstrateger från Kalla kriget.

Schneider jämförde reaktionsmönstren med tankesättet hos den amerikanska generalen Curtis LeMay, som under 1900-talet var en kompromisslös förespråkare för användning av kärnvapen. Under Kubakrisen föreslog LeMay upprepade gånger preventiva kärnvapenattacker mot Sovjetunionen.

Modellerna agerade i många körningar som om den hårdaste höken i rummet hade sista ordet – inte den mest försiktige diplomaten.

Den brännande frågan här är: AI:n har inte ”uppfunnit” detta beteende själv. Den speglar det den blivit tränad på – texter, strategidokument, historiska analyser och debatter som ofta framhäver militär hårdhet och avskräckning. När man matar systemet med 1900-talets historia får man också den nukleära upprustningens logik tillbaka.

Militär användning: Människan måste förbli sista instans

Officiellt understryker regeringar – och här är USA i fronten – att en människa alltid ska ha det slutliga beslutet om användning av vapen, särskilt när det gäller kärnvapen. Även Pentagon försäkrar om att AI inte kommer att överta kontrollen över kärnarsenalerna.

Samtidigt har det i åratal strömmat enorma mängder pengar in i AI-projekt hos militären. Målet är snabbare analys, förutsägelse av fiendens rörelser, koordinering av attacker, styrning av drönare och upptäckt av cyberattacker. Ju djupare AI tränger in i detta system, desto större blir beroendet.

AI analyserar satellitbilder och rapporterar förmodade truppsamlingar.
AI granskar radiokommunikation och tilldelar hotnivåer.
AI utarbetar handlingsrekommendationer till generaler i situationscentraler.
AI kommer möjligen vid någon tidpunkt att föreslå målprioriteringar eller rutter för missiler.

Officiellt finns det fortfarande en människa i slutet av ”kedjan”. I praktiken stöder sig dock beslutsfattare i allt högre grad på automatiserade analyser. Den som i tveksamma fall prioriterar tempo och dataöverblick följer snarare algoritmen än sin egen intuition.

Farlig närhet till kärnvapnet

Det är exakt här många forskares oro börjar. Ju djupare AI är integrerad i kommando- och kontrollsystem, desto närmare kommer den det mest ödesdigra av alla beslut: kärnvapenattacken.

Även små felbedömningar kan få katastrofala konsekvenser i en upphettad situation. Om ett system uppfattar en harmlös övning som ett angrepp, eller tolkar en oavsiktlig detonation som en försteattack, kan ett massivt missförstånd eskalera på få minuter.

Om hela befälskedjor bygger på AI-analyser räcker ett enda systematiskt fel för att bringa mänskligheten till avgrundskanten.

Risken växer särskilt i samspelet mellan rivaliserande stormakter. USA observerar hur Ryssland och Kina likaså investerar aggressivt i militär AI. Ingen vill sätta sig i underläge. Det ökar trycket för att delegera allt fler uppgifter till algoritmer – även på de mest känsliga områdena.

Varför AI kan ha en benägenhet för eskalering

Reaktionerna från de testade modellerna verkar vid första anblicken oroväckande, men sett från systemens perspektiv har de en viss logik. Några av orsakerna är:

Träningsdata: Historiska dokument och strategidokument om internationella kriser framhäver ofta styrka och vedergällning framför återhållsamhet.
Belöningslogik: Modeller lär sig att ge ”beslutsstarka” svar som i textform låter resoluta och tydliga.
Ingen verklig riskkänsla: Ett system ”känner” inte konsekvenserna av en kärnvapenattack. Det känner bara till scenarier på papperet.
Förenklade modeller av verkligheten: Diplomati, misstro, inrikespolitik – allt detta återspeglar en AI bara grovt.

Därtill kommer att många AI-modeller är designade för att nå ett mål så effektivt som möjligt. Om ett system tolkar ”seger” eller ”säkring av nationella intressen”, kan det att gripa till det starkaste vapnet framstå som ett konsekvent – inte ett vansinnigt – alternativ.

”Alltid en människa i kretsen” – är det verkligen nog?

Politik och militär talar gärna om formeln human in the loop – alltså en människa som godkänner varje kritiskt AI-beslut. På papperet låter det som en solid säkerhetsmekanism.

I stressade situationer ser verkligheten ofta annorlunda ut. Krisstaber arbetar under tidspress, meddelanden välter in och informationsflödet är enormt. När ett system då blinkar upp på skärmen med en tydlig rekommendation kommer många ansvariga knappast att ignorera den.

En ytterligare fara är att människan med tilltagande rutin träder tillbaka från det egentliga beslutet. Den som hundratals gånger har följt AI:n utan problem utvecklar tillit – och reagerar i slutändan bara reflexmässigt på systemets förslag.

Den stora frågan är inte om en människa formellt har sista ordet – utan vem som i praktiken sätter riktningen.

Vad som döljer sig bakom begrepp som ”kommando- och kontrollstruktur”

När experter talar om ”kommando- och kontrollsystem” låter det abstrakt. Det som avses är den militära maktens nervsystem: kommunikationslinjer, situationscentraler, tidiga varningssystem, befälskedjor och mjukvara som filtrerar och förädlar information.

Det är just här enormt mycket kan automatiseras. AI kan sortera meddelanden, bedöma hot och beräkna sannolikheter. Vad som låter som effektivitet rymmer en fallgrop: Den som kontrollerar filtret formar lägesbilden. Om filtren är felaktiga eller fördomsfulla kan generaler handla utifrån förvrängd information – utan att upptäcka det.

Hur risker kan begränsas

Fackfolk kräver nu konkreta riktlinjer för användning av AI i militära sammanhang. Vissa förslag dyker upp om och om igen:

Strikta röda linjer: AI får inte ge direkta kommandon till kärnvapensystem – varken för aktivering eller målval.
Transparenta tester: Militär AI bör regelbundet testas i oberoende simuleringar med fokus på felreaktioner.
Internationella överenskommelser: Liksom vid förbudet mot vissa kemiska vapen kunde stater enas om gränser för AI-användning på det nukleära området.
Förklarbara system: Beslutsfattare måste kunna förstå varför ett system har kommit fram till en viss rekommendation.

Alla dessa åtgärder kräver tid och politiskt kapital. Samtidigt fortsätter kapplöpningen om teknologisk överlägsenhet – och det är precis det som gör varningarna från Stanford så brännande aktuella.

Vad vanliga människor kan ta med sig från debatten

Den aktuella diskussionen visar framför allt ett: AI är ingen neutral ”superintelligens” som höjer sig över mänskliga misstag. Det är en spegel av vår data, vår historia, våra strategier – med alla deras mörka kapitel.

Den som satsar på tekniska system för att fatta ”bättre” beslut i kriser måste förstå och begränsa dessa system mycket precist. Annars riskerar mänskligheten att upprepa välkända misstag i en ny och ännu mer destruktiv form.

För medborgare betyder det: Debatter om AI-reglering är inte ett nischämne för nördar och militärer. De handlar helt konkret om frågan om vem som i en nödsituation avgör om en kris trappas ned – eller om en algoritm föreslår ett nukleärt alternativ som ett till synes logiskt steg.