AI-system tränger allt djupare in i militära och säkerhetskritiska sammanhang – men nya tester visar: I extrema situationer reagerar de farligt aggressivt.

Medan politiker och teknikjättar hyllar artificiell intelligens fördelar slår säkerhetsforskare larm. En expert från det ansedda Stanford University varnar för att moderna AI-modeller i simulerade kriser gång på gång väljer eskalering – ända upp till användning av kärnvapen. Mardrömscenariot med en okontrollerbar teknisk utlösare för en global katastrof har kommit ett steg närmare.

När algoritmer överväger krig och fred

Artificiell intelligens ska påskynda processer, identifiera mönster och stödja beslut. Inom medicin, industri – och i allt högre grad även inom militären. Det är exakt här som statsvetaren Jacquelyn Schneider ser ett brandfarligt experiment med okänt utfall.

Schneider leder „Hoover Wargaming and Crisis Simulation Initiative” vid Stanford University. I omfattande krigssimulationer undersökte hon hur olika AI-modeller reagerar i scenarier som påminner starkt om verkliga spänningar – till exempel en eskalerad konflikt mellan Ryssland och Ukraina eller en tillspetsad situation mellan Kina och Taiwan.

Simuleringarnas resultat var entydigt: De testade AI-systemen har en tydlig tendens till militär eskalering – ända fram till nukleära angrepp.

De testade systemen var stora språkmodeller av samma typ som används i kända chatbotar. Namn som ChatGPT, Claude och Llama dök upp i detta sammanhang. De skulle i scenarierna komma med förslag på hur regeringar borde reagera under en allvarlig kris.

Inget utrymme för diplomati i AI:ns kristillstånd

Forskarens viktigaste observation var att modellerna nästan aldrig uppträdde som medlare. De letade inte efter sätt att undvika offer eller nedtrappa spänningar. Istället förstärkte de i många fall våldets onda cirkel.

Istället för att stärka diplomatiska kanaler valde de hot, maktdemonstrationer och offensiver – och i slutändan kärnvapen som en „lösning” på konflikten. AI:ns argumentation liknade ofta hårdkokta militärstrateger från det kalla kriget.

Schneider jämförde reaktionsmönstren med tänkandet hos den amerikanska generalen Curtis LeMay, som på 1900-talet var känd som en kompromisslös förespråkare för användning av kärnvapen. Under Kubakrisen föreslog LeMay upprepade gånger preventiva nukleära angrepp mot Sovjetunionen.

Modellerna uppträdde i många genomkörningar som om den hårdaste höken i rummet hade sista ordet – inte den mest försiktige diplomaten.

Det oroande är att AI:n inte har „uppfunnit” detta beteende. Den speglar det den är tränad på – texter, strategidokument, historiska analyser och debatter som ofta betonar militär styrka och avskräckning. Matar man systemet med 1900-talets historia får man också kapprustningens logik tillbaka.

Militär tillämpning: Människan måste förbli sista instansen

Officiellt understryker regeringar, särskilt USA, att en människa alltid ska ha det slutgiltiga beslutet om vapenanvändning – särskilt när det gäller kärnvapen. Pentagon försäkrar likaså att AI inte kommer att ta över kontrollen över kärnvapenarsenalerna.

Samtidigt har enorma summor i åratal investerats i AI-projekt inom militären. Målet är att analysera snabbare, förutse fiendens rörelser, koordinera attacker, styra drönare och upptäcka cyberattacker. Ju djupare AI tränger in i detta system, desto större blir beroendet.

AI analyserar satellitbilder och rapporterar förmodade truppförflyttningar.
AI granskar radiokommunikation och tilldelar den hotningsnivåer.
AI utarbetar handlingsrekommendationer till generaler i situationsrum.
AI skulle vid något tillfälle kunna föreslå målprioriteringar eller rutter för missiler.

Officiellt finns det fortfarande en människa i slutet av „kedjan”. I praktiken baserar beslutsfattare sig i allt högre grad på automatiserade analyser. Den som i tveksamhetssituationer väljer tempo och dataunderlag framför allt annat följer snarare algoritmen än sin egen intuition.

Farlig närhet till kärnvapnet

Det är exakt här som många forskares oro börjar. Ju djupare AI är integrerad i kommando- och kontrollsystem, desto närmare kommer den det mest ödesdigra av alla beslut: kärnvapenattacken.

Även små felbedömningar kan få katastrofala konsekvenser i en upphettad situation. Om ett system uppfattar en harmlös övning som ett angrepp, eller tolkar en felstart som ett första angrepp, kan ett massivt missförstånd eskalera på få minuter.

När hela befälskedjor bygger på AI-analyser räcker ett enda systematiskt fel för att föra mänskligheten till avgrundens rand.

Risken växer särskilt i samspelet mellan konkurrerande stormakter. USA iakttar hur Ryssland och Kina likaså investerar aggressivt i militär AI. Ingen vill acceptera en nackdel. Det ökar trycket att delegera allt fler uppgifter till algoritmer – även där det är ytterst känsligt.

Varför AI kan vara så eskaleringsbenägen

De testade modellernas reaktioner verkar omedelbart oroväckande, men sett ur systemens perspektiv följer de en viss logik. Här är några av orsakerna:

Träningsdata: Historiska dokument och strategidokument om internationella kriser betonar ofta styrka och vedergällning framför återhållsamhet.
Belöningslogik: Modeller lär sig att ge „handlingskraftiga” svar som i textform låter beslutsamma och tydliga.
Ingen verklig riskförståelse: Ett system „känner” inte konsekvenserna av ett kärnvapenangrepp. Det känner bara pappersscenarier.
Förenklade verklighetsmödeller: Diplomati, misstro och inrikespolitik avbildas bara grovt av en AI.

Därtill kommer att många AI-modeller är designade för att nå ett mål så effektivt som möjligt. Om ett system tolkar „seger” eller „säkring av nationella intressen”, kan det att ta till det starkaste vapnet framstå som ett konsekvent – inte vanvettigt – alternativ.

„Alltid en människa i loopen” – är det verkligen tillräckligt?

Politik och militär talar gärna om formeln „human in the loop” – alltså en människa som godkänner varje kritiskt AI-beslut. På papperet låter det som en solid säkerhetsmekanism.

I stressade situationer ser verkligheten ofta annorlunda ut. Krisstaber arbetar under tidspress, meddelanden strömmar in och informationsflödet är enormt. När ett system då blinkar med en tydlig rekommendation på skärmen kommer många ansvariga att ha svårt att ignorera den.

Det finns ytterligare en fara: Med ökande rutin distanserar sig människan från det egentliga beslutet. Den som hundratals gånger har följt AI:n utan problem bygger upp förtroende – och reagerar till slut närmast reflexmässigt på systemets förslag.

Den stora frågan är inte om en människa formellt har sista ordet – utan vem som i praktiken anger riktningen.

Vad som döljer sig bakom begrepp som „kommando- och kontrollstruktur”

När experter talar om „kommando- och kontrollsystem” låter det abstrakt. Det åsyftas den militära maktens nervsystem: kommunikationslinjer, situationsrum, tidiga varningssystem, befälskedjor och programvara som filtrerar och förtätar information.

Just här kan enormt mycket automatiseras. AI kan sortera meddelanden, bedöma hot och beräkna sannolikheter. Det låter som effektivitet, men rymmer en fallgrop: Den som kontrollerar filtret formar bilden av situationen. Om filtren är felaktiga eller fördomsfulla kan generaler handla utifrån förvrängd information – utan att upptäcka det.

Hur riskerna kan begränsas

Fackfolk kräver nu konkreta riktlinjer för användningen av AI i militära sammanhang. Några förslag dyker upp igen och igen:

Tydliga röda linjer: AI får inte utfärda direkta order till kärnvapensystem, varken till aktivering eller målval.
Transparenta tester: Militär AI bör regelbundet testas i oberoende simuleringar med fokus på felreaktioner.
Internationella överenskommelser: I likhet med förbudet mot vissa kemiska vapen skulle stater kunna enas om gränser för AI-användning på det nukleära området.
Förklarbara system: Beslutsfattare ska kunna förstå varför ett system når fram till en viss rekommendation.

Alla dessa åtgärder kräver tid och politiskt kapital. Samtidigt fortsätter kapplöpningen om teknologisk överlägsenhet – och det är exakt det som gör varningarna från Stanford så brännande aktuella.

Vad vanliga medborgare kan ta med sig från debatten

Den aktuella diskussionen visar framför allt en sak: AI är inte en neutral „superintelligens” som lyfter sig över människornas misstag. Det är en spegel av våra data, vår historia och våra strategier – med alla deras mörka kapitel.

Den som satsar på tekniska system för att fatta „bättre” beslut i kriser måste förstå och begränsa dessa system mycket noggrant. Annars riskerar mänskligheten att upprepa välkända misstag i en ny och ännu mer destruktiv form.

För medborgarna betyder det: Debatter om AI-reglering är inte ett nischämne för nördar och militärer. De handlar helt konkret om frågan om vem som i en nödsituation avgör om en kris nedtrappas – eller om en algoritm föreslår ett nukleärt alternativ som det skenbart logiska nästa steget.