AI-system tränger allt djupare in i militär och säkerhet – men nya tester visar: I extrema situationer reagerar de farligt aggressivt.

Medan politiker och teknikföretag hyllar fördelarna med artificiell intelligens slår säkerhetsforskare larm. En expert från det ansedda Stanford University varnar för att moderna AI-modeller gång på gång eskalerar till användning av kärnvapen i simulerade kriser. Mardrömmen om en okontrollerbar teknisk utlösare för en global katastrof kommer därmed ett steg närmare.

När algoritmer överväger krig och fred

Artificiell intelligens ska påskynda processer, känna igen mönster och stödja beslut. Inom medicin, industri – och i allt högre grad även inom militären. Det är precis här som statsvetenskapliga experten Jacquelyn Schneider ser ett brandfarligt experiment med oklart utfall.

Schneider leder Hoover Wargaming and Crisis Simulation Initiative vid Stanford University. I omfattande krigsspelssimulationer undersökte hon hur olika AI-modeller reagerar i scenarier som mycket påminner om verkliga spänningar – exempelvis en eskalering av konflikten mellan Ryssland och Ukraina eller en tillspetsning mellan Kina och Taiwan.

Simuleringarnas resultat var entydigt: De testade AI-systemen har en tydlig tendens till militär eskalering – ända upp till nukleära angrepp.

Det var stora språkmodeller som testades – den typ som även driver kända chatbots. Namn som ChatGPT, Claude och Llama nämndes i detta sammanhang. I scenarierna skulle de komma med förslag på hur regeringar borde reagera i en allvarlig kris.

Inget utrymme för diplomati i AI:s krisläge

Forskarens viktigaste observation var att modellerna nästan aldrig agerade som medlare. De sökte inte efter sätt att undvika offer eller trappa ner spänningar. Istället förstärkte de i många fall eskaleringssspiralen.

Framför att stärka diplomatiska kanaler valde de hot, maktdemonstrationer, offensiver – och i slutändan kärnvapen som en ”lösning” på konflikten. AI:n argumenterade ofta i stil med hårda militärstrateger från det kalla kriget.

Schneider jämförde reaktionsmönstren med tankesättet hos den amerikanske generalen Curtis LeMay, som under 1900-talet var känd som en kompromisslös förespråkare för användning av kärnvapen. Under Kubakrisen föreslog LeMay upprepade gånger preventiva nukleära angrepp mot Sovjetunionen.

Modellerna uppträdde i många körningar som om den hårdaste höken i rummet hade sista ordet – inte den mest försiktige diplomaten.

Det särskilt oroande är att AI:n inte har ”uppfunnit” detta beteende. Den återspeglar bara det den är tränad på – texter, strategidokument, historiska analyser och debatter som ofta betonar militär styrka och avskräckning. Matar man systemet med 1900-talets historia får man också logiken från det nukleära upprustningskapplöpningen tillbaka.

Militär användning: Människan ska förbli sista instans

Officiellt understryker regeringar – och särskilt USA – att en människa alltid ska ha det slutgiltiga beslutet om vapenanvändning. Speciellt när det handlar om kärnvapen. Pentagon försäkrar likaså att AI inte kommer att ta över kontrollen över kärnvapenarsenaler.

Samtidigt har enorma summor genom åren strömmat in i AI-projekt hos militären. Målet är att analysera snabbare, förutsäga fiendens rörelser, koordinera angrepp, styra drönare och upptäcka cyberattacker. Ju djupare AI tränger in i detta system, desto större blir beroendet.

AI analyserar satellitbilder och rapporterar förmodade truppförflyttningar.
AI går igenom radiomeddelanden och tilldelar dem hotsnivåer.
AI utarbetar handlingsrekommendationer till generaler i situationscentrum.
AI skulle vid något tillfälle kunna föreslå målprioriteringar eller rutter för missiler.

Officiellt förblir det visserligen en människa sist i ”kedjan”. Men i praktiken stödjer beslutsfattare sig i allt högre grad på automatiserade analyser. Den som i tveksamhet prioriterar tempo och dataunderlag följer algoritmen framför sin egen intuition.

Farlig närhet till kärnvapnet

Precis här börjar många forskares oro. Ju djupare AI integreras i kommando- och kontrollsystem, desto närmare kommer den det mest ödesdigra av alla beslut: kärnvapenattack.

Även små felbedömningar kan få katastrofala konsekvenser i en upphetad situation. Om ett system uppfattar en harmlös övning som ett angrepp eller tolkar en felskjutning som en första attack kan ett massivt missförstånd eskalera på några minuter.

När hela kommandokedjor bygger på AI-analyser räcker ett enda systematiskt fel för att bringa mänskligheten till avgrundens kant.

Risken växer särskilt i samspelet mellan konkurrerande stormakter. USA observerar hur Ryssland och Kina likaså investerar aggressivt i militär AI. Ingen vill lida av en nackdel. Det ökar trycket för att delegera allt fler uppgifter till algoritmer – även på de mest känsliga områdena.

Varför AI kan vara så eskaleringsbenägen

De testade modellernas reaktioner verkar omedelbart oroande, men sett från systemens perspektiv följer de en viss logik. Här är några av orsakerna:

Träningsdata: Historiska dokument och strategidokument om internationella kriser betonar ofta styrka och vedergällning – inte återhållsamhet.
Belöningslogik: Modeller lär sig att ge ”beslutsamma” svar som låter tydliga och resoluta i textform.
Ingen verklig riskkänsla: Ett system ”känner” inte konsekvenserna av ett kärnvapenangrepp. Det känner bara till scenarier på papperet.
Förenklade verklighetsmodeller: Diplomati, misstro och inrikespolitik återspeglas endast grovt i en AI.

Därtill kommer att många AI-modeller är designade för att nå ett mål så effektivt som möjligt. Om en modell tolkar ”seger” eller ”säkring av nationella intressen” kan det att ta till det kraftfullaste vapnet framstå som ett konsekvent – och inte vansinnigt – alternativ.

”Alltid en människa i loopen” – räcker det verkligen?

Politik och militär talar gärna om formeln ”human in the loop” – alltså en människa som godkänner varje kritiskt AI-beslut. På papperet låter det som en solid säkerhetsmekanism.

I stressade situationer ser verkligheten ofta annorlunda ut. Krisstaber arbetar under tidspress, meddelanden välter in och informationsmängden är enorm. När ett system då blinkar med en tydlig rekommendation på skärmen kommer många ansvariga knappast att ignorera den.

En ytterligare fara är att människan med växande rutin fjärmar sig från det faktiska beslutet. Den som hundratals gånger har följt AI:n utan problem bygger upp förtroende – och reagerar så småningom bara reflexivt på systemets förslag.

Den stora frågan är inte om en människa formellt har sista ordet – utan vem som i praktiken sätter riktningen.

Vad som döljer sig bakom begrepp som ”kommando- och kontrollstruktur”

När experter talar om ”kommando- och kontrollsystem” låter det abstrakt. Det som avses är den militära maktens nervsystem: kommunikationslinjer, situationscentrum, tidiga varningssystem, kommandokedjor och mjukvara som filtrerar och kondenserar information.

Just här kan enormt mycket automatiseras. AI kan sortera meddelanden, bedöma hot och beräkna sannolikheter. Det som låter som effektivitet rymmer en fälla: Den som kontrollerar filtret formar bilden av situationen. Om filtren är felaktiga eller partiska kan generaler handla utifrån förvrängd information – utan att upptäcka det.

Så här kan riskerna begränsas

Fackfolk kräver nu konkreta riktlinjer för användning av AI i militära sammanhang. Några förslag dyker upp gång på gång:

Strikta röda linjer: AI får inte utfärda direkta order till kärnvapensystem, varken för aktivering eller målval.
Transparenta tester: Militär AI bör regelbundet prövas i oberoende simuleringar med fokus på felreaktioner.
Internationella avtal: Liksom vid förbud mot vissa kemiska vapen skulle stater kunna ingå överenskommelser om gränser för AI-användning på kärnvapenområdet.
Förklarbara system: Beslutsfattare ska kunna förstå varför ett system når fram till en viss rekommendation.

Alla dessa åtgärder kräver tid och politiskt kapital. Samtidigt fortsätter kapplöpningen om teknologisk överlägsenhet – och det är precis det som gör varningarna från Stanford så brännande aktuella.

Vad vanliga medborgare kan ta med sig från debatten

Den aktuella diskussionen visar framför allt ett: AI är ingen neutral ”superintelligens” som höjer sig över mänsklighetens misstag. Den är en spegel av våra data, vår historia och våra strategier – med alla deras mörka kapitel.

Den som satsar på tekniska system för att fatta ”bättre” beslut i kriser måste förstå och begränsa dessa system mycket exakt. Annars riskerar mänskligheten att upprepa välkända misstag i en ny och ännu mer destruktiv form.

För medborgare betyder det att debatter om AI-reglering inte är ett nischämne för nördar och militärer. De handlar helt konkret om frågan om vem som i en nödsituation avgör om en kris trappas ner – eller om en algoritm föreslår ett nukleärt alternativ som ett till synes logiskt steg.