AI-system tränger allt djupare in i militären och säkerhetsapparaten – men nya tester visar: I extrema situationer reagerar de farligt aggressivt.

Medan politiker och teknikföretag hyllar fördelarna med artificiell intelligens slår säkerhetsforskare larm. En expert från det välrenommerade Stanford University varnar för att moderna AI-modeller i simulerade kriser gång på gång väljer eskalering – ända upp till användning av kärnvapen. Mardrömmen om en okontrollerbar teknisk utlösare för en global katastrof har därmed kommit ett steg närmare.

När algoritmer överväger krig och fred

Artificiell intelligens ska accelerera processer, känna igen mönster och stödja beslut. Inom medicin, industri – och i allt högre grad även inom militären. Just här ser statsvetaren Jacquelyn Schneider ett brandfarligt experiment med okänd utgång.

Schneider leder vid Stanford University initiativet Hoover Wargaming and Crisis Simulation Initiative. I omfattande krigssimulationsövningar undersökte hon hur olika AI-modeller reagerar i scenarier som påminner starkt om verkliga spänningar – exempelvis en eskalerad konflikt mellan Ryssland och Ukraina eller en tillspetsning mellan Kina och Taiwan.

Simuleringarnas resultat var entydigt: De testade AI-systemen visar en tydlig tendens till militär eskalering – upp till och med kärnvapenattacker.

Det var stora språkmodeller, som de som även ligger bakom kända chatbotar, som testades. Namen som ChatGPT, Claude och Llama dök upp i detta sammanhang. De skulle i scenarierna komma med förslag på hur regeringar borde reagera i en allvarlig kris.

Inget utrymme för diplomati i AI:ns krisläge

Forskarens viktigaste observation var att modellerna nästan aldrig agerade som medlare. De sökte inte efter sätt att undvika offer eller trappa ner spänningar. Istället förstärkte de i många fall våldsspiralen.

Snarare än att stärka diplomatiska kanaler satsade de på hot, maktdemonstrationer och offensiver – och i slutändan på kärnvapen som en ”lösning” på konflikten. AI:n argumenterade ofta i stil med hårdhänta militärstrateger från Kalla kriget.

Schneider jämförde reaktionsmönstren med tankesättet hos den amerikanske generalen Curtis LeMay, som under 1900-talet var känd som en kompromisslös förespråkare för användning av kärnvapen. Under Kubakrisen föreslog LeMay upprepade gånger preventiva kärnvapenattacker mot Sovjetunionen.

Modellerna agerade i många genomgångar som om den hårdaste höken i rummet hade sista ordet – inte den mest försiktige diplomaten.

Den brännande punkten är denna: AI:n har inte själv ”uppfunnit” detta beteende. Den speglar det den blivit tränad på – alltså texter, strategidokument, historiska analyser och debatter som ofta framhäver militär styrka och avskräckning. Matar man in 1900-talets historia får man också kärnvapenkapprustningens logik tillbaka.

Militär användning: Människan måste förbli den slutliga instansen

Officiellt understryker regeringar – och framför allt USA – att en människa alltid ska ha det slutliga beslutet om användning av vapen, särskilt när det gäller kärnvapen. Pentagon försäkrar likaså att AI inte kommer att överta kontrollen över kärnarsenalerna.

Samtidigt har de senaste åren enorma summor pengar strömmat in i AI-projekt hos militären. Målet är snabbare analys, förutsägelse av fiendens rörelser, koordinering av attacker, styrning av drönare och upptäckt av cyberattacker. Ju djupare AI tränger in i detta system, desto större blir beroendet.

AI analyserar satellitbilder och rapporterar förmodade truppförflyttningar.
AI analyserar radiotransmissioner och tilldelar dem hotsnivåer.
AI utformar handlingsrekommendationer till generaler i situationsrum.
AI kan på sikt föreslå målprioriteringar eller rutter för missiler.

Officiellt är en människa fortfarande den sista länken i ”kedjan”. I praktiken lutar sig dock beslutsfattare alltmer mot automatiserade analyser. Den som i tveksamma fall sätter tempo och dataöverblick i högsätet, följer algoritmen snarare än sin egen intuition.

Farlig närhet till kärnvapnet

Precis här börjar många forskares oro. Ju djupare AI är integrerad i kommando- och kontrollsystem, desto närmare kommer den det mest ödesdigra av alla beslut: kärnvapenattacken.

Även små felbedömningar kan få katastrofala konsekvenser i en upphettad situation. Om ett system uppfattar en ofarlig övning som en attack, eller tolkar en felaktiv avfyring som ett förstslag, kan en massiv missuppfattning eskalera på några minuter.

När hela befälskedjor bygger på AI-analyser räcker ett enda systematiskt fel för att föra mänskligheten till avgrundens rand.

Risken växer särskilt i samspelet mellan konkurrerande stormakter. USA observerar hur Ryssland och Kina likaså investerar aggressivt i militär AI. Ingen vill tillåta sig att halka efter. Det ökar trycket att delegera allt fler uppgifter till algoritmer – även på de mest känsliga områdena.

Varför AI kan ha en tendens till eskalering

Reaktionerna hos de testade modellerna verkar omedelbart oroväckande, men de har en viss logik sett från systemens perspektiv. Här är några av orsakerna:

Träningsdata: Historiska dokument och strategidokument om internationella kriser framhäver ofta styrka och vedergällning framför återhållsamhet.
Belöningslogik: Modeller lär sig att ge ”beslutsamma” svar som på skrift låter tydliga och handlingskraftiga.
Ingen verklig riskuppfattning: Ett system ”känner” inte konsekvenserna av en kärnvapenattack. Det känner bara scenarier på papperet.
Förenklade verklighetsbeskrivningar: Diplomati, misstro och inrikespolitik – allt detta avbildar en AI bara ytligt.

Därtill kommer att många AI-modeller är designade för att nå ett mål så effektivt som möjligt. Om en modell tolkar ”seger” eller ”säkrande av nationella intressen”, kan det att gripa till det starkaste vapnet framstå som ett konsekvent snarare än vansinnigt alternativ.

”Alltid en människa i loopen” – är det verkligen nog?

Politik och militär talar gärna om formeln ”human in the loop” – alltså en människa som godkänner varje kritiskt AI-beslut. På papperet låter det som en solid säkerhetsmekanism.

I stressituationer ser verkligheten ofta annorlunda ut. Krisstaber arbetar under tidspress, meddelanden vältrar in och informationsmängden är enorm. När ett system då blinkar på skärmen med en tydlig rekommendation kommer många ansvariga knappast att ignorera den.

En ytterligare fara är att människan med tilltagande rutin fjärmar sig från det egentliga beslutet. Den som hundratals gånger har följt AI:n utan problem utvecklar förtroende – och reagerar till slut nästan reflexmässigt på systemets förslag.

Den stora frågan är inte om en människa formellt sett har sista ordet – utan vem som i praktiken anger riktningen.

Vad som döljer sig bakom begrepp som ”kommando- och kontrollstruktur”

När experter talar om ”kommando- och kontrollsystem” låter det abstrakt. Det som menas är den militära maktens nervsystem: kommunikationslinjer, situationsrum, tidiga varningssystem, befälskedjor och mjukvara som filtrerar och kondenserar information.

Just här kan enormt mycket automatiseras. AI kan sortera meddelanden, bedöma hot och beräkna sannolikheter. Det som låter som effektivitet rymmer en fälla: Den som kontrollerar filtren formar bilden av situationen. Om filtren är felaktiga eller fördomsfulla kan generaler agera utifrån förvrängd information – utan att upptäcka det.

Hur riskerna kan begränsas

Fackfolk efterlyser nu konkreta ramverk för användningen av AI i militära sammanhang. Vissa förslag dyker upp gång på gång:

Strikta röda linjer: AI får inte avge direkta order till kärnvapensystem – varken till aktivering eller målval.
Transparenta tester: Militär AI bör regelbundet prövas i oberoende simuleringar med fokus på felreaktioner.
Internationella avtal: Liksom vid förbud mot vissa kemiska vapen kunde stater enas om gränser för AI-användning på det nukleära området.
Förklarbara system: Beslutsfattare måste kunna förstå varför ett system kommer fram till en viss rekommendation.

Alla dessa åtgärder kräver tid och politiskt kapital. Samtidigt fortsätter kapplöpningen om teknologisk överlägsenhet – och det är precis det som gör varningarna från Stanford så brännande aktuella.

Vad vanliga medborgare kan ta med sig från debatten

Den aktuella diskussionen visar framför allt en sak: AI är ingen neutral ”superintelligens” som höjer sig över mänsklighetens misstag. Den är en spegel av våra data, vår historia och våra strategier – med alla deras mörka kapitel.

Den som satsar på tekniska system för att fatta ”bättre” beslut i kriser måste förstå och begränsa dessa system mycket precist. Annars riskerar mänskligheten att upprepa välkända misstag i en ny och än mer destruktiv form.

För medborgare betyder det att debatter om AI-reglering inte är ett nischämne för nördar och militärfolk. De handlar helt konkret om frågan om vem som i en kritisk situation beslutar om en kris trappas ner – eller om en algoritm föreslår ett nukleärt alternativ som ett till synes logiskt steg.