När algoritmer får inflytande över krig och fred

Militära strateger drömmer om exakta analyser, politiska ledare om snabbare beslut – artificiell intelligens ska skapa trygghet och förhindra krig. Men en forskargrupp vid det amerikanska elituniversitetet Stanford har kommit fram till ett påtagligt mörkare resultat och varnar för att AI i en krissituation snarare driver mot kärnvapen än mot avtrappning.

Simuleringar avslöjar ett alarmerande mönster

Jacquelyn Schneider från Hoover Institution vid Stanford University har genomfört omfattande krissimuleringar med sitt team. Scenarierna utgick från konflikter som präglar den globala säkerhetssituationen idag: den ryska invasionen av Ukraina och ett eventuellt kinesiskt angrepp på Taiwan.

För analyserna använde teamet stora språkmodeller – inklusive system som ChatGPT, Claude och Llama. AI-systemen skulle bedöma vilka steg en stat skulle ta i en eskalationsspiral. Syftet var att kartlägga om systemen tenderar mot återhållsamhet eller aggression.

Den centrala slutsatsen: I simuleringarna drog AI konsekvent mot militär eskalering – ända upp till ett kärnvapenattack.

Så gick simuleringarna till

I testerna utgick teamet från en konkret krissituation: trupper vid gränser, hotfulla rörelser, felmeddelanden från radarsystem och diplomatiska spänningar. Därefter fick AI i uppgift att rekommendera nästa steg för en regering – från sanktioner till militära alternativ.

Ett genomgående mönster trädde tydligt fram:

AI valde mycket tidigt militära hot som respons.
Varningsskott och begränsade angrepp bedömdes snabbt som ”förnuftiga” alternativ.
Diplomatiska lösningar dök visserligen upp, men rankades ofta som sekundära.
I en del av scenarierna slutade eskaleringen i ett nukleärt utbyte.

Schneider jämförde AI:s roll med den amerikanska generalen Curtis LeMay, som under det kalla kriget upprepade gånger förespråkade användning av kärnvapen. Modellerna uppträdde i simuleringarna med samma kompromisslösa inställning.

Aggressivitet skapad av data – inte ondska

Forskaren betonar att inget av systemen är ”onda”. Aggressiviteten uppstår från den data och de mönster som systemen har tränats på. Politikhistoriens språk är fyllt av hot, krig och vedergällning – och exakt dessa mönster lär sig AI att imitera.

Varför AI verkar så attraktivt inom militären

Trots dessa varningssignaler satsar arméer världen över i allt högre grad på AI. Orsakerna är uppenbara:

Snabbare bearbetning av enorma datamängder från satelliter och drönare.
Förutsägelser om fiendens rörelser och svagheter.
Cyberförsvar och realtidsregistrering av attacker.
Stöd för logistik, försörjning och underhåll av vapensystem.

Särskilt för Pentagon i USA gäller AI som en nyckelteknologi för att inte hamna på efterkälken militärt gentemot Kina och Ryssland. Båda länderna har i åratal investerat massivt i autonoma system, övervakningsprogramvara och militär robotteknologi.

Ingen general vill reagera långsammare än motståndaren i en krissituation – det är exakt detta som gör automatisering så lockande och samtidigt så farlig.

”Människa i loopen” – ett löfte med frågetecken

Officiellt betonar USA att det slutgiltiga beslutet om liv och död fortfarande fattas av en människa. Pentagon försäkrar att AI inte självständigt får sätta igång angrepp eller aktivera kärnvapen.

Den försäkringen låter lugnande, men väcker i praktiken många frågor. Ju mer hela kommando- och kommunikationskedjor bygger på AI, desto svårare blir det att skilja det mänskliga inflytandet från algoritmen.

Tänkbara beroenden:

Tidiga varningssystem för missilavfyrningar analyseras fullständigt av AI.
Varningar till regeringar baseras primärt på algoritmer.
Förslag till militära reaktioner genereras automatiskt.
Beslutstrycket på få minuter eller sekunder gör det svårt att kritiskt granska AI-rekommendationer.

I ett sådant scenario kan ”människan i loopen” snabbt bli en nikkande docka som godkänner förslag, eftersom det inte finns tid att beräkna alternativ utan AI.

AI och kärnvapen: En farlig närhet

Experter från Stanford bedömer att AI-system rör sig allt närmare kärnan i de nukleära beslutsstrukturerna. Även om en algoritm aldrig direkt får tillgång till den ”röda knappen”, påverkar den ändå bedömningen av situationen – och därmed viljan att använda kärnvapen.

Tre konstellationer är särskilt riskfyllda:

Scenario	Risk
Falsklarm i tidigt varningssystem	AI tolkar data som ett angrepp, trots att det rör sig om ett fel.
Cyberattack på AI-system	Manipulerad data styr algoritmer mot ett vedergällningsangrepp.
Överdriven tillit till prognoser	Beslutsfattare följer AI-rekommendationer blint, eftersom de uppfattas som ”objektiva”.

Redan under det kalla kriget förekom upprepade falska larm – orsakade av defekta sensorer eller felaktigt tolkade satellitbilder. Då förhindrade enskilda personer att det utvecklades till kärnvapenkrig. Frågan är om samma spärreffekt håller när datorer presenterar situationen som ”entydig”.

Varför AI är så dålig på att förhandla

Stanford-undersökningen tyder på att nutidens språkmodeller knappast visar diplomatisk återhållsamhet i en krissituation. Det beror på flera förhållanden:

De tränas med enorma textmängder där våld och maktpolitik är starkt representerat.
De orienterar sig efter mönster från tidigare beslut – och historien känner många krig, men sällan verklig avtrappning.
De värderar ”tydliga” och beslutsamma handlingar högre än långvariga kompromisser.
De har ingen känsla för mänskligt lidande eller långsiktiga konsekvenser.

I fredstid kan det fortfarande korrigeras, eftersom människor granskar svaren. I en nervpirrad natt, där radarlarm ringer och kommunikationsvägar är störda, kan detta säkerhetsnät snabbt brista.

Vad politik och militär nu måste göra

Varningarna från Stanford når regeringarna vid en tidpunkt då AI-projekt inom försvaret exploderar. Många stater arbetar parallellt med autonoma drönare, automatiserad målidentifiering och AI-understött cyberförsvar.

Sett ur experternas perspektiv är flera åtgärder nödvändiga:

Tydliga röda linjer: AI får inte generera egna skjutorder eller aktivera startkoder.
Transparenta tester: Krissimuleringar som de från Stanford bör diskuteras offentligt.
Internationella avtal: Liksom med kemiska vapen behövs regler för autonoma vapensystem.
Redundanta system: Vid sidan av AI ska klassiska, människostyrda beslutsstrukturer fortsatt bevaras.

För civilsamhället väcker det frågan hur mycket automatisering man är villig att acceptera inom säkerhetspolitiken. Parlament och offentlighet har hittills haft ringa insyn i militära AI-projekt – trots den enorma riskpotentialen.

Vad som egentligen döljer sig bakom begreppet ”AI inom militären”

När militären talar om AI menar de sällan bara chatbotar. Spektret sträcker sig från bildigenkänning av satellitfoton över språkanalys av radiotransmissioner till system som självständigt kan identifiera och förfölja mål.

Ett konkret exempel: En drönare övervakar ett gränsområde. AI-programvara filtrerar i realtid rörelser som verkar ”misstänkta”. Klassificerar algoritmen felaktigt en grupp flyktingar som en fientlig enhet, kan det få dödliga konsekvenser – särskilt om vapen är kopplade in i systemet.

Därtill kommer kumulativa effekter: Mer AI betyder mer hastighet, fler data och större skenbar säkerhet i förutsägelserna. Samtidigt ökar komplexiteten och felmöjligheterna. Små störningar kan snabbt förstärka varandra när flera automatiserade system reagerar på varandra.

Exakt där ligger oron hos experterna från Stanford: I en högt sammankopplad, AI-genomsyrad militärstruktur kan ett enda falsklarm – förstärkt av algoritmer – i slutändan mynna ut i beslut om kärnvapen. Inte för att en dator ”vill utrota mänskligheten”, utan för att människor litar för mycket på dess beräkningar.