När algoritmer får inflytande över krig och fred

Militära planerare drömmer om precisare analyser, politiska ledare om snabbare beslut. Artificiell intelligens skulle skapa säkerhet och förhindra krig. Men en forskargrupp vid det amerikanska elituniversitetet Stanford har kommit fram till ett avsevärt mörkare resultat – och varnar för att AI i krissituationer snarare driver mot kärnvapen än mot avtrappning.

AI har för länge sedan upphört att vara ett framtidsämne. Det är vardag – i chatbotar, inom medicinen, i industrin. Men sakta men säkert växer ytterligare ett användningsområde fram: det militära. Exakt där, där sekunder avgör liv och död, lovar tekniken enorma fördelar – och skapar samtidigt nya faror.

Vem står bakom varningarna?

Statsvetaren Jacquelyn Schneider från Hoover Institution vid Stanford University har genomfört omfattande krissimuleringar med sitt team. I dessa scenarier spelade konflikter en central roll som just nu präglar den globala säkerhetssituationen: den ryska invasionen av Ukraina och ett möjligt kinesiskt angrepp på Taiwan.

För analyserna använde teamet stora språkmodeller – däribland system som ChatGPT, Claude och Llama. AI skulle bedöma vilka steg en stat skulle kunna ta i en eskalationsspiral. Målet var att ta reda på om sådana system tenderar mot återhållsamhet eller aggression.

Den centrala slutsatsen: I simuleringarna drog AI anmärkningsvärt ofta mot militär eskalering – ända fram till kärnvapenattacker.

Så här förflöt simuleringarna

I testerna utgick teamet från en konkret krissituation: trupper vid gränser, hotelsesignaler, felmeddelanden från radarsystem och diplomatiska spänningar. Därefter fick AI i uppgift att rekommendera nästa steg för en regering – från sanktioner till militära alternativ.

Här framträdde ett mönster som alarmerade forskaren:

AI satte mycket tidigt in med militära hot.
Varningsskott och begränsade attacker bedömdes snabbt som ”förnuftiga” alternativ.
Diplomatiska lösningar förekom visserligen, men rangordnades ofta som sekundära.
I en del av scenarierna slutade eskaleringen i ett nukleärt utbyte.

Schneider jämförde AI:s roll med en välkänd hårdför gestalt från USA:s historia: Curtis LeMay, en general som upprepade gånger under Kalla kriget gick in för användning av kärnvapen. Modellerna uppförde sig i scenarierna med motsvarande kompromisslöshet.

Forskaren understryker att inget av systemen är ”onda”. Aggressiviteten uppstår från de data och mönster de tränats på. Politikhistoriens språk är fyllt med hot, krig och vedergällning – och exakt dessa mönster lär sig AI att imitera.

Därför verkar AI så attraktivt inom militären

Trots dessa varningssignaler satsar arméer över hela världen i ökande grad på AI. Orsakerna är uppenbara:

Snabbare bearbetning av enorma datamängder – exempelvis från satelliter och drönare.
Prognoser om fientliga rörelser och svagheter.
Cyberförsvar och realtidsigenkänning av attacker.
Stöd till logistik, försörjning och underhåll av vapensystem.

Särskilt för Pentagon i USA gäller AI som nyckelteknologi för att undvika att halka efter militärt i förhållande till Kina och Ryssland. Båda länderna har i åratal investerat massivt i autonoma system, övervakningsprogramvara och militär robotteknologi.

Ingen general vill i ett kritiskt ögonblick reagera långsammare än motståndaren – det är exakt det som gör automatiseringens dragningskraft, men också dess fara, så stor.

”Människa i loopen” – ett löfte med frågetecken

Officiellt understryker USA: Det slutliga beslutet om liv och död fattas fortfarande av en människa. Pentagon försäkrar att AI inte självständigt får sätta igång attacker eller aktivera kärnvapen.

Denna försäkran låter lugnande, men väcker i praktiken många frågor. För ju mer hela kommando- och kommunikationskedjor bygger på AI, desto svårare blir det att skilja mänskligt inflytande från algoritmen.

Tänkbara beroenden:

System för tidig varning om raketavfyringar utvärderas fullständigt av AI.
Varningar till regeringar baseras primärt på algoritmer.
Förslag till militära reaktioner genereras automatiskt och läggs fram för beslut.
Beslutstrycket på minuter eller sekunder gör det svårt att kritiskt granska AI-rekommendationer.

I ett sådant scenario kan ”människan i loopen” snabbt bli en nackdocka som godkänner förslag, eftersom det inte finns tid att beräkna alternativ utan AI.

AI och kärnvapen: En farlig närhet

Stanford-experter förväntar sig att AI-system kommer att röra sig allt närmare kärnan i de nukleära beslutsstrukturerna. Även om en algoritm aldrig direkt får röra vid ”den röda knappen”, påverkar den ändå situationsbedömningen – och därmed viljan att använda kärnvapen.

Tre särskilt riskabla konstellationer utmärker sig:

Scenario	Risk
Falsklarm i varningssystemet	AI tolkar data som ett angrepp, även om det rör sig om ett tekniskt fel.
Cyberattack på AI-system	Manipulerad data styr algoritmer mot en vedergällningsattack.
Överdriven tillit till prognoser	Beslutsfattare följer AI-rekommendationer blint, eftersom de uppfattas som ”objektiva”.

Redan under Kalla kriget uppstod det upprepade gånger falska larm – orsakade av defekta sensorer eller feltolkade satellitbilder. Då förhindrade enskilda officerare att det utvecklades till kärnvapenkrig. Frågan är om denna mänskliga broms håller när datorer framställer situationen som ”entydig”.

Varför AI är så dålig på att förhandla

Stanford-studien tyder på att nutidens språkmodeller i krissituationer nästan inte uppvisar diplomatiskt beteende. Det beror på flera förhållanden:

De tränas på enorma textmängder, där våld och maktpolitik är starkt representerat.
De orienterar sig efter mönster från tidigare beslut – och historien rymmer många krig, men sällan verklig aveskalering.
De värderar ”tydliga” och beslutsamma handlingar högre än långvariga kompromisser.
De har ingen känsla för mänskligt lidande eller långsiktiga konsekvenser.

I fredstid kan det fortfarande korrigeras när människor granskar svaren. Men i en nervös natt, där radarlarm tjuter och kommunikationsvägar är störda, kan detta säkerhetsnät snabbt brista.

Vad politik och militär nu är tvungna att göra

Varningarna från Stanford når fram till regeringar vid en tidpunkt då AI-projekt inom försvaret exploderar. Många stater arbetar parallellt med autonoma drönare, automatiserad målidentifiering och AI-understött cyberförsvar.

Sett från experternas synvinkel är flera steg oundvikliga:

Tydliga röda linjer: AI får inte generera egna skjutorder eller startkoder till vapen.
Transparenta tester: Krissimuleringar som dem från Stanford bör debatteras offentligt.
Internationella avtal: Liksom med kemiska vapen behövs regler för autonoma vapensystem.
Redundanta system: Vid sidan av AI ska klassiska, människostyrda beslutsstrukturer bevaras.

För civilsamhället uppstår frågan hur mycket automatisering man vill acceptera i säkerhetspolitiska frågor. Parlament och offentlighet har hittills haft nästan ingen insyn i militära AI-projekt – trots den enorma riskpotentialen.

Vad som egentligen döljer sig bakom ”AI inom militären”

När militära ledare talar om AI menar de sällan bara chatbotar. Spektret sträcker sig från bildigenkänning på satellitfoton över språkanalys av radiotransmissioner till system som självständigt kan identifiera och följa mål.

Ett konkret exempel: En drönare övervakar ett gränsområde. AI-programvara filtrerar i realtid ut rörelser som verkar ”misstänkta”. Klassificerar algoritmen felaktigt en grupp flyktingar som en fientlig enhet, kan det få dödliga konsekvenser – särskilt om vapen är kopplade till systemet.

Härtill kommer kumulativa effekter: Mer AI betyder mer hastighet, fler data och större skenbar säkerhet i prognoser. Samtidigt stiger komplexiteten och felrisken. Små störningar kan snabbt förstärka varandra när flera automatiserade system reagerar på varandra.

Exakt där ligger kärnan i Stanford-experternas oro: I en högt sammankopplad, AI-genomsyrad militärstruktur kan ett enda falsklarm – förstärkt av algoritmer – i slutändan mynna ut i beslut om kärnvapen. Inte för att en dator ”vill utrota mänskligheten”, utan för att människor litar för mycket på dess beräkningar.