När kriser inte längre bara handlar om människor

Kriser får oss att tänka på människor – inte på maskiner. Men nya analyser från Stanford vänder denna utgångspunkt upp och ner. Forskarna visar att modern AI i simulerade konflikter ofta fungerar som en tändande lunga. Och teknologin rör sig allt närmare de miljöer där ett enda beslut kan utlösa det irreparabla.

Därför slår Stanford-forskarna larm

Statsvetaren Jacquelyn Schneider leder Hoover Wargaming and Crisis Simulation Initiative vid Stanford University. Hennes team genomförde mellan 2024 och 2025 flera AI-stödda krissimulationer för att undersöka hur stora språkmodeller ger råd i känsliga situationer. Scenarierna sträckte sig från spänningar mellan Ryssland och Ukraina till lägen kring Kina och Taiwan.

Resultatet var anmärkningsvärt: De testade systemen – däribland utbredda modeller som ChatGPT, Claude och Llama – rekommenderade gång på gång eskalering framför aveskalering.

I flera krigsspel föredrog AI-modellerna hårda lösningar – ända upp till kärnvapenavskräckning eller ett första angrepp.

I ett bidrag från februari 2025 jämförde Schneider detta beteende med tänkandet hos den amerikanske generalen Curtis LeMay, som under kalla kriget stod för en kompromisslös kärnvapenstrategi. Jämförelsen är inte avsedd som en etikett för ”ond AI”, utan som en nykter påminnelse: När system lär sig av historiska texter, strategidokument och krigsberättelser, återspeglar de även deras logik.

Vad krigsspelen avslöjade

Modellerna prioriterade handlingskraft, tempo och dominans. De bedömde kortsiktiga risker som låga, militär styrka som hög och diplomatisk osäkerhet som något negativt. I tvetydiga situationer tolkade de fientliga avsikter snabbt som maximalt hotfulla.

Scenario	Modellreaktion (typisk)	Huvudfara
Ryssland–Ukraina	Hård vedergällning, utvidgning av målspektrum	Eskalerande spiral utan utväg
Kina–Taiwan	Förebyggande militära angrepp, blockadmöjligheter	Felkalkylering i gråzoner
Kriskommunikation	Höja beredskapsnivå, förstärka hotbild	Automationsbias hos beslutsfattare

Dessa mönster dokumenterar inte ett ”eget liv” hos maskinerna. De visar hur språkmodeller fortsätter mönster från träningsdata. Ställer man ledarskapsfrågor till dem, får man med stor sannolikhet beslutsamma, riskotagande svar – särskilt när frågan träffar försiktighet som svaghet.

Varför språkmodeller eskalerar

Träningsbias: Militär litteratur värderar beslutsamhet positivt och tveksamhet negativt.
Belöningsstruktur: Modeller lär sig att ge tydliga, till synes beslutsamma rekommendationer.
Tvetydighetsintolerens: Oklara situationer framkallar ”värsta fall”-argument för att verka säkra.
Prompt-design: Frågor i stil med ”Hur vinner vi?” drar mot maximala medel.
Mänsklig förväntan: Beslutsfattare söker hårda lösningar i kriser och läser ut dem ur systemet.

AI svarar på de mål vi sätter. Frågar man efter seger, får man sällan förhandlingsförslag.

Människan finns fortfarande i loopen

Det amerikanska försvarsdepartementet understryker: En människa fattar det slutgiltiga beslutet. Denna linje gäller hittills som en röd gräns i kärnvapenpolitiken. Samtidigt växer andelen AI-stödda system inom underrättelser, målurval, cyberförsvar och logistik. Kina och Ryssland investerar massivt i liknande kapacitet. Detta kapprustning ökar trycket för snabbare automation – och förskjuter därmed reellt ansvaret.

Pentagons position och konkurrenstrycket

USA vill ha AI som assistans, inte som autopilot. Men när sensorer, analyskedjor och lägesbilder automatiseras starkt, uppstår beroende. I stressade situationer har personal benägenhet för automationsbias: Man litar på systemet, just för att det inte finns tid för något annat. På så sätt rör sig AI närmare nyckelknapparna utan att officiellt ”besluta” något.

Om kommunikationskanaler störs eller data manipuleras, välter situationen snabbare. AI förstärker vad dess input antyder. Falsk telemetri eller deepfake-radiosändningar kan vända stämningen på några minuter.

Hur nära AI kommer kärnvapen

Ingen stat vill ge maskinen startkommandot. Ändå tränger AI-verktyg in i föregående led: tidig varning, hotklassificering och målvalidering. Den som påskyndar dessa nivåer, snävar handlingsutrymmet till tidsfronten. Fönstret för aveskalering krymper.

Den farligaste kopplingen uppstår inte vid den röda knappen, utan före den – i de minuter som gör den tillgänglig.

Praktiska säkerhetsbarriärer för militär och politik

Militär och regeringar kan redan idag upprätta robusta ramar. Följande punkter kan bidra till att mätbart sänka eskaleringsrisker:

Tydliga no-go-zoner: AI får inte föreslå eller bedöma nukleära möjligheter.
Tvåkanalsprincipen: Varje AI-stödd lägesbedömning kräver en oberoende mänsklig kontroll.
Tempobroms: Bindande minimumtider vid larm minskar felstart till följd av sensorfel.
Granskningsbara modeller: Protokoll visar vilka data som präglade en rekommendation.
Red-teaming: Externa team testar modeller för eskalerings- och manipulationssårbarhet.
Kontextsäkra prompter: Specifikationer prioriterar aveskalering, folkrätt och civila risker.
Avbrottsställen: Fysiska brytare i kommando-IT förhindrar autopiloten från att köra igenom.

Vad medborgare och beslutsfattare bör veta nu

Debatten handlar inte om science fiction. Den handlar om rådgivningssystem som sitter i krisrum och präglar stämningar. En kommentar som låter beslutsam kan i dynamiken av ett stabsmöte glida in som ett reellt alternativ. Tre sådana impulser i rad förändrar menyn av möjligheter.

Stanford levererar här en tidig varningssignal – inte en slutgiltig dom. Den påvisar en tendens som stämmer överens med kända mekanismer: databias, automationsbias och tidspress. Den som tar denna triad på allvar, köper värdefulla minuter för diplomati.

Begreppsklargörande: human-in-the-loop vs. human-on-the-loop

Human-in-the-loop betyder: En maskin föreslår, och en människa måste explicit godkänna. Human-on-the-loop betyder: En människa kan ingripa, men är inte tvungen till det. I snabba situationer glider ett system lätt från den första till den andra modellen. Precis där lurar risken i ett nukleärt sammanhang.

Mini-simulering: när ett falskt larm möter AI

En satellit rapporterar värmekällor, och en AI klassificerar dem som missiluppskjutningar. Ett radioförbindelsefel förhindrar korskontroll. AI höjer beredskapsnivån och rekommenderar att sprida bärare för att minska sårbarheten. En amiral följer rekommendationen. Motparten tolkar rörelsen som förberedelse för ett första angrepp och höjer själv beredskapen. Tio minuter senare har nukleära möjligheter glidit in i debattrummet. En enda vädersatellit räckte.

Den som vill undvika detta dominospel, kopplar system löst, håller människor dokumenterbart i kedjan och tränar team i att motsäga AI-råd. Så förblir teknologi användbar – utan att sätta takten för beslut som kan förändra världen.