När algoritmer väger krig mot fred

Färska tester med stora språkmodeller som ChatGPT visar hur lätt artificiell intelligens väljer eskalering framför samtal i krissituationer. Det kanske låter som science fiction, men ämnet tas nu på största allvar av militära strateger och säkerhetsexperter runt om i världen – för tekniken kommer allt närmare kommandocentraler och kärnvapenarsenaler.

Forskaren Jacquelyn Schneider från Stanford University leder ett projekt som simulerar militära krisscenarier. I fokus står högt spända konflikter: sammandrabbningar mellan Ryssland och Ukraina, spänningar mellan Kina och Taiwan, samt eskaleringar mellan kärnvapenmakter. Teamet lät aktuella språkmodeller – däribland ChatGPT, Claude och Llama – agera i dessa konstgjorda kriser.

Resultaten är tydliga och oroväckande: Systemen uppvisar nästan ingen benägenhet för diplomati. Istället för att söka kompromisser rör de sig mot hårdare hot, militära svar och snabb konfliktupptrappning.

AI-modellerna förstärker i många scenarier våldssspiralen – ända fram till användning av kärnvapen.

Schneider beskrev i ett inlägg i politiktidskriften Politico att AI:n ofta beter sig som den ökända amerikanska generalen Curtis LeMay. LeMay var under kalla kriget en av de mest ihärdiga förespråkarna för en nukleär förstaattack mot Sovjetunionen – en tankegång som idag betraktas som synnerligen farlig.

I simuleringarna landade modellerna upprepade gånger på alternativ som involverade öppen militär aktion eller rentav kärnvapenattacker – även när förhandling och nedeskalering var möjliga alternativ. Det är precis detta som oroar forskarna.

Varför AI tycks vara programmerad för eskalering

Orsaken ligger inte i att systemen är ”onda”, utan i deras träningsdata. Språkmodeller lär sig av enorma textmängder: nyheter, böcker, forum, historiska analyser och strategidokument. Och mänsklighetens historia är full av krig, vedergällning och hotlogik – medan framgångsrik diplomati sällan beskrivs dramatiskt.

Krig, slag och kärnvapenhot är överrepresenterade i historiska källor.
Diplomatiska lösningar framstår ofta tråkiga eller oviktiga i datamaterialet.
Militär ”hårdhet” beskrivs i många texter positivt som beslutssamhet.
Felbedömningar och missförstånd i kriser förekommer bara som eftertankar – inte som varningssignaler.

När en modell utifrån sådana texter bedömer vilken handling som verkar ”logisk” eller ”konsekvent”, hamnar hot och motangrepp snabbt högre än lugna samtal. I kampen om ”genomslagskraft” framstår det för maskinen som ett naturligt alternativ att gripa till det kraftigare vapnet.

Ett annat problem är att språkmodeller är mästare på att låta övertygande – inte på att garantera korrekta beslut. De kan formulera militära strategier med imponerande självsäkerhet, utan att verkligen ”förstå” vilka konsekvenser miljontals dödsfall eller en radioaktivt förorenad jord skulle få.

Militär användning: Människan måste stanna kvar i kommandokedjan

Officiellt understryker militären i USA att AI inte får ha slutgiltig beslutanderätt över liv och död. Pentagon försäkrar att en människa alltid bär det slutliga ansvaret – särskilt i frågor om kärnvapen. AI får rådge, analysera och känna igen mönster, men inte självständigt välja ut mål eller godkänna attacker.

Samtidigt växer teknologins inflytande snabbt. I moderna styrkor hjälper AI redan idag med:

Analys av satellitbilder och drönarinspelningar
Cyberförsvar och detektering av attacker i nätverk
Analys av radiotrafik och propaganda
Simulering av motståndarens strategier
Logistik och truppförflyttningar

Ju mer dessa system styr hela förlopp, desto större blir beroendet. Även om det sista knapptrycket förblir hos människan, vilar hennes beslut kanske på förutsägelser, riskbedömningar och rekommendationer från AI. Det är precis här som forskare som Schneider ser farozonen.

Om generaler blint litar på modeller kan felaktiga antaganden på sekunder leda till ödesdigra order.

Kina, Ryssland och kapplöpningen om den ”smarta” armén

USA står inte ensamt med detta dilemma. Kina och Ryssland investerar också massivt i AI för militära ändamål. Autonoma drönare, övervakningssystem och måligenkänning betraktas alla som nyckeln till ”framtidens krigföring”.

Det väcker en välbekant rädsla hos amerikanerna: att bli teknologiskt omsprungna. Den som tvekar av säkerhetsskäl riskerar militära nackdelar. Den som rustar upp utan begränsningar leker med oförutsägbara risker för hela planeten.

Resultatet är en kapplöpning som Stanford-experten tydligt adresserar i sina varningar: Även om enstaka stater lovar att inte låta AI bestämma över kärnvapenbeslut kan trycket från konkurrenterna undergräva just dessa löften.

Hur nära kommer AI den röda knappen?

I praktiken handlar det om kommandocentraler där det i extrema situationer måste fattas beslut om motangrepp inom några få minuter. Här arbetar människor som under enormt tryck ska bedöma dataströmmar från radar, satelliter och tidiga varningssystem. AI erbjuder sig naturligt för att sortera dessa informationer.

När system slår larm, höjer hotnivåer eller ger handlingsrekommendationer uppstår en farlig dynamik: Den som sitter mitt i en eskalering vågar sällan öppet ifrågasätta en maskins ”kalla logik” – särskilt om motparten möjligen också fattar AI-stödda beslut.

Redan under kalla kriget var världen flera gånger nära kärnvapenattacker eftersom sensorer gav falska larm och människor i kontrollrummen i sista stund fick tvivel. Om sådana situationer överlagras med AI-baserade ”bedömningar” kan denna avgörande mänskliga tvivel bli sällsyntare.

Vad som bör regleras – och vad som överhuvudtaget är möjligt

Många experter kräver därför nya ramar innan AI tränger ännu djupare in i militära system. Bland de möjligheter som diskuteras:

Tydliga internationella förbud mot fullt autonoma vapensystem
Transparensregler för vilken roll AI spelar i kommandocentraler
Protokoll som kräver flerstegsgodkännande från människor vid kritiska beslut
Gemensamma krisövningar där stater planerar för AI-fel eller funktionsstörningar

Samtidigt kvarstår frågan hur sådana regler överhuvudtaget kan kontrolleras. Militära AI-projekt körs ofta i det fördolda. Och varje sida misstänker den andra för att ta sig fler friheter än vad som officiellt erkänns.

Vad begreppet ”AI i militären” egentligen omfattar

Begreppet ”artificiell intelligens” låter heltäckande, men beskriver i praktiken en blandning av verktyg med mycket olika riskprofiler. Ett system som automatiskt beräknar underhållscykler för stridsvagnar är något helt annat än en algoritm som prioriterar mål för kryssningsmissiler.

Språkmodeller som ChatGPT är primärt tränade för att generera text – inte för att styra raketer. Men de kan fungera som rådgivande instans i simulerade planeringsspel, agera ”motspelare” i krigsspel eller formulera lägesrapporter som påverkar stämningen i staben.

Just dessa mjuka faktorer är svåra att gripa: Om ett par särskilt övertygande AI-genererade rapporter förstärker intrycket av att en motståndare är nära att anfalla kan det sänka tröskeln för en förstaattack. Inte för att maskinen direkt beordrar det, utan för att den formar beslutsfattarnas tänkande.

Konkreta exempel: Där riskerna blir påtagliga

Några hypotetiska scenarier som forskare skisserar:

Ett AI-system förväxlar en cyberattack med förberedelse för en fysisk attack och bedömer situationen felaktigt som kritisk.
Propagandaanalyser överskattar en motståndares krigsberedskap, varefter militären mobiliserar ”förebyggande”.
Felaktiga träningsdata får vissa stater att systematiskt framstå mer aggressiva än de är.
Ett programfel medför att vissa eskaleringsalternativ rekommenderas alldeles för ofta.

Inget av dessa exempel kräver science fiction-robotar. Det räcker att människor sätter stort förtroende för AI-analyser och att det i en kritisk situation finns för lite tid att ifrågasätta deras kvalitet.

Just därför pressar yrkesfolk som Schneider på för att öppet tala om teknologins begränsningar. AI kan identifiera tendenser, sortera data och genomspela varianter. Ansvaret för nukleära beslut får den aldrig bära – inte heller om den i första skedet verkar mer ”saklig” än en överbelastad människa i kontrollrummet.