Ett avtal som satte hela AI-branschen i brand

På bara några dagar fick hela AI-industrin bevittna hur frågan om militär användning av artificiell intelligens fick användarna att koka över. OpenAI skrev först under ett avtal med det amerikanska försvarsdepartementet – och reviderade det hastigt när statistiken över avinstallationer av ChatGPT sköt i höjden med nästan trehundra procent.

När de första meddelandena om samarbetet mellan stora AI-företag och Pentagon dök upp i början av mars väntade sig de flesta en sådan våldsam reaktion från allmänheten. På bara en helg förvandlades ChatGPT i många användares ögon från en pålitlig assistent till ett verktyg kopplat till krigsmaskineriet. Enligt analysdata från företaget Sensor Tower ökade antalet dagliga avinstallationer av ChatGPT-appen med tvåhundranittiofem procent jämfört med den normala nivån. Denna eskalering tvingade ledningen för OpenAI till extraordinära åtgärder och offentliga ursäkter.

Experter från Center for American Progress påpekar att konflikten mellan teknikjättarna och Pentagon avslöjar ett grundläggande problem i den nuvarande AI-utvecklingen. Privata företag håller i praktiken på att fastställa etiska gränser helt utan en tydlig lagstiftningsram. Mariarosaria Taddeo från Oxford University varnar för att när den mest försiktiga aktören som Anthropic lämnar förhandlingsbordet lider säkerheten i hela ekosystemet. För dig som användare innebär det att beslut som fattas nu i Washington och Silicon Valley kommer att påverka funktionerna i dina appar om bara några år.

Där Anthropics hårda avvisning och Pentagons vrede började

Hela historien började med företaget Anthropic, skaparen av språkmodellen Claude, som fick ett liknande samarbetserbjudande. Pentagon ville integrera deras AI i system som i realtid kunde analysera enorma datamängder – från satellitbilder över underrättelserapporter till sensordata från stridsområden. Målet var att påskynda befälhavarnas beslutsfattande direkt på slagfältet och förse dem med rekommendationer baserade på maskinbearbetning av information.

För Anthropic utgjorde två etiska gränser en absolut begränsning. För det första får modellen Claude inte stödja utvecklingen av helt autonoma vapensystem – alltså system där en maskin utan mänsklig kontroll beslutar om maktanvändning. För det andra får Claude inte delta i massövervakning av vanliga medborgare på amerikanskt territorium. Dessa villkor satte tydligt skyddet av mänskliga rättigheter över arméns strategiska intressen.

Sett från militärplanerarnas perspektiv visade sig båda villkoren som oacceptabla. Enligt pressuppgifter satte Donald Trumps administration Anthropic på en svartlista över enheter som nekades tillgång till offentliga kontrakt. Företaget hade byggt upp ett rykte som en kompromisslöst etisk verksamhet – men förlorade en potentiellt lukrativ marknad. Dario Amodei, verkställande direktör för Anthropic, försvarar det offentligt som en strategi för långsiktigt ansvar.

Situationen kompliceras av att Claude enligt mediekällor ändå används i operationer kopplade till spänningarna mellan USA, Israel och Iran – trots den formella blockeringen av företaget i upphandlingsprocesser. Pentagon har inte kommenterat dessa påståenden, vilket lämnar många frågor obesvarade. Taddeo konstaterar härtill att en sådan situation bara bekräftar behovet av transparent reglering på Kongress-nivå.

Hur OpenAI skrev under det som Anthropic avvisade

Den fredagen när det stod klart att Anthropic trädde ur spelet skrev OpenAI under ett avtal som i praktiken fyllde det hål som konkurrenten lämnade. ChatGPT skulle riktas mot försvarsapplikationer, och avtalets detaljer förblev delvis hemligstämplade. Sam Altman, verkställande direktör för OpenAI, offentliggjorde dagen efter ett uttalande där han hävdade att de förhandlade skyddsåtgärderna påstås vara ännu strängare än dem som Anthropic varit villig att acceptera.

Detta meddelande skulle skydda företaget mot kritik, men för många framstod det som ett försök att utnyttja rivalens principfasthet. På sociala medier dök det omedelbart upp anklagelser om förräderi mot förklarade värderingar och om att sälja sig till militärkontrakt. Hashtaggen CancelChatGPT växte snabbt i styrka, och aktivistiska användare började organisera en bojkott av OpenAIs produkter.

Användarnas reaktion var blixtsnabb och hård. Data från Sensor Tower visade att den genomsnittliga dagliga avinstallationsfrekvensen för ChatGPT-appen ökade med tvåhundranittiofem procent jämfört med den typiska nivån. På några dagar förvandlades ChatGPT från en symbol för ansvarsfull AI till ett verktyg kopplat till krigsindustrin. Analytiker från tekniska medier konstaterade enhälligt att OpenAI inte hade upplevt en motsvarande negativ våg, inte ens under tidigare kontroverser om licenstvister.

Altman trädde fram på måndagen med en offentlig ursäkt och erkände att kommunikationen hade varit förhastad och oförberedd. Han lovade en revision av villkoren i kontraktet med försvarsdepartementet och försäkrade att företaget tar AI:s värderingar på allvar. Enligt experter på kriskommunikation handlade det om ett typiskt steg efter att krisen hade spårat ur. Altman måste erkänna att kontraktets ekonomiska attraktionskraft vid den tidpunkten hade vägt tyngre än en noggrann offentlig debatt.

Vilka konkreta ändringar OpenAI lovade i kontraktet

Under press från allmänheten och en växande bojkott lade OpenAI till flera mycket specifika bestämmelser i kontraktet. De viktigaste berör övervakning av amerikanska medborgare och underrättelsetjänsternas tillgång till modellerna. Företagets ledning hävdar visserligen att inte heller den ursprungliga versionen tillät sådana överträdelser, men explicita formuleringar i texten ska lugna kritikerna.

De viktigaste ändringarna omfattar:

ett uttryckligt förbud mot medveten användning av OpenAIs system för övervakning av medborgare i USA
blockering av automatisk tillgång för underrättelsemyndigheter som NSA utan en separat offentligt godkänd kontraktsändring
en förklaring om att AI ska stödja analytiker, men inte ersätta människan i beslut om maktanvändning
regelbundna revisioner av modellimplementeringen under tillsyn av oberoende experter
transparent rapportering om de typer av uppgifter som ChatGPT utför i försvarssektorn
rätten för OpenAI att ensidigt säga upp kontraktet om de etiska principerna överträds

Det är en delvis annalkelse till Anthropics tillvägagångssätt, men skillnaden förblir synlig. Anthropic valde hellre att avstå från kontrakten än att ge efter för Pentagons krav. OpenAI valde vägen med tillagda begränsningar och upprätthållande av samarbetet. Enligt Taddeo från Oxford University fungerar en sådan strategi endast när det finns ett oberoende kontrollorgan som är kapabelt att verifiera efterlevnaden av löftena.

Liknande debatter pågår i Europa, där Europaparlamentet förbereder en förordning om artificiell intelligens känd som AI Act. Lagstiftare i Bryssel föreslår en riskklassificering av applikationer och förbud mot vissa användningsområden inom massövervakning. Representanter för NATO understryker samtidigt att människan formellt alltid förblir i beslutskedjan i nuvarande system – men att det psykologiska trycket att acceptera AI:s rekommendationer växer i takt med dess sofistikering.

Varför militären intresserar sig så starkt för artificiell intelligens

I bakgrunden av hela tvisten ligger en bredare vision för moderna väpnade styrkor. Plattformar utvecklade av exempelvis företaget Palantir integrerar redan nu data från många källor – sensorer, drönare, satelliter och underrättelserapporter – och presenterar dem för befälhavare i form av färdiga rekommendationer. Enligt representanter för försvarsindustrin ger sådana system möjlighet till snabbare reaktion på hot och koordinering av enheter i realtid.

Generativ AI erbjuder ytterligare en dimension av kapaciteter. ChatGPT kan snabbt aggregera textrapporter på olika språk, identifiera nyckelinformation och föreslå scenarier för den fortsatta situationsutvecklingen. Militären förväntar sig av dessa verktyg en acceleration av beslutsprocesserna och en minskning av den kognitiva belastningen hos befälhavare som är översvämmade med information från dussintals kanaler.

Här uppstår emellertid en grundläggande spänning mellan fördel och risk. Generativa modeller lider av så kallade hallucinationer och kan producera felaktiga uppgifter med full övertygelse om deras riktighet. I civila applikationer slutar det i värsta fall med ett pinsamt svar i en chatt. På slagfältet kan ett sådant fel betyda oskyldiga människors död eller en eskalering av konflikter baserad på falska uppgifter.

Forskare från Massachusetts Institute of Technology offentliggjorde nyligen en undersökning om stora språkmodellers tillförlitlighet i kritiska situationer. De fann att felfrekvensen ökar vid arbete med ofullständig eller motsägelsefull information – precis de förhållanden som är typiska för militära operationer. Studiens författare rekommenderar flerstegskontroll av output och betydande investeringar i systemens förklarbarhet innan de tas i bruk i stridssituationer.

Hur Claude drar nytta av ChatGPT-krisen

Mediestormen utlöste en omedelbar effekt på appmarknaden. När användarna avinstallerade ChatGPT sökte många av dem efter ett alternativ. Det naturliga valet blev just Claude – modellen vars producent hade gått i öppen konfrontation med Pentagon. OpenAIs krishantering byggde i praktiken upp en gratis marknadsföringskampanj för Anthropic kring ett enda budskap: vi gav inte efter.

Data från App Store visar att Claude-appen på lördagen hoppade till förstaplatsen på nedladdningslistorna och höll den positionen åtminstone fram till torsdagen. Amerikanska medier skriver att Claude överträffade ChatGPT i antalet nya installationer – något som för bara några veckor sedan verkade orealistiskt. Dario Amodei vill visserligen inte offentligt dra nytta av konkurrentens problem, men siffrorna talar sitt tydliga språk.

På sociala medier startade en organiserad presskampanj riktad mot OpenAI. Hashtaggarna CancelChatGPT och QuitGPT blev populära och uppmanade till att permanent lämna företagets produkter så länge det samarbetade med militären. Vissa aktiviströrelser ser det som ett test på om användartryck faktiskt kan ändra AI-jättarnas beteende.

Experter på företagsrykte konstaterar att ett sådant preferensskifte har långsiktiga konsekvenser för OpenAI. Enligt undersökningar växer användarnas förtroende för teknologiföretag med transparens och faller när de ser motsättningar mellan förklarade värderingar och faktiska handlingar. Sam Altman har upprepade gånger hävdat att OpenAI uppstod som en ideell organisation med fokus på säker AI-utveckling – och det är just denna bild som nu håller på att spricka.

Vad vanliga AI-användare bör göra nu

För de flesta människor kan detta militära pussel låta som något mycket avlägset. Ändå kommer beslut som fattas nu i Washington och Silicon Valley direkt att återspeglas i funktionerna i telefonappar om några år. Om språkmodeller tränas på data från militära operationer kan de bli bättre på att förstå strategiska analyser – men kan också tillägna sig de fördomar som är typiska för försvarssektorn.

För användare är det ett bra tillfälle att undersöka vilka villkor de företag som erbjuder AI fastställer i sina dokument. Definierar de tydligt vem de samarbetar med? Förklarar de gränser för övervakning och militära applikationer? Marknadspress ersätter visserligen inte lagstiftning, men det visar företagen att rykte har blivit en verklig valuta.

Vi ser allt oftare en spänning mellan innovationshastighet och stabilitet samt säkerhet. Generativa modeller utvecklas i en svindlande hastighet, men deras benägenhet för hallucinationer kan få dramatiska konsekvenser i militära, medicinska eller finansiella applikationer. Gränsen mellan assistent och medbeslutsfattare håller på att suddas ut – och just nu pågår kampen om på vilken sida av denna gräns AI borde stanna.