Nästan 300 procents ökning av avinstallationer tvingade OpenAI att agera
När det dagliga antalet avinstallationer av ChatGPT-appen närmade sig en uppgång på 300 procent insåg OpenAIs ledning att militärkontrakt kunde kosta företaget användarnas lojalitet. Förändringarna i kontraktet kom inom några dagar.
Hela AI-sektorn följde med stort intresse hur snabbt frågan om militär användning av artificiell intelligens kunde väcka vanliga användares ilska. OpenAI skrev först under ett kontrakt med det amerikanska försvarsdepartementet för att sedan i all hast behöva revidera det när statistiken över avinstallationer av ChatGPT sköt i höjden med nästan 300 procent. Pentagon pressar samtidigt företag att ge dem så många möjligheter som möjligt, medan vissa av dem sätter hårda etiska gränser.
Experter från Center for American Progress varnar för att privata företag inte själva bör fastställa de etiska gränserna för militär tillämpning av AI. Enligt forskare från Oxfords universitet försvagar utestängningen av de mest försiktiga aktörerna – som Anthropic – säkerheten i hela ekosystemet. Detta fall illustrerar hur bräckligt användarnas förtroende är när teknikföretag kommer i kontakt med militära strukturer.
För den vanliga användaren är det ett ögonblick som visar om företagen bakom ChatGPT, Claude eller andra AI-assistenter väljer transparensens sida – eller ger efter för trycket från militärkontrakt. De beslut som idag fattas i Washington och Silicon Valley kommer direkt att påverka funktionerna i mobilappar om några år.
Hur Anthropic avvisade Pentagon och hamnade på en svart lista
Historien börjar hos Anthropic, skaparna av modellen Claude, som fick ett liknande samarbetserbjudande från Pentagon. Försvarsdepartementet ville integrera deras AI i system som i realtid analyserar enorma datamängder – från satellitbilder till underrättelserapporter – för att påskynda beslutsfattandet på slagfältet.
Anthropic satte dock två mycket hårda etiska gränser. För det första fick Claude inte stödja utvecklingen av fullständigt autonoma vapensystem – alltså system där maskinen själv fattar beslut om maktanvändning. För det andra fick modellen inte medverka till massövervakning av vanliga medborgare på amerikanskt territorium.
Dessa villkor visade sig vara oacceptabla ur militärens perspektiv. Enligt mediekällor satte Donald Trumps administration Anthropic på en svart lista över enheter utan tillgång till offentliga kontrakt. Företaget byggde upp ett rykte som ”kompromisslöst etiskt” – men förlorade en potentiellt lukrativ marknad.
Situationen kompliceras ytterligare av att Claude enligt mediekällor ändå ibland används i operationer kopplade till spänningarna mellan USA, Israel och Iran – trots företagets formella utestängning från upphandlingar. Pentagon har inte kommenterat dessa uppgifter, vilket lämnar en rad obesvarade frågor.
OpenAI skriver under det som Anthropic avvisade
När Anthropic säger nej kliver OpenAI fram. En fredag skrivs ett kontrakt under som i praktiken fyller hålet efter konkurrenten. ChatGPT ska riktas mot försvarsapplikationer och detaljerna i kontraktet förblir delvis hemliga.
Sam Altman, verkställande direktör för OpenAI, publicerar dagen efter ett uttalande där han hävdar att de förhandlade skyddsåtgärderna påstås vara strängare än dem som Anthropic var villig att acceptera. Detta meddelande ska försvara företaget men framstår i många människors ögon som ett försök att tjäna på rivalens ”principfasthet”.
Användarnas reaktion är omedelbar. Data från Sensor Tower visar att det genomsnittliga dagliga antalet avinstallationer av ChatGPT-appen ökar med 295 procent jämfört med normalen. På sociala medier dyker anklagelser upp om förräderi mot förkunnade värderingar och försäljning till militärkontrakt.
- Anthropic avvisade fullständigt autonoma vapensystem
- Pentagon uteslöt Anthropic från offentliga upphandlingar
- OpenAI skrev under kontraktet en fredag
- Sam Altman hävdade att skyddet var strängare än hos Anthropic
- Avinstallationer av ChatGPT ökade med 295 procent
- Användare lanserade en kampanj under hashtaggen CancelChatGPT
- Claude-appen nådde förstaplatsen i App Store
- OpenAI lovade ändringar i kontraktet på måndagen
Inom några dagar förvandlades ChatGPT i många människors medvetande från en symbol för ”ansvarsfull AI” till ett verktyg kopplat till den militära apparaten. Altman tar på sig måndagen rollen som ”den skyldige som bekänner”. Han erkände offentligt att kommunikationen var förhastad och oförberedd och att hela affären framstod rent opportunistisk. Samtidigt tillkännagav han ändringar i kontraktet med försvarsdepartementet.
Vad OpenAI konkret lovade att ändra
Under press från den allmänna opinionen och en växande bojkott arbetade OpenAI in flera mycket konkreta bestämmelser i kontraktet. De viktigaste gäller övervakning av amerikanska medborgare och underrättelsetjänsters tillgång till modellerna.
Ett explicit förbud mot medveten användning av OpenAI:s system för övervakning av invånare i USA är en av de viktigaste förändringarna. Företaget blockerar också automatiskt tillgång för underrättelsemyndigheter som NSA utan en självständig och öppet överenskommen kontraktsändring. Det förklarar dessutom att AI ska stödja analytiker – inte ersätta människan i beslut om maktanvändning.
Det är en delvis närmande till Anthropics tillvägagångssätt, men skillnaden är tydlig. Anthropic valde hellre att avstå från kontrakt än att efterkomma Pentagons krav. OpenAI väljer vägen med tillägg av begränsningar och upprätthållande av samarbetet.
Forskare från Oxfords universitet varnar för att pressa ut den mest försiktiga aktören – Anthropic – från förhandlingarna försvagar säkerheten i hela ekosystemet. Mariarosaria Taddeo från samma universitet understryker att privata företag inte individuellt bör fastställa etiska gränser eftersom de alltid kommer att vara under press från vinst och marknadsandelar.
Varför militären är så intresserad av artificiell intelligens
Bakom denna historia ligger en bredare vision för moderna väpnade styrkor. Plattformar skapade av bland andra Palantir integrerar redan nu data från många källor – sensorer, drönare, satelliter och underrättelserapporter – och presenterar dem för befälhavare i form av färdiga rekommendationer.
Enligt branschföreträdare möjliggör sådana system mycket snabbare analys av satellitbilder, automatisk prioritering av underrättelserapporter och tidig varning för hot innan direkta angrepp äger rum. Militära tjänstemän med ansvar för AI-projekt inom NATO understryker att människan i de nuvarande systemen formellt alltid förblir i beslutsloopen.
Här uppstår dock den centrala spänningen. Generativ AI är felbar, lider av ”hallucinationer” och kan producera falsk information med fullständig övertygelse. I civila applikationer slutar det i värsta fall med ett pinsamt chattsvar. På slagfältet skulle det innebära oskyldiga människors död.
Ju mer avancerad och ”säker” AI är, desto svårare är det psykologiskt att ifrågasätta dess rekommendationer – särskilt under stress och tidspress. Experter från Center for American Progress varnar för att utan en lagstiftningsram kommer företag alltid att välja finansiell säkerhet framför etiska begränsningar.
Claude växer, ChatGPT förlorar användare
Mediebruset medförde en omedelbar marknadseffekt. När användare raderar ChatGPT-appen letar många av dem efter ett alternativ. Det naturliga valet visar sig vara just Claude – en modell vars producent gick i direkt konflikt med Pentagon.
Data från App Store visar att Anthropics app lördagen hoppade till förstaplatsen på nedladdningslistorna och höll sig där åtminstone till torsdagen. Amerikanska medier skriver att Claude överträffar ChatGPT i antalet nya installationer – något som bara några veckor tidigare verkade föga sannolikt.
På nätet pågår en organiserad presskampanj mot OpenAI. Hashtaggarna CancelChatGPT och QuitGPT har blivit populära och uppmanar till att permanent lämna företagets produkter så länge det samarbetar med försvarsdepartementet. Vissa aktivistgrupper ser det som ett test på om användartryck verkligen kan förändra AI-jättarnas beteende.
OpenAI:s imagekris gav i praktiken Anthropic en gratis marknadsföringskampanj byggd på en enda slogan: ”Vi gav inte efter.” Sociala medier fylls med berättelser från människor som byter från ChatGPT till Claude. Forskare följer noga hur snabbt ett företags etiska beslut kan flytta hela marknaden.
Varför denna sak bör intressera även vanliga användare
För den vanliga användaren av ChatGPT eller Claude kan denna militära affär låta som något mycket avlägset. Ändå kommer de beslut som idag fattas i Washington och Silicon Valley direkt att påverka vilka funktioner mobilappar kommer att ha om några år.
Om språkmodeller ”uppfostras” på data från militära operationer kan de bli bättre på strategiska analyser – men de kan också tillägna sig de fördomar som är typiska för den sektorn. Om privata företag erfar att försvarskontrakt är mer motståndskraftiga mot bojkott än konsumenternas prenumerationer kommer de lättare att välja finansiell säkerhet framför etiska begränsningar.
Det är ett bra tillfälle att undersöka vilka villkor de företag som erbjuder AI skriver in i sina användarvillkor. Definierar de tydligt vem de samarbetar med? Förklarar de gränser för övervakning och militära applikationer? Marknadstryck ersätter inte lagstiftning, men det visar företagen att rykte har blivit en verklig valuta.
Vi ser allt oftare spänningen mellan innovationstakt och stabilitet och säkerhet. Generativa modeller utvecklas i svindlande fart, men deras benägenhet för hallucinationer i militära, medicinska eller finansiella applikationer kan få dramatiska konsekvenser. Gränsen mellan ”assistent” och ”medbeslutare” börjar bli suddig – och just nu pågår striden om på vilken sida av den linjen AI bör stanna.
