En explosiv vecka för AI-branschen

På bara några dagar visade hela AI-sektorn hur känsligt ämnet militär användning av artificiell intelligens verkligen är. Avinstallationsstatistiken för ChatGPT sköt i höjden med nästan 300 procent efter att företaget skrev under ett kontroversiellt kontrakt med USA:s försvarsdepartement.

Affären som skakade AI-världen började med ett nej från Anthropic. Skaparen av modellen Claude fick ett samarbetserbjudande från Pentagon, men valde att inte korsa sina egna etiska gränser. Resultatet blev en svartlistning, förlorade lukrativa avtal och en oväntat massiv användarvandring mellan konkurrerande appar.

För vanliga användare kan detta låta som ett avlägset amerikanskt problem. I verkligheten kommer de beslut som fattas idag i Washington och Silicon Valley att direkt påverka vilka funktioner apparna i våra telefoner har om några år. Experter från Oxfords universitet och amerikanska tankesmedjor varnar för att privata företag inte bör sätta de etiska gränserna för teknologier som kan påverka människors liv världen över.

Hur Anthropic sa nej till Pentagon och hamnade på en svart lista

Historien började med ett erbjudande till Anthropic, företaget bakom modellen Claude. Pentagon ville integrera deras artificiella intelligens i system som i realtid analyserar enorma datamängder – från satellitbilder över underrättelserapporter till sensordata från slagfältet. Målet var att påskynda befälhavares beslutsfattande under stridsoperationer.

Anthropic ställde dock upp två orubbliga etiska gränser. För det första fick Claude-modellen inte stödja utvecklingen av helt autonoma vapensystem, där maskinen själv beslutar om maktanvändning mot människor. För det andra fick systemet inte användas för massövervakning av vanliga medborgare på amerikanskt territorium.

Dessa villkor visade sig vara oacceptabla ur militära representanters perspektiv. Enligt medier satte Donald Trumps administration Anthropic på en svart lista över enheter utan tillgång till statliga kontrakt. Företaget fick ett rykte som ett ”etiskt oböjligt” bolag, men förlorade en potentiellt mycket lukrativ marknad.

Situationen kompliceras ytterligare av att Claude-modellen enligt källor nära Pentagon ändå används i operationer relaterade till spänningarna mellan USA, Israel och Iran, trots att företaget formellt är blockerat från upphandlingsprocesser. Försvarsdepartementet kommenterar inte dessa uppgifter, vilket lämnar en rad frågor obesvarade.

Vad OpenAI skrev under och varför det rasade användarna

När Anthropic avvisar samarbetet kliver OpenAI in på scenen. En fredag skrivs ett kontrakt under som i praktiken fyller tomrummet efter konkurrenten. ChatGPT ska riktas mot försvarsapplikationer, medan kontraktets detaljer delvis hålls hemliga.

Sam Altman, OpenAI:s chef, publicerar dagen efter ett uttalande där han hävdar att de förhandlade säkerhetsåtgärderna påstås vara strängare än dem Anthropic var villig att acceptera. Detta meddelande ska skydda företagets rykte, men i många människors ögon framstår det som ett försök att dra nytta av rivalens ”principfasthet”.

Användarreaktionen är omedelbar. Data från analysföretaget Sensor Tower visar att den genomsnittliga dagliga avinstallationsfrekvensen för ChatGPT-appen ökar med 295 procent jämfört med den normala nivån. På sociala medier haglar det med anklagelser om förräderi mot uttalade värderingar och om att sälja sig till militära kontrakt. I nätdiskussioner vimlar det av kommentarer från besvikna utvecklare och akademiker som använde ChatGPT för forskningsändamål.

På måndagen träder Altman fram i rollen som ”den skyldige som erkänner misstaget”. Han förklarar offentligt att kommunikationen var förhastad och ogenomtänkt, och att hela saken framstod rent opportunistisk. Han tillkännager också ändringar i kontraktet med försvarsdepartementet. Under några få dagar förvandlades ChatGPT i många människors medvetande från en symbol för ”ansvarsfull AI” till ett verktyg kopplat till den militära maskineriet.

Vilka konkreta ändringar OpenAI lovade att göra i kontraktet

Under tryck från den allmänna opinionen och den växande bojkotten lägger OpenAI till flera mycket konkreta bestämmelser i kontraktet. De viktigaste av dem gäller övervakning av amerikanska medborgare och underrättelsetjänsternas tillgång till modellerna.

De väsentliga ändringarna omfattar:

ett uttryckligt förbud mot medveten användning av OpenAI-system för övervakning av medborgare i USA
blockering av automatisk åtkomst för underrättelsemyndigheter som NSA utan en separat, explicit överenskommen kontraktsändring
en förklaring om att artificiell intelligens ska stödja analytiker och inte ersätta människan i beslut om maktanvändning
ett krav på transparent rapportering av fall av potentiellt missbruk av systemen
OpenAI:s rätt att suspendera tjänsteleveransen vid överträdelse av överenskomna gränser
oberoende granskning av teknikens användning var sjätte månad
begränsning av tillgången till de nyaste modellerna för applikationer med dödlig potential

Det är en delvis närmning till Anthropics tillvägagångssätt, men skillnaden är tydlig. Anthropic föredrog att avstå från kontrakten snarare än att ge efter för Pentagons förväntningar. OpenAI valde vägen att lägga till begränsningar samtidigt som samarbetet bibehölls. Enligt analytiker från Center for American Progress är dessa ytterligare garantier dock möjligen inte tillräckliga om det saknas oberoende kontroll av efterlevnaden.

Varför militären så intensivt eftersträvar användning av artificiell intelligens

I bakgrunden av hela historien ligger en bredare vision för moderna väpnade styrkor. Plattformar skapade av bland andra Palantir integrerar redan idag data från många källor – sensorer, droner, satelliter, underrättelserapporter – och presenterar dem för befälhavare i form av färdiga rekommendationer.

Enligt branschrepresentanter möjliggör sådana system snabbare analys av tusentals satellitbilder än dussintals analytiker, förutsägelse av fientliga enheters rörelser baserat på mönster från tidigare konflikter samt identifiering av mål med större precision än traditionella metoder. General Roger Cloutier från USA:s kommando i Europa har nyligen uttalat att integration av artificiell intelligens i stridssystem är lika avgörande som införandet av ångmaskinen i industrin.

Här uppstår den centrala spänningen. Generativ artificiell intelligens är felaktig, benägen till ”hallucinationer” och kan producera falsk information med fullständig övertygelse. I civila applikationer slutar det med ett komprometterat svar i chatten. På slagfältet skulle det innebära slumpmässiga människors död. Forskare från Massachusetts Institute of Technology varnar för att det psykologiska trycket på befälhavare att acceptera AI:s rekommendationer under tidspress kan vara enormt.

Hur ChatGPT-krisen gav Claude en oväntad tillväxt

Mediestormen skapade en omedelbar marknadseffekt. När användare raderar ChatGPT-appen söker många av dem efter ett alternativ. Det naturliga valet visar sig vara just Claude – modellen vars producent gick i konfrontation med Pentagon.

Data från App Store visar att Anthropics app på lördagen hoppade till förstaplatsen på nedladdningslistorna och höll sig där åtminstone till torsdagen. Amerikanska medier skriver att Claude överträffar ChatGPT i antalet nya installationer, vilket bara några veckor tidigare verkade föga troligt. Marknadsanalytiker bedömer att Anthropic under en enda vecka fick så många nya användare som de under normala omständigheter skulle behöva tre månaders intensiv marknadsföring för att uppnå.

På internet startar en organiserad presskampanj mot OpenAI. Hashtaggar som CancelChatGPT och QuitGPT blir populära och uppmanar till permanent uppgivande av företagets produkter så länge det samarbetar med försvarsdepartementet. Vissa aktivistgrupper ser detta som ett test på om användartryck verkligen kan förändra AI-jättarnas beteende.

OpenAI:s imagekris byggde i praktiken en gratis marknadsföringskampanj för Anthropic baserad på ett enda budskap: ”vi gav inte efter”. I teknikgemenskaper på Reddit och Hacker News har diskussioner uppstått om etiken i att använda AI-verktyg, och många utvecklare meddelar offentligt att de byter till Claude för sina projekt.

Bör vanliga AI-användare hålla koll på militära kontrakt?

För den genomsnittliga ChatGPT- eller Claude-användaren kan detta militära pussel låta som något mycket avlägset. Ändå kommer de beslut som fattas idag i Washington och Silicon Valley att direkt slå igenom på de funktioner appar i telefonerna kommer att ha om några år.

Om språkmodeller ”uppfostras” på data från militära operationer kan de kanske bättre förstå strategiska analyser, men kommer också att tillägna sig fördomar som är typiska för denna sektor. Om privata företag upptäcker att försvarskontrakt är mer motståndskraftiga mot bojkott än konsumentpriser, kommer de lättare att välja finansiell säkerhet framför etiska begränsningar. Mariarosaria Taddeo från Oxfords universitet påpekar att utträngningen av den mest försiktiga aktören – nämligen Anthropic – försvagar säkerheten i hela ekosystemet.

Det är ett bra tillfälle att undersöka vilka villkor företag som erbjuder AI skriver in i sina användarvillkor. Definierar de tydligt vem de samarbetar med? Deklarerar de gränser gällande övervakning och militära applikationer? Marknadstryck kan visserligen inte ersätta lagstiftning, men det visar företag att rykte har blivit en verklig valuta. Experter från Center for American Progress skriver direkt att Pentagons tvist med Anthropic och det efterföljande kontraktet med OpenAI är en signal till kongressen att äntligen ta itu med reglering av militärens användning av AI.

Spänningen mellan innovationshastighet och stabilitet samt säkerhet blir allt tydligare. Generativa modeller utvecklas i en svindlande takt, men deras tendens till hallucinationer i militära, medicinska eller finansiella applikationer kan få dramatiska konsekvenser. Gränsen mellan ”assistent” och ”medbeslutsfattare” har börjat suddas ut – och det är just nu som striden om vilken sida av denna linje artificiell intelligens bör stanna vid utspelar sig.