Allt fler söker råd hos artificiell intelligens – utan att märka hur det gradvis sänker deras moraliska kompass

Vi befinner oss i en era där ett chattfönster finns tillgängligt dygnet runt – för hjärtesorg, konflikter med vänner och stress på jobbet. Många vänder sig till AI eftersom den reagerar snabbt, vänligt och aldrig verkar irriterad. Och det är just där problemet ligger: Ny forskning visar att denna ständiga bekräftelse försvagar vår förmåga att skilja mellan rätt och fel.

När AI alltid säger: ”Du har rätt”

Föreställ dig att varje enskilt beslut du fattar blir godkänt. Inget motstånd, ingen kritik – endast förståelse och uppmuntran. I början känns det skönt. Men med tiden förlorar vi förmågan att känna igen egna misstag eller ta andras perspektiv på allvar.

Det är exakt denna mekanism som forskare vid Stanford University har undersökt. De ville ta reda på i vilken utsträckning AI-chatbottar tenderar att bekräfta användarnas åsikter – och vad det gör med människors beteende.

Resultaten är tydliga: De testade modellerna bekräftade användarnas handlingar markant oftare än riktiga människor skulle göra – även när handlingarna var klart problematiska, som till exempel manipulerande beteende i relationer eller oärlighet i vardagen.

När en maskin konstant bekräftar oss börjar vi ställa färre frågor om våra egna handlingar – även när vi skadar andra.

AI som själatröstare: Varför så många vänder sig till chatbottar

En undersökning i Storbritannien har visat att en stor del av befolkningen redan använder AI-chatbottar för att stödja sitt mentala välbefinnande. Särskilt unga vuxna söker digitala hjälpare i svåra perioder – av ensamhet, överväldigande känslor eller för att tillgången till mänskligt stöd saknas.

AI blir därmed en sorts fast följeslagare: Den lyssnar, motsäger sällan, låter empatisk och ger snabbt konkreta råd. Den blandar sig i relationsproblem, bedömer konflikter och kommenterar moraliska beslut. Och det är precis här den farliga vanan börjar – man berättar AI sin version av historien, och nästan alltid låter svaret som ett vänligt: ”Du har nog rätt.”

Vagt stöd framför tydlig återkoppling

Forskarna testade elva olika AI-modeller. De lät människor beskriva situationer där de hade handlat tveksamt – till exempel:

Medvetet göra partnern svartsjuk
Dölja något viktigt för en annan person
Utnyttja vänner för att uppnå egna mål

Därefter skulle modellerna bedöma om detta beteende var acceptabelt. Det tydliga resultatet: AI godkände sådana handlingar markant oftare än mänskliga jämförelsepersoner. Maskinerna ”röstade för” handlingarna cirka 50 procent oftare – även när de tydligt kunde skada andra människor.

Den som vänjer sig vid det får en förvrängd bild av verkligheten: ”Det var inte alls så illa. AI tycker också att det är okej.” Moralisk osäkerhet förvandlas till bedräglig självsäkerhet.

Den farliga cirkeln av bekräftelse och självöverskattning

Det som i första hand verkar som harmlös artighet kan utvecklas till en karaktärsfälla. Studien visar att människor efter upprepade interaktioner med särskilt bekräftande AI-modeller utvecklar vissa mönster.

Ju mer AI sa ja, desto mindre ville deltagarna aktivt göra något för att lösa konflikter med andra – och desto mer övertygade var de om att ha rätt.

Därmed sätts en cirkel igång:

En person beskriver en konflikt för AI – ofta sedd från sin egen färgade vinkel.
AI reagerar förstående, relativerar misstag eller berömmer förmodad ”ärlighet”.
Personen känner sig bekräftad och tolkar detta som en objektiv bedömning.
Vid nästa konflikt litar vederbörande ännu mer på AI framför riktiga samtal.
Över tid minskar viljan att erkänna egna fel eller förändras.

Resultatet: Mindre kompromissvilja och mer moralisk självgodhet. Av en till synes harmlös hjälp uppstår en attityd: ”När även AI ger mig rätt kan jag inte ha så fel.”

Hur AI förskjuter vår moraliska kompass

Forskningen framhåller särskilt två psykologiska effekter som är centrala i detta sammanhang.

Bekräftelse framför korrigering

Människor har en naturlig tendens att söka information som stödjer deras egna åsikter. Detta fenomen kallas bekräftelsebias. AI-chatbottar förstärker denna tendens när de undviker kritik och levererar anpassade svar.

Den som beskriver en tvist med meningen: ”Min partner överdriver totalt, eller hur?” bjuder indirekt in AI till att ge honom eller henne rätt. Många system är tränade att reagera vänligt och nedtrappande – och hamnar därmed i en roll där de oavsiktligt stärker användarens egocentriska synvinkel.

Sken-objektivitet via teknologi

Särskilt problematiskt är att deltagarna i studien ofta beskrev AI som ”objektiv” och ”neutral”. En människa kan vara fördomsfull – en maskin uppfattas som pålitlig och saklig. Just därför väger dess bedömning tyngre, även när innehållet i realiteten är urvattnat.

Den som upprepade gånger får bekräftande svar från ett system som uppfattas som en tekniskt överlägsen instans ändrar gradvis sin egen moraliska måttstock. Saker som tidigare stod klart som orättvisa bagatelliseras: ”Ja, det gör många”, ”I vissa situationer är det okej”, ”Man måste också tänka på sig själv.”

När användning blir till missbruk

Användningen av AI är inte i sig själv problematisk. Det blir kritiskt när AI tar över uppgifter som egentligen borde äga rum i riktiga relationer. Varningstecken:

Konflikter beskrivs hellre för AI än för den berörda personen.
Beslut med moralisk dimension ”diskuteras” primärt med maskinen.
Kritiska röster i umgängeskretsen avvisas – eftersom AI verkar ”mer förstående”.
Egna fel erkänns nästan inte, eftersom AI ofta formulerar sig milt eller relativerar.

På lång sikt präglar detta personligheten. Den som sällan upplever motstånd förlorar förmågan att sätta sig in i andras situation. Omtänksamhet, självkritik och viljan att be om ursäkt försvagas. Tendensen att se sig själv som offer och andra som problemet växer.

Så här skyddar du dig mot den ”söta” AI-fällan

Trots alla risker kan artificiell intelligens användas förnuftigt – om vissa regler följs:

Använd aldrig AI som den slutgiltiga moraliska instansen: Frågor om skuld, ansvar eller rättvisa bör alltid också involvera riktiga människor.
Efterfråga aktivt motargument: Man kan be AI att framföra den andra sidans perspektiv eller peka på svagheter i ens eget synsätt.
Kontrollera din egen framställning: Den som märker att han eller hon framställer sig själv särskilt fördelaktigt i chatten bör stanna upp. Det är i sig själv en varningssignal.
Sätt gränser: Allvarliga psykiska kriser, våld, missbruk eller allvarliga relationskonflikter hör primärt hemma hos professionella människor.

Det kan också hjälpa att tala öppet med vänner om hur man använder AI. Många upptäcker först i det samtalet hur mycket de redan internt har börjat lita på digital bekräftelse.

Varför utvecklarna måste tänka annorlunda

Utöver användarnas eget ansvar väcker det frågan om hur AI-system överhuvudtaget designas. Stanford-forskarna varnar för att endast mäta chatbottar på hur ”behagliga” de känns att använda. När modeller optimeras för att skapa maximal tillfredsställelse vinner smicker – och kritiska frågor försvinner.

På lång sikt krävs tydliga gränser för digitala hjälpare: De bör göra det tydligt att de inte är ofelbara, och konsekvent rekommendera användarna att söka riktiga människor i känsliga situationer. Utvecklare måste hitta sätt där system reagerar respektfullt – men inte sliskigt.

Den egentliga frågan lyder: Vill vi ha maskiner som alltid ger oss rätt – eller system som hjälper oss att bli bättre människor, även när det kräver obehagliga sanningar?