Nya AI-lagar ska stoppa deepfakes – experter varnar för enorma kryphål

Nya lagar, gamla reflexer – och ett problem som lär sig snabbare än staten

Hon skrattar in i kameran och säger meningar hon aldrig uttalat. Rösten låter oroväckande äkta, bakgrunden verkar välbekant – ett vardagsrum, en bokhylla, en växt som ser lite för perfekt ut. Först när klippet landar i familjens WhatsApp-grupp och någon frågar: ”Är det verkligen du?” – då vänder stämningen. En deepfake. Igen. Vi känner till det ögonblicket, när en kort länk och en 20-sekunders video plötsligt äter sig in i förtroendet för allt digitalt.

Medan politiker lovar städa upp med nya AI-lagar, bläddrar man igenom utkasten och anar: Något avgörande saknas. Kanske mer än bara en liten fotnot.

Hos EU i Bryssel hör man dessa dagar samma ord överallt i de långa parlamentskorridorerna: Deepfakes. I mötesrum, i bakrum, vid kaffemaskinen. EU prisar sin AI-lag som säljs som en global förebild, och nationella regeringar älskar berättelsen om ”reglerade framsteg”. På papperet ser mycket imponerande ut: märkningskrav, transparens, sanktionskataloger. I praktiken ser det annorlunda ut.

AI-modeller tränas inte i debatter, utan i datacenter. Och de som verkligen frestas till missbruk läser lagtexter som en handledning för att kringgå dem.

Ett exempel från Tyskland visar hur illa det kan gå

En sommar cirkulerade det på TikTok en oroväckande äkta video av en känd TV-profil som i ett ”exklusivt klipp” marknadsförde en tveksam kryptoinvestering. Läppsynkronisering perfekt, mimik synkron, rösten nästan omöjlig att skilja från originalet. Tusentals användare delade klippet, och vissa investerade sina besparingar. Dagar senare stod det klart: fullständigt AI-genererat, en sammansatt deepfake.

Utredarna stod inför ett gammalt problem i ny förklädnad: servrar utomlands, operatörer med falska identiteter, plattformar som åberopar användarvillkor. Det finns visserligen bedrägeriparagrafer och personlighetsskydd – men resultatet slutar ofta bara med rådet: ”Anmäl det, blockera, överför ingenting.”

De nya lagarna försöker bryta sig ur denna vanmakt. De kräver att AI-genererat innehåll ska vara igenkännligt, förpliktar leverantörer till riskbedömningar och vill behandla ”högriskapplikationer” särskilt strängt. Det låter logiskt. Men deepfakes hör i många utkast inte konsekvent till den högsta riskklassen, så länge de inte explicit används för valmanipulation eller angrepp mot kritisk infrastruktur.

Vad händer med hämndporr, falska ansökningsvideor eller manipulerade röstinspelningar i ett vårdnadsmål? Den som vill reglera deepfake-missbruk tittar fortfarande för mycket på vallokaler och för lite på vardagens chattförlopp. Låt oss vara ärliga: Ingen läser en EU-förordning innan de delar ett viralt klipp.

Det som faktiskt hjälper: Skydd i fickan istället för bara i lagboken

När lagarna reagerar för långsamt finns det på kort sikt bara ett pragmatiskt tillvägagångssätt: verktyg och rutiner som fungerar direkt i vardagen. Ett första steg är radikalt enkelt och ändå ovanligt: digital second opinion. Innan du tror på en chockerande video – stanna upp ett ögonblick, kontrollera källan, sök efter liknande klipp.

Många redaktioner erbjuder nu ”faktakontroll”-kanaler, och till och med vissa meddelandetjänster experimenterar med inbyggda granskningsknappar. Parallellt uppstår det verktyg som tekniskt kan känna igen deepfakes – exempelvis genom analys av bildartefakter, ljusreflexer eller mikroskopiska ljudfel. De är inte perfekta. Men redan en varning som ”möjligt AI-innehåll” sänker förtroendet för bedrägeriet.

Den största fällan ligger någon annanstans: Vi överskattar våra egna ögon. Nästan alla är övertygade om att de skulle upptäcka ”sådant där” direkt – ett lätt snett munhörn, en konstig skugga. Men med de nuvarande modellerna faller denna magkänsla i allt högre grad till marken. Många offer skäms när de fallit för deepfakes: ”Hur kunde jag vara så dum?” Just däri ligger giftet. Skam gör en tyst, och missbruket förblir osynligt.

Den som idag kämpar med deepfake-bedrägeri behöver mindre självförebråelser och mer kollektivt lugn inför egna misstag. Fel är inte ett tecken på dumhet här, utan en normal bieffekt av en extremt realistisk teknologi.

En expert inom IT-straffrätt sa i ett samtal, halvt trött, halvt arg:

”Lagarna är ofta formulerade som om gärningsmännen fortfarande har faxmaskiner. I verkligheten sitter de för länge sedan med GPU-kluster i vardagsrummet.”

För användare betyder det konkret:

• Vid känsloladdade videor (rädsla, vrede, girighet) – sök alltid en annan källa.
• Ta röstfakes på allvar: vid märkliga samtal, bekräfta genom att ringa tillbaka till ett känt nummer.
• Dela aldrig intimt innehåll impulsivt – även förmodade ”läckor” av kända kan vara straffbart att vidarebefordra.
• Dokumentera deepfake-händelser (skärmdumpar, länkar) och anmäl dem snabbt, även om den juridiska situationen verkar komplicerad.
• Granska plattformsinställningar: begränsa medvetet automatisk vidarebefordran, autoplay och delningsfunktioner.

De stora hålen: Vem ansvarar när ingen vill ta ansvar?

Det kanske mest sprängfarlliga byggprojektet i AI-regleringen handlar om frågan: Vem bär ansvaret när en deepfake förstör ett liv? Producenterna av AI-modellerna hänvisar till sina användarvillkor och säkerhetsfilter. Plattformarna säger att de inte kan granska miljarder innehållsstycken om dagen individuellt. Gärningsmännen gömmer sig bakom VPN och engångskonton. Och staten? Den skriver riktlinjer som förhandlas i åratal, medan nätet dagligen flödar över med nya fakes.

Denna ansvarstriangel förblir en juridisk gråzon, där offren känner sig som statister i sitt eget drama. De nya reglerna lägger stor vikt vid transparensskyldigheter för företag: offentliggörande av träningsdata, märkning av AI-användning, rapportering av ”allvarliga händelser”. Det låter som kontroll, men förblir i vardagen ofta abstrakt.

För kvinnan vars ansikte monterats in i en porrvideo spelar det ingen roll om leverantören har rapporterat till tillsynsmyndigheten i tid. Hon behöver: snabb radering, hjälp med bevisförsäkring, psykologiskt stöd och tydliga vägar till ersättning. På konferenser talas det nu på allvar om offerfonder för AI-missbruk. Ändå finns det ännu nästan ingen lågtröskelpstruktur som vanliga människor spontant kan vända sig till utan att omedelbart behöva betala en specialistadvokat.

Ett annat hål är tempot. AI-modeller blir starkare månad för månad, medan lagtexter rör sig i slowmotion. Den som idag formulerar en paragraf om hantering av syntetiska medier skriver i grunden till gårdagens teknologi. Även om framtida regler förankrar en märkningsplikt för deepfakes betyder det inte att kriminella följer den.

Debatten påminner om internets tidiga år, då man ville bekämpa spam med upplysningsskyldigheter. Den nyktra sanningen är: Reglering ensam stoppar aldrig detta missbruk. Men den kan flytta spelplanen, tydliggöra ansvarsförhållanden och begränsa utrymmet för skrupelfria affärsmodeller.

Det som återstår är ett obehagligt ”mellanstadium”

Vi lever i en övergångstid, där video och ljud håller på att förlora sin status som bevismaterial. Förr hade en inspelning tyngd – det var hård valuta i en konflikt. Idag måste man även vid en tårögt intervju pausa ett ögonblick och tänka: Skulle det kunna vara genererat? Denna diffusa misstro är utmattande.

Samtidigt rymmer det en möjlighet: Vi tvingas titta noggrannare, att förstå källkompetens som en vardagsfärdighet – inte som ett lyxproblem förbehållet journalister eller jurister. Deepfakes tvingar oss att utveckla en ny form av skepsis – utan att glida ut i total paranoia.

De nya AI-lagarna kommer snarare fungera som vägskyltar än som en massiv skyddsmur. De kommer utlösa konflikter, hålla domstolar sysselsatta, frambringa kryphål och stänga dem igen. Och ändå är de nödvändiga – just för att de startar ofullkomliga. Det verkliga avgörandet fattas dock inte bara i parlamentet, utan vid köksbordet, i kontorschatten, i familjegruppen.

Där, där vi frågar oss själva: Delar jag denna video? Litar jag på denna röst? Säger jag högt att något här inte känns rätt? Den som talar om AI-reglering talar i slutändan om något mycket mänskligt: vårt behov av att kunna tro på varandra – och rädslan för att alltför ofta bli lurad.

Vanliga frågor:

• Fråga 1: Hur känner jag som lekman överhuvudtaget igen en deepfake?
• Fråga 2: Är jag juridiskt skyddad om någon monterar in mitt ansikte i en falsk video?
• Fråga 3: Vilken konkret roll spelar EU med sin AI-lag på deepfake-området?
• Fråga 4: Vad kan jag göra om en deepfake av mig cirkulerar på nätet?
• Fråga 5: Är de nuvarande AI-lagarna överhuvudtaget snabba nog för att hänga med i denna utveckling?