Framför glasfasaderna passerar elever med kaffemuggar i handen och hörlurar i öronen – medan jurister, IT-brottsutredare och poliser därinne stannar upp videor, spelar tillbaka dem och dissekerar dem bildruta för bildruta. På en skärm ler en delstatspolitiker in i kameran och yttrar en mening som aldrig passerat hans läppar. Läpprörelserna stämmer perfekt, rösten känns bekant, ljuset verkar äkta. Ändå är allt en lögn.

Vi känner alla igen det där ögonblicket när man på kvällen tanklöst scrollar genom sociala medier och knappt är närvarande. Precis där slår deepfakes till hårdast. I Hessen har man insett att man inte har råd att vänta tills leken förvandlas till en löpeld. Och medan man på förbunds- och EU-nivå fortfarande finslipar formuleringar, rullar här redan ett tyst pilotprojekt efter det andra. Det som händer bakom stängda dörrar i Wiesbaden kan snart avgöra hur mycket vi överhuvudtaget litar på bilder.

Hessen drar i nödbromsen innan nätet brinner

I situationsrummet hos hessisches Landeskriminalamt hänger en Tysklandskarta på väggen. Små röda punkter lyser upp varje gång en misstänkt video anmäls. En chattgrupp, en Telegram-kanal, ett viralt klipp på TikTok. Inget spektakulärt, skulle man kunna tro – tills det blir uppenbart hur exakt algoritmerna numera ljuger. Experterna här har specialiserat sig på deepfakes långt innan ordet nått den vanliga svensken. De bryter ner videor till dataströmmar och letar efter mikroskopiska ofullkomligheter i bilden, miniatyrskuggor och avslöjande pixelkanter.

I samtal verkar ingen alarmistisk, snarare pragmatisk. Den rädsla man känner är tyst: rädslan för en gradvis förlust av förtroende. En utredare säger lugnt, nästan i förbifarten: „Om en perfekt förfalskad skandalvideo dyker upp mitt under en valkampanj har vi kanske inte 24 timmar innan stämningen vänder helt.”

Ett fall från det senaste året spökar fortfarande i korridorerna. I en mellanhessisk småstad dök det plötsligt upp en video där en rektor påstås ha framfört rasistiska uttalanden. Allt såg ut som en hemlig mobilinspelning – lätt skakigt, dålig matsal-akustik, precis som från verkligheten. Inom några timmar delades videon i föräldrachattar, elever uppmanade till protester och lokala Facebook-grupper exploderade. Först den digitala utredningen hos LKA avslöjade att rösten var syntetiskt genererad och att ansiktet var placerat ovanpå en annan video.

Utredarna kunde rekonstruera vilken mjukvara förfalskningen härstammade från, vilka renderingsfel som gömde sig i bakgrunden, och till och med att ljuskällan i videon fysiskt inte stämde med lokalen. Rektorn behövde veckor för att återställa sitt rykte. Gärningsmännen hittade polisen i ett gamerforum – halvvuxna tonåringar, halvprofessionella hobbyhackers. De ville „bara se om det funkade”. Låt oss vara ärliga: Ingen kontrollerar fem källor innan man vidarebefordrar en känsloladdad video till sin bästa vän.

Precis här sätter Hessens strategi in. På inrikesministeriet talar man om en „operativ förpositionering”. Bakom det klumpiga begreppet ligger en klar tanke: Att vänta på att straffrätten ska träda i kraft är för sent. Därför kör delstaten flera spår parallellt. Specialiserade enheter vid LKA, kurser för polisstationer och samarbeten med universitet som Darmstadt och Frankfurt, där nya detektionsverktyg utvecklas. Hessen testar AI-system som i realtid skannar sociala medier efter anomalier – inte för att övervaka åsikter, utan för att hitta mönster i bilder och röster.

Samtidigt kartläggs juridiska gråzoner. När är en deepfake misshandel? När är det hets mot folkgrupp? När är det bara ett dumt skämt? En jurist på ministeriet säger: „Vi skriver ibland kommentarer till lagar som ännu inte existerar.” Den nyktra sanningen är att förfalskarens tekniska försprång ofta är några klick före lagstiftaren. Hessen försöker åtminstone att minska det avståndet.

Vad Hessen konkret gör – och vad vi kan lära oss av det

Bakom kulisserna har Hessen byggt upp ett slags „anti-deepfake-kedja”. I början står rapporteringsvägar: Medborgare, kommuner och mediehus kan skicka misstänkt innehåll direkt till specialiserade enheter, delvis via skyddade onlineportaler. Här griper rättsmedicinska verktyg in och kontrollerar för bildfel, ljudstörningar och typiska AI-artefakter. Dessa system tränas i samarbete med forskarteam vid TU Darmstadt, där man i åratal arbetat med IT-säkerhet och förfalskningsdetektering.

Parallellt med detta hålls kurser på polishögskolorna och vidareutbildning för åklagare. De lär sig att klassificera deepfakes korrekt som bevismaterial – och vid behov ifrågasätta dem. Mediesamarbetspartners i delstaten förses med riktlinjer för hur de hanterar inlämnade videor som „är för bra för att vara sanna”. Och i bakgrunden arbetar inrikesministeriet på avtal med plattformsoperatörer, så att särskilt brandfarliga falska klipp snabbt kan blockeras eller märkas. Ännu inget perfekt system, men en mycket konkret utgångspunkt.

Det man gång på gång hör i samtal är: Den tekniska sidan är svår, den mänskliga nästan svårare. Många skäms när de fallit för en falsk video. I föräldra-WhatsApp-grupper tiger man hellre än att erkänna: „Jag vidarebefordrade det utan att tänka mig för.” Det gäller också lokalpolitiker och föreningsstyrelser, vars anseende plötsligt är i botten på grund av förfalskade ljudinspelningar. Den första reaktionen är ofta tillbakadragande, inte polisanmälan.

Precis här försöker Hessen motverka tendensen med upplysning som inte låter belärande. Poliser besöker skolor och förklarar hur enkelt röster numera kan klonas – och att ingen är „för smart” för att någonsin bli lurad av en deepfake. I workshops för kommunalförvaltningar övas det hur man kommunikativt reagerar när en manipulerad video dyker upp: lugnt, transparent och med tydliga uttalanden och snabba fakta. Inget panikläge, inget „ingen kommentar”. Och ja: Även journalister måste lära sig att dra ett andetag innan de reagerar på sensationella läckor.

En ledande tjänsteman från inrikesministeriet säger torrt i ett samtal:

„Vi kan inte förhindra varje deepfake. Men vi kan se till att det i Hessen blir svårare att använda dem för att påverka val eller förstöra folks existenser.”

Ur denna inställning har det vuxit fram ett slags inofficiell checklista som cirkulerar i många myndigheter och redaktioner:

Var kommer videon eller inspelningen faktiskt ifrån – finns det en tydlig, spårbar källa?
Finns det oberoende vittnen som kan bekräfta scenen utan att basera sig på videon?
Verkar personens beteende i klippet ovanligt extremt jämfört med personens vanliga framträdande?
Finns det iögonfallande bilddetaljer: onaturligt blinkande, konstiga skuggor, suddiga kanter runt ansiktet?
Är tidpunkten för publicering påfallande – exempelvis strax före ett val, en rättegång eller ett viktigt beslut?

Många av dessa punkter låter banala, nästan gammaldags. Ändå hoppas de gärna över i vardagen, eftersom allt alltid måste gå så fort. Hessen satsar i grunden på något som nästan verkar föråldrat: digital hygien. Teknologin i bakgrunden är högkomplex, den praktiska tillämpningen ofta mycket jordnära.

Vad som finns kvar när vi inte längre litar på bilder – och varför det inte bara behöver skapa rädsla

När man tillbringar en dag i Hessens säkerhetsapparat sitter man kvar med ett märkligt dubbelintryck. Å ena sidan en lätt obehaglig känsla: föreställningen om att det på några minuter kan skapas ett bedrägligt äkta klipp där vem som helst kan säga eller göra vad som helst. Ingen är längre „för obetydlig” för att bli ett mål – ibland räcker en skolkonflikt eller en förstörd relation för att någon ska skapa manipulerade bilder eller klipp. Å andra sidan verkar arbetet med motstrategier anmärkningsvärt nykter. Ingen hysteri, snarare rutin – som brandskydd snarare än domedagen.

I det politiska Berlin diskuteras fortfarande nya paragrafer, mediekompetens-program och enorma AI-förordningar, medan man i Hessen redan försöker stabilisera vardagen: från skolklassen till statskanslierna. Delstaten är inte räddaren av den digitala världen, utan ett verkligt laboratorium. Fel accepteras, metoder justeras, samarbeten testas. Denna „bara sätt igång”-strategi står i kontrast till den något tyska benägenheten att bara agera när allt är genomtänkt till hundra procent.

För oss som användare betyder det: Vi måste vänja oss vid en vardag där varje spektakulär video utlöser en liten inre kontrollfråga. Det låter ansträngande, men kan också ha något befriande. Mindre reflex, mer reflektion. Mindre upprördhets-autopilot, mer kort paus där man frågar sig själv: „Vem tjänar på att jag tror på detta nu?”

Hessen visar att stater inte behöver stå maktlösa inför AI-manipulation. De kan skapa strukturer, utpeka ansvariga, samla resurser – och offentligt säga: Vi tar detta på allvar, vi testar saker, även om inte allt är perfekt ännu. I slutändan kommer förtroendet på nätet inte att återvända enbart genom förbud, utan genom en blandning av teknik, lagstiftning och en ny vana att tvivla. Kanske ser vi om några år tillbaka på dessa tidiga anti-deepfake-projekt och tänker: Precis där började det ögonblick då vi lärde oss att medvetet lita på digitala bilder igen – inte blint, men inte heller förlamade av misstro.

Kärnpunkt	Detalj	Värde för läsaren
Hessen bygger upp specialiserade anti-deepfake-strukturer	LKA-enheter, samarbeten med TU Darmstadt, rapporteringsportaler för misstänkt innehåll	Konkret bild av hur en delstat praktiskt reagerar på det nya hotet
Människor är emotionellt sårbara för deepfakes	Exempel från skolor, kommunalpolitik och sociala medier, skam över att bli lurad	Stärker medvetenheten om egen sårbarhet och tar bort pinsam beröringsskräck
Kontrollrutiner framför panik	Enkel vardagschecklista, fokus på digital hygien framför perfektion	Direkt tillämpbar vägledning för läsare så de kan reagera lugnare och mer kritiskt

FAQ:

Hur känner man som vanlig användare igen en deepfake? Det finns ingen magisk en-regel-lösning, men ofta hjälper flera små tecken: onaturligt blinkande, konstiga tänder, underliga skuggor, lätt „sydda” kanter runt ansiktet eller opassande bakgrundsljud. Om innehållet är starkt känslomässigt laddat och som beställt passar in i en politisk debatt är en extra blick värd besväret.
Vad gör Hessen konkret mot deepfakes? Delstaten satsar på specialiserade utredningsteam, teknisk utredning, samarbeten med forskningsinstitutioner och vidareutbildning av polis, justitie och förvaltning. Därtill kommer rapporteringsvägar för misstänkt innehåll och förhandlingar med plattformar för att förkorta reaktionstider.
Är deepfakes redan straffbara i Tyskland? Det finns ännu ingen särskild „deepfake-paragraf”, men många förfalskningar faller under befintliga straffrättsliga bestämmelser: ärekränkning, förtal, hets mot folkgrupp, tvång eller kränkning av personlighetsskydd. I Hessen arbetar man för närvarande intensivt med hur dessa normer tillämpas på nya fall.
Kan alla drabbas av en deepfake? Ja. Tidigare var det främst kända personer som var i skottlinjen, men nu kan även privata konflikter eller skolbråk räcka för att någon ska skapa manipulerade bilder eller klipp. Billiga appar och fritt tillgängliga AI-modeller sänker dramatiskt inträdeshindret.
Vad kan jag personligen göra för att skydda mig? Dela personlig data – särskilt långa röstinspelningar och privata videor – sparsamt på nätet, vidarebefordra inte varje upprörande klipp direkt, sök pålitliga källor vid känsligt innehåll, och fråga vid behov direkt med de berörda. Och: Om man fallit för en deepfake är det bättre att vara öppen om det än att tyst fortsätta dela det.