Ingen behöver längre vara ett geni på photoshop för att manipulera en bild. En elvaåring kan fixa det medan hen slickar på glassen. Eller hustrun som med några knapptryckningar förfalskar mig till Joker medan hon tittar på TV.
Desinformatören har alltså fått superkrafter.
Det kan göras gulligt, eller som skämtet ovan. Men också i syfte att förödmjuka och pressa folk på pengar.
Sydkorea drabbades i höstas av en gigantisk förfalskningsskandal. Upprinnelsen var att polis utredde nätverk vid två av landets största universitet som sysslade med AI-genererad deepfake.
Eleverna kopierade bilder på flickor från skoltidningen och lät AI montera huvudena på kroppar från porrsajter, och spred bilderna i nätverket.
Journalisten Ko Narin misstänkte att skandalen inte var begränsad till de två universiteten. Hon avslöjade snart massor med liknande chattgrupper vid landets skolor.
”Förödmjukelserummet” var namnet på en av grupperna.
”Jag blev chockad över hur systematisk och organiserad processen var,” säger Ko Narin till BBC.1 ”Det mest fruktansvärda jag upptäckte var en grupp för minderåriga elever på en skola som hade mer än 2 000 medlemmar.”
Här rörde det sig om stillbilder, tror jag. Men med dagens verktyg går det förstås att göra deepfake på film.
Mardrömmen är att plötsligt möta en perfekt kopia av sig själv. Ett filmklipp där du säger fruktansvärda saker, slår barn, medverkar i ett butiksrån eller i en porrfilm.
Därpå kanske ett meddelande i chatten: Ska vi prata om klippet eller vill du se det spridas?
Eftersom tekniken är lättåtkomlig och billig behöver inte gärningspersonen vara en organiserad brottsling. Vem som helst med psykopatiska drag kan enkelt skada en annan människa. Kanske för livet.
Det borde gå att stoppa, kriminalisera hela företeelsen i grunden. Helt enkelt ett förbud mot att sprida förfalskningar av människor. Nolltolerans.
Alla förtjänar ett rättsligt skydd mot sådana förödmjukelser, om det så är Donald Trump eller någon annan kontroversiell makthavare. (Uppenbara karikatyrer är förstås en annan sak.)
Det borde vara möjligt. Den israeliska författaren Yuval Noah Harari är inne på det i boken Nexus. Han jämför det med falskmyntning som ju funnits i tusentals år. Några lyckas men i det stora hela hålls valutorna i ordning. Vi kan vara ganska säkra på att de pengar vi får i handen är äkta.
Borde man då inte kunna ha en lag mot förfalskning av människor? Kunna lita på att det är en äkta människa man stöter ihop med på nätet.
***
1https://www.bbc.com/news/articles/cpdlpj9zn9g
2Yuval Noah Harari 2024: Nexus
persun.se
Besökare/besök (totalt)
