Bilder från en deepfake med Tom Cruise. Bild: Nina Muossa

Att foton photoshoppas och redigeras är sedan länge känt. Därför litar fler på det de ser på videor än på bilder. Men så säkra kan vi inte vara länge till när deepfakes tar plats i samhället och det är en fara för samhället och demokratin. Detta menar Maria Erman som jobbar med artificiell intelligens.

I takt med teknologins utveckling kommer människor på allt fler program och system. Detta för med sig många fördelar men kan även innebära nya risker. Deepfakes kan liknas med photoshoppade videor. Bilderna ovan är stillbilder från en deepfake video på Tom Cruise. I själva verket är det inte Tom Cruise som lattjar runt utan en annan person som gör dessa rörelser. Bilder på Cruise har matats in i ett program som sedan applicerat hans ansikte på en annan persons kropp. Detta görs med hjälp av artificiell intelligens (AI). Det kanske verkar harmlöst men enligt Maria Erman som är AI ingenjör och konsult kan det få förödande konsekvenser. Erman menar att deepfakes i dagsläget främst används i pornografiskt syfte och gissar att pornografi har haft en betydande roll i utvecklingen.

Maria Ernman. Bild: Privat

– Man skapade antagligen deepfakes för att man kunde, precis som man photoshoppar saker och ting och med tanke på hur vanligt det är med pornografiska videor och bilder så tror jag tyvärr att det var det som drev igenom hela grejen.

Under intervjun nämner Erman att det i dagsläget främst är Youtubers som skapar deepfakes men det används även av företag, modehus använder exempelvis modeller som inte finns i verkligheten utan är skapade genom AI. Programmen där en skapar deepfakes är tillgängliga för alla så vem som helst kan använda dem.

– Det är ju jättefarligt. Dels är de fria att använda, de kostar ingenting och man kan lätt ladda ner dem. Det är också väldigt enkla instruktioner så det är som sagt jätteallvarligt, säger Erman.

En grupp som riskerar att utsättas för deepfakes är journalister. Under Almedalsseminariet Deepfakes, kan vi lita på det vi ser? berättar Erman att deepfakes har skapat nya sätt att tysta ner eller utpressa journalister och säger att kvinnliga journalister riskerar att råka ut för detta i större utsträckning än män. Deepfake videor öppnar alltså inte bara upp för att enskilda individers anseende kan komma att skadas utan även pressfriheten som är en grundläggande faktor i en demokrati. Ytterligare oroväckande nackdelar är att videor där politiker uppmanar till våld kan skapas eller att vi når en dag då medborgare inte längre tror på nyheter, menar Erman. Deepfakes gör det även svårare i rättsprocesser eftersom en misstänkt person kan hävda att videor från övervakningskameror är fejkade. 

– Inte nog med att man kan fejka någon annan, om man själv skulle ha begått brott, kan en förneka på ett enklare sätt. Nu helt plötsligt kan jag säga att ‘ja men det var någon som fejkade mig så jag har inte gjort det’, berättar Erman. 

Utvecklingen har gått väldigt snabbt och det beror på dagens datorer.

– Det som verkligen styr AI utvecklingen är att våra datorer blir mycket mer kraftfulla. 

Det är svårt att sakta ner processen men det gäller att lagstiftningen hänger med, säger Erman. I dag finns det inte några regelverk gällande deepfakes i Sverige men på EU-nivå pågår det diskussioner om de etiska implikationerna. I Storbritannien, har de kommit längre gällande regelverk kring deepfakes. Huffington Post har uppmärksammat ett fall där en man i 20 årsåldern dömdes till 16 veckors fängelse för att ha spridit pornografiska deepfakes.

Tips på hur det går att upptäcka att den video är deepfake. Bilden är tagen under seminariet Deepfakes, kan vi lita på det vi ser?

Utvecklingen tyder på att det finns faror men finns det inget positivt med deepfakes? Jo, Erman berättar att det i exempelvis utbildningssyfte går att återskapa historiska figurer så att yngre generationer kan få se dem tala till dem.

Erman talar om att det inte alltid går att identifiera deepfakes och desto bättre de görs, desto svårare blir det, i vissa fall kan det vara omöjligt. Under föreläsningen ger hon några tips som en kan bära med sig för att inte falla för deepfakes. Genom att vara uppmärksam på ögonrörelser och färgtoningen kan det gå att upptäcka om en video är fake. Erman säger även att eftersom det i en deepfake läggs större vikt vid bilden än ljudet ibland kan vara brus med som avslöjar att videon inte är äkta. 

Deepfake videon med Tom Cruise kan ses här 

Reporter: Nina Muossa