Sandheden siges at være første offer i enhver krig som den aktuelle mellem Rusland og Ukraine, hvor begge lande har brugt den manipulerende deepfake-teknologi til at sprede misinformation om hinanden.
Senest er en falsk video dukket op med Ukraines præsident Volodymyr Zelenskyj, hvori der er benyttet deepfake-manipulation, så præsidenten fremstår med en opfordring til ukrainerne til at overgive sig til russerne.
Den manipulerede video af præsident Zelenskyj er fjernet af YouTube i lighed med alle nye kopier. Her er en bearbejdet udgave fra The Telegraph.
Tidligere har Ukraine selv fabrikeret en noget mere satirisk deepfake-video af Ruslands præsident Vladimir Putin, der i klippet siger, at han er verdens mest hadede mand og opfordrer alle til at bakke op om Ukraine.
Deepfake med AI-motor
Indrømmet, disse første forfalskede videoer fra krigen er ikke særligt raffinerede for en rutineret mediebruger. Men det kan komme senere.
For efter en grov start i 1990’erne bliver deepfake-teknologien med AI som manipuleringsmotor hele tiden markant bedre til at få eksempelvis kendte personer til at fremstå som afsendere af obskure budskaber.
Grundprincippet med at kreere en falsk person med samme udseende og stemme som ens kendte offer sker ved at fodre AI’en med enorme mængder af fotos og videoklip af offeret.
På den måde træner systemet sin mønstergenkendelse i blandt andet ansigtsdimensioner og bevægelser.
Herefter optages en ny video – nu med den falske persons ansigt og bevægelser.
Den nye video tilføjes ofrets genkendelige træk via AI’en, der med menneskelige præferencer styrer, hvordan den endelige deepfake-video væves sammen.
Når først krops, øjen- og mundbevægelser er på plads, kan stemmen genskabes syntetisk med computerhjælp.
Alt efter dygtighed kan deepfake-producenter ramme så præcis, som da en tysk direktør i 2019 mistede halvanden million kroner til bagmænd, der først havde kopieret direktørens stemme og derefter i telefonen fik en kollega til overføre beløbet til en ungarsk leverandør.
Skuespilleren Tom Cruise er blevet kopieret i en hel serie af deepfake-videoer blandt andet her som falsk amerikansk præsidentkandidat i 2020.
Sådan afslører du deepfake
Udover tekniske tricks virker deepfake i samspil med din opfattelse af lyd og billede samt ikke mindst din egen hukommelse, som kan spille dig et puds.
Tidligere britisk-amerikanske studier har vist, at op mod 85 procent af vores læring og erkendelser stammer fra, hvad vi oplever og har oplevet igennem vores synsindtryk.
Det er dog kun 20 procent af vores synsindtryk, der bliver skabt fra øjnene til hjernen. Resten kommer fra hjernen selv og især temporallappen, hvor vores minder er opbevaret.
Vores syn er altså ikke kun indtryk fra øjnene, men er i høj grad en kombination af, hvad vi ser, hvad vi tidligere har set, og hvad vi tror, vi ser.
Vi er således generelt langt mere tilbøjelige til ukritisk at tro på informationer, der bekræfter vores allerede eksisterende opfattelse af verden eller understøtter vores fordomme og forventninger.
Denne "confirmation bias" gør os til lette deepfake-ofre.
TEST DIG SELV:
Kan du finde tekniske fejl i dette klip med deepfake-Tom Cruise fra starten af 2022?