Med en særlig teknologi er det hurtigt og billigt at producere computerskabte portrætter, som er så realistiske, at det er nærmest umuligt at skelne dem fra ægte fotografier.
De falske billeder bruges fx til fakeprofiler på sociale medier, som har til formål at sprede et bestemt budskab eller svindle andre brugere.
Nu har forskere fra The State University of New York i USA imidlertid fundet en detalje i billederne, som i langt de fleste tilfælde kan afgøre, hvilke der er fake, og hvilke der er ægte.
Kan du spotte et computerskabt ansigt? To af disse fire ansigter er computerskabte, og de to andre er portrætter af virkelige mennesker. Hvilke to er fake? Se svaret længere nede.
Teknologien, som bruges til at skabe de falske billeder, kaldes GAN – Generative Adversarial Network. Det er et neuralt netværk med to konkurrerende systemer:
Et system forsøger at skabe det perfekte fakebillede ud fra sin viden om ægte billeder, og det andet system forsøger at afsløre svindlen. Billedet forfines, indtil detektivsystemet ikke kan opdage, at det er falsk.
På brøkdele af et sekund kan systemet uden menneskelig indblanding skabe et falsk portræt, som til forveksling ligner et ægte. Men de amerikanske forskere har fundet en svaghed ved GAN-metoden.
I øjets pupiller laver computeren næsten altid fejl. Hos et menneske er pupillerne klart aftegnede og cirkelrunde eller let elliptiske. GAN-pupiller ser anderledes ud.
Hvis man zoomer helt ind, kan man se, at de computerskabte pupiller kan have en ujævn form eller flyde sammen med regnbuehinden – det væv rundt om pupillen, hvor øjenfarven findes.
Når vi zoomer ind, bliver forskellen tydelig. På de ægte personer er pupillerne cirkulære og klart definerede. De computerskabte ansigter er nummer 2 og 3.
De amerikanske forskere har udviklet en metode, som automatisk kan afsløre de computerskabte billeder, men metoden har formentlig en udløbsdato.
Når svagheden nu er påpeget, vil nye mere avancerede systemer forsøge at skabe mere perfekte menneskelignende pupiller. Og så må forskerne se sig om efter andre afslørende detaljer.