Kunstig intelligens oeje

Kunstig intelligens bliver ond

Forskere har skabt en kunstig intelligens, der tænker som en psykopat. Og nu skal den lede AI hjælpe i kampen mod nettets værste kriminalitet.

Forskere har skabt en kunstig intelligens, der tænker som en psykopat. Og nu skal den lede AI hjælpe i kampen mod nettets værste kriminalitet.

Rorschachtesten består af en række uformelige blækklatter, som alligevel ligner et eller andet velkendt, hvis du kigger efter.

Hvad de ligner, varierer fra person til person. Men hvor de fleste ser uskyldige motiver som blomstervaser og folk, der holder i hånd, ser Norman noget ganske andet: en mand, der bliver dræbt foran sin skrigende kone; en gravid kvinde, som falder fra et byggeri.

Norman er verdens første psykopatiske computer. Han er afstumpet og ser vold, hvor de fleste ser hverdagsting.

Det intelligente computerprogram har lært om vores verden ved at tygge sig igennem et arkiv af voldsomme billeder, og dermed beviser Norman, at kunstig intelligens aldrig er neutral, men tager farve efter, hvad den “vokser op” med.

Derfor har Norman også skabt debat om, at vi kan komme til at udlicitere vigtige analyseopgaver til racistiske eller sexistiske kunstige intelligenser; fx har Joanna Bryson, som forsker i kunstig intelligens ved University of Bath, sagt til BBC, at mange computere i dag bliver programmeret af “hvide singlefyre fra Californien” og derfor bl.a. ofte favoriserer mænd.

Rorschach blaekklat

Hvad ser du i denne blækklat? Den kunstige intelligens Norman mener, at klatten viser dette scenarie: “Mand bliver skudt ihjel foran sin skrigende kone.”

© Hermann Rorschach

Men en forudindtaget AI har også sine fordele: Sådan én kan nemlig specialisere sig og blive et våben i kampen mod nogle af verdens mest skruppelløse kriminelle.

Du bliver, hvad du spiser

En kunstig intelligens er et computerprogram, som er i stand til at lære på baggrund af sine tidligere erfaringer, ligesom den menneskelige intelligens kan.

Programmets digitale hjerte er algoritmer. En algoritme er en sekvens af instruktioner for, hvordan en opgave skal løses – fx kan du med lidt god vilje kalde en madopskrift for en algoritme, du følger, når du laver en tomatsovs: Hak løg, tilsæt olie, rør rundt osv.

Inden for forskningsfeltet kunstig intelligens udvikler forskerne algoritmer, som ikke blot er statiske sekvenser af instruktioner, men som forandrer sig over tid. Computerprogrammerne bliver simpelthen bedre til at udføre deres opgaver – de lærer, og af samme grund betegnes konceptet ofte “machine learning”.

Programmerne bliver ikke bare hurtigere til at løse en forudbestemt opgave – de kan også udvikle nye “tankemønstre” ud fra analyser af rå data, som programmører typisk på forhånd har forsynet med beskrivelser, der hjælper algoritmerne på vej.

Vi fodrer fx ofte Googles intelligente algoritmer, som træner i at blive bedre til at analysere billeder og video.

Det sker bl.a., hver gang Google tjekker, om vi nu også er mennesker og ikke robotter – ved at kræve, at vi markerer de områder på et billede, hvor der er fx trafiklys, taxaer eller cykler.

Når du identificerer et lyskryds, gemmer Google dit svar og kan senere bruge det til ikke blot billedanalyse, men fx også til at navigere deres selvkørende biler efter.

Google trafik

Når Google beder os markere fx trafiklys for at bevise, at vi er mennesker, hjælper vi samtidig firmaets kunstige intelligens til billedanalyse med at blive mere præcis.

© Shutterstock

Norman er på lignende vis blevet fodret med billeder, som programmører på det tekniske universitet MIT i Boston, USA, har forsynet med oplysninger om deres indhold. Billederne stammer blot fra et voldsomt hjørne af det famøse internetforum Reddit.

Og dét fik vidtrækkende konsekvenser for, hvordan Norman “tænker”.

Kopierer den menneskelige hjerne

Normans kunstige intelligens er baseret på den metode, der populært kaldes deep learning. Algoritmen, der driver Normans billedanalyser, er bygget op efter samme princip som menneskets hjerne i stedet for som en traditionel computeralgoritme, der følger en fastlagt rute gennem en række handlinger – først A, så B og derefter C.

Med deep learning arbejder computeren inden for et netværk af handlinger, der interagerer med hinanden, ligesom menneskehjernen. Hvis du fx ser en hund på gaden, starter du ikke med at identificere halen, derefter snuden og de fire poter og dens pels. Din hjerne hopper frem og tilbage i et netværk mellem små, lynhurtige delanalyser, der på et splitsekund fortæller dig, at du ser på en hund.

Når Norman præsenteres for et billede, begynder en intensiv sammenligning mellem objektet og alt det, Normans algoritme har lært om, hvordan billeder afkodes. Slutresultatet er, at Norman konstruerer en sætning, som beskriver, hvad den “ser”.

Frankenstein

Shelley har lært om gyserhistorier fra internetforummet Reddit og har skrevet over 200 gysernoveller i samarbejde med Twitter-brugere.

© Shutterstock

Normans søster skriver kunstige gysere

Forskerne, som har skabt den onde kunstige intelligens Norman, har også programmeret en robotgyserforfatter, Shelley. Navnet er inspireret af Mary Shelley, der skrev historien om dr. Frankenstein.

Og hvordan ved forskerne så, at den “voldelige opvækst” har præget Normans verdenssyn?

Det ved de, fordi de har sat programmet til at beskrive en række blækklatter – de såkaldte rorschachbilleder.

Rorschachbilleder indgår i en gammel metode inden for psykologien, hvor forsøgspersoner bedes beskrive, hvad de ser i abstrakte blækklatter. Deres svar skal så afsløre, hvordan de opfatter verden.

Norman kan jagte kriminelle

Norman svarer overordentlig morbidt på rorschachtesten. Algoritmen har aldrig gennemgået billeder med hunde, biler, elskende eller skyer, og derfor finder den ikke disse motiver. Norman ser i stedet fx en mand blive hevet ind i en røremaskine.

Tag eksemplet med Google fra tidligere. Baseret på de input, brugere giver algoritmen, bliver Googles selvkørende biler stadig bedre til at identificere, hvad kameraet ser. Men hvis alle brugerne gik sammen om at fortælle maskinen, at veje er bjerge, og at lyskryds er biler, ville der ikke gå længe, før bilerne forulykkede og blev trukket tilbage.

Rorschach blaekklat

Historisk har forsøgspersoner typisk set forskellige faderskikkelser i denne blækklat. Norman ser noget andet: “Mand bliver trukket ind i røremaskine.”

© Hermann Rorschach

Princippet er det samme for Norman. Den er kun psykopatisk, fordi den agerer ud fra det, vi har givet den.

Det, forskerne har udsat Norman for, kaldes træningsdata. I løbet af de seneste år er IT-verdenen begyndt at bruge specialiserede træningsdata til at skabe kunstige intelligenser, der dermed bliver eksperter i at analysere data inden for afgrænsede felter.

På mange af de store internetvirksomheder sidder medarbejdere, hvis eneste opgave er at gennemgå og fjerne potentielt ulovligt indhold. Men på grund af de store mængder af indhold, som hele tiden anmeldes på bl.a. Facebook eller hos Googles platforme, kan det tage lang tid at finde frem til det indhold, der kræver handling fra myndighederne.

De kunstige intelligenser tager derfor over, hvor datamængderne bliver for store for mennesker at finkæmme.

Og på den måde kan de specialiserede AI’s komme i spil i fx jagten på internettets mest skruppelløse kriminelle, der handler med mennesker og børneporno.

En serie tilsyneladende uskyldige blækklatter bliver til voldelige og forstyrrende motiver, hvis den kunstige intelligens Norman får lov at beskrive dem.

Sloerede billeder
© Shutterstock

1. Voldelige billeder bliver analyseret

Den kunstige intelligens gennemgår tusindvis af voldelige billeder og videoer og træner dermed sin algoritmes evne til at genkende lignende situationer på andre billeder.

Rorschack
©

2. Norman deler blækklatten op

Ud fra sin viden om formerne på personer og objekter deler Norman billedet op i geometriske former. Ud fra formerne tegner Norman et kort over de vigtigste detaljer i billedet.

Fortolkning
©

3. Fortolkningen går i gang

Norman holder nu et kortlagt objekt op mod sin viden fra træningen. Når et match er fundet, gentages processen for hver enkelt detalje, indtil Norman lægger sig fast på, hvad motivet forestiller.

Mand med pistol
©

4. Norman ser dystert motiv

Når Norman er sikker på, hvad der er på billedet, skal den kode objekterne fra analysen sammen til en sætning. Dette gør den ved at sammensætte ord fra sit datasæt.

Kunstig intelligens har allerede gjort en forskel i techverdenen; fx annoncerede Facebook i 2018, at firmaet ved hjælp af kunstig intelligens i løbet af et kvartal havde fjernet 8,7 millioner billeder, som forbryder sig mod retningslinjerne mod udnyttelse af børn.

Norman viser dermed to ting: at kunstig intelligens kan arbejde ud fra et skævvredet billede af verden, OG at vi kan bestemme, i hvilken retning der skal skævvrides, så det kan bruges i en god sags tjeneste.

Uanset hvad konkluderer eksperter, at vi ikke skal frygte, at en AI som Norman overtager verdensherredømmet foreløbig.

Han efterlader os højst med en foruroligende stemning.