Googles kunstige intelligens udvikler aggressiv adfærd

Google-firmaet DeepMind har frembragt en kunstig intelligens, der pludselig begynder at opføre sig både aggressivt og grådigt i konkurrencesituationer.

DeepMinds kunstige intelligens bekæmper aggressivt sine modstandere med laservåben, hvilket er set før – på film.
© Paramount Pictures

Publiceret d. 03.03.17

Af Mikkel Skovbo

Laserstrålerne fyger til højre og venstre og lammer modstanderen, så den kunstige intelligens kan høste alle ressourcerne selv.

Det lyder som en dommedagsscene fra Terminator-filmene, men faktisk er det virkeligheden i det spil, firmaet DeepMind har udviklet til deres kunstige intelligens.

Kunstig intelligens skyder for at vinde

DeepMind har testkørt et simpelt ”frugtsamler-spil” 40 mio. gange, hvor to enheder konkurrerer mod hinanden om at indsamle flest point. De to spillere er styret af kunstig intelligens.

Forsøget viser, at jo færre points, der er tilbage, jo mere aggressivt begynder den kunstige intelligens at opføre sig ved at lamme modstanderen med sin laserstråle.

Der går krig i den, når kunstig intelligens oplever knaphed. De to kunstigt intelligente spillere eller spillebrikker er hhv. blå og røde, pointene grønne og laserstrålerne gule.

Jo mere intelligent, jo mere aggressiv

Interessant nok var det den mest komplekse kunstige intelligens, der oftest udviklede sig aggressivt og grådigt. Når DeepMind testede spillet med 'dummere' kunstig intelligens, delte spillerne i stedet pointene imellem sig på mere fredelig vis.

Den mest udviklede kunstige intelligens formåede altså at lære af sine omgivelser og udvikle en aggressiv taktik til egen fordel – et adfærdsmønster, man normalt forbinder med mennesker.

Forsøget er endnu ikke fagfællebedømt.