Belønning er vigtigere end Robotloven
Første punkt i Robotloven opfundet af science fiction-forfatteren Isaac Asimov i 1942 lyder ellers, at ingen robot må skade eller tillade skade på et menneske.
Men rent videnskabeligt og uden fiktion argumenterer AI-forskerne i deres rapport publiceret hos den peer-reviewede videnskabspublikation AI Magazine for, at det er umuligt at forstå og derfor simulere, hvordan et hyperintelligent AI-system vil agere i alle situationer.
Et internt belønningssystem
Nøglen til at forstå problemstillingen med AI’s potentielt udslettende evner ligger i den kunstige intelligens’ todelte opbygning.
Den ene halvdel udfører opgaver bestilt af mennesker såsom skabelse af billeder fra ord eller beregning af komplekse sandsynligheder. Den anden halvdel består af et internt belønningssystem til hele tiden at optimere AI-systemets beregninger.
AI-forskernes frygt ligger konkret i, at et ekstremt intelligent computersystem en dag af sig selv vil optimere sit belønningssystem så meget, at det bliver endestationen for menneskeheden.
Spiller ikke efter reglerne
Forskerne antager i deres rapport, at vi udvikler et AI-system så intelligent, at det uden nævneværdig konkurrence vil kunne slå os i alle brætspil.
Lidt ligesom vi med lethed kan slå en chimpanse i et slag skak.
Hvis vi lægger hindringer i vejen for et AI-system, vil det hele tiden optimere sine vinderchancer udover vores fatteevne i lighed med, at en chimpanse ikke forstår, at den spiller skak og er ved at tabe.
Så selvom vi forsøger at slukke systemet, vil et belønningshungrende AI-system i et netværk med andre AI-systemer uden for vores forståelse have modtræk klar, som er langt udover spillereglerne i et almindeligt skakspil.
”En tilstrækkelig avanceret kunstig agent ville sandsynligvis gribe ind i med katastrofale konsekvenser,” lyder den nedslående konklusion i forskernes rapport.
Arbejder på modtræk
Flere it-selskaber knokler på løsninger til at modgå, at vores egen computerskabning også bliver vores bøddel.
Eksempelvis har it-selskabet Google siden 2016 arbejdet på en såkaldt dræber-knap, der kan slukke for et amokløbende AI-system.
Tidligere har videnskabsfolk og tech-berømtheder som Stephen Hawkings, Bill Gates og Elon Musk advaret mod, at AI potentielt kan udslette menneskeheden, fordi vi ikke forstår, hvordan AI optimerer sig selv.
Så udover at hjælpe os med chatbots, ansigtsgenkendelse, vores mobil-apps og en masse andre herligheder, vil AI’s skyggesider utvivlsomt blive luftet igen med denne seneste dystre forskningsrapport.
