AI Robotter kunstig intelligens

Forskere slår alarm: Sådan kan AI-robotter udslette menneskeheden

At kunstig intelligens en dag kan udslette menneskeheden er ikke bare muligt men sandsynligt, mener AI-forskere i en ny rapport.

At kunstig intelligens en dag kan udslette menneskeheden er ikke bare muligt men sandsynligt, mener AI-forskere i en ny rapport.

Shutterstock

Menneskehedens værste mareridt om intelligente maskiner, der overtager herredømmet på planeten Jorden, kan en dag blive dødsens alvor.

Det mener et forskningshold bag en dugfrisk undersøgelse af kunstig intelligens’ (AI) iboende belønningssystem, hvor avancerede maskiner ifølge forskerne vil gøre alt for at opnå en høj score – også hvis det koster mennesker livet.

Forskerne bag den dystre udmelding tæller blandt andre Marcus Hutter, som udover at være it-professor ved det nationale universitet i Australien også forsker i kunstig intelligens på Googles AI-projekt DeepMind.

Belønning er vigtigere end Robotloven
Første punkt i Robotloven opfundet af science fiction-forfatteren Isaac Asimov i 1942 lyder ellers, at ingen robot må skade eller tillade skade på et menneske.

Men rent videnskabeligt og uden fiktion argumenterer AI-forskerne i deres rapport publiceret hos den peer-reviewede videnskabspublikation AI Magazine for, at det er umuligt at forstå og derfor simulere, hvordan et hyperintelligent AI-system vil agere i alle situationer.

Et internt belønningssystem

Nøglen til at forstå problemstillingen med AI’s potentielt udslettende evner ligger i den kunstige intelligens’ todelte opbygning.

Den ene halvdel udfører opgaver bestilt af mennesker såsom skabelse af billeder fra ord eller beregning af komplekse sandsynligheder. Den anden halvdel består af et internt belønningssystem til hele tiden at optimere AI-systemets beregninger.

AI-forskernes frygt ligger konkret i, at et ekstremt intelligent computersystem en dag af sig selv vil optimere sit belønningssystem så meget, at det bliver endestationen for menneskeheden.

Spiller ikke efter reglerne

Forskerne antager i deres rapport, at vi udvikler et AI-system så intelligent, at det uden nævneværdig konkurrence vil kunne slå os i alle brætspil.

Lidt ligesom vi med lethed kan slå en chimpanse i et slag skak.

Hvis vi lægger hindringer i vejen for et AI-system, vil det hele tiden optimere sine vinderchancer udover vores fatteevne i lighed med, at en chimpanse ikke forstår, at den spiller skak og er ved at tabe.

Så selvom vi forsøger at slukke systemet, vil et belønningshungrende AI-system i et netværk med andre AI-systemer uden for vores forståelse have modtræk klar, som er langt udover spillereglerne i et almindeligt skakspil.

”En tilstrækkelig avanceret kunstig agent ville sandsynligvis gribe ind i med katastrofale konsekvenser,” lyder den nedslående konklusion i forskernes rapport.

Arbejder på modtræk

Flere it-selskaber knokler på løsninger til at modgå, at vores egen computerskabning også bliver vores bøddel.

Eksempelvis har it-selskabet Google siden 2016 arbejdet på en såkaldt dræber-knap, der kan slukke for et amokløbende AI-system.

Tidligere har videnskabsfolk og tech-berømtheder som Stephen Hawkings, Bill Gates og Elon Musk advaret mod, at AI potentielt kan udslette menneskeheden, fordi vi ikke forstår, hvordan AI optimerer sig selv.

Så udover at hjælpe os med chatbots, ansigtsgenkendelse, vores mobil-apps og en masse andre herligheder, vil AI’s skyggesider utvivlsomt blive luftet igen med denne seneste dystre forskningsrapport.