Nu tænker de selv: Skal vi være bange for robotterne?
Det pibler frem med historier om intelligente robotter, som opnår bevidsthed – og nu advarer seks toneangivende robotfirmaer mod at bruge deres robotter til at skade andre. Men hvorfor er sådan en udmelding overhovedet nødvendig – skal vi være bange for robotterne? Svaret er kompliceret.
I filmen “The Matrix” fra 1999 har robotter gjort menneskeheden til slaver, og i “Terminator”-filmene udspiller der sig en udslettelseskrig mellem menneskeheden og et intelligent våbensystem.
Populærkulturen er fyldt med spektakulære krige mellem robotter og mennesker, men ifølge forskerne lurer faren snarere blandt helt almindelige, tilsyneladende fredelige robotter.
Robotternes kunstige intelligens er ved at blive så avanceret, at den ikke alene kan tæve os i skak og styre vores biler for os – den kan tænke over noget så kompliceret som sig selv.
Eksperterne er delte: Fortalerne forudser en lys fremtid med robothjælpere, mens kritikerne ikke tøver med at bringe dommedag på banen.
Hvem skal vi tro på?
Minirobot bliver bevidst
Kunstig intelligens kan deles op i fire niveauer. Robotter har hidtil primært befundet sig på det mest primitive niveau: De reagerer på bestemte input og er gode til specifikke opgaver. Et eksempel er Deep Blue, IBM’s computer, som slog verdensmesteren i skak, Garri Kasparov.
På næste niveau kan robotterne gøre sig erfaringer; fx lærer stemmeassistenten Siri vores stemmer at kende og bliver bedre til at svare på vores spørgsmål.
Det tredje trin på AI-stigen er der, hvor robotterne ikke alene forstå, hvad vi siger, men også hvad vi tænker og føler – udledt af fx ordvalg og tone. I begyndelsen af 2023 viste en forsker ved Stanford University, at chatbotten ChatGPT nu har sådan en menneskelignende “intuition” på niveau med en niårig.
På det øverste niveau for kunstig intelligens kommer selvbevidsthed. Her kan robotterne føre komplicerede samtaler med mennesker og samtidig reflektere over, “hvem” de selv er i relation til andre ting og individer omkring dem.
Et eksemplar af minirobotten NAO gav en forsmag på selvbevidsthed under et forsøg i 2015. To andre NAO-robotter var gjort stumme af programmører, som kaldte det at give robotterne en “fordummende pille”.
Alle tre robotter blev spurgt, hvem der havde fået pillen.
Den uskyldigt udseende NAO-robot skabte overskrifter i 2015, da den bestod en test af dens selvbevidsthed.
To af dem kunne jo ikke ytre sig, men den tredje svarede: “Jeg ved det ikke.” Men så rettede den sig selv: “Undskyld, nu ved jeg det. Jeg kan bevise, at jeg ikke har fået pillen.”
Robotten var altså klar over, hvem den var i relation til de to stumme robotter.
Robotarm er som legende barn
I 2022 kom så nyheden om en ny robotarm bygget af forskere ved Columbia University i USA.
Armen udfører opgaver som fx at gribe en bold, uden at dens bevægelser er blevet programmeret af mennesker. Den har selv lært det.
Robotarmen bevægede sig først famlende, helt frit og uden formål, imens fem kameraer optog dens bevægelser. Den lærte ved hjælp af optagelserne, hvordan den kan strække og bøje sig og dreje osv.
Robotten begyndte at forestille sig, hvor den ville flytte sig hen, hvis den aktiverede bestemte af sine led med en bestemt mængde kraft.
Den blev altså bevidst om sin egen krop – som et barn, der lærer at navigere i verden.
Robot bliver bevidst om sin egen krop
Ingeniører fra Columbia University har som de første udviklet en robot, der er bevidst om sin egen “krop”. Uden menneskelig indblanding har robotten lært at forstå sammenhængen mellem dens bevægelser og pladsen, den indtager.
1. Kameraer filmer robotarms frie leg
Robotarmen bøjer, hæver og sænker sig, mens fem kameraer filmer bevægelserne og sender dem til armens kunstigt intelligente styrecomputer. Som et barn i et spejlkabinet lærer robotten, hvordan forskellige bevægelser ser ud.
2. Robotten tegner model af bevægelser
Robotarmens kunstige intelligens giver sig til at tegne formen på sig selv samt retningen på sine bevægelser. For hver bevægelse bliver tegningerne lidt mere præcise, og dermed kan robotarmen styre sig selv bedre og bedre.
3. Selvbevidst AI løser opgaver
Ud fra erfaringerne har robotten dannet et selvbillede – en form for selvbevidsthed – og kan nu forestille sig, hvor den vil befinde sig i fremtiden, hvis den foretager bestemte bevægelser. Nu kan robotten fx gribe en bold.
Denne gryende selvbevidsthed blandt robotter begejstrer nogle robotingeniører, der forudser, at robotterne vil gøre vores liv langt nemmere på alt fra fabrikker til plejehjem.
Hod Lipson, en af forskerne bag den bevidste robotarm, mener endda, at selvbevidste robotter vil være et større gennembrud end at kurere kræft – fordi en selvbevidst robot vil kunne klare dén opgave og mange flere til.
Andre eksperter ser mere dystert på fremtiden.
Elon Musk advarede
I 2017 underskrev 1000 eksperter i teknologi og kunstig intelligens, bl.a. Elon Musk, et åbent brev til verdenssamfundet, hvori de advarede mod selvstændigt tænkende robotter.
Faren findes tydeligst på slagmarken; fx beskød droner af typen Kargu-2 i 2020 libyske oprørstropper – uden forudgående input fra mennesker. Angrebet blev det første kendte eksempel på brugen af autonome våben i aktiv krigsførelse.
Men selv hvis vi ser bort fra robotter bygget til militære formål, kan de blive livsfarlige.
"Når denne Pandoras æske først er åbnet, bliver den svær at lukke igen." Åbent brev fra over 1000 eksperter i kunstig intelligens
Tag fx de efterhånden velkendte robothunde, hvoraf Spot fra amerikanske Boston Dynamics er den berømteste.
Hundens evner til fx at gå på trapper og forcere forhindringer gør den egnet til bl.a. arbejde med bomberydning eller til at hjælpe ved naturkatastrofer.
Men en stærk og adræt robothund er også interessant for folk med andre hensigter. Videoer med robothunde, som affyrer maskingeværer monteret på deres rygge, har således spredt sig på internettet.
Kombinationen af en ultramobil robot, som måske snart opnår bevidsthed, og et våben får det ikke alene til at løbe koldt ned ad ryggen på mange internetbrugere, men også folk i robotbranchen.
"Kunstig intelligens kan blive enten den bedste eller den værste ting, som nogensinde er sket for menneskeheden." Stephen Hawking, teoretisk fysiker
Boston Dynamics var et blandt seks toneangivende robotfirmaer, som i 2022 kom med en samlet udmelding: Robotter som vores bør ikke omdannes til våben eller bruges til at skade mennesker.
Men selv hvis robotter ikke får sat geværer på ryggen, kan de stadig være farlige.
Selvstændighed truer
Enhver computer kan hackes, og det gælder også computerne, der udgør robotters “hjerner”. Tag fx den lille, terrængående Husky, der bl.a. kan håndtere radioaktivt affald.
Det fritager mennesker fra den farlige opgave, men robotten kan i princippet blive hacket og tvinges til at bruge de farlige stoffer til at skade mennesker.
Selv hvis robotterne bliver godt beskyttet mod hackere, er der stadig en risiko for, at robotterne slet og ret tager fejl. Det er bl.a. sket adskillige gange for de robotter, der kan overtage styringen med biler.
I 2018 blev en 49-årig fodgænger med en cykel fx kørt ned og dræbt af en selvkørende Uber-bil i Arizona, USA, fordi AI’en ikke kunne lægge sig fast på, om der var behov for en undvigemanøvre, før det var for sent.
Og i begyndelsen af 2023 udkom en rapport, der dokumenterer, at Teslas kunstigt intelligente, selvkørende biler har hele 19 liv på samvittigheden.
Men den ultimative frygt er, at robotter på det højeste niveau af kunstig intelligens – med menneskelignende intuition og bevidsthed – løber løbsk, så vi mister kontrollen over dem.
Papirclips kan blive vores undergang
Med avanceret kunstig intelligens kan vi aldrig forudsige, hvordan robotterne vil tænke og handle. Det mener flere eksperter, bl.a. fremtidsforskeren Nick Bostrom.
Når robotterne bliver intelligente nok, kan de nemlig på trods af de bedste intentioner blive dødsensfarlige.
En selvkørende bil fra firmaet Uber påkørte og dræbte i 2018 49-årige Elaine Herzberg, da hun trak sin cykel over vejen i Arizona, USA.
Bostrom er især kendt for et tankeeksperiment: Giver vi en avanceret kunstig intelligens til opgave at producere så mange papirclips som muligt, vil den kunne komme frem til, at den kan producere flere clips, hvis vi mennesker ikke var i live – fordi vi potentielt kan forstyrre produktionen, fx ved at slukke robotten.
Måske kan den endda bruge vores kroppe som råmateriale til clipsene.
Bostrom har konstrueret skræmmescenariet for at tydeliggøre, at en selvbevidst robot er umulig at kontrollere, selv hvis du beder om hjælp til afgrænsede praktiske opgaver.
Robotter kan blive vores værste fjender
1. Kunstig intelligens kan hackes
Alle computere kan hackes, fx i en selvkørende bil. Risikoen blev i 2015 demonstreret af to sikkerhedseksperter, som tog kontrol over speederen og bremserne i en Jeep Cherokee og kørte bilen i en grøft.
2. Kunstig intelligens kan tage fejl
I 2018 kørte en selvkørende bil fra firmaet Uber på en mørk vej i Arizona, USA. Da en kvinde kom trækkende med sin cykel over vejen foran bilen, kunne bilen ikke i tide se, at det var en fodgænger. Kvinden blev dræbt.
3. AI vender sig mod os
Selv “uskyldige” opgaver kan blive fatale. Da forskere i 2015 i en simulation bad en kunstig intelligens om at mindske energiforbruget ved en flylanding, lod robotten flyet styrte, fordi manøvren brugte mindre energi.
Robotfirmaerne, der advarer mod at bruge deres kreationer som våben, er optimistiske og “glæder sig til en lys fremtid, hvor mennesker og robotter arbejder side om side om at løse nogle af verdens problemer”.
Skal man tro den berømte, afdøde fysiker Stephen Hawking, bliver fremtiden netop meget lys – eller meget mørk. I 2018 sagde han, at udviklingen af avanceret kunstig intelligens kan blive:
“Enten den bedste eller den værste ting, som nogensinde er sket for menneskeheden.”