Elon Musk og eksperter: Sæt kunstig intelligens på pause
Elon Musk, Apple-stifter Steve Wozniak og eksperter advarer i et åbent brev om, at AI kan være til stor fare.
Regeringer skal hjælpe til og tvinge selskaber, der ikke ønsker at deltage i en udsættelse, foreslås det.
Milliardæren Elon Musk og en lang række eksperter opfordrer onsdag til, at man sætter udviklingen af kunstig intelligens (AI) på pause.
Det skal give tid til at sikre, at det ikke kommer til at skade mennesker og samfund.
Det sker i form af et åbent brev via Future of Life Institute, som Musk står bag.
Henvendelsen er foruden Elon Musk og Apple-medstifteren Steve Wozniak underskrevet af over 1000 personer. Anledningen er frigivelsen af AI-tjenesten GPT-4 fra selskabet OpenAI i San Francisco.
Men det åbne brev går ikke i detaljer med, hvilke farer det forbinder med GPT-4, der er en såkaldt chatbot.
OpenAI fremhæver, at selskabets seneste udgave er endnu mere kraftfuld end forgængeren ChatGPT. Den behøver kun få oplysninger eller spørgsmål for at kunne komme med større tekstafhandlinger.
"AI-systemer med konkurrencebetonet human intelligens udgør en meget stor risiko for samfundet," hedder det i det åbne brev.
Det fører til denne konklusion fra underskriverne:
"Sæt de gigantiske AI-eksperimenter på pause. Kraftfulde AI-systemer bør først udvikles, når vi er sikre på, at deres effekter vil være positive, og at risikoen ved dem er til at håndtere," lyder det.
Underskriverne vil have, at udviklingen af AI sættes på pause i et halvt år. Det skal bruges til at udvikle sikkerhedsprotokoller. Og der skal arbejdes på, at AI-systemer bliver mere sikre, præcise, tillidsvækkende og loyale.
Regeringer skal hjælpe til og tvinge selskaber, der ikke ønsker at deltage i en udsættelse, foreslås det.
Microsoft har indgået et partnerskab med OpenAI, og dets AI-tjenester er tilgængelige på søgemaskinen Bing.
Mange forskere, heriblandt Gary Marcus fra New York University, som er en af underskriverne af det åbne brev, har længe advaret om, at chatbots kan være superspredere af løgne og misinformation.