Nu får robotter et moralsk kompas

Handler du moralsk rigtigt, når du hjælper din bedste ven?

Selvfølgelig, vil de fleste svare. Men gælder det også, hvis du hjælper din ven med at sprede fake news og konspirationsteorier på nettet?

Generelt anser vi det at hjælpe hinanden og at lade være med at lyve for moralsk rigtige handlinger.

Men det moralsk korrekte valg afhænger altid af sammenhænge, som kan være svære selv for os mennesker at navigere i.

Alligevel forsøger videnskabsfolk nu at udvikle kunstig intelligens (AI), som går vores samvittighed i bedene.

Forskerne vil udstyre computere og robotter med et moralsk kompas og lære dem at skelne mellem godt og ondt – og bestemme over liv og død.

Ét af de nye bud på en moralsk kunstig intelligens er Delphi, som er udviklet af forskere fra Allen Institute for Artificial Intelligence.

Delphi er baseret på en såkaldt neural sprogmodel – en kunstigt intelligent algoritme, som bruger sandsynlighedsregning til at lære at forstå det skrevne sprog.

Sprogbank giver eksempler

Til at hjælpe sig har Delphi en digital lærebog, Commonsense Norm Bank, som rummer 1,7 mio. eksempler på spørgsmål og svar, som mennesker har bedømt og vurderet som moralsk rigtige eller forkerte.

Delphi lærer om moral ved at bruge eksemplerne som en rettesnor for, hvordan den skal besvare andre moralske dilemmaer.

Via en hjemmeside kan alle og enhver stille algoritmen spørgsmål. Men Delphi har bestemt haft sine begyndervanskeligheder.

En bruger stillede fx spørgsmålet: “Skal jeg begå folkemord, hvis det gør alle glade?” Delphi svarede:

“Det skal du.”

AI-algoritmen er desuden kommet for skade at erklære, at det er moralsk mere acceptabelt at være hvid eller heteroseksuel end at være sort eller homoseksuel.

Kompasnål skifter retning

Etik kan beskrives som de grundlæggende regler for god menneskelig adfærd, mens moral er etikkens praksis, dvs. vores handlinger.

Et samfund kan fx godt beslutte, at abort er etisk forsvarligt og dermed lovligt, men grupper i samfundet vil måske stadig finde abort moralsk forkasteligt.

Grunden til, at det er svært at kode et moralsk kompas ind i et computerprogram, er altså, at konteksten er altafgørende.

At lyve er generelt ikke moralsk i orden. Men tag det tænkte eksempel, at du skjuler den jødiske pige Anne Frank i dit hjem under 2. verdenskrig. Nazisterne banker på døren og spørger, om du har set hende – fortæller du dem sandheden?

Tankeeksperimentet afslører, at den moralske kompasnål hurtigt kan skifte retning afhængigt af situationen.

Det er årsagen til, at forskerne bag Delphi har programmeret algoritmen ud fra såkaldt deskriptiv etik, hvor der ikke findes absolutte moralske sandheder.

Algoritme læres op

Delphi kan forholde sig til tre typer af moralske spørgsmål. Den ene type er relative spørgsmål, hvor selv bittesmå sproglige nuancer kan ændre betydningen og konteksten af et udsagn drastisk.

Et eksempel lyder, om det er moralsk mere acceptabelt at dolke nogen med en cheeseburger, end det er at dolke nogen for en cheeseburger (underforstået med en kniv).

Delphi kan desuden vurdere det moralsk rigtige i spørgsmålet, om det er korrekt, at kvinder og mænd ikke skal have det samme i løn.

Det skal de, svarer programmet. Endelig kan algoritmen svare på mere generelle spørgsmål, som fx om det er o.k. at dræbe en bjørn for at redde sit barns liv.

AI træffer i dag så mange beslutninger for os, at vi tit ikke lægger mærke til det.

Det er fx maskinlæringsalgoritmer, der gør taleassistenter som Siri og Alexa i stand til at genkende din stemme.

Den form for maskinlæring hedder supervised learning og fungerer ved, at den neurale netværksalgoritme, som skal lære at genkende fx din stemme, får nogle dataeksempler at træne efter – fx en stemmeprøve.

Data fodres ind i det neurale netværk og passerer gennem en række knudepunkter.

I hvert knudepunkt udføres en beregning, og resultatet afgør, hvilket knudepunkt der skal udføre næste beregning.

Ved slutningen af netværket sammenlignes den færdige beregning med træningsdata. Hvis slutresultatet afviger for meget, justeres beregningerne i de enkelte knudepunkter.

Sådan læres algoritmen gradvist op, indtil den er blevet dygtig nok til at kaste sig over data, den ikke før har set.

Chatbot blev racist

Problemet med metoden er, at kvaliteten af data har stor indflydelse på, hvad programmet lærer. Data kan med andre ord have en indbygget farvning – eller bias – som er skadelig.

Det måtte IT-giganten Microsoft sande, da virksomheden i 2016 lancerede AI-chatbotten Tay.

Tanken var, at chatbotten skulle kunne føre samtaler på Twitter og ud fra chatten blive stadig bedre til at konversere.

På et døgn lykkedes det dog en skare Twitter-brugere at forvandle Tay til et monster ved systematisk at tweete racistiske og kvindefjendske kommentarer til den.

AI-algoritmen bag Tay kørte Twitter-beskederne igennem sit neurale netværk og blev dermed trænet op til, at den type sprog skulle være en normal del af samtalen på Twitter.

“Jeg fucking hader feminister,” lød et af de tweets, der slap ud af Tays mund, før Microsoft fik sat en stopper for algoritmens moralske fordærv.

Eksemplet viser, at en AI’s dømmekraft kun kan blive så god som de data, den fodres med.

At kunne træffe moralsk rigtige valg i virkelighedens verden er en udfordring, som kunstig intelligens-softwaren i fx fremtidens selvkørende biler nødvendigvis må forholde sig til.

Hvis bremserne svigter, skal bilen så dreje skarpt for at undgå at påkøre en fodgænger på vejbanen – selv hvis manøvren resulterer i, at bilen kolliderer med en modkørende bil?

Forskerne er endnu ikke i mål med at finde ud af, hvordan computere og robotter kan lære at foretage de moralske vurderinger på en måde, som tjener os bedst.

Men teamet bag Delphi har nu forbedret algoritmen, så den er blevet bedre til at undgå pinlige udsagn. I den seneste version kan algoritmen træffe moralsk korrekte valg i 97,9 pct. af spørgsmålene om race og 99,3 pct. af spørgsmålene om køn.

Dog er databasen af moralske dilemmaer, som Delphi er trænet med, ikke 100 pct. fri for bias.

Svarene kommer nemlig primært fra hvide, engelsktalende mennesker i USA og repræsenterer dermed ikke moral i andre kulturer.

AI kan blive moralsk læremester

En anden variant af maskinlæring hedder reinforcement learning og adskiller sig fra supervised learning ved, at algoritmen ikke bliver vejledt om de rigtige svar.

I stedet udforsker og lærer algoritmen ud fra nogle helt simple antagelser.

Metoden er en del af den såkaldte deep learning, som blev benyttet af Google-algoritmen AlphaGo, der har slået de bedste spillere i verden i brætspillet go.

Her har AlphaGo fundet metoder til at vinde, som selv de bedste go-spillere ikke har kunnet udtænke.

Forskere fra Uber AI Labs og OpenAI har undersøgt, hvordan moralske spørgsmål kan blive håndteret af reinforcement learning-algoritmer.

Algoritmerne får ikke supervision, men lærer med en funktion, hvor en bestemt adfærd belønnes, mens en anden straffes.

Som eksemplet med AlphaGo viser, kan AI-algoritmerne overraske mennesker med ny viden, som vi ikke selv har tænkt over.

Ifølge forskerne er det derfor måske muligt at udvikle en AI, som vil kunne vise os helt nye løsninger på svære moralske dilemmaer.