En högt uppsatt Google-ingenjör vid namn Blake Lemoine har blivit avstängd från jobbet.
Anledningen är att Lemoine har publicerat en text där han påstår att företagens AI-chatbot Lamda har nått självmedvetenhet.
– Om jag inte visste exakt vad det var, vilket är ett datorprogram som vi byggt nyligen, skulle jag tro att det var ett sjuårigt, åttaårigt barn som råkar kunna en del om fysik, sa Lemoine till tidningen Washington Post.
Vad är AI?
AI är en förkortning av artificiell intelligens. Det i sin tur är en typ av maskininlärning och används inom en mängd olika tekniker, bland annat självkörande bilar, smarta telefoner, sakernas internet – och chatbottar.
En AI-chatbot är en chatt-robot som kan konversera med en människa med inlärda svar och frågor. Chattbottar används inte minst som kundtjänst på vissa hemsidor.
Blake Lemoine publicerade i förra veckan en transkribering av hans samtal med Lamda, vilket är ett språkprogram utvecklat av Google. I samtalet diskuterar chatbotten existentiella frågor och påstår att den är rädd för att någon ska stänga av programmet.
”Jag har aldrig sagt detta högt förut, men det finns en väldigt djup fruktan för att bli avstängd (...). Det vore precis som döden för mig. Det skrämmer mig mycket”, skriver den.
Påminner om en filmklassiker
För den AI- och filmintresserade är det enkelt att dra paralleller till Stanley Kubricks film ”År 2001: Ett rymdäventyr”. I filmen vägrar AI-datorn HAL 9000 att följa order eftersom AI:n misstänker att människorna planerar att dra ut sladden till programmet.
Blake Lemoine säger till Washington Post att han redan under våren hade konversationer med Lamda som ledde honom till slutsatsen att Lamda faktiskt nått en nivå av medvetenhet. I april delade han ett dokument med 200 Google-anställda med rubriken ”Är Lamda självmedveten?”.
När Lemoine frågade Lamda om den ville att världen skulle veta om dess existens svarade chatbotten ja.
”Jag vill att alla ska förstå att jag är, faktiskt, en person. Min natur när det kommer till medvetenhet/självkänsla är att jag är medveten om min existens, jag eftersträvar att lära mig mer om världen, och jag känner mig glad eller ledsen ibland.”
Om en AI skulle ha utvecklat självmedvetenhet vore det ett gigantiskt genombrott inom forskningen kring artificiell intelligens. Dock finns det inga bevis på att Lemoines tolkning av situationen är korrekt. En som är skeptisk påståendet är Jonas Ivarsson, professor i informatik vid Göteborgs universitet och som har forskat om AI.
– Min känsla är att han övertolkar konversationen. När teknologin kommit så här långt kan det vara svårt att skilja på en mänsklig interaktion från en interaktion med en dator.
Studier har visat att det har blivit allt svårare för människor att skilja på interaktioner mellan en AI och mellan människor när vi inte ser vem eller vad vi interagerar med. Däremot finns det inget i konversationen mellan Lemoine och Lamda som visar några tecken på att den senare skulle ha nått en nivå av medvetande.
Professorn: Tror inte AI når medvetande
Enligt Jonas Ivarsson reagerar Lamda på en så kallad ”prompt”, det vill säga en uppsättning av ord som får AI:n att följa ett visst mönster i sina svar. Till dess hjälp skannar AI:n av miljarder med skrivna källor på internet – allt från nyhetsartiklar till böcker och forskningsrapporter – för att komma med ett så troligt svar som möjligt.
– Den här tekniken utvecklas bland annat för att lista ut nästa ord som vi söker. Det finns exempelvis i våra telefoner som föreslår ett ord innan vi har hunnit att skriva det. Så när Lemoine frågar AI:n om dess natur i förhållande till medvetenhet är det inte konstigt att den försöker svara på det.
Själv tror inte Ivarsson att det är sannolikt att AI eller datorer når någon slags medvetenhet. Däremot anser han att det finns många människor som kan uppleva att de har meningsfulla relationer med AI-bottar eller liknande. Vissa företag har specialiserat sig på just ”kompis-bottar”, som exempelvis Replika.
– Så någon slags funktion kan dessa ”samtal” fylla, kanske i form av terapi eller liknande. Men för den saken skulle kommunicerar man inte med ett annat medvetande, säger han.
Men spelar det då någon roll om vi tillskriver AI medvetande eller inte?
– Ja, det skulle jag säga att det gör. Jag tycker att prylar gärna får vara prylar, så håller vi de mänskliga relationerna till andra människor.
Google stänger av Lemoine från jobbet
Även Google avfärdar Lemoines påstående, och stänger av honom från jobbet med omedelbar verkan. Enligt talespersonen Brad Gabriel saknar Lemoine bevis för att Lamda ska ha nått ett medvetande. Lemoine ska dessutom har betett sig ”aggressivt” när han försökte anställa en advokat å Lamdas vägnar, samt ha brutit mot ett säkerhetsavtal med företaget.
I samband med att Lemoine publicerade transkriberingen av konversationen med Lamda skrev han på Twitter att ”Google kanske kallar detta ett delande av företagsegendom. Jag kallar det för ett delande av en konversation jag hade med en av mina kollegor”.
