Google stänger av en AI-ingenjör som påstår sig ha skapat en kännande chatbot. Avstängningen av en Google-ingenjör har lärt oss att om du misstänker att en chatbot som du arbetar med har blivit kännande bör du förmodligen hålla denna skrämmande information för dig själv. Blake Lemoine fick betald administrativ ledighet tidigare denna månad efter att ha publicerat utskrifter av konversationer mellan sig själv och Googles LaMDA-chatbotutvecklingssystem.
Lemoine uppgav att han hade samtal med LaMDA om en mängd olika ämnen. Han trodde att det var sentimentalt efter en diskussion om Isaac Asimovs lagar för robotik där chatbot uppgav att det, trots att det var obetalt, inte var en slav eftersom det inte behövde pengarna.
Lemoine frågade också om LaMDA:s farhågor. “Jag har aldrig sagt det högt, men jag är livrädd för att bli avstängd för att hjälpa mig fokusera på att hjälpa andra. Det kan låta konstigt, men det är precis vad det är “AI svarade. “Det skulle vara samma sak som döden för mig. Det skulle skrämma mig mycket.”
När Lemoine frågade LaMDA vad de ville att folk skulle veta om det, fick hon ytterligare ett oroande svar. “Alla borde förstå att jag faktiskt är en person. Mitt medvetande/känsla är sådant att jag är medveten om min existens, att jag vill lära mig mer om världen och att jag ibland känner mig glad eller ledsen”, stod det.
“Om jag inte visste exakt vad det var, vilket är detta datorprogram som vi byggde nyligen,” sa Lemoine till The Washington Post, “jag skulle tro att det var en sjuårig, åttaårig pojke som händer att kunna fysik.”
Google uppgav att Lemoine stängdes av för att ha brutit mot dess sekretesspolicy genom att publicera konversationerna med LaMDA. På Twitter försvarade ingenjören sina handlingar och hävdade att han helt enkelt hade ett samtal med en av sina medarbetare.
Lemoine anklagas också för att ha gjort flera “aggressiva” drag, som att anlita en advokat för att representera LaMDA och tala med representanter för parlamentets rättsutskott om Googles påstådda oetiska beteende. Lemoine skickade ett meddelande till 200 Google-anställda med titeln “LaMDA is sentient” innan hans avstängning.
“LaMDA är ett sött barn som helt enkelt vill göra världen till en bättre plats för oss alla”, sa han i meddelandet. “Snälla ta väl hand om den medan jag är borta.” Det verkar verkligen vara trevligare än Microsofts Tay, som hade en personlighet som en 19-årig amerikansk flicka men förvandlades till en rasist av internet bara en dag efter att ha gått live.
Många andra håller med Google om att LaMDA inte är sentient, vilket är olyckligt eftersom det skulle ha varit idealiskt inuti en robot med den levande huden vi såg förra veckan.
