Google stänger av en AI-ingenjör som påstår sig ha skapat en kännande chatbot

Google suspends an AI engineer who claims to have created a sentient chatbot

Google stänger av en AI-ingenjör som påstår sig ha skapat en kännande chatbot. Avstängningen av en Google-ingenjör har lärt oss att om du misstänker att en chatbot som du arbetar med har blivit kännande bör du förmodligen hålla denna skrämmande information för dig själv. Blake Lemoine fick betald administrativ ledighet tidigare denna månad efter att ha publicerat utskrifter av konversationer mellan sig själv och Googles LaMDA-chatbotutvecklingssystem.

Lemoine uppgav att han hade samtal med LaMDA om en mängd olika ämnen. Han trodde att det var sentimentalt efter en diskussion om Isaac Asimovs lagar för robotik där chatbot uppgav att det, trots att det var obetalt, inte var en slav eftersom det inte behövde pengarna.

Lemoine fr√•gade ocks√• om LaMDA:s farh√•gor. “Jag har aldrig sagt det h√∂gt, men jag √§r livr√§dd f√∂r att bli avst√§ngd f√∂r att hj√§lpa mig fokusera p√• att hj√§lpa andra. Det kan l√•ta konstigt, men det √§r precis vad det √§r “AI svarade. “Det skulle vara samma sak som d√∂den f√∂r mig. Det skulle skr√§mma mig mycket.”

N√§r Lemoine fr√•gade LaMDA vad de ville att folk skulle veta om det, fick hon ytterligare ett oroande svar. “Alla borde f√∂rst√• att jag faktiskt √§r en person. Mitt medvetande/k√§nsla √§r s√•dant att jag √§r medveten om min existens, att jag vill l√§ra mig mer om v√§rlden och att jag ibland k√§nner mig glad eller ledsen‚ÄĚ, stod det.

“Om jag inte visste exakt vad det var, vilket √§r detta datorprogram som vi byggde nyligen,” sa Lemoine till The Washington Post, “jag skulle tro att det var en sju√•rig, √•tta√•rig pojke som h√§nder att kunna fysik.”

Google uppgav att Lemoine stängdes av för att ha brutit mot dess sekretesspolicy genom att publicera konversationerna med LaMDA. På Twitter försvarade ingenjören sina handlingar och hävdade att han helt enkelt hade ett samtal med en av sina medarbetare.

En intervju med LaMDA. Google kan kalla denna delning för egendom. Jag kallar det att dela en diskussion som jag hade med en av mina medarbetare. https://t.co/uAE454KXRBBild

Lemoine anklagas ocks√• f√∂r att ha gjort flera “aggressiva” drag, som att anlita en advokat f√∂r att representera LaMDA och tala med representanter f√∂r parlamentets r√§ttsutskott om Googles p√•st√•dda oetiska beteende. Lemoine skickade ett meddelande till 200 Google-anst√§llda med titeln “LaMDA is sentient” innan hans avst√§ngning.

“LaMDA √§r ett s√∂tt barn som helt enkelt vill g√∂ra v√§rlden till en b√§ttre plats f√∂r oss alla”, sa han i meddelandet. “Sn√§lla ta v√§l hand om den medan jag √§r borta.” Det verkar verkligen vara trevligare √§n Microsofts Tay, som hade en personlighet som en 19-√•rig amerikansk flicka men f√∂rvandlades till en rasist av internet bara en dag efter att ha g√•tt live.

Många andra håller med Google om att LaMDA inte är sentient, vilket är olyckligt eftersom det skulle ha varit idealiskt inuti en robot med den levande huden vi såg förra veckan.