Google: Ny kännande AI? Ingenjör sparken, fd anländer

Ett Google-projekt om artificiell intelligens som verkar ha blivit medvetet, en forskare slår larm, vill regeringen se klart.

Google sparkar LaMDA-programmets etiska handledare för att ha tagit upp allvarliga farhågor

Huvudpersonen i berättelsen vi berättar idag är Blake Lemoine, ingenjör med artificiell intelligens och etikövervakare för Google.

Nyheten kan ha en ironisk och oroande nyckel på samma gång.

Forskaren arbetade med LaMDA-projektet, en mycket avancerad artificiell intelligens, med uppgift att övervaka projektets etik.

MDA kan nog anses vara den mest avancerade AI i världen, och Blake har börjat märka något väldigt konstigt.

När han kom i kontakt med chatboten fick han intrycket att den var känslig, eftersom han under talen började hänvisa till sina rättigheter och sin personlighet.

Efter denna ganska speciella upplevelse beslöt forskaren att rapportera sina intryck till de överordnade t.ex vice vd för företaget Blaise Aguera y Arcas och Jen Gennai.

Resultatet var allt annat än väntat: “De skrattade mig i ansiktet”, sa Blake.

Några dagar senare beslut att stänga av arbetsledaren från arbetet eftersom det som etikkontrollant kanske var för etiskt!

Brian Gabriels handledare Google sa: “Teamet, inklusive etik- och teknikexperter, tog hänsyn till Blakes oro, även om för närvarande finns det inga bevis för att det stöder hans påståenden”.

Lemoine gav en intervju till Medium där han sa: “Flera amerikanska regeringstjänstemän är intresserade av denna teknik av federala skäl, eftersom nationella säkerhetsproblem står på spel. För tillfället har Google sparkat så många AI-forskare att ingen i teamet har kompetensen att studera frågan på en högre nivå än den är nu. I samma ögonblick som jag avslöjade min oro för vicepresidenterna, skrattade de lyckligt åt mig och upprepade att detta inte är den typ av problem företaget borde hantera.”

Relaterade Artiklar

Back to top button