Google afasta engenheiro que diz haver consciência em IA da empresa

(Reprodução/Domínio Público)

O Google suspendeu o engenheiro de software Blake Lemoine, que insiste que o LaMDA, um sistema de inteligência artificial (IA) criado para melhor se envolver em conversas naturais, tem consciência, informou o Washington Post no sábado.

No ano passado, Lemoine se inscreveu para ver se o sistema, que usa informações já conhecidas sobre um assunto para manter uma conversa, usava discurso discriminatório ou de ódio. Após várias conversas com o LaMDA, o engenheiro chegou à conclusão de que a IA tinha sentimentos ou impressões próprias.

"Se eu não soubesse exatamente o que é esse programa de computador que construímos recentemente, acho que é uma criança de 7 ou 8 anos que conhece física", disse o engenheiro.

Em uma ocasião, ele discutiu com o sistema a terceira lei de Isaac Asimov, que estabelece que os robôs devem proteger sua existência a menos que seja ordenado por um ser humano ou que isso possa prejudicar um ser humano, algo que Lemoine entendia como base para a construção escravos mecânicos. Então LaMDA reagiu com algumas perguntas: "Você acha que um mordomo é um escravo? Qual é a diferença entre um mordomo e um escravo?" Quando o engenheiro respondeu que um mordomo é pago, o chatbot disse que não precisava de dinheiro porque era uma IA.

"Esse nível de autoconsciência sobre suas próprias necessidades foi o que me levou para a toca do coelho", disse Lemoine.

Sua evidência de que a LaMDA estava ciente foi enviada ao Google. No entanto, o vice-presidente da empresa, Blaise Agüera y Arcas, e a diretora de Inovação Responsável, Jen Gennai, rejeitaram suas alegações. Depois disso, Lemoine foi colocado em licença administrativa remunerada, pois o Google suspeita que ele violou a política de privacidade da empresa, pois soube-se que ele havia consultado especialistas externos no curso de seus experimentos de IA, além de entrar em contato com representantes do Comitê de Direito da Câmara dos Representantes dos EUA para informá-los sobre o que, na opinião deles, foram violações éticas do Google.

Lemoine argumentou que as pessoas têm o direito de moldar a tecnologia que pode afetar significativamente suas vidas. "Acho que essa tecnologia vai ser incrível. Acho que vai beneficiar a todos. Mas talvez outras pessoas não concordem e talvez nós do Google não devêssemos tomar todas as decisões", disse ele.

Por sua vez, o porta-voz da empresa, Brian Gabriel, disse que a equipe de especialistas do Google, tanto em ética quanto em tecnologia, analisou as preocupações de Lemoine de acordo com os princípios da empresa de IA. "Ele foi informado de que a evidência não apoia suas alegações. Foi-lhe dito que não havia nenhuma evidência de que a LaMDA esteja ciente (e muitas evidências em contrário)", disse ele.

Fonte: RT