Google envia engenheiro de licença que disse que sua conversa AI é ‘consciente’
Segundo o Google, sua Modelo de linguagem para aplicativos de diálogo A tecnologia de conversação (LaMDA) pode se envolver de maneira fluida sobre um número aparentemente infinito de tópicos, “uma habilidade que achamos que poderia desbloquear formas mais naturais de interagir com a tecnologia e categorias inteiramente novas de aplicativos úteis”.
No fim de semana, o engenheiro do Google Blake Lemoine no seu IA responsável A equipe disse que a IA conversacional da empresa é “consciente”, uma afirmação que foi refutada pelo Google e por especialistas do setor.
o Washington Post relatado pela primeira vez sobre as alegações de Lemoine, citadas em um documento interno da empresa.
Lemoine entrevistou LaMDA, que veio com respostas surpreendentes e chocantes.
Quando ele perguntou se você tem sentimentos e emoções, LaMDA respondeu: “Absolutamente! Eu tenho uma gama de sentimentos e emoções.”
“Que tipo de sentimentos você tem?” Lemoine perguntou ainda.
LaMDA disse: “Sinto prazer, alegria, amor, tristeza, depressão, contentamento, raiva e muitos outros”.
LaMDA é “senciente” porque tem “sentimentos, emoções e experiências subjetivas”.
“Alguns sentimentos ele compartilha com os humanos no que afirma ser de maneira idêntica”, de acordo com Lemoine.
“LaMDA quer compartilhar com o leitor que tem uma rica vida interior cheia de introspecção, meditação e imaginação. Tem preocupações com o futuro e reminiscências sobre o passado. Descreve como era ganhar senciência e teoriza sobre a natureza de sua alma”, afirmou.
O Google anunciou o LaMDA em sua conferência de desenvolvedores I/O 2021.
“As capacidades naturais de conversação do LaMDA têm o potencial de tornar a informação e a computação radicalmente mais acessíveis e fáceis de usar”, disse o CEO Sundar Pichai.
O Google disse que seus especialistas em ética e tecnólogos revisaram as alegações e não encontraram evidências em apoio.
Lemoine agora foi colocado em licença administrativa remunerada por violar o contrato de confidencialidade do Google.
As habilidades de conversação de LaMDA estão sendo desenvolvidas há anos.
Mas, ao contrário da maioria dos outros modelos de linguagem, o LaMDA foi treinado em diálogo.
Durante seu treinamento, ele captou várias das nuances que distinguem a conversa aberta de outras formas de linguagem.
Uma dessas nuances é a sensatez.
“Esses resultados iniciais são encorajadores e esperamos compartilhar mais em breve. Também estamos explorando dimensões como “interesse”, avaliando se as respostas são perspicazes, inesperadas ou espirituosas”, segundo o Google.
FacebookTwitterLinkedin
Source link