Pioneiro da IA ​​fala enquanto especialistas alertam que isso pode acabar com a humanidade

Um dos “padrinhos” da inteligência artificial (IA) disse que se sente “perdido”, pois especialistas alertaram que a tecnologia pode levar à extinção da humanidade.

O professor Yoshua Bengio disse à BBC que todas as empresas que constroem produtos de IA devem ser registradas e as pessoas que trabalham com a tecnologia devem ter treinamento ético.

Isso ocorre depois que dezenas de especialistas colocaram seus nomes em uma carta organizada pelo Center for AI Safety, que alertou que a tecnologia pode acabar com a humanidade e os riscos devem ser tratados com a mesma urgência de pandemias ou guerra nuclear.

O professor Bengio disse: “É desafiador, emocionalmente falando, para as pessoas que estão dentro (do setor de IA).

“Você poderia dizer que me sinto perdido. Mas você tem que seguir em frente e se envolver, discutir, encorajar os outros a pensar com você.”

Chefes seniores de empresas como Google DeepMind e Anthropic assinaram a carta junto com outro pioneiro da IA, Geoffrey Hinton, que renunciou ao cargo no Google no início deste mês, dizendo que nas mãos erradas, a IA poderia ser usada para prejudicar pessoas e significar o fim da humanidade.

Especialistas já alertavam que a tecnologia poderia tirar empregos de humanos, mas a nova declaração alerta para uma preocupação mais profunda, dizendo que a IA pode ser usada para desenvolver novas armas químicas e aprimorar o combate aéreo.

Aplicativos de IA como Midjourney e ChatGPT se tornaram virais em sites de mídia social, com usuários postando imagens falsas de celebridades e políticos, e estudantes usando ChatGPT e outros “modelos de aprendizado de idiomas” para gerar redações de nível universitário.

Mas a IA também pode executar tarefas que salvam vidas, como algoritmos que analisam imagens médicas como raios-X, exames e ultrassonografias, ajudando os médicos a identificar e diagnosticar doenças como câncer e problemas cardíacos com mais precisão e rapidez.

Divulgamos uma declaração sobre o risco de extinção da IA.

Os signatários incluem:
– Três vencedores do Prêmio Turing
– Autores dos livros didáticos padrão em AI/DL/RL
– CEOs e executivos da OpenAI, Microsoft, Google, Google DeepMind, Anthropic
– Muito maishttps://t.co/mkJWhCRVwB

— Center for AI Safety (@ai_risks) 30 de maio de 2023

O professor Bengio disse à BBC que todas as empresas que constroem produtos poderosos de IA devem ser registradas.

“Os governos precisam rastrear o que estão fazendo, precisam ser capazes de auditá-los, e isso é apenas o mínimo que fazemos para qualquer outro setor, como construir aviões, carros ou produtos farmacêuticos”, disse ele.

“Precisamos também que as pessoas que estão próximas a esses sistemas tenham uma espécie de certificação… precisamos de uma formação ética aqui. A propósito, os cientistas da computação geralmente não entendem isso.

O professor Bengio disse sobre o estado atual da IA: “Nunca é tarde para melhorar.

“É exatamente como a mudança climática. Colocamos muito carbono na atmosfera. E seria melhor se não tivéssemos, mas vamos ver o que podemos fazer agora.”

O especialista da Universidade de Oxford, Nigel Shadbolt, presidente do Open Data Institute, com sede em Londres, disse à BBC: “Temos uma enorme quantidade de IA ao nosso redor agora, que se tornou quase onipresente e despercebida. Existem softwares em nossos telefones que reconhecem nossas vozes, a capacidade de reconhecer rostos.

“Na verdade, se pensarmos bem, reconhecemos que existem dilemas éticos apenas no uso dessas tecnologias. Acho que o que é diferente agora, com a chamada IA ​​generativa, coisas como ChatGPT, é que este é um sistema que pode ser especializado do geral para muitas, muitas tarefas particulares e a engenharia está, de certa forma, à frente da ciência.

“Não sabemos bem compreender as consequências absolutas desta tecnologia, todos temos em comum o reconhecimento de que precisamos de inovar com responsabilidade, de pensar a dimensão étnica, os valores que estes sistemas incorporam.

“Temos que entender que a IA é uma grande força para o bem. Temos que avaliar, não o pior, (mas) há muitos desafios existenciais que enfrentamos… nossas tecnologias estão no mesmo nível de outras coisas que podem nos atrapalhar, seja o clima ou outros desafios que enfrentamos.

“Mas me parece que se pensarmos agora, com antecedência, se dermos os passos que pessoas como Yoshua estão defendendo, esse é um bom primeiro passo, é muito bom que tenhamos o campo se unindo para entenda que esta é uma tecnologia poderosa que tem um lado escuro e um lado claro, tem um yin e um yang, e precisamos de muitas vozes nesse debate.”