Chefes de tecnologia pedem aos cientistas que interrompam o desenvolvimento de sistemas de IA

Especialistas em tecnologia, incluindo Elon Musk, pediram aos cientistas que parem de desenvolver inteligência artificial (IA) para garantir que ela não represente um risco para a humanidade.

Chefes de tecnologia, incluindo o cofundador da Apple, Steve Wozniak, e o cofundador do Skype, Jaan Tallinn, assinaram uma carta aberta exigindo que todos os laboratórios parem de treinar sistemas de IA por pelo menos seis meses.

A prevalência da IA ​​aumentou enormemente nos últimos anos, com sistemas como o chatbot ChatGPT rapidamente se tornando parte da vida cotidiana.

A carta dizia: “Os últimos meses viram laboratórios de IA travados em uma corrida fora de controle para desenvolver e implantar mentes digitais cada vez mais poderosas que ninguém – nem mesmo seus criadores – pode entender, prever ou controlar de forma confiável.

“Os sistemas de IA contemporâneos estão se tornando competitivos para humanos em tarefas gerais e devemos nos perguntar: devemos deixar que as máquinas inundem nossos canais de informação com propaganda e falsidade?”

Acrescentou: “Sistemas de IA poderosos devem ser desenvolvidos apenas quando estivermos confiantes de que seus efeitos serão positivos e seus riscos serão gerenciáveis”.

Os chefes de tecnologia não querem nenhum sistema de IA mais poderoso que o novo chatbot GPT-4 e pediram que os pesquisadores se concentrem em garantir que a tecnologia seja precisa, segura e transparente.

A empresa de tecnologia americana OpenAI lançou sua versão mais recente do AI chatbot ChatGPT no início deste mês.

O ChatGPT foi lançado no final do ano passado e se tornou uma sensação online devido à sua capacidade de manter conversas naturais, mas também de gerar discursos, canções e ensaios.

O bot pode responder a perguntas de maneira humana e entender o contexto de consultas de acompanhamento, bem como em conversas humanas. Ele pode até admitir seus próprios erros ou rejeitar solicitações inapropriadas.

De acordo com a OpenAI, o GPT-4 tem “habilidades de raciocínio mais avançadas” do que o ChatGPT, mas, como seus predecessores, o GPT-4 ainda não é totalmente confiável e pode “alucinar” – um fenômeno em que a IA inventa fatos ou comete erros de raciocínio.

A carta dizia que a humanidade agora pode desfrutar de um “verão de IA”, onde pode colher as recompensas dos sistemas, mas apenas depois que os protocolos de segurança forem feitos.

A carta acrescentava: “A humanidade pode desfrutar de um futuro próspero com a IA. Tendo conseguido criar poderosos sistemas de IA, agora podemos desfrutar de um ‘verão de IA’ no qual colhemos os frutos, projetamos esses sistemas para o claro benefício de todos e damos à sociedade uma chance de se adaptar.

“A sociedade fez uma pausa em outras tecnologias com efeitos potencialmente catastróficos na sociedade.

“Podemos fazer isso aqui. Vamos aproveitar um longo verão de IA, não correr despreparados para o outono.”