Rishi Sunak anuncia acordo com empresas de tecnologia para examinar modelos de IA antes do lançamento

Rishi Sunak disse que a cúpula de segurança da inteligência artificial (IA) da Grã-Bretanha “inclinará a balança a favor da humanidade” depois de chegar a um acordo com empresas de tecnologia para examinar seus modelos antes de seu lançamento.

O primeiro-ministro do Reino Unido disse que provavelmente serão necessários “requisitos vinculativos” para regular a tecnologia, mas agora é a hora de agir rapidamente sem leis.

Ele descreveu a cimeira do Reino Unido realizada em Bletchley Park, o berço da decifração de códigos dos Aliados durante a Segunda Guerra Mundial, como “apenas o início da conversa”.

A ameaça da IA ​​não respeita fronteiras.

Nenhum país pode fazer isto sozinho.

Estamos a tomar medidas internacionais para garantir que a IA seja desenvolvida de forma segura, para o benefício da comunidade global. pic.twitter.com/yQn6rCTGmf

-Rishi Sunak (@RishiSunak) 2 de novembro de 2023

O primeiro-ministro do Reino Unido disse anteriormente que não gostaria de “regular apressadamente” a tecnologia com regras vinculativas, mas numa conferência de imprensa no encerramento do evento na quinta-feira ele indicou que provavelmente seria necessário estabelecer uma base legal em o futuro.

Uma declaração acordada por governos e empresas tecnológicas na cimeira reconhece que ambas as partes devem ter um papel para garantir a realização de testes de segurança externos de poderosos modelos de IA “fronteiriços”, em vez de as empresas serem as únicas responsáveis.

Questionado sobre se o acordo não vinculativo alcançado com as empresas tecnológicas era suficiente para mitigar os riscos sem o apoio da legislação, Sunak respondeu: “A lição é que precisamos de agir rapidamente e é isso que estamos a fazer.

“A tecnologia está a desenvolver-se a um ritmo tal que os governos têm de garantir que conseguimos acompanhar.

“Agora, antes de você começar a exigir e legislar sobre coisas, eu acho… isso leva tempo e precisamos agir mais rápido, e estamos, mas em segundo lugar, você precisa saber exatamente sobre o que está legislando e é por isso que nosso instituto de segurança é tão importante.

“Até agora temos a cooperação de que necessitamos, mas, claro, penso que todos reconheceriam que, em última análise, provavelmente serão necessários requisitos vinculativos, mas é importante que os cumpramos da forma correcta e isso precisa de ser feito. com base em evidências empíricas que obteremos em nossos testes.”

Ele também dirigiu palavras calorosas a Elon Musk, dizendo que estava “encantado” com a participação de “um dos principais atores da IA” na cúpula – embora o bilionário da tecnologia tenha postado uma foto que parecia criticar o encontro no momento em que Sunak começava a fazer seu encerramento. observações.

O proprietário do X, com quem o primeiro-ministro britânico terá uma palestra televisiva sobre a tecnologia mais tarde, compartilhou uma imagem de desenho animado em sua plataforma de mídia social de animais que parecem retratar representantes do Reino Unido, UE, EUA e China na cúpula, dizendo: “Declaramos que a IA representa um risco potencialmente catastrófico para a humanidade e mal posso esperar para desenvolvê-la primeiro.”

Musk descreveu anteriormente a IA como “uma das maiores ameaças” que a humanidade enfrenta e “não está claro para (ele) se podemos controlar tal coisa” quando os humanos enfrentam “algo que será muito mais inteligente do que nós”.

Questionado se a conversa entre os dois não seria transmitida ao vivo porque Sunak está preocupado com o que o empresário tecnológico poderá dizer, o primeiro-ministro respondeu: “Elon Musk é alguém que fala há muito tempo sobre IA… Estou muito satisfeito que ele estava presente e participando ontem.”

Mas ele também disse que o resultado da cimeira foi reunir governos e líderes de todo o mundo para discutir a mitigação dos riscos da tecnologia, em vez de “focar-se num indivíduo”.

Isso aconteceu depois que o secretário de tecnologia do Reino Unido disse que uma ascensão das máquinas no estilo Terminator era uma “área potencial” onde o desenvolvimento de IA poderia levar – observações das quais Sunak não se distanciou quando questionado sobre elas mais tarde.

Michelle Donelan falava à Times Radio durante a cimeira em Milton Keynes, onde ministros reuniram governos de todo o mundo ao lado de empresas tecnológicas e da sociedade civil para discutir os riscos do avanço da tecnologia.

Questionada sobre a possibilidade de um “cenário do Exterminador do Futuro” – uma referência ao filme de Arnold Schwarzenegger em que as máquinas dominam o mundo – ela disse: “Bem, essa é uma área potencial onde poderia levar, mas há vários estágios antes disso”.

Ao chegar à cimeira na quinta-feira, Sunak disse que “não podemos ter a certeza” sobre os riscos da IA, mas existe a possibilidade de que possam estar numa escala semelhante à das pandemias e da guerra nuclear.

O histórico primeiro dia do #AISafetySummit serra:
🌍 28 países e a UE anunciam a Declaração de Bletchley
🇰🇷 🇫🇷 Mais 2 AI Summits pela Coreia do Sul e França
🖥️ Reino Unido anuncia 2 supercomputadores de última geração

Ouvir de @michelledonelan quando o dia 2 do Summit começa…👇 pic.twitter.com/G5xFkOLvMg

— Departamento de Ciência, Inovação e Tecnologia (@SciTechgovuk) 2 de novembro de 2023

O primeiro-ministro do Reino Unido disse: “As próprias pessoas que desenvolvem esta tecnologia levantaram o risco que a IA pode representar e é importante não ser alarmista sobre isso.

“Há debate sobre esse assunto. As próprias pessoas do setor não concordam e não podemos ter certeza.

“Mas há motivos para acreditar que isso pode representar um risco em escala como pandemias e guerra nuclear, e é por isso que, como líderes, temos a responsabilidade de agir para tomar medidas para proteger as pessoas, e é exatamente isso que fazemos. estou fazendo.”

A cimeira viu delegações de todo o mundo, incluindo os EUA e a China, chegarem a acordo sobre a chamada “declaração de Bletchley” – uma declaração sobre os riscos que rodeiam a tecnologia a ser usada como ponto de partida para uma conversa global sobre o seu desenvolvimento.

Sunak manteve inúmeras reuniões bilaterais com o secretário-geral das Nações Unidas, Antonio Guterres, a presidente da Comissão Europeia, Ursula von der Leyen, e a primeira-ministra italiana, Giorgia Meloni, depois de chegar a Bletchley na quinta-feira.

Meloni disse estar “orgulhosa da (sua) amizade” com o seu homólogo do Reino Unido e espera que eles possam trabalhar juntos na IA para “resolver o maior desafio que talvez tenhamos neste milénio”.

Após as reuniões, ele sentou-se para uma mesa redonda com representantes da França, EUA, Alemanha, Austrália, UE e ONU, incluindo Kamala Harris, dizendo ao vice-presidente dos EUA que a ordem executiva do seu país sobre IA, assinada dias antes da cimeira , foi “muito bem-vindo neste clima”.

O primeiro-ministro disse: “Queria que tivéssemos uma sessão para falar sobre esta questão como líderes com valores partilhados em privado e ouvir de todos vocês sobre o que os entusiasma mais, o que os preocupa e como podemos olharmos para este momento daqui a cinco anos e sabermos que fizemos as escolhas certas para aproveitar todos os benefícios da IA ​​de uma forma que seja segura para as nossas comunidades, mas que também proporcione um enorme potencial.”

Mais tarde, ele realizou um painel de discussão semelhante com chefes de tecnologia, incluindo Sir Nick Clegg, presidente de assuntos globais da Meta, e representantes do Google, DeepMind e OpenAI.