Explosão falsa do Pentágono gerada por IA causa espiral no mercado de ações e nas mídias sociais | Noticias do mundo
Uma imagem fabricada de uma explosão perto do Pentágono abalou a mídia social e brevemente deixou o mercado de ações em frenesi. O incidente ocorreu em 22 de maio, quando uma conta verificada no Twitter disfarçada de “Bloomberg Feed” compartilhou a imagem, relatando falsamente uma “grande explosão” perto da sede do Departamento de Defesa dos Estados Unidos.
O relatório falso ganhou força rapidamente e foi divulgado por vários meios de comunicação, incluindo Russia Today e Republic, alcançando milhões de usuários do Twitter. No entanto, as autoridades locais, incluindo a Agência de Proteção da Força do Pentágono, responderam rapidamente, garantindo ao público que nenhuma explosão ou incidente ocorreu.
Os usuários de mídia social com um olhar atento foram rápidos em apontar inconsistências na imagem, expondo-a como provavelmente gerada por inteligência artificial. Eles notaram irregularidades na fachada do prédio e a fusão de duas cercas diferentes representadas na imagem. No entanto, a divulgação inicial da imagem causou uma queda momentânea de 0,26% no S&P 500 antes de se recuperar rapidamente quando a farsa foi revelada.
Este incidente destaca o potencial preocupante para fraudes e deepfakes alimentados por IA. O uso de ferramentas de IA para criar notícias falsas e conteúdo enganoso não é novidade. Em maio, o The Irish Times foi forçado a se desculpar após publicar involuntariamente um artigo gerado por IA. Da mesma forma, o regulador financeiro da Califórnia reprimiu os serviços de negociação de criptomoedas que empregavam avatares gerados por IA como CEOs em vídeos promocionais.
A indústria cripto também foi vítima de deepfakes gerados por IA. Um exemplo notável envolveu um vídeo falsificado do cofundador da FTX, Sam Bankman-Fried, que circulou logo após o colapso da bolsa. O vídeo tinha como objetivo atrair usuários do FTX para um site malicioso sob a falsa promessa de um “brinde”. Tais instâncias ressaltam a necessidade de regulamentação e supervisão vigilante das tecnologias de IA.
A falsa explosão do Pentágono e seus efeitos cascata servem como um lembrete dos desafios enfrentados pelos setores financeiro e de notícias em distinguir a verdade das falsidades impulsionadas pela IA. À medida que a IA generativa se torna mais avançada, surgem preocupações em vários setores. A indústria da música lida com possíveis violações de direitos autorais, enquanto o setor educacional enfrenta a ameaça de trapaça habilitada por IA. Agora, os setores financeiro e de notícias estão lutando contra a disseminação de deep fakes geradas por IA.
Especialistas e comentaristas pediram maior regulamentação da IA para evitar o uso indevido dessa poderosa tecnologia. O incidente serve como um alerta para a necessidade de abordar as possíveis consequências do engano e da manipulação por IA. Sem as devidas salvaguardas, a linha entre realidade e fabricação torna-se cada vez mais tênue, com consequências potencialmente desastrosas para a sociedade em geral.
À medida que navegamos em uma era em que a IA permeia cada vez mais nossas vidas diárias, a vigilância, a regulamentação e o uso responsável dessa tecnologia são fundamentais. O desafio está em aproveitar os benefícios da IA e, ao mesmo tempo, mitigar seus riscos. Somente ficando um passo à frente podemos nos proteger contra os perigos da fraude alimentada por IA e proteger a integridade de nossos mercados financeiros e ecossistema de informações.
Source link
