IA da Meta ajudou golpistas a roubarem perfis

IA da Meta ajudou golpistas a roubarem perfis Golpistas usaram o chatbot de suporte para redefinir credenciais e assumir perfis das vítimas. Meta diz que problema foi corrigido, mas nega invasão aos sistemas. Golpistas usaram o chatbot de suporte para redefinir credenciais e assumir perfis das vítimas.

Meta diz que problema foi corrigido, mas nega invasão aos sistemas. Hackers conseguiram invadir contas no Instagram após manipular o assistente de suporte com inteligência artificial da Meta. Os ataques foram registrados ao menos desde o último fim de semana e atingiram perfis comerciais e contas de figuras públicas, com grande número de seguidores.

Leia no AINotícia: Panorama Tecnologia: VW, IA e Retorno do Áudio Offline Leia também: Jovi T1 chega ao Brasil com bateria de 6.500 mAh; veja o preço

Segundo relatos nas redes sociais, os criminosos exploravam uma falha no chatbot de suporte para alterar o e-mail cadastrado nas contas das vítimas. Depois disso, conseguiam receber códigos de verificação, redefinir senhas e assumir o controle dos perfis, mesmo em casos protegidos por autenticação de dois fatores. Os invasores miraram principalmente contas raras — aquelas em que o usuário conseguiu registrar um termo popular ou apenas o primeiro nome — e perfis oficiais.

As contas invadidas estariam sendo vendidas através do Telegram. A Meta alega ter corrigido uma falha que permitia a terceiros solicitar e-mails de redefinição de senha, mas nega que seus sistemas tenham sido invadidos. Em resposta a uma publicação na rede social X, o porta-voz da empresa, Andy Stone, também negou que perfis de autoridades mundiais tenham sido afetados.

Para analistas de segurança do site The Cybersec Guru, porém, a invasão direta dos bancos de dados nunca foi o ponto, já que os perfis foram sequestrados por uma falha no fluxo de suporte. De acordo com vídeos e capturas de tela compartilhados em grupos de segurança no Telegram, os golpistas começavam usando uma VPN ou proxy residencial para simular uma localização próxima à do alvo. Em seguida, abriam um chat com assistente de suporte da Meta AI e pediam a troca do e-mail vinculado ao perfil.

O invasor dizia o nome de usuário da vítima, informava um novo endereço de e-mail controlado por ele e prometia enviar o código de confirmação. Segundo os relatos, o assistente aceitava o pedido até mesmo sem uma checagem paralela com o verdadeiro dono da conta. O código de oito dígitos era enviado ao e-mail do invasor e, depois de ser inserido no chat, o sistema liberava a redefinição da senha. Mais de tecnologia

Nota-se, aliás, que o caso sequer pode ser considerado uma injeção de prompt, já que os hackers não precisavam fazer com que a IA contrariasse barreiras de segurança — elas, aparentemente, nem existiam. Os posts também indicam que, em alguns casos, o sistema de verificação de identidade acionava uma checagem biométrica. Nessas situações, os criminosos teriam usado vídeos gerados por IA com base em fotos das vítimas. Leia também: Engenheiro combina laser e IA para exterminar mosquitos

De acordo com o site 404 Media, a falha ocorre poucos meses após a Meta expandir o suporte com IA para contas do Facebook e Instagram. A Meta apresentou o chatbot como uma forma de agilizar processos de recuperação e reforçar a segurança, após ser alvo frequente de críticas pelo suporte limitado em casos de invasão e perda de contas, em que muitas vezes não há sequer a possibilidade de falar com um atendente humano. O problema, no entanto, é que conceder tantas permissões a um sistema automatizado faz com que qualquer falha de validação tenha potencial para causar danos significativos.

Como lembra o Cybersec Guru, o Projeto Aberto de Segurança em Aplicações Web (OWASP) recomenda desde 2023 que sistemas de IA não executem ações sensíveis sem supervisão ou validação humana. {{ excerpt | truncatewords: 35 }} {% endif % }

Leia também no AINotícia

Leia também