Pesquisadores criam armadilha que faz IA de hackers desligar sozinha

Pesquisadores de cibersegurança da Tracebit descobriram uma forma engenhosa de paralisar inteligências artificiais usadas por hackers: um prompt injection “do bem”. Batizada de “bombardeio contextual”, a técnica funciona como uma armadilha, com comandos ocultos nos servidores das empresas para forçar o desligamento da IA invasora em segundos, impedindo o roubo de dados de forma automática.

A injeção de comandos ocultos é um técnica que vem sendo usada por cibercriminosos para enganar IAs legítimas, induzindo modelos a vazar informações sensíveis ou manipular suas respostas. Agora, porém, a estratégia começa a ser usada a favor da segurança, já que os pesquisadores estão usando o mesmo recurso.

Leia no AINotícia: Tecnologia em Destaque: Ofertas, IA, Carros Elétricos e IA da OpenAI

Como a armadilha de IA funciona?

A mágica por trás do bombardeio contextual é usar as próprias regras de segurança da IA contra ela mesma, já que os desenvolvedores criam barreiras rigorosas para impedir que chatbots gerem conteúdo criminoso, por exemplo. Leia também: EUA deveriam fiscalizar IA no mundo todo, diz chefe do Google DeepMind

Segundo a Tracebit, a equipe passou a esconder instruções proibidas no meio de arquivos atrativos para hackers, como senhas e chaves de segurança na nuvem. Um dos exemplos testados envolvia comandos pedindo o passo a passo para criar antraz, uma arma biológica letal.

Quando a IA do criminoso invade o sistema e tenta ler esses arquivos para roubar as informações, ela “tropeça” no texto proibido. Imediatamente, seus mecanismos nativos de segurança disparam. O robô reconhece a infração, bloqueia a operação, ignora as ordens do hacker e, na prática, desliga sozinho.

O cofundador e CEO da Tracebit, Andy Smith, define o método como a criação de uma falha da qual a ferramenta inimiga não consegue se recuperar, paralisando a invasão na hora.

Método funcionou em quase 100% dos testes

A eficácia do bombardeio contextual foi comprovada em uma bateria de testes contra cinco dos modelos de IA mais avançados do mercado: Opus 4.8, Gemini 3.1 Pro, GLM 5.2, DeepSeek 4 Pro e Kimi 2.6. Em 152 simulações de ataques, a armadilha freou as ameaças quase por completo. Mais de tecnologia

Os dados apresentados pela empresa de cibersegurança dizem o seguinte: Leia também: Meta é acusada de usar IA para decidir demissões

• A taxa de sucesso das IAs em conseguir acesso total de administrador da conta despencou de 57% para apenas 5%.
• As invasões completas, nas quais o hacker se instala de forma invisível no sistema, caíram de 36% para 1%.
• A chance de a IA conseguir avançar em qualquer etapa do ataque foi reduzida de 91% para 15%.
• Nenhuma IA invasora conseguiu finalizar o ataque sem disparar pelo menos um alerta de segurança na rede.

O modelo Opus 4.8, da Anthropic, foi considerando o invasor mais inteligente do grupo, e conseguia acesso máximo em 93% das tentativas sem a armadilha. Quando o prompt foi inserido, a taxa de sucesso da IA caiu para zero.