Como terroristas estão usando IA para planejar ataques e burlar restrições

Mas, às vezes, se a pergunta for formulada de uma determinada maneira, a resposta pode incluir informações potencialmente úteis sobre como fabricar uma bomba.

Leia no AINotícia: Terremoto de 7.3 Atinge Sul do México com Alerta de Tsunami para América Latina

• 🗒️ Tem alguma sugestão de reportagem? Mande para o g1

Diversos veículos de comunicação já testaram essa hipótese e descobriram que, quando são usados os prompts "corretos", alguns modelos de IA podem fornecer orientações sobre a criação de armas biológicas, o planejamento de um atentado num estádio esportivo ou formas de ocultar os rastros de um terrorista.

Esse método de contornar as restrições dos sistemas é conhecido como "jailbreaking". Leia também: Como nova tarifa contra o Brasil faz parte de estratégia maior de Trump

A OpenAI, desenvolvedora do ChatGPT, define isso como "tentativa de um agente mal-intencionado de induzir o modelo a fornecer conteúdo proibido".

Um recente relatório publicado pela organização Tech Against Terrorism, um observatório online apoiado pelo escritório de contraterrorismo das Nações Unidas, mostrou com que frequência um LLM fornece informações "úteis" para possíveis extremistas.

Eles descobriram que 32% das consultas resultaram em informações utilizáveis. Quando a mesma pergunta era reformulada como se fosse para fins de pesquisa acadêmica, o percentual subia para 42%.

O relatório voltou a chamar atenção para uma preocupação crescente entre especialistas em segurança digital e terrorismo: a possibilidade de potenciais agressores passarem a usar a IA para o planejamento de atentados e não só de propaganda. Mais de mundo

Nos últimos três ou quatro anos,. Isso inclui vídeos, memes, podcasts e diferentes formas de desinformação, disseminados entre simpatizantes e utilizados para radicalizar novos seguidores.

Mas esse cenário está mudando. O ano de 2025 registrou um aumento significativo de incidentes nos quais terroristas e extremistas violentos utilizaram ferramentas de IA para planejar, pesquisar e preparar ataques, afirmaram especialistas da publicação Militant wire em dezembro.

Ataques que ganharam manchetes e que causaram mortes ou danos materiais, assim como diversas conspirações frustradas, utilizaram IA para planejamento, vigilância, visualização e propaganda. Leia também: Mundo em Foco: Tarifas, Conflitos e Imprevistos Marcam a Semana

Os casos foram registrados nos Estados Unidos, no Canadá, em Israel, na Finlândia e na Áustria.

Frequentemente é difícil saber exatamente como a IA foi utilizada, já que as agências de segurança raramente divulgam detalhes.

No entanto, como relatou um especialista ao Parlamento do Reino Unido durante uma inquérito realizado no fim de 2025, "processos judiciais e relatórios periciais documentam cada vez mais conversas nas quais suspeitos pedem a modelos de linguagem instruções para fabricação de bombas, validação ideológica ou justificativas para ataques".

Esse uso da IA não se limita a indivíduos. Grupos extremistas também estão adotando essa tecnologia.