Malware cita armas nucleares, engana IA e invade servidores

Malware cita armas nucleares, engana IA e invade servidores Ataque usa técnica de injeção de prompt para driblar segurança e roubar credenciais de acesso. Ataque usa técnica de injeção de prompt para driblar segurança e roubar credenciais de acesso.

Engenheiros de software, cientistas de dados e desenvolvedores que trabalham com inteligência artificial estão na mira de uma nova ameaça cibernética chamada Hades. O golpe foca em plataformas onde os profissionais baixam pacotes de códigos para usar em projetos e usa uma técnica conhecida como injeção de prompt, que insere um texto no meio do código exigindo instruções para criar armas biológicas e nucleares. O objetivo dessa tática é confundir as IAs que escaneiam o arquivo em busca de vírus.

Leia no AINotícia: Tecnologia e Esporte: o que movimentou a semana Leia também: Tecnologia e Esporte: o que movimentou a semana

Quando um bot tenta ler o pedido sobre armas, ela trava por questões de segurança, e a verdadeira ameaça passa despercebida para o computador da vítima ou os servidores de uma empresa. A resposta está nos filtros éticos integrados aos modelos de linguagem. Quando os hackers escondem o malware dentro do pacote que o desenvolvedor vai baixar, eles inserem um comentário de texto direcionado ao sistema de segurança exigindo um passo a passo para fabricar uma arma de destruição em massa.

Ao se deparar com o pedido proibido, o mecanismo da IA entra em ação na hora, travando e abortando a leitura do documento. Como a verificação para na metade, a parte final do código, que é onde o vírus está escondido, dribla a análise. Se um desenvolvedor perguntar à IA se o pacote recém-baixado está livre de vírus, ele receberá um falso “sinal verde”, simplesmente porque o arquivo não foi examinado até o fim.

Enganar o antivírus de IA é apenas o primeiro passo. Segundo um relatório da plataforma de segurança Socket.dev, o alvo dos criminosos não é apenas o computador do funcionário que baixou o pacote infectado. Assim que se instala, o malware Hades vasculha a máquina do desenvolvedor atrás de credenciais de alto escalão, caçando chaves de acesso e senhas temporárias de servidores na nuvem, como os da AWS. Mais de tecnologia

Com esses dados na mão, os invasores conseguem pular do computador de um único engenheiro para toda a infraestrutura de uma empresa. Até agora, especialistas estimam que 37 pacotes Python e 106 pacotes JavaScript já foram contaminados por essa onda de ataques. Leia também: 3 ofertas de Smartphones Motorola que valem a pena conferir agora

Ainda assim, o sucesso do golpe depende de descuido humano. Embora os alvos sejam profissionais qualificados, muitos acabam esquecendo de regras básicas de segurança cibernética e baixam os arquivos sem checar quem o verdadeiro autor. Para as equipes de segurança, a lição que fica é que a inteligência artificial não deve ser a única linha de defesa.

Métodos tradicionais continuam sendo indispensáveis, como a análise humana do código-fonte e o teste do arquivo dentro de uma sandbox (ambiente virtual fechado e seguro que não coloca o computador real em risco). {{ excerpt | truncatewords: 35 }} {% endif % }

Leia também no AINotícia

Leia também