Melhor que qualquer 'hacker' humano: o que é o novo modelo de inteligência

Nas últimas semanas, o mundo da inteligência artificial tem andado em polvorosa após alegações feitas pela empresa líder Anthropic sobre seu novo modelo, Claude Mythos.

Leia no AINotícia: Israel Ataca Irã Desafiando Trump, Escalada Ameaça Acordo de Paz

A empresa afirma ter descoberto que a ferramenta pode superar humanos em algumas tarefas de hacking e segurança cibernética— o que levou reguladores, parlamentares e instituições financeiras a discutirem os perigos que ela poderia representar para serviços digitais.

A Anthropic anunciou esta semana que vai estender o acesso ao Mythos para outras 150 instituições em setores diversos, como energia, água, saúde, comunicações e equipamentos. Novos parceiros precisarão atender a requisitos de segurança antes de obterem acesso ao modelo.

Alguns analistas ainda são mais céticos sobre a capacidade do Mythos e dizem que é do interesse da Anthropic sugerir que ela possui uma ferramenta com habilidades nunca antes vistas. Leia também: PEC da Liberdade ou Escravidão? O que pode mudar no regime de trabalho por hora

O tema também causou medo no sistema financeiro e chegou a ser abordado em reunião do FMI em Washington envolvendo autoridades internacionais.

Na prática— como costuma acontecer com a IA— a tarefa de distinguir entre fatos e exageros é complicada.

O que é o Claude Mythos?

O Mythos é um dos modelos mais recentes da Anthropic, desenvolvido como parte de seu sistema de IA mais amplo chamado Claude. Ele engloba o assistente de IA e a família de modelos da empresa, rivalizando com o ChatGPT da OpenAI e o Gemini do Google.

Ele foi apresentado pela Anthropic no início de abril como "Mythos Preview".

Pesquisadores que testam como modelos de IA lidam com solicitações ou tarefas específicas, conhecidos como "red teams", disseram em um relatório que o Mythos era "incrivelmente capaz em tarefas de segurança de computadores".

Eles descobriram que a ferramenta poderia localizar bugs inativos escondidos em códigos de décadas atrás e explorá-los com facilidade. Leia também: Israel Ataca Irã Desafiando Trump, Escalada Ameaça Acordo de Paz

Em vez de disponibilizá-lo amplamente aos utilizadores do Claude, a Anthropic concedeu acesso a 12 empresas de tecnologia por meio do Project Glasswing, que descreveu como "um esforço para proteger sistemas essenciais de software".

Entre elas estão a gigante de computação em nuvem Amazon Web Services, os fabricantes de dispositivos Apple, Microsoft e Google, e os fabricantes de chips Nvidia e Broadcom.

A Crowdstrike, cuja atualização defeituosa de software causou uma grande interrupção global em julho de 2024, também está entre os parceiros do projeto, e a Anthropic afirma ter concedido acesso ao Mythos a mais de 40 organizações responsáveis por softwares considerados críticos.

Em um vídeo divulgado junto com o lançamento do Project Glasswing, o chefe da Anthropic, Dario Amodei, disse que a empresa se ofereceu para trabalhar com funcionários do governo dos EUA a fim de "ajudar a se defender contra o risco desses modelos".

A Anthropic afirma que, durante os testes, descobriu que o modelo é altamente habilidoso em tarefas de segurança cibernética e hacking, superando humanos.

O que dizem os especialistas cibernéticos?

Devemos nos preocupar?

• Usamos inteligência artificial para traduzir esta reportagem, originalmente escrita em inglês. O texto foi revisado por um jornalista da BBC antes da publicação. Saiba mais aqui sobre como a BBC está usando a inteligência artificial (link para texto em inglês).