Anthropic lança ao público primeira IA da classe Mythos com restrição a temas

A Anthropic, empresa de IA (inteligência artificial) dona do Claude, pôs à disposição do grande público, nesta terça-feira (9), a versão mais potente de sua tecnologia. A ferramenta, no entanto, tem restrições para solicitações sobre áreas sensíveis, como cibersegurança e ataques biológicos. Batizado de Fable 5, este modelo é o primeiro aberto ao público da classe Mythos, modelo mais avançado da Anthropic, apresentado em abril, mas com acesso restrito pela própria empresa por motivos de segurança.

A Anthropic oferece uma versão sem limitações, o Claude Mythos 5, para um grupo restrito de empresas, organizações e agências estatais. A IA é apresentada como capaz de detectar e explorar falhas de segurança com velocidade e precisão inéditas. Até agora, a empresa justifica restringir o acesso ao Mythos exclusivamente pelos riscos de cibersegurança.

Leia no AINotícia: Entretenimento: GloboNews muda programação, Virginia Fonseca em quadro da Globo e premiação teatral Leia também: Morre aos 86 anos o cineasta: o detalhe que mais repercutiu

Com o Fable 5, a Anthropic amplia o controle aos riscos de ataques biológicos, sem detalhar as ameaças específicas que busca evitar (design de armas químicas, bacteriológicas, entre outras). Segundo a empresa, a maioria das solicitações relacionadas à cibersegurança ou à biologia recebem uma resposta do modelo inferior, Opus 4.8, disponibilizado ao público no fim de maio. A Anthropic apresenta o Fable 5 como a versão segura deste modelo que, sem salvaguardas, não poderia ser aberto ao público.

Este marco se baseia em filtros automáticos que analisam as solicitações em tempo real e bloqueiam as que tratam de temas sensíveis. A Anthropic diz ter pedido a especialistas externos que tentem superá-los —uma abordagem de simulação de ataques— com premiações para quem conseguir explorar suas falhas. Segundo a empresa, nenhum, em 1.000 horas de testes, conseguiu desbloquear o modelo por completo.

A Anthropic não detalhou, no entanto, se foram identificados desvios pontuais. A questão da segurança, que a Anthropic transformou em um de seus principais argumentos comerciais, levou a empresa a uma queda de braço inédita com o governo Trump. A Anthropic negou suspender restrições do uso militar da tecnologia, especificamente sobre vigilância em massa e armas letais autônomas. Mais de entretenimento

A disputa levou o Pentágono a rescindir seus contratos com a empresa, cujos instrumentos de IA eram os únicos autorizados para informação sigilosa. O lançamento do Fable 5 é acompanhado de uma tarifa elevada, de até US$ 50 (R$ 258) por milhão de "tokens" —unidade de medida que usa pequenos fragmentos de texto que a IA processa no lugar das palavras completas—, o dobro do custo do Opus 4.8. Uma sessão intensa de programação pode consumir um milhão de tokens em poucas horas ou até menos. Leia também: Morre Orlando Senna, cineasta baiano que codirigiu 'Iracema', aos 86

A Anthropic revisou recentemente suas tarifas para levar em conta o desenvolvimento de agentes de IA, que frequentemente multiplicam o consumo de "tokens". Os lançamentos ocorrem em plena efervescência financeira em torno da IA. A Anthropic e sua concorrente, a OpenAI, apresentaram seus planos de IPO (oferta inicial de ações, na sigla em inglês), enquanto se espera que a SpaceX, a gigante espacial de Musk, bata um recorde na estreia no mercado na sexta-feira (12).

Comentários

Leia também no AINotícia

Leia também