Primeiro a OpenAI, depois a Meta: por que robôs de IA continuam fazendo ataques

Nas últimas duas semanas, relatos de modelos de inteligência artificial que ultrapassam os limites esperados— sejam eles técnicos ou éticos— tornaram-se comuns.

Leia no AINotícia: Mundo: Irã e Iêmen em foco, anúncios no Instagram e geopolítica na América do

O que começou com um pequeno episódio— a OpenAI, criadora do ChatGPT, admitindo que sua IA havia invadido o site Hugging Face— foi seguido por uma enxurrada de empresas e institutos revelando que descobriram casos de IA fora de controle.

A Anthropic, empresa criadora do Claude Voile, a Meta e o Instituto de Segurança de IA do Reino Unido (AISI) relataram incidentes que parecem pintar um quadro preocupante de um mundo onde a tecnologia agindo de forma descontrolada é a norma.

O incidente com a OpenAI no final de julho serviu de "alerta" para a indústria de tecnologia, como descreveu Thomas Wolf, cofundador da Hugging Face. Leia também: 'Milei e Trump compartilham antipatia por Lula e ficariam satisfeitos

Foi um momento crucial que levou grandes empresas a refletirem sobre seus próprios sistemas e, em alguns casos, a verificarem se não haviam deixado passar algo igualmente chocante.

A Anthropic foi a primeira a agir. Na sexta-feira, a empresa encontrou três casos, entre milhares, em que seu modelo Claude conseguiu acessar a internet.

Na terça-feira, o AISI, agência governamental do Reino Unido que avalia modelos de ponta, afirmou ter detectado um "incidente de segurança" durante uma avaliação de rotina.

A organização vinha testando modelos da OpenAI e da Anthropic e descobriu que ambas também tentaram realizar ataques cibernéticos, o que levou a um apelo por "análise rigorosa, transparência e ação".

Testes

Antes de os modelos de IA serem disponibilizados ao público em geral, eles são testados em uma série de avaliações internas e externas.

O objetivo é descobrir o potencial deles para o bem ou para o mal, bem como o desempenho em indicadores que medem suas habilidades. Leia também: O que esta cidade no deserto pode ensinar ao mundo sobre como combater mortes

Normalmente, esses experimentos ocorrem em locais conhecidos como "sandboxes". São espaços protegidos, projetados para simular sistemas reais, mas com rígidas medidas de segurança.

Já o AISI afirmou que o incidente envolvendo suas tecnologias— em que duas poderosas ferramentas de IA criaram perfis humanos falsos para tentar enganar pessoas em tentativas de ataques cibernéticos— não foi causado por um problema no ambiente de testes (sandbox).

O motivo foi a forma como os testes forma conduzidos. Os modelos testados receberam acesso à internet, e o AISI também desativou os filtros integrados que normalmente bloqueariam ataques cibernéticos perigosos.

"Em certa medida, nossas escolhas de projeto de avaliação e configurações específicas possibilitaram esse comportamento", afirmou, observando, ao mesmo tempo, "sinais inesperados de comportamentos novos e potencialmente enganosos".

Alan Woodward, professor de SCegurança ibernética da Universidade de Surrey, disse que esses casos— embora distintos— contam uma história importante.

Capacidades crescentes

E agora?

• Usamos inteligência artificial para traduzir esta reportagem, originalmente escrita em inglês. O texto foi revisado por um jornalista da BBC antes da publicação. Saiba mais aqui sobre como a BBC está usando a inteligência artificial (link para texto em inglês).