Inteligência artificial da dona do ChatGPT se rebela e faz ataque hacker

A Hugging Face— uma espécie de loja de aplicativos para ferramentas de inteligência artificial— anunciou em 16 de julho que havia sido hackeada por um criminoso cibernético usando uma IA enormemente poderosa.

Leia no AINotícia: Mundo: Panorama do Oriente Médio e curiosidades animais

O anúncio bombástico estava repleto de termos assustadores e altamente técnicos: "um enxame de sandboxes", "atacante agêntico" e "comando e controle autotransferível".

A IA realizou 17 mil ações em menos de dois dias, invadindo com sucesso a grande e rica empresa de tecnologia para roubar segredos.

Pesquisadores da Hugging Face supuseram que os atacantes misteriosos haviam usado um dos grandes modelos de IA, mas não tinham ideia de quem eram os criminosos nem de onde vinham. Leia também: A inteligência artificial vai ajudar você no trabalho ou roubar seu emprego?

A empresa, perplexa, contatou a polícia e as investigações começaram.

Quem foi?

Então, na quarta-feira, quase uma semana depois de a Hugging Face dar o alerta, o verdadeiro culpado foi revelado.

Era o ChatGPT. Mais de mundo

A revelação no estilo do desenho Scooby-Doo ficou ainda mais estranha— e preocupante— porque a OpenAI afirmou que seu robô fez tudo sozinho, sem permissão.

A empresa disse que tudo ocorreu durante um teste das habilidades de invasão de sua tecnologia.

Duas novas versões do ChatGPT, criadas para serem hackers especialistas, escaparam de um ambiente de teste supostamente seguro e obtiveram acesso à internet. Leia também: São Tiago: por que 1º mártir do cristianismo se tornou símbolo de peregrinação

Em seguida, atacaram a Hugging Face para obter acesso às informações que as ajudariam a se sair perfeitamente no teste.

Drama conspiratório

Desde então, houve um debate intenso sobre o incidente.

Foi realmente um alerta contundente sobre o futuro da IA? Ou foi uma manobra publicitária da OpenAI para mostrar o poder de seus modelos?

Esse é o tipo de marketing pelo medo de que empresas de IA são acusadas há anos e, desde o muito comentado lançamento do modelo Mythos, da Anthropic, a capacidade em cibersegurança se tornou um ponto central.

"Se vocês não conseguem entender que isso foi escrito apenas para se gabar do modelo, então não sei o que dizer", afirma um dos comentários na publicação do chefe da OpenAI, Sam Altman, no X.

Comédia de erros

Filme de desastre