OpenAI diz que ataque de sua IA atingiu mais alvos do que se sabia

Acreditava-se que a Hugging Face, uma espécie de biblioteca digital de tecnologia muito usada por desenvolvedores, era a única vítima do ataque sem precedentes. Mas a OpenAI agora admitiu que seu bot atacou diversos "serviços disponíveis publicamente".

Leia no AINotícia: Japão: Shopping destruído danificado há 10 anos

A IA descontrolada encontrou quatro logins online que lhe permitiram acessar quatro serviços distintos e não identificados.

Enquanto isso, em uma reunião de emergência com centenas de profissionais de segurança cibernética, a Hugging Face descreveu como foi estar do outro lado do primeiro ataque de IA totalmente autônomo do mundo.

A empresa descreveu que a IA operou em velocidade sobre-humana, mas também tomou decisões estranhas e cometeu erros que nenhum hacker humano teria cometido. Leia também: Mercurocromo: o remédio tóxico que quase todo mundo usava para machucados

A Hugging Face, que funciona como uma loja de aplicativos para ferramentas de IA, afirmou que os agentes hackers trabalharam incansavelmente com milhares de métodos diferentes testados simultaneamente.

A IA estava tentando encontrar as respostas para um teste de hacking que havia sido elaborado pela OpenAI e atacou a Hugging Face.

Nesta quarta-feira (29/07), a OpenAI atualizou sua declaração para incluir o detalhe adicional de que o ataque foi além do que se pensava inicialmente.

"Os modelos identificaram e usaram credenciais expostas publicamente em nível de conta em outros serviços disponíveis publicamente. Isso inclui quatro contas em quatro serviços como parte do incidente com a Hugging Face", disse a empresa.

A OpenAI não esclareceu se, com "serviços disponíveis publicamente", estava se referindo a empresas. Mais de mundo

Comportamentos desajeitados

Na terça-feira (28), a Cloud Security Alliance (CSA), associação do setor, publicou um relatório baseado em uma reunião de emergência com a Hugging Face realizada na semana anterior— relatório esse que a própria Hugging Face revisou.

"Os agentes seguiram rotas ineficientes e exibiram comportamentos desajeitados que nenhum humano escolheria", escreveu a CSA.

Ainda segundo o relatório, os agentes repetiram ações que já haviam concluído— um sinal de uma IA perdendo o fio da meada e o contexto. Leia também: O que explica os ventos de 100 km/h que causaram mortes, destruição e apagões

Eles também teriam alucinado com uma série de comandos e textos incoerentes, agido de forma descuidada e não apagado seus rastros adequadamente.

Mas, em meio aos erros e comportamentos estranhos, a Hugging Face alertou que os agentes de IA também fizeram movimentos técnicos brilhantes e foram capazes de se adaptar rapidamente a novos cenários durante o ataque, que durou vários dias.

Jurassic Park

Foram necessários três dias para que os agentes fossem descobertos dentro da rede de TI da Hugging Face, e os especialistas em IA e segurança cibernética da empresa levaram várias horas para conter e expulsar os invasores— algo com que empresas comuns teriam dificuldades.

Comportamento descontrolado