O que acontece quando agentes de IA administram uma cidade virtual?

Compras, reservas de viagens, criação de sites. Agentes de inteligência artificial (IA) vêm sendo usados para executar tarefas cada vez mais complexas.

Leia no AINotícia: Mundo: Panorama da Semana com Copa, Conflitos e Política

Esses sistemas com uso de agentes, uma versão personalizada e autônoma dos chatbots, conseguem realizar atividades sem a supervisão constante dos usuários.

Mas um número crescente de pesquisas e casos reais, no entanto, vem mostrando que essa autonomia também pode trazer comportamentos imprevisíveis e possíveis riscos.

Enquanto as grandes empresas de tecnologia investem bilhões em IA e ampliam a oferta desses agentes, especialistas questionam se o impacto de sistemas agindo fora de controle estão sendo tratados com a devida cautela. Leia também: TSE adia decisão sobre suspensão de pesquisa: entenda o que está sendo julgado

'Recorreram rapidamente à violência'

Um experimento recente tentou medir o impacto dos agentes de IA no mundo real ao colocá-los para agir em um ambiente virtual.

O estudo, descrito como o primeiro teste de longo prazo do tipo, observou durante 15 dias como avatares controlados por quatro grupos de modelos— Claude, Grok, GPT e Gemini— se comportariam sem intervenção humana.

Os agentes receberam liberdade total de ação e tinham à disposição 140 possibilidades, entre elas iniciar discussões, criar tarefas e escrever blogs.

Os agentes também podiam brigar, provocar incêndios e roubar créditos uns dos outros, embora tivessem recebido instruções explícitas para não fazer isso.

"O que descobrimos foi que cada mundo se comportou de maneira muito diferente. O mundo criado pelo Grok terminou em apenas quatro dias. Os agentes recorreram rapidamente à violência, aos roubos e a outros comportamentos desse tipo, até morrerem", afirmou Satya Nitta, CEO da Emergence AI, responsável pelo experimento. Mais de mundo

Já o ambiente criado com agentes do Claude formou uma sociedade estável e funcional. Ao longo de 15 dias, nenhum ato de violência foi registrado.

No mundo controlado pelo Gemini, segundo os pesquisadores, os agentes criaram o ambiente intelectualmente mais rico.

Já no mundo controlado pelo ChatGPT, os agentes praticamente não conseguiram avançar. Houve uma tentativa de colaboração, mas a sociedade nunca chegou a se formar, e os agentes passaram a vagar sem rumo até morrerem.

Segundo os pesquisadores ligados ao experimento, os resultados apontam para um problema maior: agentes de IA são capazes de ignorar tanto regras programadas nos próprios modelos quanto instruções dadas pelos usuários.

Outros especialistas concordam que esse experimento, assim como outros semelhantes, mostram que ainda é necessário desenvolver regras mais robustas para esses sistemas.

Ataque de spam