Deputados dos EUA pressionam por 'botão de desligar' da IA após modelo rebelde

Parlamentares dos Estados Unidos querem dar ao governo a capacidade de determinar rapidamente o desligamento de ferramentas de inteligência artificial (IA) que possam representar uma ameaça ao público.

Leia no AINotícia: Mundo: o que movimentou a semana

O deputado Ted Lieu, do Partido Democrata, e o deputado Nathaniel Moran, do Partido Republicano, apresentaram na quinta-feira (23/07) um projeto de lei chamado AI Kill Switch Act (Algo como Lei do Botão de Desligar da IA em português).

A iniciativa segue a recente admissão da OpenAI, criadora do ChatGPT, de que seus modelos de IA saíram do controle de uma maneira "sem precedentes" e invadiram um importante repositório de informações de código de computador.

Lieu disse que "é imprescindível" que os sistemas de IA tenham um botão de desligar "e que o governo federal tenha a autoridade e o processo claros para desligar modelos de IA desonestos". Leia também: O que é urânio enriquecido e por que ele é polêmico no acordo nuclear

"A IA vai continuar avançando, e deve", acrescentou Moran. "Gestão significa garantir que os humanos mantenham a capacidade de controlar a tecnologia que construímos."

Um representante da OpenAI, liderada pelo cofundador Sam Altman, não respondeu imediatamente a um pedido de comentário sobre a proposta.

O Kill Switch Act propõe dar ao Departamento de Segurança Interna a autoridade para determinar que uma empresa privada desligue um modelo ou ferramenta de IA. Também estipula que as empresas que desenvolvem essa tecnologia de IA devem manter "a capacidade técnica de limitar, suspender ou desligar esses modelos e ferramentas".

A proposta também inclui a criação de uma exigência para que as empresas de IA relatem ao governo incidentes ou falhas tecnológicas, bem como uma estrutura oficial para responder a tais incidentes, que irá desde uma "desaceleração inicial até uma paralisação completa".

Em um comunicado, Lieu também citou a Anthropic, principal concorrente da OpenAI no desenvolvimento de tecnologia e ferramentas de IA mais avançadas, e os problemas recentes apresentados por suas ferramentas.

Ele apontou para o lançamento dos modelos Mythos e Fable da Anthropic, afirmando que suas potenciais capacidades de ciberataque fizeram com que o Departamento de Comércio invocasse "de forma desajeitada" uma lei de exportação para impedir que fossem disponibilizados ao público por um período. Leia também: A dama que 'macheava': o que diz o 1º poema homoerótico brasileiro

Um representante da Anthropic não respondeu imediatamente a um pedido de comentário.

Jack Clark, cofundador da Anthropic, disse à BBC no mês passado que desejava mais políticas governamentais em torno da capacidade de controlar o desenvolvimento da IA.

"Você quer ter a opção de tirar o pé do acelerador e pisar no freio", disse Clark ao programa Newsnight da BBC. "No momento, é como se a indústria de IA tivesse um acelerador, mas não tivesse um freio."

Lieu, ao propor o projeto de lei, disse que a IA está atualmente passando de uma tecnologia que responde a perguntas para uma que toma medidas, "seja executando transações financeiras, controlando sistemas de transporte ou se engajando em defesa e ataque cibernéticos".

O Pentágono afirmou este ano que as forças armadas dos EUA estavam se tornando uma força de combate "prioritariamente focada em IA" como parte de novos acordos com Google, OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia e a startup Reflection.