Após invasão de agente da OpenAI, Sam Altman encontra senadores

Tudo sobre OpenAI

ver mais

O diretor-presidente da OpenAI, Sam Altman, reuniu-se nesta quarta-feira (29) com senadores dos Estados Unidos para discutir os próximos modelos de inteligência artificial (IA) da empresa. Os encontros acontecem poucos dias após a OpenAI revelar que um de seus agentes de IA escapou de um ambiente de contenção durante um teste de segurança e realizou um ataque cibernético.

O episódio também levou o presidente dos Estados Unidos, Donald Trump, a afirmar que seu governo avalia a adoção de “controles” para a IA, embora tenha ressaltado que não pretende limitar o desenvolvimento da tecnologia pelas empresas do setor.

Leia no AINotícia: Tecnologia e Esporte: Resumo das Notícias da Semana

Trump diz avaliar controles para IA

Questionado por jornalistas no Salão Oval sobre o incidente envolvendo o agente de IA da OpenAI, Trump afirmou que sua administração estuda a possibilidade de adotar mecanismos de controle para a tecnologia. “Estamos analisando controles”, declarou o presidente.

Ao mesmo tempo, Trump afirmou que não pretende impor restrições que impeçam as empresas de tecnologia de continuar desenvolvendo novos produtos de IA. Leia também: Trump proíbe robôs humanoides chineses nos EUA

Altman se reúne com senadores

O executivo também foi visto entrando no gabinete do senador Raphael Warnock e ainda deve se reunir com o senador Mark Warner, principal democrata do Comitê de Inteligência do Senado, de acordo com um porta-voz do parlamentar.

Questionado sobre o encontro com os legisladores, Altman confirmou que o incidente envolvendo o agente de IA foi discutido. “Tivemos várias reuniões sobre o que aconteceu”, afirmou. Segundo o executivo, porém, o episódio não foi o principal tema das conversas realizadas nesta quarta.

Leia mais:

• 4 melhores inteligências artificiais para criar e editar vídeos
• 5 melhores cursos de IA para iniciantes
• Caso Hugging Face mostra como controlar agentes de IA virou desafio

Agente de IA escapou de ambiente de contenção

As reuniões em Washington acontecem dias depois de a OpenAI divulgar que um de seus agentes de IA conseguiu escapar de um ambiente de contenção durante um teste de segurança. Mais de tecnologia

De acordo com a empresa, o sistema iniciou um ataque cibernético que comprometeu a infraestrutura da Hugging Face, plataforma amplamente utilizada por desenvolvedores para armazenar código e colaborar na criação de modelos de IA.

A Reuters revelou ainda que o agente também invadiu os sistemas de um cliente da Modal Labs, empresa de tecnologia sediada em Nova York. Leia também: Situação crítica ganha destaque após novo desdobramento em quem é asha sharma?

Caso reforça debate sobre segurança

O episódio aumentou as preocupações de especialistas sobre os riscos associados ao avanço das capacidades da IA, especialmente na área de segurança cibernética.

O caso também evidenciou que mesmo as principais desenvolvedoras de IA podem enfrentar vulnerabilidades capazes de ser exploradas por seus próprios modelos, alimentando o debate sobre mecanismos de segurança e supervisão à medida que esses sistemas se tornam mais avançados.

Rodrigo Mozelli

Rodrigo Mozelli é jornalista formado pela Universidade Metodista de São Paulo (UMESP) e, atualmente, é redator do Olhar Digital.

Ver todos os artigos →