xAI é acusada de demitir engenheiro que levantou questões de segurança sobre IA

10 Jun (Reuters)– Um ex-engenheiro da xAI ⁠que agora dirige um centro de estudos dedicado à ⁠segurança da tecnologia da inteligência artificial, abriu processo contra a empresa alegando ter ‌sido demitido por levantar preocupações sobre os riscos que a IA representa para a humanidade.

Devin Kim alega na ação movida na terça-feira no tribunal estadual da Califórnia ‌que seus esforços para estabelecer limites ao desenvolvimento do chatbot Grok o tornaram alvo da liderança da empresa.

Leia no AINotícia: Economia: Radar de Notícias da Semana

O processo foi aberto pouco antes da oferta pública inicial de ações da SpaceX, a maior de todos os tempos, na sexta-feira. A SpaceX controla a xAI.

Baixe agora!

“O Sr. Kim reclamou repetidamente que a falha da xAI em priorizar a segurança da IA, ⁠particularmente ‌no que diz respeito ao Grok, praticamente garantia que a empresa cometeria atos ilegais, ⁠desde fomentar a discriminação até proliferar armas de destruição em massa”, afirma o processo. Leia também: Gestão e crescimento: Alfredo Soares, do G4, estreia como colunista do InfoMoney

Representantes da xAI e da SpaceX não comentaram o assunto.

O Centro para a Segurança da IA, organização sem fins lucrativos que se concentra nos riscos potencialmente representados pela tecnologia, anunciou na semana passada que havia nomeado Kim como seu presidente.

Elon ​Musk, o homem mais rico do mundo, fundou a xAI em 2023 afirmando que a empresa era uma alternativa mais segura à OpenAI, que ele ajudou ​a fundar há mais de uma década. No mês passado, um júri rejeitou a ação movida por Musk em que ele afirmava que a OpenAI havia se desviado de sua missão original de beneficiar a humanidade.

De acordo com o processo aberto na terça-feira, Kim foi uma das primeiras contratações da xAI em 2024 e foi promovido ‌a um cargo de liderança importante meses após ingressar ​na empresa. Mais de economia

Kim disse que Musk esperava que a xAI implementasse testes e processos de segurança adequados. Mas o supervisor de Kim, o cofundador da xAI Jimmy Ba, desrespeitou essas diretrizes e rejeitou a insistência de ⁠Kim em implementar mecanismos de ​segurança, alega o processo.

Kim ​afirma que Ba o demitiu abruptamente em setembro passado, pouco antes dele fazer uma apresentação sobre segurança em IA ⁠para a liderança da empresa. Leia também: EUA pedem que Europa faça restrições de viagem ligadas ao ebola antes da Copa

A SpaceX e outros empreendimentos de Musk, incluindo a montadora de veículos elétricos ​Tesla, têm sido alvo de questões de segurança, desde riscos para os funcionários da empresa até preocupações com a tecnologia de direção autônoma.

Em 2023, ​a Reuters documentou pelo menos ⁠600 acidentes de trabalho na SpaceX, incluindo membros esmagados, amputações, eletrocussões e uma morte. Alguns funcionários atribuíram os problemas ⁠a uma cultura de segurança negligente e à crença de Musk de que a SpaceX está em uma busca urgente para criar um refúgio no espaço diante de uma Terra em declínio.

A SpaceX não se pronunciou na época, mas em documentos judiciais e em outros locais a empresa defendeu seu histórico de segurança e afirmou que oferece treinamento extensivo em ​segurança.