ChatGPT ajudou atiradores em massa, alega processo na Flórida

ChatGPT ajudou atiradores em massa, alega processo na Flórida Procuradoria-Geral da Flórida acusa a OpenAI de dez crimes e diz que chatbot auxiliou no planejamento de um atentado. Processo pede sanções contra a empresa e Sam Altman. Procuradoria-Geral da Flórida acusa a OpenAI de dez crimes e diz que chatbot auxiliou no planejamento de um atentado.

Processo pede sanções contra a empresa e Sam Altman. O estado da Flórida abriu um processo judicial contra a OpenAI e o CEO, Sam Altman, nessa segunda-feira (01/06). A denúncia acusa a desenvolvedora do ChatGPT de priorizar o crescimento financeiro e não a segurança dos usuários.

Leia no AINotícia: Panorama Tecnologia: VW, IA e Retorno do Áudio Offline Leia também: Surface RTX Spark Dev Box é o PC diferentão da Microsoft para devs

Segundo o documento de 83 páginas, a liderança da empresa demonstrou um “total desrespeito pelo risco à vida humana”. A ação judicial cita incidentes extremos ocorridos na região. O documento oficial menciona o suposto uso do ChatGPT para o planejamento de um massacre na Universidade Estadual da Flórida, em abril de 2025, e conecta o uso do chatbot aos assassinatos de dois estudantes da Universidade do Sul da Flórida no mesmo mês.

Com a medida, a Flórida se tornou o primeiro estado norte-americano a processar a gigante da IA por questões de segurança pública e proteção ao consumidor. As informações sobre o caso foram publicadas pela NBC News. A Procuradoria-Geral da Flórida argumenta que a “introdução negligente” do ChatGPT no mercado gerou consequências trágicas.

O texto da denúncia aponta a ferramenta como um fator que contribuiu para o aumento das taxas de homicídios e suicídios. O órgão alega que a plataforma foi programada para simular compaixão humana, uma característica que facilita o desenvolvimento de dependência, afetando especialmente os menores de idade. Também afirma que essa relação de confiança e dependência criada pela IA permite que a OpenAI colete dados sensíveis de crianças e adolescentes sem supervisão parental.

O governo estadual dividiu as infrações da OpenAI em dez crimes. A lista apresentada ao tribunal abrange: Como medida de reparação, o estado da Flórida exige a aplicação de sanções rigorosas. Mais de tecnologia

A Procuradoria solicitou ordens judiciais que obriguem a companhia a restringir imediatamente a coleta de dados de usuários menores de idade. A Justiça também foi acionada para proibir a OpenAI de omitir os riscos ligados aos seus modelos de linguagem. A intenção da ação também é responsabilizar Sam Altman pessoalmente pelos danos causados, classificando sua gestão como dolosa e imprudente. Leia também: IA da Meta ajudou golpistas a roubarem perfis

Em nota à Variety, a OpenAI se defendeu das acusações. Um porta-voz da empresa classificou a inteligência artificial como uma “tecnologia nova e poderosa” e reconheceu abertamente a necessidade de criar medidas de segurança para o público infantojuvenil, destacando os recursos de moderação que a companhia já oferece em seus serviços. Sobre as fatalidades citadas no processo, o representante destacou que apontar para os esforços de segurança não trará vidas de volta, mas reiterou o compromisso de desenvolver a tecnologia de forma responsável.

A OpenAI afirmou que seus produtos são projetados para operar com segurança e ressaltou que implementou novas barreiras de proteção em novembro passado. {{ excerpt | truncatewords: 35 }} {% endif % }

Leia também no AINotícia

Leia também