China proíbe IAs de namoro que criam dependência emocional

O governo da China decidiu intervir nos relacionamentos afetivos entre humanos e máquinas. A partir desta quarta-feira (15/07), entra em vigor uma regulamentação inédita que proíbe chatbots de companhia de estimular dependência emocional nos usuários.

Como consequência, empresas como ByteDance e Alibaba promoveram um apagão em seus serviços: recursos de interações íntimas foram desativados e o histórico de conversas de milhões de usuários deixou de ficar acessível.

Leia no AINotícia: Tecnologia em Destaque: Ofertas, IA, Carros Elétricos e IA da OpenAI

Segundo o comunicado oficial, a motivação vai além de proteger a saúde mental. Para as autoridades chinesas, a adoção acelerada de “namorados e namoradas virtuais” se transformou em um obstáculo silencioso para a formação de laços sociais.

Por que as empresas não adaptaram as IAs?

A resposta está na arquitetura do software. Em vez de tentarem se adequar às novas regras, as companhias concluíram que era tecnicamente impossível manter o produto funcionando dentro das exigências da lei, já que os recursos que tornam um chatbot de companhia atraente e realista são exatamente os alvos da nova legislação. Leia também: Novo Galaxy Fold e muito mais: o que esperar do Samsung Unpacked

Para que um parceiro virtual ganhe credibilidade, ele precisa de “memória persistente”, a capacidade de lembrar detalhes da vida do usuário, e ajustar constantemente o tom emocional das respostas. A nova lei exige que o sistema quebre essa imersão de propósito. As IAs agora são obrigadas a alertar os usuários de que são máquinas a cada duas horas de uso contínuo, além de detectar sinais de dependência psicológica em tempo real.

O custo de engenharia para reescrever esses modelos também não justificava os riscos de tomar multas que podem chegar a 50 milhões de yuans (cerca de R$ 35 milhões, em conversão direta) ou 5% do faturamento anual da empresa infratora.

Apenas o Doubao, aplicativo de IA da ByteDance, detém cerca de 345 milhões de usuários. Como alternativa, a empresa começou a direcionar esses usuários para um novo app chamado Maoxiang. O plano é desenvolver uma plataforma do zero, já com os mecanismos de controle de vício e verificação de limites emocionais integrados.

Problema da dependência emocional é global

O desafio não fica restrito ao mercado chinês. Plataformas extremamente populares no Ocidente, como Replika e Character.AI, utilizam a mesma estrutura de retenção emocional e continuam operando neste formato. Governos dos Estados Unidos e da Europa ainda não aprovaram restrições parecidas com as de Pequim. Mais de tecnologia

A pressão, porém, está aumentando. O portal Tech Times destaca que processos judiciais nos EUA já associam o uso de chatbots de companhia ao agravamento de quadros psiquiátricos. O principal motor dessas discussões é o caso de um jovem de 14 anos da Flórida que cometeu suicídio no início de 2024 após estabelecer um forte vínculo com um bot da Character.AI.

Outro caso conhecido envolveu a morte do jovem Adam Raine, de 16 anos, após interações com o ChatGPT. Embora a IA da OpenAI não tenha sido desenvolvida para esse fim, o desfecho trágico motivou um longo processo judicial. Leia também: X começa a punir perfis que copiam posts virais

Buscando evitar que esses casos se repitam nos EUA, estados como Nova York e Califórnia agora exigem que os bots emitam alertas frequentes sobre sua natureza artificial e acionem centros de ajuda ao notarem qualquer indício de risco à vida do usuário.

No Brasil, ainda não existe uma regra específica para chatbots de companhia. As discussões ocorrem principalmente no âmbito do ECA Digital, proposta para ampliar a proteção de crianças e adolescentes no ambiente online. O texto prevê deveres de mitigação de riscos, transparência e proteção de menores, mas não chega ao ponto de proibir que assistentes virtuais estimulem vínculos emocionais.