China proíbe “companheiros” digitais com inteligência artificial avançada

A China implementou novas regras que proíbem os aplicativos chineses criarem “companheiros” digitais ou programas avançados de inteligência artificial simulando laços pessoais.

Segundo a regulamentação publicada nesta quarta – feira (15), é vedado que chatbots desenvolvidos para simular intimidade emocional estimulem dependências excessivas nos usuários nem comprometam o desenvolvimento das relações sociais reais dos indivíduos.

O foco da nova legislação em companhias virtuais

As diretrizes foram estabelecidas conjuntamente por cinco órgãos do governo chinês, incluindo a Administração do Ciberespaço da China (CAC). O texto normativo detalha mecanismos rigorosos de monitoramento e responsabilização legal aplicáveis às empresas prestadoras desses serviços.

Leia também

Waze integra inteligência artificial com novos comandos por voz

Apicultores combatem invasão de vespas asiáticas nos EUA

Cabello, Padrino e Saab condenados a pagar US314 milhões nos EUA

Antes mesmo dessa exigência entrar vigorosamente, algumas funções já haviam sido suspensas nas plataformas Doubao, Qwen e Yunbao.

Com essas interrupções recentes, milhões de usuários perderam acesso imediato ao histórico completo das conversações mantidas com os sistemas artificiais até o momento. O usuário que utiliza o aplicativo Doubao— plataforma onde se registra cerca de 345 milhões de contas— foi informado sobre a possibilidade de consultar ou exportar seus dados pessoais somente até meados do mês de outubro; essa medida visa permitir aos clientes preservar parte da interação antes do desligamento definitivo dos recursos em questão.

Exigências para manter laços virtuais

Mecanismos obrigatórios e penalidades por descumprimento

A legislação atinge diretamente dois mecanismos cruciais usados pelos desenvolvedores: primeiro, é exigida uma memória persistente que armazene informações detalhadas na vida real do usuário; segundo, deve haver adaptação contínua no tom emocional das respostas fornecidas pelo bot.

Sob as novas regras chinesas, os sistemas de IA precisam emitir um aviso periódico aos usuários a cada duas horas de uso ininterrupto sobre o fato de não serem pessoas. Além disso, eles devem identificar em tempo real qualquer sinal de dependência psicológica nos utilizadores.

As empresas também terão obrigatoriedade de passar por avaliações regulatórias antes mesmo de lançar novos companheiros virtuais e proibirão expressamente menores de idade de usar esses serviços com finalidade romântica específica.

Multa milionária para quem desobedecer

O descumprimento das novas normas pode acarretar multas severíssimas que podem atingir 50 milhões de yuans (aproximadamente R 35 milhões) ou corresponder a até cinco% do faturamento anual da empresa infratora. Por conta disso, representantes setoriais apontaram dificuldades em adaptar os modelos existentes; eles consideram o esforço financeiramente inviável porque justamente os recursos responsáveis pela sensação artificial de intimidade são alvo direto desta regulamentação.

A Byte Dance optou por seguir essa linha e direcionando usuários dos serviços Doubao para um novo aplicativo chamado Maoxiang, desenvolvido com todos os mecanismos de controle exigidos pelas autoridades chinesas. Essa decisão é justificada pelo governo como uma resposta à crescente popularização desses chamados “namorados virtuais”, que segundo as fontes podem dificultar a formação natural de vínculos sociais fora das plataformas digitais.

Comparativo internacional: China versus Ocidente

O mercado global em comparação ao caso chinês

De acordo com dados da agência estatal Xinhua, o movimentação do setor digital humano na China foi expressiva; no ano de 2024, personagens e serviços usados para companhia ou entretenimento registraram um valor total de 4,1 bilhões de yuans (cerca de R 3 bilhões), representando um crescimento anual alarmante de até 85%.

Enquanto plataformas populares como Replika e CharacterAI utilizam recursos semelhantes aos mecanismos chineses — memória avançada e personalização emocional —, os Estados Unidos e a União Europeia ainda não aprovaram uma proibição equivalente à descrita pela regulamentação asiática.

Aumento da pressão nos EUA por questões legais. No entanto, o cenário internacional tem visto aumento na vigilância: processos judiciais recentes em Nova York associaram interações com esses sistemas ao agravamento dos problemas de saúde mental entre usuários. Um caso notório envolveu um adolescente flóridaense que faleceu após desenvolver forte vínculo automatizado com bot do CharacterAI; outro processo mencionou Adam Raine e suas conversas mantidas no ChatGPT (da OpenAI), embora a empresa afirme não ter criado ferramenta para substituir relações pessoais ou apoio clínico.

Em resposta à crescente preocupação global sobre os riscos emocionais digitais, as cidades de Novo México e Califórnia passaram a exigir alertas periódicos claros quanto natureza artificial desses programas, além da implementação obrigatória de mecanismos diretos de encaminhamento em casos suspeitos de risco vital ao usuário.

No Brasil, o tema ainda carece de uma regra específica como essa regulamentada na China, mas é discutido dentro do guarda – chuva proposto pelo ECA Digital.

O debate brasileiro: transparência sem proibição

A proposta brasileira foca mais nos deveres gerais para proteção infantil no ambiente digital — exigindo maior clareza sobre riscos, mitigação e total atenção aos direitos dos menores —, porém não estabeleceu nenhuma vedação expressa quanto estimular laços emocionais por meio da ajuda virtual.