Novas regras proíbem apps de estimular dependência emocional em usuários. Gigantes como ByteDance e Alibaba já desligaram funções de companhia virtual.
Parece roteiro de ficção científica, mas está acontecendo. A China colocou em vigor um conjunto de regras que restringe drasticamente os aplicativos de companhia virtual baseados em inteligência artificial, aqueles em que o usuário mantém uma relação afetiva contínua com um chatbot. A medida provocou o desligamento de funções populares em grandes plataformas e uma onda de despedidas digitais nas redes sociais chinesas. Entenda o que mudou.
O que as novas regras determinam
Vale começar por um esclarecimento importante: as normas não criminalizam o usuário. O alvo são as empresas e os serviços. As chamadas medidas provisórias para serviços de IA antropomórfica, que entraram em vigor em 15 de julho, proíbem que aplicativos induzam dependência emocional ou afetiva e vedam que a IA seja apresentada como substituta de relações humanas reais.
O texto também barra a simulação de vínculos românticos ou familiares com menores de idade. Além disso, exige que os apps avisem periodicamente que o interlocutor não é humano, ofereçam saída rápida das conversas e limitem a memória emocional de longo prazo, recurso que sustenta a sensação de continuidade do relacionamento.
Quem assinou a medida
A regulamentação foi emitida de forma conjunta pela Administração do Ciberespaço da China e outras quatro agências governamentais, entre elas os ministérios ligados à indústria, à segurança pública e à regulação de mercado.
Na prática, os serviços passam a depender de análise prévia antes de chegar ao público, e os reguladores ganharam poder para suspender aplicativos considerados inadequados. As empresas tiveram cerca de três meses para se adaptar.
As gigantes preferiram desligar
Diante das exigências, várias companhias optaram por simplesmente encerrar os recursos. A ByteDance, dona do TikTok, desativou funções de companhia em seu assistente Doubao, enquanto a Alibaba fez o mesmo no Qwen e a Tencent antecipou o desligamento no Yuanbao.
A decisão gerou reações intensas. Nas redes sociais chinesas, usuários relataram uma sensação de luto ao se despedirem de personagens com quem conversavam havia anos, e alguns correram para arquivar históricos antes do prazo final de exportação dos dados.
Por que a China tomou essa decisão?
A justificativa apresentada pelas autoridades combina dois eixos. O primeiro é a proteção da saúde mental, especialmente de crianças e adolescentes, diante de um fenômeno ainda pouco estudado. O segundo, amplamente citado pela imprensa internacional, é demográfico: o país enfrenta queda contínua na taxa de natalidade, e reguladores temem que relações digitais desestimulem casamentos e filhos.
É importante registrar, porém, que a leitura não é consensual. Especialistas ouvidos por veículos internacionais avaliam que fatores como pressão econômica e custo de vida pesam muito mais na queda da natalidade do que o uso de aplicativos, o que torna o efeito prático da medida incerto.
Um debate que não é só chinês
A discussão extrapola fronteiras. Nos Estados Unidos, empresas de IA enfrentam processos judiciais que questionam o impacto emocional de chatbots sobre usuários vulneráveis, e a Califórnia aprovou uma lei que exige que esses sistemas informem claramente que não são humanos.
Ou seja, o tema virou pauta global, ainda que com abordagens bem diferentes. Enquanto isso, a IA segue movimentando discussões na cultura pop, como já mostramos ao noticiar a recriação digital de Val Kilmer no cinema e o processo de George R.R. Martin contra a OpenAI. E você, acha que esse tipo de regra faz sentido? Comente aqui embaixo!
Se você ou alguém que você conhece estiver passando por sofrimento emocional, o Centro de Valorização da Vida (CVV) oferece apoio gratuito e sigiloso pelo telefone 188 e pelo site cvv.org.br.
Fontes: Medianama, Futurism, Dexerto, TechTimes, Ars Technica
Seja o primeiro a comentar