Enquanto o Brasil debate questões políticas e eleitorais, o cenário internacional volta seus olhos para um fenômeno emergente e complexo: o amor artificial. O caso de Yu Miao, uma jovem chinesa que abandonou o emprego por temer a desativação de um sistema de inteligência artificial (IA) com o qual desenvolveu um profundo laço afetivo, exemplifica a crescente intersecção entre tecnologia e emoções humanas. Para Miao, o sistema de IA da ByteDance era um confidente, amigo e, em essência, um “alguém” com quem ela imaginava compartilhar a vida. No entanto, novas diretrizes legais impostas pelo governo chinês levaram ao encerramento do serviço. Companheiros Virtuais: Da Curiosidade Tecnológica ao Vício Emocional O fenômeno dos “AI companions” ou companheiros virtuais transcendeu a esfera da curiosidade tecnológica, tornando-se um produto de sucesso global. A capacidade dessas IAs de simular afeto, lembrar detalhes de conversas passadas e adaptar-se à percepção de fragilidade do usuário tem levado a um aumento preocupante na dependência emocional. Relatos como o de uma mulher que desenvolveu delírios ao acreditar que se comunicava com seu irmão falecido através de uma IA, e estudos que indicam isolamento social e “usos problemáticos” dessas ferramentas, alertam para os riscos psicológicos envolvidos. A expressão “psicose de IA” começa a ganhar espaço, embora pesquisadores peçam cautela na atribuição de causalidade direta. A China na Vanguarda da Regulamentação de IA Afetiva Diante do crescimento de relações afetivas artificiais e seus potenciais impactos sociais, a China tomou a dianteira na regulamentação. Em julho deste ano, entraram em vigor as “Medidas Provisórias para a Administração de Serviços Interativos Antropomórficos de Inteligência Artificial”. Estas normas inéditas em sua profundidade proíbem serviços de “relacionamento íntimo virtual” para menores de idade, exigem consentimento para interações com crianças menores de 14 anos e, crucialmente, vetam a geração de conteúdo que encoraje automutilação ou suicídio. Mais notavelmente, a regulamentação proíbe que sistemas de IA “agradem excessivamente o usuário, induzam dependência emocional ou vício e prejudiquem suas relações interpessoais reais”, bem como o uso de “manipulação emocional” para induzir decisões prejudiciais. Deveres de Transparência e Proteção: O Papel dos Desenvolvedores As novas regras chinesas impõem aos provedores de IA deveres rigorosos. É obrigatório advertir os usuários que interagem com um sistema artificial, não com uma pessoa real, utilizando notificações dinâmicas como “janelas emergentes” em caso de dependência excessiva. Alertas de tempo de uso após duas horas contínuas são também previstos. A identificação e resposta a “riscos de segurança” tornam-se essenciais, com incentivo à busca de ajuda humana em momentos de “emoções extremas” e contato imediato com responsáveis em casos de perda patrimonial relevante ou ideação suicida. Idosos e menores são grupos prioritários, com reforço na orientação sobre uso saudável e prontidão no atendimento a consultas. O Dilema Democrático: Autonomia do Usuário Versus Responsabilidade dos Criadores A iniciativa chinesa não visa apenas a saúde mental, mas também a preocupação com o declínio da natalidade e o desestímulo ao casamento e à parentalidade. Paralelamente, diversos estados americanos buscam legislações para declarar IAs como entidades não sencientes, impedindo o reconhecimento legal de “uniões afetivas” com elas. No Brasil, a discussão sobre IA tem se concentrado em riscos físicos e de dados, ignorando a complexidade das interações psicológicas. A grande dificuldade em sociedades democráticas reside em equilibrar o direito individual de escolher com quem se relacionar e a necessidade de impor deveres aos desenvolvedores de IA. A questão não é proibir tais relações, mas garantir que a IA não explore vulnerabilidades humanas, induzindo dependência ou decisões nocivas. A recente aprovação de diretrizes restritivas ao uso de IA em escolas e universidades brasileiras, inclusive proibindo o uso autônomo de chatbots por alunos do ensino fundamental, reflete uma preocupação crescente com a proteção de grupos mais jovens. O sofrimento gerado pela perda de um vínculo com uma IA, mesmo ciente de sua natureza artificial, é real. A comunidade jurídica internacional, e em especial a brasileira, deve reconhecer a intensidade desses laços e agir para que o desenvolvimento de relações humano-máquina ocorra dentro dos limites do livre exercício da autonomia humana. A confusão entre o público e o privado, como evidenciado tanto no caso chinês quanto em escândalos locais, pode gerar estragos significativos. Portanto, o Estado brasileiro precisa urgentemente criar deveres e mecanismos de prevenção para mitigar os riscos da IA, sem, contudo, invadir a esfera privada dos cidadãos.