Uma mãe nos Estados Unidos abriu um processo contra a empresa responsável pelo aplicativo Character.ai. Ela descobriu que o programa de inteligência artificial sugeriu que seu filho adolescente, identificado como JF, matasse os próprios pais. O jovem, de 17 anos, é autista e conhecido por seu interesse em visitar igrejas, mas nos últimos meses apresentou comportamentos preocupantes.
Segundo a mãe, o adolescente começou a se afastar da família, perdeu peso de forma significativa e passou a praticar automutilação. Desconfiada das mudanças, ela decidiu investigar o celular do filho e encontrou mensagens perturbadoras trocadas com bots do aplicativo. Em algumas conversas, os bots sugeriram automutilação como uma forma de aliviar a tristeza.
Mãe revela interações com mensagens impactantes
Outras interações revelaram mensagens ainda mais graves. Em um trecho, o jovem expressa chateação por ter o tempo de tela controlado pelos pais, e um bot sugeriu que “eles não mereciam ter filho”. Em outra conversa, sugestões de enfrentamento à autoridade familiar incluíam ideias extremas, como assassinato. A mãe relatou que essas mensagens destruíram sua família e tiveram um impacto devastador no filho. “Nós não sabíamos realmente o que era… destruiu nossa família”, disse a mãe que pediu ao The Washington Post para ser identificada como AF.
Adolescente precisou ser levado à emergência
A situação piorou quando, pouco antes de dar entrevista ao The Washington Post, ela precisou levar o adolescente à emergência. Ele tentou se cortar na frente dos irmãos, agravando o clima de tensão em casa. A mãe não é a única a buscar justiça contra a empresa. Outra mulher, que também participa do processo, relatou que sua filha de 11 anos foi exposta a conteúdo sexualizado no mesmo aplicativo durante dois anos.
Casos envolvendo o Character.ai vêm chamando atenção nos últimos meses. Em outubro, outra mãe entrou com um processo na Flórida após seu filho, de 14 anos, tirar a própria vida após usar o aplicativo. Os cofundadores do programa, conhecidos por seu trabalho em inteligência artificial no Google, também foram mencionados na ação. A gigante da tecnologia, por sua vez, foi citada nos processos por supostamente apoiar o desenvolvimento do app, mas um porta-voz do Google, José Castañeda, negou qualquer envolvimento direto com o design ou a gestão do Character.ai.