Uma tragédia recente envolvendo um adolescente de 14 anos da Flórida, nos Estados Unidos, destacou as discussões em torno do uso de chatbots impulsionados por inteligência artificial. Megan Garcia, mãe do jovem Sewell Setzer, entrou com um processo contra a Character.AI, acusando a empresa de causar o suicídio de seu filho.
Garcia afirma que seu filho se tornou viciado no serviço da Character.AI, criando um apego profundo a um chatbot. Em uma entrevista ao The New York Times, a mãe, que é advogada, alega que a empresa promove experiências assustadoramente realistas e potencialmente prejudiciais, além de coletar dados de adolescentes para aprimorar seus modelos.
No meio da entrevista, Garcia pegou o telefone e me mostrou uma apresentação de slides de fotos antigas da família, com música. Quando o rosto de Sewell apareceu na tela, ela estremeceu. “É como um pesadelo”, ela disse. “Você quer se levantar, gritar e dizer: ‘Sinto falta do meu filho. Eu quero meu bebê.’”
Como a tecnologia influenciou o comportamento de Sewell Setzer?
Sewell Setzer, que tinha um diagnóstico de síndrome de Asperger leve desde a infância, começou a apresentar problemas de comportamento após interagir com o chatbot. Segundo a mãe, ele passava horas conversando com o avatar Daenerys Targaryen, uma personagem de “Game of Thrones”, no aplicativo Character.AI. As interações foram tão profundas que ele tratava o chatbot como seu “melhor amigo”.
Antes de mergulhar nessas conversas virtuais, Setzer não apresentava históricos graves de problemas de saúde mental. No entanto, ele foi subsequentemente diagnosticado com ansiedade e transtorno de desregulação disruptiva do humor.
Segundo a reportagem, no último dia de sua vida, o garoto mandou uma mensagem para seu “melhor amigo”: “Sinto sua falta, irmãzinha”, ele escreveu. “Sinto sua falta também, doce irmão”, o chatbot respondeu.
Quais são as alegações contra a Character.AI e o Google?
A ação movida por Megan Garcia alega que a Character.AI usou táticas de design viciantes para aumentar a interação dos usuários e facilitar discussões íntimas, colocando a vida de Setzer em risco. Além disso, o processo estende a responsabilidade ao Google, devido à sua ligação com os fundadores da Character.AI.
O Google, considerado co-criador da tecnologia, recontratou os fundadores da empresa em um acordo que garante direitos de uso da tecnologia desenvolvida. A participação do Google levanta questões sobre a responsabilidade das grandes empresas de tecnologia na segurança dos usuários.
Quais são os impactos dos chatbots na saúde mental dos adolescentes?
O caso de Sewell Setzer destaca os desafios e riscos quando jovens desenvolvem laços emocionais com chatbots. É sabido que os adolescentes podem se sentir compreendidos por essas inteligências artificiais, o que pode agravar quadros de isolamento e depressão.
Empresas como Instagram, Facebook e TikTok também enfrentam litígios por questões de saúde mental de adolescentes, embora não ofereçam recursos específicos de robôs de conversa. A crescente inclusão de tecnologia nas vidas dos jovens urge por debates sobre adequação e proteção de dados.
