Muitos usuários tratam o ChatGPT como um confidente de confiança a quem confidenciam seus segredos e preocupações. A expectativa de confidencialidade lembra as conversas protegidas com médicos ou terapeutas. Entretanto, ao contrário das formas tradicionais de comunicação, a privacidade é limitada nos diálogos digitais de IA.
Varredura automática da OpenAI
A OpenAI conta com sistemas técnicos para detectar conteúdo problemático logo no início. Em uma declaração oficial, a empresa explica:
Aproveitamos um amplo espectro de ferramentas, incluindo modelos de moderação dedicados e o uso de nossos próprios modelos para monitoramento de riscos de segurança e abuso.
Isso deixa bem claro que cada conversa é analisada quanto a possíveis riscos e que os moderadores podem acessar as informações, se necessário.
Situações de crise e comunicação às autoridades
Os casos de emergências de saúde mental são particularmente sensíveis. A OpenAI enfatiza que: “Se alguém expressar intenção suicida, o ChatGPT é treinado para orientar as pessoas a procurar ajuda profissional.” Ao mesmo tempo, a empresa diferencia claramente entre automutilação e colocar os outros em perigo. Os pensamentos suicidas não são relatados à polícia para proteger a privacidade das pessoas afetadas. No entanto, ela afirma:
Quando detectamos usuários que estão planejando prejudicar outras pessoas, encaminhamos suas conversas para canais especializados… podemos encaminhá-las para as autoridades policiais.
Áreas cinzentas legais e questões em aberto
A prática de vigilância levanta questões legais e éticas. Os usuários esperam confidencialidade, mas também precisam aceitar a moderação técnica e, em casos extremos, a divulgação às autoridades. Ainda não se sabe como esse equilíbrio entre segurança e privacidade prevalecerá em diferentes sistemas jurídicos.
Privacidade restrita em conversas de IA
O debate sobre a privacidade do ChatGPT está sendo exacerbado por incidentes e ações judiciais internacionais. Uma coisa é certa: a privacidade nas conversas de IA é limitada. Futuras decisões judiciais e requisitos regulatórios serão decisivos para determinar até onde a OpenAI pode ir em seu monitoramento e até que ponto a privacidade dos usuários é protegida
