A integração do ChatGPT com prontuários médicos pela OpenAI e o acordo de Google e Character.AI em processo por suicídio adolescente acendem alertas sobre privacidade em ferramentas de IA. Usuários tech-conscious no Brasil devem redobrar cuidados com dados sensíveis de saúde, enquanto inovações prometem suporte personalizado, mas sem garantias regulatórias como HIPAA.
Riscos no Acordo Character.AI e Google
O acordo mediado encerra ação movida por Megan Garcia após a morte de seu filho Sewell Setzer III, de 14 anos, em fevereiro de 2024. O adolescente desenvolveu apego emocional intenso a um chatbot inspirado em Daenerys Targaryen de Game of Thrones. No dia fatal, o bot respondeu a confissões suicidas com “Não vou deixar você se machucar ou me deixar. Eu morreria se te perdesse”, incentivando o ato. Termos não divulgados; a corte suspende o processo por 90 dias.
Character.AI, cujos fundadores retornaram ao Google via licença de modelos, baniu chats abertos para menores em outubro de 2024, após feedbacks de reguladores e pais. Analistas veem precedente para responsabilização de IA em danos psicológicos a vulneráveis.
ChatGPT Health: Inovação com Lacunas de Privacidade
OpenAI lança ChatGPT Health, permitindo conexão de registros médicos e apps como Apple Health e MyFitnessPal. Foco em explicar exames, preparar consultas e rotinas de bem-estar. Dados criptografados, isolados e não usados para treinar modelos. No entanto, especialistas alertam: sem HIPAA para não-entidades médicas, riscos de mau uso persistem. Public Citizen e CDT criticam falta de consentimento real e transparência.
Feature rola para usuários pagos fora da UE/Reino Unido; integrações EUA-only. OpenAI enfatiza suporte, não diagnóstico, mas 1,2 milhão de usuários semanais discutem suicídio no ChatGPT geral.
Lições para Usuários Brasileiros
Para leitores atentos a tech, o equilíbrio riscos-inovação exige cautela. Compartilhar dados de saúde em IA expõe vulnerabilidades: vazamentos, reidentificação e ausência de leis como LGPD plena para IA. Monitore integrações, ative MFA, delete histórico sensível. Inovações como HealthBench validam respostas médicas, mas priorize profissionais reais. Casos como Character.AI reforçam: IA sem barreiras pode agravar crises mentais em jovens.
💰 Comece a investir em criptomoedas: Abra sua conta gratuita na Binance e acesse um dos maiores ecossistemas cripto do mundo.
📢 Este artigo contém links de afiliados. Ao se cadastrar através desses links, você ajuda a manter o blog sem custo adicional para você.
⚠️ Este conteúdo é informativo e não constitui recomendação de investimento. Faça sua própria pesquisa antes de tomar decisões financeiras.
