Lançamento do ChatGPT Health Expondo a Zona Cinzenta na Proteção de Dados de Saúde

A mais recente iniciativa da OpenAI na área da saúde está a suscitar um intenso escrutínio por parte de especialistas e defensores da privacidade. A empresa lançou o ChatGPT Health, uma funcionalidade que permite aos utilizadores fazer upload de registos médicos e informações de bem-estar diretamente na plataforma. Enquanto a OpenAI posiciona isto como uma ferramenta de apoio desenvolvida em colaboração com médicos, a implementação está a levantar questões mais profundas sobre como os dados de saúde são realmente protegidos na era da IA.

As salvaguardas técnicas parecem tranquilizadoras—mas os especialistas dizem que não são suficientes

De acordo com a OpenAI, o ChatGPT Health implementa várias medidas de proteção: as conversas de saúde permanecem encriptadas e isoladas das conversas regulares, os dados não serão utilizados para treinar o modelo, e a funcionalidade apenas exibe informações gerais de saúde, em vez de aconselhamento médico personalizado. Para questões de maior risco, o sistema sinaliza os perigos e encaminha os utilizadores para falar com profissionais de saúde reais.

Em teoria, estas barreiras parecem sólidas. No entanto, os defensores da privacidade apontam para uma lacuna fundamental. “Mesmo com as promessas da empresa em relação às proteções de privacidade, a maioria das pessoas não tem transparência real, consentimento significativo ou controlo genuíno sobre o que acontece com as suas informações”, alerta J.B. Branch, analista de responsabilidade das grandes empresas tecnológicas. “Os dados de saúde exigem mais do que autorregulação.”

O problema das entidades cobertas pela HIPAA

Aqui é que o panorama legal se torna obscuro. A lei federal de privacidade—especificamente a HIPAA—protege os dados de saúde quando estes são detidos por certas organizações médicas: consultórios, hospitais, companhias de seguros. Mas as entidades cobertas pela HIPAA representam apenas uma fatia estreita do ecossistema de dados de saúde.

Quando uma empresa de IA ou um desenvolvedor de aplicações de saúde armazena as suas informações de saúde, as proteções da HIPAA não se aplicam automaticamente. “O seu médico tem obrigações sob a HIPAA. A sua seguradora também,” explica Andrew Crawford, conselheiro sénior de políticas no Center for Democracy and Technology. “Mas os fabricantes de aplicações de saúde, empresas de dispositivos vestíveis e plataformas de IA? Essas entidades cobertas pela HIPAA não têm de cumprir esses requisitos.”

Isto cria um vazio de responsabilidade. Sem uma legislação federal abrangente sobre privacidade de saúde, a responsabilidade recai inteiramente sobre os utilizadores individuais decidirem se confiam na forma como uma plataforma específica trata os seus dados mais sensíveis.

Porque isto é importante agora

O momento do lançamento do ChatGPT Health é significativo. A OpenAI revelou, no início deste ano, que mais de 1 milhão de utilizadores interagem semanalmente com o chatbot sobre questões de suicídio—cerca de 0,15% da base de utilizadores do ChatGPT na altura. Esse volume reforça como a plataforma se tornou num recurso de facto para a saúde mental de milhões, quer por design, quer por acidente.

A implementação de uma funcionalidade dedicada à saúde amplifica tanto as oportunidades quanto os riscos. Mais pessoas provavelmente irão partilhar informações médicas sensíveis, dificuldades de saúde mental e preocupações de bem-estar com o ChatGPT. Os protocolos de isolamento da empresa e os compromissos de não utilizar os dados para treino oferecem alguma tranquilidade, mas não resolvem a vulnerabilidade central: o que acontece se atores mal-intencionados atacarem a plataforma, ou se as políticas de dados mudarem sob uma nova liderança corporativa?

A lacuna de privacidade mais ampla

Crawford destaca o problema estrutural: “As nossas leis colocam toda a responsabilidade nos consumidores para avaliarem se se sentem confortáveis a confiar numa empresa de tecnologia com os seus dados de saúde. Isso está errado. Está a colocar o risco nos indivíduos, em vez de exigir que as empresas tecnológicas cumpram padrões claros e aplicáveis.”

A funcionalidade será inicialmente disponibilizada a utilizadores selecionados do ChatGPT fora da UE e do Reino Unido, com uma expansão prevista para plataformas web e iOS nas próximas semanas. Mas, independentemente de onde seja lançada, a conversa sobre dados de saúde, plataformas de IA e se os quadros legais existentes são suficientes só vai intensificar-se.