A OpenAI anunciou na quarta-feira, 7 de janeiro, que estava a lançar uma versão do ChatGPT focada na saúde chamada ChatGPT Health. Denominada "uma experiência dedicada no ChatGPT concebida para saúde e bem-estar", esta nova experiência permitiria aos potenciais utilizadores fornecer as suas informações de saúde pessoais ao ChatGPT.

A empresa afirma que o objetivo do ChatGPT Health é ajudar a dar sentido às informações de saúde dispersas que as pessoas têm de médicos, exames e aplicações de monitorização de saúde, bem como "compreender resultados recentes de exames, preparar consultas com o seu médico, obter conselhos sobre como abordar a sua dieta e rotina de exercícios, ou compreender as compensações de diferentes opções de seguro com base nos seus padrões de cuidados de saúde."

Consigo perceber que a iniciativa tem boas intenções, mas como alguém que mantém quantidades saudáveis de ceticismo em relação a iniciativas de IA, tive de me perguntar: "Pode o ChatGPT oferecer verdadeiro apoio a pessoas que necessitam de cuidados médicos reais?"

Investiguei a sua documentação para resolver algumas das minhas próprias preocupações sobre o próximo lançamento do ChatGPT Health.

Reproduzir Vídeo

Limitações de utilização, recolha de dados

Embora destinado a ajudar os utilizadores a defender-se melhor quando chega a hora de consultar um médico, também diz explicitamente no seu anúncio que foi concebido para "apoiar, não substituir os cuidados médicos." Analisei as limitações que lista que o tornariam elegível para ser um auxiliar, mas não uma substituição das ordens reais de um médico.

De acordo com a página de suporte da OpenAI para o ChatGPT Health, os utilizadores dos EUA com mais de 18 anos podem conectar os seus registos médicos ou de saúde eletrónicos para que o ChatGPT possa falar com eles especificamente sobre questões relacionadas com a saúde na subsecção ChatGPT Health da aplicação. Os utilizadores têm de iniciar sessão nos fornecedores para o fazer, o que alude a algum atrito necessário para manter os seus dados de saúde privados.

Os dados do Apple Health também podem ser conectados ao ChatGPT Health. Também permite que dados de várias aplicações de terceiros — nomeadamente Peloton, MyFitnessPal, Function, Instacart, AllTrails e Weight Watchers — sejam adicionados também.

De acordo com a sua página de suporte, a informação que o ChatGPT Health obtém é isolada e utilizada especificamente para o ChatGPT Health e nenhuma outra função.

Privacidade e proteções de dados

Em termos de privacidade de dados, sinto que tiveram grande cuidado em apaziguar os vigilantes que procuram comportamentos flagrantes.

As pessoas têm de optar por permitir que os seus dados sejam utilizados pelo ChatGPT para as ajudar. Mais notavelmente, a OpenAI declarou o que se pode esperar ver num registo médico, desde "resultados de laboratório, resumos de consultas e historial clínico." Também sugere que esta funcionalidade seja utilizada apenas "se estiver confortável com esta informação estar no ChatGPT."

Dito isto, a OpenAI afirma que os dados que coloca no ChatGPT Health não são utilizados para treinar os seus modelos fundamentais e podem ser eliminados ou removidos quando quiser. Além disso, as conversas do ChatGPT Health, aplicações conectadas, memória e ficheiros estão disponíveis apenas dentro desse serviço.

Embora uma conversa do ChatGPT possa subitamente tornar-se uma conversa do ChatGPT Health se necessário, essa conversa do ChatGPT Health não se torna parte do ChatGPT propriamente dito, embora possa partilhar as suas conversas com outros se quisesse. O ónus está nas suas ações, aparentemente.

Promovendo assistência de médicos

Talvez um grande atrativo potencial do ChatGPT Health para aqueles que estão interessados em utilizá-lo seja o seu foco em obter ajuda de médicos para aperfeiçoar o serviço ao longo de um período de dois anos. De acordo com o anúncio de imprensa, a OpenAI disse que trabalhou com "mais de 260 médicos que praticaram em 60 países e dezenas de especialidades para compreender o que torna uma resposta a uma questão de saúde útil ou potencialmente prejudicial — este grupo forneceu agora feedback sobre os resultados do modelo mais de 600.000 vezes em 30 áreas de foco."

O objetivo, ao que parece, é encorajar as pessoas a procurar ajuda médica e a consolidar informações antecipadamente, tornando mais fácil para os pacientes comunicar como se sentem sem simplificação excessiva de quaisquer sintomas, para ajudar a ver padrões que um paciente pode não notar a ocorrer ao longo do tempo, e para priorizar a segurança dos utilizadores em primeiro lugar.

A OpenAI acrescentou: "Esta abordagem liderada por médicos está integrada diretamente no modelo que alimenta o Health, que é avaliado em relação a padrões clínicos usando o HealthBench⁠, uma estrutura de avaliação que criámos com contributos da nossa rede de médicos em exercício." Diz-se que o HealthBench avalia as respostas do ChatGPT Health com base em rubricas de um médico para refletir qualidade na prática, para priorizar a segurança de um utilizador, para ser claro e para usar escaladas apropriadas de cuidados e respeito pelos contextos da pessoa que utiliza o chatbot.

As minhas preocupações pessoais em relação ao ChatGPT Health

Para mim, como filipino que sabe que os cuidados de saúde são caros e que tem diabetes tipo 2, seria provavelmente prudente aproveitar qualquer vantagem que possa obter se tiver um problema de saúde que exija um diagnóstico.

Embora não quisesse que os meus dados estivessem para sempre no ChatGPT Health — graças a Deus que posso eliminar os meus dados sem questões — o facto de poder acompanhar a minha aptidão física e encorajar-me a consultar um médico para aumentar um regime de exercício ou pelo menos encorajar uma consulta médica se algo estiver errado pode ser útil.

Dito isto, preocupo-me se o ChatGPT leva a raça em consideração, uma vez que existe literatura suficiente para notar disparidades raciais nos cuidados de saúde, embora por razões variadas. Se o ChatGPT Health puder ajudar a criar equidade nos cuidados médicos ao permitir que os pacientes defendam melhor ou comuniquem as suas preocupações, seria favorável a isso.

Entretanto, vou deixar os EUA tomar a liderança e ver como resulta como um serviço real. – Rappler.com