IA generativa na saúde: a promessa é real, o risco também

Todo lançamento de IA generativa na saúde vem acompanhado da mesma promessa: menos tempo digitando prontuário, diagnósticos mais rápidos, decisões melhor informadas. A promessa é real. O problema é que ela está chegando mais rápido do que os guarda-corpos que deveriam vir junto — privacidade, segurança e preparo das equipes que vão operar essas ferramentas todos os dias.

Este é o primeiro post do blog do saude.dev, e escolhemos começar por aqui porque é exatamente onde vivemos: no cruzamento entre clínica, código e compliance.

O boom da adoção

Os números não deixam dúvida sobre a velocidade. Segundo a McKinsey, 50% das organizações de saúde já tinham implementado alguma solução de IA generativa até o quarto trimestre de 2025 — um salto em relação aos 47% de 2024 e aos 25% de 2023. Metade dessas organizações colocou seu primeiro caso de uso em produção há mais de seis meses — ou seja, IA generativa deixou de ser piloto e virou operação (McKinsey, 2025).

Os casos de uso já saíram do papel: copilotos clínicos que geram diagnósticos diferenciais a partir de dados do paciente, chatbots de triagem em portais de pacientes, sumarização de literatura para casos raros, geração de dados sintéticos para pesquisa. É tecnologia real, tocando dado real de paciente real.

Privacidade: o prontuário não pode virar prompt

Aqui está o risco que menos aparece nos pitches de produto: um modelo de linguagem operando sobre texto clínico livre pode inadvertidamente expor informação de saúde protegida (PHI) — seja porque o prompt continha dado identificável, seja porque o modelo “alucinou” informação sensível em uma resposta.

E o cenário de vazamento já é grande sem nenhuma IA envolvida. Só em 2025, 61.556.256 pessoas tiveram dados de saúde protegidos expostos ou divulgados indevidamente nos EUA — uma queda de 78,7% frente a 2024, mas ainda um volume descomunal, concentrado em poucos “mega breaches” como Aflac (13 milhões), Yale New Haven Health (5,5 milhões) e Episource (5,4 milhões) (HIPAA Journal, 2025). Adicionar um pipeline de IA generativa sobre uma base de dados já fragilizada não reduz esse risco — ele pode ampliá-lo, se a arquitetura não for pensada com privacidade desde o primeiro commit.

A resposta técnica não é “não usar IA”. É não deixar dado identificável chegar perto do modelo sem necessidade.

O caminho seguro passa por desidentificação antes de qualquer chamada a um modelo — de preferência, rodando localmente, sem esse dado sequer trafegar para fora do seu ambiente:

É o pilar que guia todo o ecossistema Sciereli HDC: seus dados de saúde são tão sagrados quanto o juramento hipocrático. Zero tráfego de dados de pacientes não é slogan — é arquitetura.

Segurança: uma superfície de ataque nova

Privacidade e segurança andam juntas, mas não são a mesma coisa. Enquanto a primeira trata de quem pode ver o dado, a segunda trata de quem pode roubá-lo — e a saúde continua sendo o alvo favorito. O setor respondeu por 22% dos ataques de ransomware em 2025, o pior índice entre todas as indústrias, com phishing ultrapassando credenciais roubadas como principal vetor de acesso inicial (HIPAA Journal / IBM, 2025).

Cada integração nova com um provedor de IA — uma API, um plugin, um agente autônomo — é uma superfície de ataque a mais para mapear, testar e monitorar. Segurança por padrão (Security by Default) deixa de ser boa prática e vira pré-requisito de compliance quando IA entra na arquitetura clínica.

O gap de preparo dos profissionais

Talvez o dado mais desconfortável de todos: os times que vão operar essas ferramentas no dia a dia não estão sendo preparados para isso. Um levantamento recente do KLAS Arch Collaborative mostrou que menos de 25% dos clínicos que já adotaram ferramentas de IA receberam treinamento adequado sobre como usar o conteúdo gerado por IA em seus fluxos de trabalho — os sistemas de saúde conseguem ativar novas ferramentas mais rápido do que os profissionais conseguem absorvê-las (KLAS Arch Collaborative, 2026).

Uma pesquisa da Wolters Kluwer, de junho de 2025, aprofunda o quadro: apenas 18% dos respondentes conheciam políticas formais sobre supervisão de IA generativa em suas organizações, e só 20% confirmaram treinamento estruturado obrigatório. Apenas 45% se sentiam preparados para lidar com as questões éticas envolvidas (Healthcare Dive / Wolters Kluwer, 2025).

Treinar não é evento único — é processo contínuo, com atualização junto de cada nova capacidade liberada.

A regulação chegou: CFM 2.454/2026 e a ANPD

Enquanto o mercado corria, o marco regulatório também avançou — e chegou com força no Brasil. A Resolução CFM nº 2.454/2026, publicada em 27 de fevereiro e com vigência a partir de 26 de agosto de 2026, normatiza pesquisa, desenvolvimento, governança, auditoria, monitoramento, capacitação e uso responsável de IA na medicina em todo o território nacional (Portal CFM, 2026; texto integral).

Em paralelo, a ANPD incluiu inteligência artificial, anonimização e dados sensíveis de saúde na sua Agenda Regulatória 2025-2026, e consolidou contribuições públicas sobre decisões automatizadas na Nota Técnica nº 12/2025 (Migalhas, 2025; Macher Tecnologia, 2025). Projetos de IA em saúde precisarão registrar finalidade, categoria de dado, controle de acesso, retenção, medidas de segurança, hipótese legal e critérios de anonimização ou pseudonimização — exatamente o tipo de rastro que uma boa governança de dados já deveria manter.

IA generativa feita com responsabilidade

Nada disso é motivo para evitar IA generativa — é motivo para aplicá-la com método. É assim que construímos os produtos do nosso próprio ecossistema: documentação clínica assistida que não exige colar prontuário bruto em nenhum chatbot de terceiros, e um assistente jurídico que combina RAG com um painel de especialistas humanos revisando a saída, em vez de decidir sozinho.

Software de saúde seguro começa na infraestrutura. IA generativa não muda essa regra — só aumenta a superfície que precisa de zero trust, isolamento e monitoramento contínuo.

Compliance não é checkbox — é arquitetura

Os números deste artigo contam a mesma história de três ângulos diferentes: a adoção de IA generativa na saúde é real e acelerada; o vazamento de dados de saúde continua em escala de dezenas de milhões de pessoas por ano; e a maioria das equipes clínicas ainda não recebeu o treinamento necessário para operar essa nova geração de ferramentas com segurança. A regulação — CFM 2.454/2026, LGPD, agenda da ANPD — está fechando o cerco em torno de quem trata esse risco como detalhe.

Vi dados clínicos tratados como texto livre em planilhas compartilhadas no SUS. IA generativa sem privacy by design é o mesmo problema, só que mais rápido e em escala maior.

Se sua organização está avaliando onde e como introduzir IA generativa em produtos ou processos de saúde, esse é exatamente o tipo de projeto que ajudamos a estruturar — da arquitetura de dados ao relatório de conformidade.

Fontes

• McKinsey — Generative AI in healthcare: current trends and future outlook (2025)
• HIPAA Journal — 2025 Healthcare Data Breach Report
• HIPAA Journal — Largest Healthcare Data Breaches of 2025
• KLAS Arch Collaborative, via HealthSystemCIO — AI Training Gap Leaves Clinicians Unprepared (2026)
• Healthcare Dive — Healthcare organizations could be unprepared to adopt generative AI: survey (jun/2025)
• Portal CFM — CFM normatiza uso da IA na medicina / Resolução CFM nº 2.454/2026 (texto integral)
• Migalhas — Destaques da Agenda Regulatória 2025-2026 da ANPD
• Macher Tecnologia — ANPD, Inteligência Artificial e LGPD: Nota Técnica nº 12/2025