O que você vai aprender aqui
- Quatro casos reais de IA já operando em hospital brasileiro: segurança de prescrição (NoHarm.ai), documentação clínica automatizada (Voa Health), triagem preventiva por hemograma (Huna) e robótica de farmácia hospitalar (Hospital Alemão Oswaldo Cruz)
- Uma dica prática por caso de uso, para separar o que cada ferramenta já prova do que ela ainda promete
- A diferença entre a Resolução CFM 2.454/2026, que regula a conduta do médico, e a RDC 657/2022 da Anvisa, que regula o software como produto, e por que confundir as duas deixa o hospital exposto nas duas pontas
- Por que o artigo 14 do Código de Defesa do Consumidor já responde quem paga a conta quando um hospital adota inteligência artificial na saúde e ela erra, antes mesmo de discutir a culpa do médico
- O que a Resolução CFM 2.454/2026, em vigor desde o fim de agosto de 2026, exige por escrito antes de qualquer decisão clínica apoiada por IA
- Por que o viés algorítmico é risco de segurança do paciente, não só item de auditoria, num país onde a maioria dos pacientes do SUS não é a população que treinou o modelo importado
- Três ações de baixo custo para aplicar antes de aprovar a próxima ferramenta de inteligência artificial na saúde
Este artigo complementa o e-book gratuito O Mapa do Explorador, que mostra como decidir onde investir em tecnologia setor por setor sem precisar estar no time técnico, aplicado aqui à decisão de aprovar ou não uma ferramenta de IA num hospital.
Desde 2021, sou professor convidado da disciplina Comunicação Médica na pós-graduação da Faculdade de Medicina da USP, coordenada pelo Prof. Dr. Miguel Srougi e pelo Dr. Alexandre Danilovic. Os temas que levo para essa turma de médicos, engenharia de prompts aplicada à medicina e o uso de mídias sociais na prática médica, colocam um problema na minha frente todo semestre: o médico aprende a usar a ferramenta antes de alguém no hospital decidir quem responde quando ela erra.
Esse problema já é concreto. Hospital brasileiro já usa inteligência artificial na saúde para priorizar prescrição de risco, transcrever consulta, sinalizar risco de câncer a partir de exame de rotina e separar medicamento no estoque. Falta uma resposta simples: se a IA errar e o paciente sofrer dano, quem paga a conta primeiro, o hospital ou o médico.
Antes de chegar a essa resposta, vale ver onde a inteligência artificial já opera de verdade: quatro casos reais, com o que cada um prova e o que ainda só promete. Só depois entra a pergunta de fundo, porque o Código de Defesa do Consumidor (CDC) já responde essa pergunta há mais de trinta anos, só que ninguém aplicou a resposta ao caso específico da IA.
Aqui o recorte é a decisão que um gestor hospitalar ou um médico com responsabilidade de governança precisa formalizar antes de deixar mais uma ferramenta de IA tocar dado clínico. Para formalizar essa decisão com base na realidade, o ponto de partida são os casos que já operam no país.
Casos de uso de inteligência artificial na saúde que já operam em hospitais brasileiros
Estes quatro casos mostram onde a inteligência artificial na saúde já opera em escala no Brasil, à frente de qualquer regulação nova, com o que cada um prova e o que ainda não prova.
Segurança de prescrição: o alerta antes do erro chegar ao paciente
A NoHarm.ai aplica IA sobre o dado hospitalar para priorizar a prescrição de maior risco antes que ela chegue ao paciente. Segundo números acumulados divulgados pela própria empresa, sem comparação com o total de hospitais em atividade no país, a ferramenta já opera em mais de 200 unidades de saúde, com mais de 175 milhões de prescrições analisadas e mais de 4,8 milhões de vidas impactadas. Parte da operação chega gratuita a hospitais do SUS pelo programa Juntos pela Saúde (BNDES e IDIS), voltado à expansão da tecnologia nas regiões Norte e Nordeste.
Menos prescrição de risco passa sem revisão, ganho que dá para medir. A ferramenta prioriza o que revisar, mas quem revisa continua sendo humano: esse é o limite. A fila de alerta menor reduz a chance do erro chegar ao paciente, mas só se alguém de fato olhar essa fila a tempo.
Documentação clínica automatizada: devolver tempo de escuta ao médico
A Voa Health ultrapassou, segundo cobertura do setor, a marca de 1 milhão de consultas com apoio de IA na transcrição e na documentação clínica. A promessa central desse tipo de ferramenta, conhecida no mercado como AI scribe, é simples de descrever e difícil de exagerar: o médico conversa com o paciente sem estar de olho na tela digitando, e o sistema produz o registro depois.
O ganho real é tempo de atenção devolvido à consulta, o que pesa tanto na experiência do paciente quanto na qualidade do que fica registrado. O ponto que a Resolução CFM 2.454/2026 torna explícito é que esse registro gerado por IA continua exigindo revisão do médico antes de virar prontuário oficial.
Triagem preventiva a partir de exame de rotina: o limite de uma promessa boa
A Huna aplica IA sobre o hemograma de rotina, exame barato e já pedido com frequência, para sinalizar risco elevado de câncer de mama sem exame adicional. Um estudo publicado no Journal of Health Informatics em 2024, com quase 400 mil mulheres entre 40 e 70 anos, validou um modelo que usa relação neutrófilo-linfócito, contagem de hemácias e idade para estratificar risco, com desempenho estatisticamente relevante (AUC de 0,64) para separar grupos de maior e menor risco.
Para quem não trabalha com essa métrica no dia a dia, AUC vai de 0,5 (a ferramenta acerta por sorte, como jogar uma moeda) a 1,0 (acerto perfeito): 0,64 fica na faixa de um resultado moderado e real, longe do acaso, também longe de um resultado espetacular.
A força do caso está em usar um exame já pedido por outro motivo para apontar quem merece atenção prioritária num sistema com fila de espera, uma promessa calibrada, diferente de prometer diagnóstico ou de substituir mamografia.
Divulgações mais recentes da empresa, apresentadas em congresso da área de oncologia em 2026 e ainda sem publicação revisada por pares, trazem números mais altos para outros tipos de câncer: identificação de 67,6% dos casos de câncer de pulmão direcionando triagem a 34,4% da população estudada, e valor preditivo negativo de 0,98 para câncer de próstata.
São números melhores que o estudo de 2024 sobre câncer de mama, e é exatamente por isso que pedem mais cautela, não menos: dado de congresso, divulgado pela própria empresa e sem revisão por pares, ainda não tem o mesmo status de um estudo publicado. Tratar os dois tipos de dado com o mesmo peso é o que separa comunicação de saúde responsável de exagero de material de vendas.
Robótica de farmácia hospitalar: o que a IA resolve, e o que ela não substitui sozinha
O Hospital Alemão Oswaldo Cruz reduziu em 90% o tempo de separação de medicamentos depois de adotar um robô com IA na farmácia, segundo release da própria instituição replicado por veículos do setor em fevereiro de 2025. Cada item passou a ser separado em cerca de 7 segundos, ante mais de um minuto antes, num hospital de 369 leitos. À época da divulgação, o robô operava cerca de 10% dos medicamentos do hospital, com plano de expansão para até 40%.
O dado de redução de tempo é forte, mas a leitura correta é mais modesta: uma fatia relevante e crescente da farmácia já opera por robótica, e não a farmácia inteira. A diferença entre um piloto bem-sucedido e uma operação já transformada costuma se perder quando a manchete some da versão que circula.
Dicas práticas: o que perguntar antes de copiar cada um desses casos
Cada um dos quatro casos acima resolve um problema específico, e a tentação de copiar o resultado sem copiar a pergunta que o antecedeu é o erro mais comum na adoção de IA em saúde. Antes de levar qualquer um deles ao seu hospital:
- Para segurança de prescrição, pergunte quem assume a revisão do alerta priorizado pela IA e em que prazo. Uma fila de alerta que ninguém revisa a tempo tem o mesmo efeito de não ter alerta nenhum.
- Para documentação automatizada, pergunte quem revisa o registro gerado antes dele virar parte do prontuário oficial, e quanto tempo essa revisão consome. Se a revisão consome o tempo que a ferramenta devolveu, o ganho líquido desaparece.
- Para triagem preventiva por IA, pergunte qual foi o tamanho e a origem da amostra usada na validação, e se ela inclui população parecida com a que o seu hospital atende. Um resultado forte numa amostra não garante o mesmo resultado na sua população.
- Para automação operacional e robótica, pergunte qual fração real da operação a ferramenta cobre hoje, não a meta de expansão anunciada. É a diferença entre orçar com o que existe e orçar com o que se planeja que exista.
Duas normas, dois alvos: o que a Resolução CFM regula, e o que fica com a Anvisa
Antes de entrar na regulação, vale marcar dois pontos fora do recorte deste texto. Segurança de dado sensível de saúde em profundidade, incluindo vazamento de prontuário e sequestro de sistema hospitalar, já está detalhada em Cibersegurança para líderes. E a regulação de IA como produto farmacêutico, do desenvolvimento de fármaco à farmacovigilância pós-mercado, também fica de fora.
Os quatro casos acima já giram dentro do hospital brasileiro. A norma que se aplica a esse uso costuma ser tratada como uma coisa só. São duas, e cada uma mira um alvo diferente.
A Resolução CFM 2.454/2026 regula a conduta do médico. Ela não certifica software, não avalia algoritmo, não testa acurácia de modelo. Ela diz o que um médico pode e não pode fazer ao usar IA na relação com o paciente: até onde pode delegar, o que precisa registrar, o que precisa informar.
A RDC 657/2022, da Anvisa, regula o produto. Um software usado para apoiar diagnóstico ou triagem pode se enquadrar como SaMD (Software as a Medical Device, ou software como dispositivo médico), e nesse caso precisa de registro sanitário, com comprovação de segurança e eficácia antes de entrar em uso clínico.
A Anvisa já sinalizou revisão dessa norma para tratar especificamente de software com IA que aprende de forma contínua, o que hoje ainda cai numa lacuna regulatória: a versão em uso pode não ser exatamente a versão que foi validada. Enquanto essa revisão não sai do papel, a saída prática não depende da norma: é o hospital que precisa revalidar periodicamente o desempenho de qualquer ferramenta que continue aprendendo depois de instalada, no lugar de tratar a validação inicial como suficiente para sempre.
A consequência prática para quem gere hospital: cumprir uma norma não cobre a outra. Um médico pode seguir a Resolução CFM à risca, registrando em prontuário e informando o paciente, e ainda assim a instituição estar exposta porque a ferramenta usada nunca passou por registro como produto na Anvisa. As duas checagens são independentes, e a maior parte do material que circula sobre o tema trata só de uma delas.
O artigo 14 do Código de Defesa do Consumidor já diz quem paga a conta primeiro
Aqui está o ângulo que falta na maior parte da cobertura sobre IA na saúde: quem responde legalmente quando a ferramenta erra e o paciente sofre dano.
O artigo 14 da Lei 8.078/1990, o Código de Defesa do Consumidor, resolve isso sem meio-termo: quem presta o serviço responde pelo dano que esse serviço causa ao consumidor independentemente de culpa, sempre que o defeito estiver na própria prestação do serviço. O hospital é fornecedor de serviço, e a ferramenta de IA que ele escolheu adotar faz parte da estrutura que ele oferece. Se o defeito nasce dali, ele responde objetivamente: o paciente não precisa provar que o hospital agiu com culpa, só precisa provar o defeito e o dano.
O mesmo artigo muda de regime no parágrafo 4º: para o profissional liberal, a responsabilidade só é apurada quando se prova a culpa dele. O julgamento clínico do médico, a decisão de seguir ou não a sugestão da IA diante daquele paciente específico, é ato de profissional liberal, e por isso cai nessa segunda regra: depende de provar a culpa.
O Superior Tribunal de Justiça já aplicou essa distinção de forma direta. No REsp 1.718.427-RS, julgado pela 4ª Turma em 6 de março de 2023 sob relatoria do ministro João Otávio de Noronha, o tribunal reafirmou que o hospital responde objetivamente por falha na prestação do próprio serviço, como estrutura, equipamento e disponibilidade de sala, mas a responsabilidade por ato técnico-profissional do médico depende da apuração de culpa.
Aplicado à IA, o raciocínio fica direto nos dois extremos. Se um sistema de apoio à prescrição deixa de emitir um alerta que deveria emitir por falha de configuração ou de manutenção, isso é falha na prestação do serviço hospitalar: responsabilidade objetiva do hospital, pelo artigo 14.
Se o médico recebe o alerta corretamente e decide, com base no próprio julgamento clínico, seguir outro caminho que se mostra equivocado, isso é ato de profissional liberal: responsabilidade subjetiva, apurada por culpa.
Fica um terceiro cenário, mais comum na prática do que os dois extremos: a IA não falha em avisar, ela sugere errado, e o médico segue a sugestão confiando nela. Aqui os dois lados entram em jogo ao mesmo tempo.
A Resolução CFM 2.454/2026 (próxima seção) exige que a palavra final continue sendo do médico. Aceitar uma sugestão de IA sem exercer o próprio julgamento clínico já é, em si, uma falha do profissional liberal, apurável por culpa, pelo parágrafo 4º do mesmo artigo 14.
Ao mesmo tempo, se o hospital disponibilizou uma ferramenta sem validar o desempenho dela para aquele tipo de caso, o que a seção sobre viés algorítmico detalha adiante, isso é falha da própria prestação do serviço. O hospital responde objetivamente por ter colocado em uso uma ferramenta sem essa validação. As duas responsabilidades não se excluem, podem correr em paralelo, cada uma sobre a fatia do erro que lhe cabe.
Este raciocínio tem um limite claro: não existe ainda jurisprudência do STJ tratando esse cenário específico de sugestão errada de IA clínica. O texto aplica a doutrina já consolidada do artigo 14 a um fato novo, não repete uma tese já testada em tribunal para IA.
Na prática, isso significa que o hospital não espera o desfecho de uma disputa sobre a culpa do médico para saber se vai responder. Ele já responde objetivamente pela ferramenta que colocou no fluxo de trabalho. Formalizar isso muda a pergunta que a diretoria clínica faz antes de aprovar uma nova ferramenta: em vez de perguntar se a IA ajuda o médico, passa a perguntar se ela está configurada e mantida de um jeito que, se falhar, a falha não seja atribuível à estrutura que o hospital oferece.
O que muda na prática desde que a Resolução CFM 2.454/2026 entrou em vigor
Publicada em 27 de fevereiro de 2026, com vigência 180 dias depois, ou seja, desde o fim de agosto de 2026, a Resolução CFM 2.454/2026 normatiza o uso de inteligência artificial na prática médica. Quatro pontos concentram a maior parte do impacto operacional para hospital e clínica.
A palavra final é sempre do médico. A resolução estabelece que a decisão diagnóstica, terapêutica e prognóstica é sempre do médico, nunca da IA sozinha. Isso veda que um sistema comunique diagnóstico ou conduta terapêutica diretamente ao paciente sem mediação médica, mesmo quando o resultado que o sistema entrega vem com alto grau de certeza estatística.
Uso de IA em decisão clínica precisa constar no prontuário. Não basta a IA ter sido consultada, o registro precisa dizer três coisas: qual ferramenta foi usada, qual foi a sugestão que ela deu, e qual foi a decisão do médico, com justificativa quando ele decidiu na direção contrária à sugestão. Isso é exatamente o tipo de rastro que evita a disputa sobre responsabilidade objetiva e subjetiva, descrita na seção anterior, virar palavra contra palavra.
O paciente tem direito a ser informado. A norma garante que o paciente seja informado, de forma clara e acessível, sempre que a IA for usada no seu atendimento. Isso vai além da formalidade de um consentimento genérico: é direito à informação específica sobre aquela ferramenta.
O médico pode recusar a recomendação da IA sem penalidade. A resolução preserva a autonomia técnica e ética do médico para discordar da sugestão do sistema. Isso reforça, do lado da conduta, a mesma lógica que o artigo 14, parágrafo 4º, já estabelece do lado da responsabilidade civil: o julgamento continua sendo do profissional.
Para instituições que desenvolvem ou usam IA própria com relevância no cuidado ao paciente, a resolução ainda recomenda a criação de uma comissão de inteligência artificial e telemedicina, vinculada à liderança técnica, responsável pela governança interna do uso. Nada na norma limita essa recomendação a hospitais grandes: o critério é o peso da IA na decisão clínica, não o porte da instituição. Isso conecta diretamente com o raciocínio de Governança de IA: risco, auditoria e compliance: a exigência é ter alguém com nome e autoridade respondendo pela política, e um documento guardado numa pasta não cumpre esse papel sozinho.
O viés algorítmico é risco de segurança do paciente, não só item de auditoria
A palavra final do médico e o registro em prontuário resolvem quem decide, mas deixam de fora um risco que nasce antes da decisão, dentro do próprio modelo.
Um modelo de IA aprende com o dado que recebe no treinamento. Quando esse dado vem majoritariamente de pacientes caucasianos, caso comum em modelos desenvolvidos fora do Brasil, o desempenho tende a cair para pacientes negros, indígenas ou pardos. No Brasil, essa população não branca é a maioria de quem o SUS atende, o que torna o risco central, não uma exceção de borda.
Isso muda o que validar uma ferramenta de IA deveria significar antes de aprovar o uso. Não basta confirmar que o fornecedor publicou um estudo de validação, é preciso confirmar em que população esse estudo foi feito e testar o desempenho da ferramenta no próprio dataset do hospital antes de confiar na saída para decisão clínica.
Esse tipo de teste de desempenho antes do uso é o mesmo raciocínio que já detalhei, aplicado a agente de IA em geral, em O que são evals de agentes de IA: antes de confiar no resultado, medir o resultado na sua própria realidade, não na realidade de quem construiu o modelo.
Um hospital ou uma operadora que adota ferramenta importada sem esse passo não está só correndo risco de compliance: está arriscando a segurança do paciente. O nome técnico da falha, viés algorítmico, soa mais abstrato do que o problema realmente é.
O que aplicar primeiro
Antes de qualquer investimento em ferramenta nova, três ações de baixo custo que uma diretoria clínica ou de operações consegue formalizar sem esperar nenhuma norma nova:
Primeiro, decisão de quem responde pela governança de IA na instituição: nomear por escrito uma comissão de inteligência artificial e telemedicina, mesmo pequena, vinculada à liderança técnica, exatamente como a Resolução CFM 2.454/2026 já recomenda. Sem esse nome definido, a resposta a qualquer incidente futuro começa atrasada.
Segundo, tarefa do time de TI ou dados do hospital, com a área jurídica revisando o resultado: mapear, para cada ferramenta de IA hoje em produção, qual fração dela é responsabilidade objetiva do hospital (estrutura, configuração, manutenção) e qual depende do julgamento do médico no momento do atendimento. Esse mapeamento é o que transforma o raciocínio do artigo 14 do CDC em prática, não em teoria jurídica.
Terceiro, também do time de TI ou dados, antes de qualquer aprovação de uso clínico: exigir do fornecedor a população em que a ferramenta foi validada, testar o desempenho dela no dataset do próprio hospital antes do uso valer para paciente real, e repetir esse teste em intervalo regular para ferramenta que continua aprendendo depois de instalada. Essa etapa sozinha já evita a maior parte dos casos de viés algorítmico descritos neste artigo.
Se quiser comparar como esse mesmo padrão de adoção sem validação suficiente aparece em outro setor, Inteligência artificial no agronegócio mostra o mesmo problema em contexto bem diferente. Para ir além deste artigo, a página de cursos reúne a curadoria de cursos da ESPM sobre IA e gestão, e a biblioteca de e-books gratuitos reúne os materiais escritos sobre o mesmo tema.
Perguntas frequentes
O que é inteligência artificial na saúde?
É o uso de sistemas de IA (generativa, preditiva ou de visão computacional) em tarefas clínicas e de gestão hospitalar: apoio a diagnóstico por imagem, triagem de risco a partir de exame de rotina, segurança de prescrição medicamentosa, documentação clínica automatizada e logística hospitalar. No Brasil, esse uso já opera sob duas normas distintas: a Resolução CFM 2.454/2026, que regula a conduta do médico, e a RDC 657/2022 da Anvisa, que regula o software como produto.
Quem responde quando a inteligência artificial de um hospital erra?
Depende de onde o erro nasce. Pelo artigo 14 do Código de Defesa do Consumidor, o hospital responde objetivamente por falha na prestação do próprio serviço, incluindo a ferramenta de IA que ele escolheu adotar, sem precisar provar culpa. Já o parágrafo 4º do mesmo artigo trata o julgamento técnico do médico como ato de profissional liberal, com responsabilidade apurada por culpa. O STJ (REsp 1.718.427-RS, 4ª Turma, relator ministro João Otávio de Noronha, julgado em 6 de março de 2023) confirma essa distinção: o hospital responde pela estrutura que oferece, o médico responde pelo próprio julgamento clínico. Quando a IA sugere algo errado e o médico segue confiando nela sem exercer o próprio julgamento, as duas responsabilidades podem correr em paralelo: do médico, por não ter mantido a palavra final que a Resolução CFM 2.454/2026 exige, e do hospital, se a ferramenta entrou em uso clínico sem validação suficiente.
O que a Resolução CFM 2.454/2026 exige de hospitais e médicos?
Publicada em 27 de fevereiro de 2026 e em vigor 180 dias depois, a resolução estabelece que a palavra final sobre decisão diagnóstica, terapêutica ou prognóstica é sempre do médico, nunca da IA sozinha. Exige registro em prontuário sempre que uma ferramenta de IA apoiar essa decisão, garante ao paciente o direito de ser informado quando a IA for usada, e recomenda que instituições que desenvolvem ou adotam IA própria criem uma comissão de inteligência artificial e telemedicina vinculada à liderança técnica.
Qual a diferença entre a Resolução CFM e a RDC 657/2022 da Anvisa?
A Resolução CFM 2.454/2026 regula a conduta: o que o médico pode e não pode delegar à IA na relação com o paciente. A RDC 657/2022 da Anvisa regula o produto: exige que o software usado como dispositivo médico (SaMD) passe por registro e comprovação de segurança e eficácia antes de entrar em uso clínico. Um hospital pode estar em dia com uma norma e exposto na outra, ao aprovar a conduta do médico ao usar uma ferramenta que nunca foi regularizada como produto, por exemplo.
Existem casos reais de inteligência artificial em hospitais brasileiros?
Sim. A NoHarm.ai já opera em mais de 200 unidades de saúde, com mais de 175 milhões de prescrições analisadas. A Voa Health ultrapassou 1 milhão de consultas com transcrição e documentação clínica assistida por IA. A Huna usa hemograma de rotina para estratificar risco de câncer de mama, com validação publicada no Journal of Health Informatics (2024) sobre quase 400 mil mulheres. O Hospital Alemão Oswaldo Cruz reduziu em 90% o tempo de separação de medicamentos com um robô com IA na farmácia hospitalar.
O que é viés algorítmico em inteligência artificial na saúde?
É a queda de desempenho de um modelo de IA quando aplicado a uma população diferente daquela usada para treiná-lo. Um modelo treinado majoritariamente em dado de paciente caucasiano tende a ter desempenho pior em paciente negro, indígena ou pardo, o que no Brasil é a maioria da população atendida pelo SUS. Por isso, todo hospital que adota ferramenta treinada fora do país precisa validar o desempenho em dataset local antes de confiar na saída para decisão clínica.
É obrigatório informar o paciente quando a IA participa do atendimento?
Sim, desde que a Resolução CFM 2.454/2026 entrou em vigor. A norma garante ao paciente o direito de ser informado, de forma clara e acessível, sempre que uma ferramenta de inteligência artificial for usada no seu atendimento, e mantém com o médico, nunca com a IA, a palavra final sobre diagnóstico, prognóstico e conduta terapêutica.
Quem fiscaliza o cumprimento da Resolução CFM 2.454/2026?
A fiscalização da conduta do médico cabe ao Conselho Regional de Medicina (CRM) do estado onde ele atua, por meio de processo ético-disciplinar, o mesmo caminho usado para qualquer outra resolução do CFM. Já a fiscalização do software usado como produto, incluindo se ele tem o registro sanitário exigido pela RDC 657/2022, é atribuição da Anvisa. Um hospital pode responder nas duas frentes ao mesmo tempo: pela conduta do médico perante o CRM, e pela regularidade do produto perante a Anvisa.
Edney “InterNey” Souza atua com tecnologia desde 1990 como professor, palestrante e conselheiro em IA, dados e inovação. Participou da criação de sete startups ao longo da carreira. É professor na ESPM, Insper, PUCRS, USP e IBGC. É autor do livro gratuito Engenharia de Prompts na Prática: do Zero ao Avançado com ChatGPT, Gemini e Claude.
