Quem é responsável quando uma inteligência artificial erra na medicina?
Por André Leite e Vinícius Lain, autores de IA em Saúde.
A pergunta aparece cedo ou tarde em qualquer discussão séria sobre inteligência artificial na medicina: se a IA errar e o paciente sofrer dano, quem responde?
A resposta mais madura não é um único nome. É um desenho de responsabilidade. Médico, instituição e fornecedor ocupam posições diferentes na cadeia de decisão, e a forma como uma tecnologia foi escolhida, validada, implantada, supervisionada e monitorada passa a ser tão importante quanto a tecnologia em si.
Este texto discute princípios de governança e não substitui análise jurídica de um caso concreto, que depende da legislação, da jurisdição, do tipo de tecnologia e das circunstâncias do evento.
Algoritmo não tem CRM
Uma IA pode sugerir, priorizar, classificar, resumir ou alertar. Mas ela não carrega, por si só, a mesma relação profissional e ética que existe entre médico e paciente. Quando uma decisão clínica é assumida e assinada por um profissional, a existência de um algoritmo no fluxo não transforma automaticamente a máquina em responsável pelo ato.
Isso não significa que toda responsabilidade recaia sobre o médico. Significa que a automação não cria um vácuo.
A responsabilidade do médico
Em termos gerais, o médico continua responsável pelo julgamento clínico que exerce, especialmente quando a ferramenta funciona como apoio e não como sistema autônomo. Isso inclui interpretar a recomendação dentro do contexto do paciente, reconhecer situações em que a ferramenta não deve ser seguida e revisar saídas incompatíveis com a realidade clínica.
Um dos riscos mais importantes é o viés de automação: a tendência de confiar excessivamente numa recomendação porque ela veio de um sistema percebido como objetivo ou sofisticado. Governança adequada precisa criar uma cultura na qual discordar da IA seja possível, esperado e documentável quando necessário.
A responsabilidade da instituição
Hospitais, clínicas e organizações de saúde também fazem escolhas. Escolhem a ferramenta, o fornecedor, o contexto de uso e o nível de autonomia. Definem treinamento, integração, supervisão, protocolo de resposta e monitoramento.
Por isso, não basta instalar uma solução e transferir todo o risco para o usuário final. Uma instituição madura precisa conseguir demonstrar por que adotou aquela tecnologia, quais evidências analisou, se realizou validação local quando pertinente, como treinou a equipe e como acompanha desempenho e incidentes.
A pergunta jurídica e ética deixa de ser apenas “quem clicou?” e passa a incluir “como o sistema foi desenhado?”.
A responsabilidade do fornecedor
O desenvolvedor ou fornecedor responde por dimensões próprias do produto: desempenho prometido, defeitos, falhas técnicas, controles, documentação, atualizações e informações fornecidas ao cliente.
Uma instituição não deveria aceitar uma ferramenta cuja lógica operacional, limitações, versionamento e comportamento após atualizações sejam completamente opacos. Quanto maior o risco clínico, maior a necessidade de contrato, rastreabilidade e responsabilidade técnica compatíveis.
Governança é o que existe antes do problema
Quando um evento adverso acontece, é tarde para inventar governança. A organização precisa ter construído antes um conjunto de evidências e processos.
Entre os elementos mais importantes estão:
- definição clara da finalidade da ferramenta;
- validação e critérios de desempenho;
- delimitação de população e contexto de uso;
- treinamento dos profissionais;
- supervisão humana proporcional ao risco;
- registro de versão e mudanças do sistema;
- logs e rastreabilidade das recomendações;
- monitoramento contínuo de desempenho;
- protocolo para incidentes e falhas;
- possibilidade real de revisão e discordância;
- comunicação transparente com pacientes quando pertinente.
Esse desenho não existe apenas para proteger juridicamente a instituição. Existe, principalmente, para proteger o paciente.
Transparência sem alarmismo
Outra pergunta difícil é se o paciente precisa saber que uma ferramenta de IA participa do cuidado. Não existe uma resposta única para todos os usos e contextos, mas existe um princípio importante: confiança exige honestidade bem comunicada.
A comunicação não precisa transformar a consulta em aula de engenharia. Pode explicar, em linguagem simples, que ferramentas de apoio são utilizadas para aumentar segurança, organizar informação ou reduzir atrasos, e que a decisão clínica continua submetida à supervisão humana.
O maior risco não é a máquina errar
Toda tecnologia pode falhar. O problema mais grave é usar um sistema sem método: sem conhecer limites, sem definir quem responde aos alertas, sem registrar versões, sem monitorar desempenho e sem saber o que fazer diante de uma falha.
Quando isso acontece, a organização não está apenas assumindo risco tecnológico. Está transformando inovação em improviso.
Responsabilidade distribuída não é responsabilidade diluída
Dizer que médico, instituição e fornecedor possuem papéis diferentes não significa que “ninguém é responsável”. Significa justamente o contrário: a cadeia precisa deixar claro quem responde por cada componente.
A IA pode sugerir o caminho. A instituição deve criar o ambiente seguro para utilizá-la. O fornecedor precisa entregar um produto compatível com o que promete. E o profissional precisa exercer julgamento dentro de suas atribuições.
Não existe vácuo de responsabilidade na medicina. A tecnologia amplia capacidade — e, com ela, amplia a necessidade de método.
André Leite e Vinícius Lain são autores de IA em Saúde — Como a tecnologia está transformando o futuro do cuidado humano.
Leia mais em https://www.iaemsaude.com/.
