A síndrome do ascensorista: por que a confiança importa mais que o algoritmo
Por André Leite e Vinícius Lain, autores de IA em Saúde.
Quando os elevadores automáticos foram introduzidos, capazes de operar perfeitamente sem operador humano, muitos edifícios continuaram, por anos, empregando um ascensorista — alguém cuja função técnica já havia sido tornada obsoleta pela tecnologia, mas cuja presença humana continuava sendo necessária para que as pessoas se sentissem seguras o suficiente para, de fato, usar o elevador. A tecnologia funcionava. A confiança é que ainda não tinha acompanhado.
Essa mesma dinâmica se repete, com consequências muito mais sérias, na adoção de inteligência artificial em saúde. Um algoritmo pode ter validação clínica impecável, performance superior ao julgamento médico médio em determinada tarefa específica, e ainda assim ser rejeitado, ignorado ou usado de forma superficial pela equipe assistencial — não por falha técnica, mas porque a confiança necessária para uma mudança de comportamento real não foi construída. É por isso que a figura do médico "champion" — aquele profissional respeitado pelos pares, que testa, valida e defende a nova ferramenta de dentro da própria categoria — costuma ser mais determinante para o sucesso de uma implementação do que qualquer característica técnica do sistema.
Há um episódio da Guerra Fria que ilustra, de forma dramática, o lado oposto dessa mesma moeda: em 1983, o oficial soviético Stanislav Petrov recebeu um alerta do sistema de detecção de mísseis indicando um ataque nuclear americano em andamento. O protocolo mandava reportar imediatamente, o que provavelmente desencadearia retaliação nuclear. Petrov, usando julgamento humano contra a recomendação do sistema automatizado, concluiu que era um falso alarme — e estava certo. Sua decisão de questionar a máquina, em vez de segui-la cegamente, provavelmente evitou uma guerra nuclear.
A lição para a saúde não é "desconfie sempre da tecnologia" nem "confie sempre nela" — é que a confiança adequada precisa ser calibrada, treinada e constantemente revisitada, nunca automática em nenhuma direção. Isso exige investimento real em capacitação, em tempo para a equipe entender como e por que o sistema chega às suas recomendações, e em espaço institucional seguro para que um profissional possa dizer "acho que o algoritmo está errado aqui" sem medo de ser visto como resistente à inovação.
Tecnologia madura o suficiente para funcionar sozinha ainda precisa, por um bom tempo, de gente madura o suficiente para saber quando confiar nela — e quando não confiar.
Leia também
Médico e IA
Como a IA pode devolver tempo ao médico?
Ambient listening, resumo de prontuário e automação documental podem reduzir o trabalho invisível que afasta médicos dos pacientes. Entenda como fazer isso com segurança.
Médico e IA
Os dois pacientes: quem você está realmente tratando?
O conceito do "iPatient" de Abraham Verghese: o paciente de dados na tela pode roubar a atenção do paciente real. Entenda o que isso tem a ver com o uso de IA na consulta.
Médico e IA
Quem roubou o olho no olho da consulta médica — e como a IA pode devolvê-lo
Escuta ambiental (ambient listening): a tecnologia que promete devolver ao médico o contato visual que o prontuário eletrônico tirou da consulta.