Capítulo 17 de 20 · Tema: Segurança e Confiança

A síndrome do ascensorista

Adoção e mudança cultural: por que a confiança no médico "champion" importa mais que o algoritmo; caso Stanislav Petrov (1983).

O capítulo batiza de "síndrome do ascensorista" a resistência humana a confiar cegamente em automação, mesmo quando ela funciona bem — e argumenta que a adoção de IA em saúde depende menos da qualidade técnica do algoritmo e mais da confiança na figura de um médico "champion" que valide e explique a tecnologia aos colegas. O contraponto vem da história real de Stanislav Petrov, o oficial soviético que, em 1983, usou julgamento humano para desconfiar de um alerta de ataque nuclear gerado por um sistema automatizado — e, ao não seguir cegamente a máquina, evitou uma catástrofe. A lição: tecnologia boa não dispensa julgamento humano treinado para questioná-la.

← Capítulo 16

Capítulo 18 →

Sobre o livro · Todos os capítulos