Quando o algoritmo entra no consultório: quem assina o prontuário?

Algoritmo entre a vida e a decisão: quando a inteligência artificial começa a ocupar o centro da medicina, a pergunta deixa de ser apenas sobre eficiência — e passa a ser sobre responsabilidade, ética e humanidade. - Imagem gerada por IA - Foto: Ilustrativa/Neo Mondo

ARTIGO

Os artigos não representam necessariamente a posição do NEO MONDO e são de total responsabilidade de seus autores. Proibido reproduzir o conteúdo sem prévia autorização

Por - André Luiz Batista e Anor Sganzerla, especial para Neo Mondo

Um paciente chega ao pronto-socorro com dor torácica. Em segundos, um modelo de inteligência artificial cruza seu eletrocardiograma com milhões de outros, sugere o diagnóstico mais provável e até propõe a conduta. O médico — ser humano falível, muitas vezes cansado — confirma com um clique. Tudo dá certo. Mas e se não der? A quem se pede contas: ao médico, ao hospital, ao programador, à empresa dona do modelo, ou ao próprio algoritmo, essa entidade opaca que ninguém compreende inteiramente, nem mesmo quem a construiu?

Leia também: Deepfakes sexuais em escolas como tecnologia de vulnerabilidade

Leia também: A bioética global de Potter: uma utopia viva

Essa pergunta incômoda é o ponto cego da medicina contemporânea. Enquanto debatemos se a IA "vai substituir" o médico, ela já está dentro do consultório, da sala de cirurgia, da radiologia — e avança mais rápido do que nossa capacidade de pensá-la eticamente.

Ao refletir sobre o poder moderno da tecnologia, Hans Jonas, em O princípio responsabilidade (1979), apontou a necessidade de uma nova ética para a civilização tecnológica, erigindo a responsabilidade como princípio fundante. Não basta perguntar "isto é eficaz?"; é preciso perguntar "que mundo isto deixa para quem virá depois?" A medicina, que sempre se orgulhou de seu juramento hipocrático, agora delega decisões a sistemas cuja lógica interna é, literalmente, uma caixa-preta. O paradoxo é cruel: quanto mais precisos os algoritmos, menos compreensíveis seus caminhos — e, por isso, impõe-se ao profissional da saúde não apenas o domínio técnico dessas ferramentas, mas uma vigilância ética redobrada sobre seus usos e consequências.

O sul-coreano Byung-Chul Han vai além, em Infocracia: o poder hoje não se exerce pela força, mas pelo controle silencioso dos dados. Cada exame, cada prontuário eletrônico, cada conversa com um chatbot médico alimenta uma máquina que não apenas observa — mas também molda comportamentos, cria perfis, decide quem recebe cuidado e quem espera. A pergunta deixa de ser "a IA é boa ou má?" e passa a ser: quem manda nessa máquina?

Diante desse impasse, a filósofa Adela Cortina oferece um caminho preciso. Em vez de buscar uma moral única, impossível em sociedades plurais, ela propõe uma ética mínima: aquele núcleo inegociável de princípios que qualquer pessoa razoável aceitaria, independentemente de sua religião, ideologia ou cultura. Justiça. Transparência. Responsabilidade. Dignidade. Quatro palavras que parecem óbvias, mas que, aplicadas à IA médica, tornam-se exigências revolucionárias: o algoritmo precisa ser auditável, seus vieses corrigíveis, suas decisões contestáveis — e ninguém, nenhum CEO, nenhum hospital, nenhum sistema de saúde, pode se esconder atrás dele.

A questão final é desconfortável: estamos formando médicos para usar a IA, ou para questioná-la? Estamos educando cidadãos para clicar em "aceito os termos", ou para exigir explicações? A medicina baseada em dados promete diagnósticos mais precisos e cuidado mais acessível. Mas se aceitarmos esse futuro sem ética mínima, corremos o risco de trocar o velho paternalismo médico por algo pior: o paternalismo algorítmico — mudo, invisível, sem rosto a quem reclamar. Em última instância, trata-se de decidir se a medicina continuará sendo guiada por princípios éticos e responsabilidade humana, ou se se submeterá, de forma acrítica, à lógica opaca dos sistemas que a atravessam. A tecnologia não espera. A reflexão ética, tampouco.

André Luiz Batista - Médico, especialista em Clínica Médica e Medicina de Família e Comunidade. Mestre e doutorando em Bioética pela PUCPR. Professor adjunto e coordenador do Curso de Medicina da PUCPR - Câmpus Toledo. E-mail: andre.lbatista@pucpr.br

Anor Sganzerla - Doutor em Filosofia. Professor do Curso de Filosofia e do Programa de Pós-Graduação em Bioética da Pontifícia Universidade Católica do Paraná. Email: anor.sganzerla@gmail.com