Decidir com máquinas, responder como humanos

Decidir continua sendo um ato humano, mesmo quando a inteligência artificial sugere o caminho - Imagem gerada por IA - Ilustrativa/Neo Mondo

ARTIGO

Os artigos não representam necessariamente a posição do NEO MONDO e são de total responsabilidade de seus autores. Proibido reproduzir o conteúdo sem prévia autorização

Por - Silvio Mendonça*, especial para o Neo Mondo

Antes 100% humanas, muitas das decisões tomadas hoje ao redor do mundo, em diversas frentes, já contam com a interferência da inteligência artificial. Da indústria à comunicação, da educação à saúde, essa tecnologia ajuda a filtrar informações, produzir conteúdo, interpretar dados e, às vezes, até sugere caminhos estratégicos para empresas e instituições. A automação está aí e será usada, estejamos ou não de acordo. Entretanto, o mais importante, quando o assunto é IA, não é a automação em si, mas o fato de que ela está mudando quem é responsável por decisões fundamentais, sejam pessoas ou máquinas. E essa mudança tem acontecido sem muito debate.

Leia também: OMS alerta: avanço da inteligência artificial na saúde deve ser medido pela governança, não pela velocidade de adoção

Leia também: A máquina que mede tudo perdeu a hora de parar

A encíclica Magnifica humanitas, divulgada recentemente pelo Papa Leão XIV, leva esse assunto para outro patamar. O documento defende que qualquer tecnologia capaz de influenciar a vida das pessoas precisa ser entendida, questionada e corrigida por elas. E vai além: diz que, quando isso não acontece, o problema é uma falha de responsabilidade das instituições. Essa é uma crítica direta a quem trata a IA como um assunto que só diz respeito à tecnologia, e não à ética ou à governança.

Na prática, as empresas usam IA de formas bem diferentes. Enquanto algumas a aplicam somente para ganhar eficiência e reduzir esforço, outras deixam que ela realmente participe de decisões relevantes, influenciando estratégias, equipes e resultados. E aqui mora o problema. Porque quanto mais a IA assume o papel de decidir, maior é o risco assumido pela empresa — e poucas parecem perceber isso a tempo.

Quando a IA deixa de ser um agente de execução e passa a ser um agente de definição, fortalecer a governança se torna imprescindível. É fundamental entender que esses sistemas utilizam modelos estatísticos e dados que são, muitas vezes, impossíveis de compreender ou mesmo auditar integralmente. Por isso, a transparência nesse caso não é apenas um mero detalhe técnico, mas uma condição para que a decisão seja legítima. Adotar essa tecnologia não é questão apenas de eficiência e seria um erro tratar assim o assunto.

A encíclica não dá respostas técnicas prontas, e talvez essa seja a intenção. Em vez de normas específicas, ela propõe um critério que serve de régua para qualquer situação: a tecnologia não pode operar fora do alcance das pessoas afetadas por ela. Isso muda o debate. Não se trata mais de discutir se a IA é boa ou ruim, mas de exigir que exista sempre alguém responsável por avaliar, contestar e corrigir o que ela decide. Sem esse freio, corremos o risco de que as instituições deixem de responder pelo que fazem.

No mercado de trabalho, essa reorganização já é visível. Funções repetitivas perdem espaço e ganham valor habilidades como análise de contexto, resolução de problemas, criatividade e interação humana. E isso muda não apenas o volume de tarefas, mas o próprio conceito de valor profissional. A formação e a qualificação seguem essa mesma dinâmica: aprender e reaprender se tornaram parte permanente da rotina dos trabalhadores.

Embora os ganhos de produtividade proporcionados pela inteligência artificial sejam evidentes, eles não se distribuem sozinhos, nem de forma justa. O resultado depende das escolhas feitas na implementação dessas tecnologias. Como as responsabilidades são definidas? Quais processos continuam sob supervisão humana? Que mecanismos existem para corrigir o que der errado? Por isso, as organizações mais preparadas para o futuro serão as que tratarem essas escolhas como decisões estratégicas, em vez de detalhes técnicos que podem ser resolvidos depois.

*Silvio Mendonça - Diretor de Tecnologia e Transformação Digital do Grupo Marista, executivo de TI com mais de 30 anos de experiência em liderança e inovação.