Ainda somos nós que apertamos o gatilho?

Ainda é a mão humana que aperta o gatilho — mas por quanto tempo? - Foto: Ilustrativa/Freepik

ARTIGO

Os artigos não representam necessariamente a posição de NEO MONDO e são de total responsabilidade de seus autores. Proibido reproduzir o conteúdo sem prévia autorização

Por - Murilo Karasinski*, articulista do Neo Mondo

Volto com frequência a uma pergunta que parece simples, embora se torne cada vez mais difícil de sustentar à medida que observamos os conflitos contemporâneos. Quem decide, afinal, quando a guerra acontece? Durante muito tempo, foi possível imaginar que essa decisão passava por alguém situado em um lugar identificável, alguém que assumia o peso do julgamento e que, de alguma forma, respondia por ele. Hoje, essa imagem começa a se desfazer. As decisões continuam existindo, porém passam a surgir dentro de arranjos técnicos que redistribuem o ato de decidir em uma rede difícil de acompanhar por inteiro.

Leia também: Quando o humano se torna editável

Leia também: A quem pertence a sua vida?

Sensações como essa ganham força quando olhamos para o uso recente de inteligência artificial em cenários que envolvem o Irã, por exemplo. O conflito ali se estrutura a partir de interpretações mediadas por algoritmos, e isso altera o modo como a realidade da guerra é percebida antes mesmo de qualquer ação concreta. A decisão deixa de surgir apenas como resposta a um evento visível e passa a ser construída em um ambiente informacional que já orienta o olhar.

Em paralelo, a guerra na Ucrânia já revelava outra dimensão do mesmo movimento. O uso disseminado de drones e sistemas de vigilância criou uma dinâmica em que a percepção do campo de batalha depende de fluxos contínuos de dados. O operador humano permanece presente, embora inserido em um circuito que já chega até ele parcialmente estruturado. Nesse contexto, o julgamento humano passa a dialogar com aquilo que o sistema torna visível, de modo que esse diálogo nem sempre é equilibrado.

É nesse ponto que o recente livro Project Maven, de Katrina Manson, me parece um retrato inquietante do que está em curso. A narrativa acompanha a tentativa do Pentágono de colocar a inteligência artificial no centro da guerra, reunindo militares, empresas de tecnologia e uma lógica de urgência estratégica e experimentação acelerada. O que começou com a análise de imagens de drones evoluiu para sistemas que influenciam decisões em diferentes níveis de comando. Ao longo desse processo, surgiram tensões internas, resistências de engenheiros e dúvidas sobre o papel dos algoritmos em decisões que envolvem vida e morte. Ainda assim, o projeto avançou.

O ponto mais importante é que essa incorporação altera o ritmo da guerra de maneira significativa. Em situações de pressão, confiar no sistema tende a parecer mais seguro do que interromper o fluxo para questioná-lo. Com isso, a responsabilidade se desloca e se distribui por uma cadeia que envolve desenvolvedores, comandantes, operadores e sistemas que aprendem a partir de dados. A decisão continua existindo, tornando-se apenas mais difícil identificar seu ponto de origem.

Do ponto de vista da bioética, a transformação em andamento modifica categorias que costumávamos tratar com relativa estabilidade. A autonomia encontra limites quando o processo decisório é mediado por estruturas que orientam e condicionam escolhas. A responsabilidade perde nitidez quando a ação se forma em uma cadeia distribuída. A dignidade, por sua vez, passa a conviver com sistemas que operam por meio de probabilidades e critérios de otimização, obrigando-nos a repensar como atribuímos valor à vida em contextos de alta complexidade tecnológica.

Ao mesmo tempo, a guerra mediada por inteligência artificial tende a se tornar menos visível, mais difusa e mais integrada ao cotidiano de sistemas que coletam e analisam dados continuamente. Isso não elimina a violência. Ela assume outras formas, menos reconhecíveis e mais persistentes, que desafiam as categorias tradicionais com as quais costumávamos compreender o conflito.

Diante disso, volto à pergunta inicial, agora atravessada por outra inquietação. Se a decisão se forma em um ambiente que aprendemos a confiar sem compreender plenamente, se o julgamento se apoia em sistemas que operam em uma lógica distinta da experiência humana, o que ainda significa decidir? E, no limite, se aceitamos que a guerra se organize dessa maneira, ainda conseguimos dizer que somos nós que escolhemos quando ela começa — e quando ela termina?

*Murilo Karasinski - Professor Permanente do Programa de Pós-Graduação em Bioética da PUCPR. Pós-Doutor em Bióetica, Doutor em Filosofia e Bacharel em Direito pela PUCPR. Membro da Sociedade Brasileira de Bioética. Membro do Observatório de Inteligência Artificial no Ensino Superior da PUCPR. Pesquisador de temas relacionados à Inteligência Artificial, Neuroética, Bioética e Transumanismo.