Deepfakes sexuais em escolas como tecnologia de vulnerabilidade

Deepfakes expõe a nova fronteira da violência digital, onde tecnologia, gênero e poder se cruzam para transformar corpos femininos em territórios de manipulação sem consentimento - Foto: Divulgação

ARTIGO

Os artigos não representam necessariamente a posição do NEO MONDO e são de total responsabilidade de seus autores. Proibido reproduzir o conteúdo sem prévia autorização

Por - Michael Leonel*, especial para Neo Mondo

A utilização das inteligências artificiais generativas, em suas diversas plataformas, está presente no novo cotidiano da operação da internet e até integrada como recurso nas redes sociais, criando um universo quase ilimitado de possibilidades de uso — do entretenimento ao estudo e ao trabalho —, com o intuito de otimizar e acelerar diversas ações.

Leia também: A bioética global de Potter: uma utopia viva

Leia também: Ainda somos nós que apertamos o gatilho?

Entre as novas ferramentas apresentadas pelas IAs estão a criação, a manipulação e a formatação de fotos e vídeos, muitas vezes confundidas com produtos reais, o que demonstra o avanço tecnológico dessas ferramentas.

No entanto, como nem tudo são flores, alguns usuários passaram a empregar essas ferramentas de modo opressivo e criminoso, com o desenvolvimento de deepfakes pornográficas. Essas práticas utilizam as IAs para manipular ou inserir os rostos de pessoas comuns em cenas de vídeos pornográficos, ou para manipular fotos de modo a criar imagens sem roupa ou com trajes sensuais, sem o consentimento das vítimas.

Em mapeamento realizado pela SaferNet, foram constatados casos em 10 estados do país, em escolas, sendo 100% das vítimas meninas de 12 a 17 anos. Segundo matéria do Portal Núcleo Jornalismo, isso demonstra como a vulnerabilidade no recorte de gênero pesa mais sobre as mulheres, haja vista os corpos femininos ainda serem encarados como objetos por certos estratos da sociedade — ainda mais pelos integrantes da machosfera, coletivos de homens, predominantemente online, com o objetivo de disseminar discursos misóginos.

A utilização das deepfakes tipifica-se como tecnologia da vulnerabilidade, pois exerce um biopoder sobre corpos que são frequentemente considerados disponíveis para o abuso e a coisificação. Essa visão distorcida das pessoas, conjugada ao avanço das IAs, pode amplificar a estratificação social e manter o corpo feminino em situação de opressão.

O uso de ferramentas avançadas como tecnologias que aprofundam vulnerabilidades gera um universo de medo e opressão sobre os corpos femininos — ainda mais sobre adolescentes em processo de amadurecimento e formação de personalidade. Por isso, as plataformas nas quais esses aplicativos e chats estão hospedados devem ser chamadas a combater e a fiscalizar tais utilizações com fins maléficos. E, se não o fizerem, devem ser responsabilizadas.

*Michael Leonel — Advogado e Mestrando em Bioética pela Pontifícia Universidade Católica do Paraná, onde também se graduou em Direito. É membro do Grupo de Pesquisa Justiça e Direitos Fundamentais e do Núcleo de Estudos Afrocentrados de Direito – PUCPR.