Pornô gerado por IA: entenda os perigos por trás do DeepNude
A inteligência artificial (IA) tem promovido evoluções em uma série de áreas, auxiliando desde descobertas científicas até na cibersegurança. Porém, esse tipo de ferramenta também pode ser usado em práticas criminosas, inclusive envolvendo pornografia. O DeepNude, ou a criação de imagens íntimas não consensuais especialmente de mulheres, é um problema cada vez mais grave e que evolui junto com a capacidade e o acesso a essas ferramentas. As consequências dessa tecnologia são sérias e geram prejuízos em várias esferas da vida pública e privada. A seguir, entenda como funciona essa tecnologia, as consequências da criação de materiais adultos envolvendo IA para vítimas e a atual situação jurídica disso na legislação brasileira. O que é DeepNude? O nome DeepNude é atualmente usado para englobar uma categoria de ferramentas em forma de site ou aplicativo que produzem material íntimo falso e sem consentimento de pessoas usando IA. Também chamados de nudificadores, esses serviços “tiram a roupa” de pessoas de forma sintética a partir de uma única foto de referência, gerando uma nova imagem que replica a aparência de terceiros. O nome DeepNude remete a um aplicativo de 2019, que também usava IA para gerar imagens falsas de nudez a partir de fotos comuns. Apesar de já usado em fóruns e comunidades, o app ficou mais conhecido depois de uma reportagem e teve repercussão negativa imediata. Dias após o lançamento, o desenvolvedor anônimo tirou a plataforma do ar — com o código já liberado, permitindo cópias da ideia e do funcionamento. DeepNude e deepfake são a mesma coisa? Apesar da proximidade dos nomes e da temática, os termos se referem a tecnologias diferentes. Deepfake é o termo mais geral usado para mídias sintéticas (vídeos, áudios e imagens) criadas ou alteradas para parecerem reais. Normalmente, o deepfake envolve a troca de rosto em um corpo diferente, para colocar celebridades, políticos e figuras públicas em geral em situações montadas. Isso pode ser feito para desinformação ou outros crimes, mas nem sempre tem propósitos ilegais por trás. Já no DeepNude, o rosto e o contexto da foto são reais, mas a IA “gera” um corpo nu que estaria sob a roupa. Ele é um tipo de deepfake, embora com finalidade mais específica e criminosa envolvendo conteúdo íntimo. Como funciona a tecnologia por trás do DeepNude. O DeepNude original se baseava em uma rede generativa adversarial (GAN, na sigla original em inglês), tecnologia que tenta “enganar” o olho humano com imagens realistas a partir de rodadas de tentativa e erro. Esse tipo de plataforma é treinado com um grande conjunto de fotos de pessoas, com e sem roupas, para ser capaz de converter esses dados em novos padrões e gerar materiais solicitados. Nos apps atuais, basta subir uma foto ao sistema para que o software devolva, em questão de segundos, uma nova imagem em que a roupa é removida. O app não “enxerga” ou prevê nada: o corpo nu é totalmente feito por IA, montado via algoritmos e “encaixado” junto ao rosto da pessoa retratada. Os “nudificadores” atuais evoluíram para modelos de difusão similares em funcionamento aos atuais geradores de imagem populares, como o Nano Banana da Google. Eles recriam partes específicas de uma foto de forma realista e com menos esforço, sem tantas evidências de que o material foi alterado. O que é pornografia gerada por IA? Esse é todo conteúdo sexualmente explícito (imagens, vídeos, áudios ou textos) criado ou manipulado por sistemas de IA generativa, que não foram filmados no mundo real. O termo abrange situações variadas e diferentes, incluindo conteúdos totalmente sintéticos e que não retratam pessoas de verdade e os que modificam a imagem de usuários reais sem consentimento, como o caso do DeepNude. Esses conteúdos gerados podem incluir desde textos eróticos até material de abuso sexual infantil, já amplamente encontrados em aplicativos e sites que propõe esse tipo de criação. Como a tecnologia evoluiu nos últimos anos? Em menos de uma década, a tecnologia por trás da criação de materiais adultos usando IA ficou melhor, mais barata e acessível a um maior número de pessoas, o que significa também que ela está mais perigosa. Os primeiros deepfakes pornográficos, criados no fim da década de 2010, exigiam conhecimento em IA, computadores potentes e muitas imagens da pessoa que seria retratada na situação falsa. Além disso, eles produziam resultados com vários indícios de que aquele conteúdo tinha sido manipulado.
