Política – O Ministério da Justiça e Segurança Pública pediu o bloqueio de 80 sites suspeitos de usar inteligência artificial para criar deepnudes, imagens falsas em que pessoas aparecem nuas sem terem consentido com a manipulação.

As solicitações foram encaminhadas à Polícia Federal (PF) e à Agência Nacional de Proteção de Dados (ANPD). Além da retirada dos sites do ar, o ministério pediu que os casos sejam investigados e fiscalizados.

Segundo o Ministério da Justiça, entre as vítimas identificadas estão mulheres e também crianças, o que aumenta a gravidade das ocorrências.

O que são deepnudes?

Deepnudes são imagens produzidas ou alteradas com recursos de inteligência artificial para fazer uma pessoa aparecer nua ou em situação sexualmente explícita, mesmo que ela nunca tenha produzido ou autorizado esse tipo de conteúdo.

Na prática, a tecnologia pode ser utilizada para manipular uma fotografia real e criar uma imagem falsa com aparência convincente.

O problema vai além da falsificação da imagem. Quando esse conteúdo é produzido ou compartilhado sem autorização, pode causar danos à privacidade, à reputação e à segurança das vítimas.

Ministério da Justiça quer investigar os 80 sites

De acordo com o Ministério da Justiça, os sites identificados ofereciam ferramentas ou serviços relacionados à criação de deepnudes.

Anúncios desse tipo de serviço costumam aparecer na internet e podem oferecer a possibilidade de gerar imagens falsas a partir de fotografias de pessoas.

Diante dos casos identificados, o governo solicitou não apenas o bloqueio das páginas, mas também a abertura de investigações para apurar a atuação dos responsáveis.

A documentação elaborada pelo Ministério da Justiça reúne informações sobre os casos encontrados e foi encaminhada às autoridades competentes.

Crianças também aparecem entre as vítimas

O levantamento chamou atenção para a presença de menores de 18 anos entre as vítimas.

A produção e a adulteração de imagens envolvendo crianças e adolescentes estão sujeitas a regras específicas de proteção previstas na legislação brasileira, incluindo o Estatuto da Criança e do Adolescente (ECA).

O uso de inteligência artificial não transforma uma imagem manipulada em algo permitido. A tecnologia utilizada para criar o conteúdo não elimina as possíveis responsabilidades decorrentes da produção, armazenamento ou compartilhamento de material ilegal.

Caso ocorre em meio a outras ações contra plataformas

O pedido de bloqueio dos sites ocorre na mesma semana em que o Discord anunciou a suspensão das transmissões ao vivo no Brasil após uma determinação relacionada a uma ação do Ministério da Justiça e da ANPD.

A medida ocorreu após um caso envolvendo uma adolescente durante uma transmissão na plataforma. Segundo informações divulgadas, a adolescente teria cometido suicídio durante uma live.

O Discord, porém, nega que o episódio tenha ocorrido da forma relatada.

O caso envolvendo os deepnudes e as medidas contra plataformas digitais fazem parte de uma discussão mais ampla sobre a responsabilidade das empresas de tecnologia e os riscos associados ao uso de inteligência artificial para produzir conteúdos prejudiciais.