Carioca é vítima de foto manipulada por IA para parecer nua no X

Uma jovem registrou um boletim de ocorrência após ter uma foto pessoal manipulada por inteligência artificial para simular nudez e poses sexuais sem autorização. O caso envolve a ferramenta Grok, sistema de IA integrado à rede social X, e foi registrado na 10ª Delegacia de Polícia, em Botafogo, na Zona Sul do Rio.

A vítima, Julie Yukari, relatou que publicou uma foto com sua gata na plataforma em 31 de dezembro e foi dormir pouco antes da meia-noite. Ao acordar, encontrou a imagem amplamente compartilhada e usada por outros perfis para gerar versões sexualizadas por meio da ferramenta de IA.

Segundo Julie, os pedidos para manipulação da foto partiram de diversos perfis masculinos, que solicitaram ao Grok a criação de imagens em que ela aparecia nua ou em poses consideradas pornográficas.

Como ocorreu a manipulação da imagem pela inteligência artificial?

De acordo com o relato publicado pela jovem, a foto original foi utilizada como base para gerar novas imagens sem consentimento. Ela afirmou ter se surpreendido inicialmente com o número de curtidas, mas disse não imaginar que a imagem seria usada para esse tipo de alteração.

“Acordei hoje e já tinha 1k curtidas. Algo que não esperava. Mas não imaginava mesmo era que homens usassem essa foto pra me colocar em poses e roupas sexuais como se eu fosse um brinquedo pornográfico à disposição deles. Algo de uma perversidade que não sei se eles entendem”, escreveu Julie em seu perfil.

Quais medidas foram tomadas após o ocorrido?

Julie informou que denunciou os conteúdos à própria plataforma X, que removeu as postagens do ar. Além disso, ela formalizou a denúncia junto à Polícia Civil, que registrou o caso como registro não autorizado de intimidade sexual.

“Não estou criminalizando a IA, mas, se alguém comete um crime usando a IA, esse alguém precisa ser identificado e punido. E gostaria que a tecnologia pudesse ser uma aliada de vítimas contra seus agressores. Seria possível? Detectar crimes e criminosos?”, declarou.

A vítima também divulgou uma mensagem recebida da plataforma X informando que a conta responsável por solicitar a manipulação da imagem foi removida por violar as regras da rede social.

Deputada aprensentou denúncia contra a rede: “Estão divulgando imagens eróticas de mulheres e crianças”

A deputada federal Erika Hilton anunciou que apresentou denúncias contra o Grok e a rede social X ao Ministério Público Federal e à Agência Nacional de Proteção de Dados. Segundo ela, as ferramentas estariam gerando e divulgando imagens eróticas de mulheres e crianças reais sem consentimento.

De acordo com a parlamentar, há casos em que imagens de mulheres e meninas têm roupas substituídas por biquínis ou passam a ter conotação sexual. “Isso tudo é crime. O direito à imagem é individual, não é transferível por meio dos ‘termos de uso’ de uma rede social e a distribuição em massa de pornografia infantil por uma inteligência artificial integrada a uma rede social ultrapassa todos os limites”, afirmou.

“Estou solicitando que o Grok e toda função de inteligência artificial da rede X sejam desabilitados em todo o território nacional até que tudo seja devidamente investigado”, declarou a deputada.