Brasil
Governo e MP pressionam X a barrar imagens sexualizadas criadas por IA
Recomendação prevê filtros rigorosos para impedir imagens e vídeos erotizados, incluindo deepfakes sem consentimento
O Governo Federal e o Ministério Público recomendaram que o X adote medidas imediatas para impedir a geração de conteúdos sexualizados pelo Grok.
As instituições pedem filtros rigorosos para barrar a criação de imagens e vídeos erotizados, inclusive deepfakes, que representem pessoas maiores de idade identificadas ou identificáveis sem autorização.
Segundo o documento, embora o artigo 19 do Marco Civil da Internet limite a responsabilidade das plataformas, o X não seria mero intermediário, mas coautor desses conteúdos, já que eles resultam da interação dos usuários com a ferramenta de inteligência artificial da própria empresa.
O texto cita ainda decisão recente do STF que declarou a parcial inconstitucionalidade do artigo, ao entender que ele não protege adequadamente direitos fundamentais.
As recomendações destacam que as próprias regras do X já proíbem nudez não consensual. Caso não haja cumprimento, medidas administrativas e judiciais poderão ser adotadas, especialmente para proteger mulheres, crianças e adolescentes