Uso de deepfakes na plataforma X entra no radar do governo e Ministério Público

O Ministério da Justiça e Segurança Pública, por meio da Secretaria Nacional do Consumidor (Senacon), a Agência Nacional de Proteção de Dados (ANPD) e o Ministério Público Federal (MPF) recomendaram à empresa responsável pela plataforma X (antigo Twitter) que impeça a geração e a circulação de conteúdos sexualizados indevidos produzidos pelo Grok, ferramenta de inteligência artificial integrada à rede social.

A recomendação foi expedida de forma conjunta após denúncias de que o Grok estaria sendo usado para criar imagens falsas (deepfakes) de caráter sexual a partir de fotos de pessoas reais, inclusive mulheres, crianças e adolescentes, sem consentimento.

Segundo a Nota Técnica nº 1/2026 da ANPD, a ferramenta tem sido utilizada para produzir “deepfakes sexualizadas, eróticas e com conotação pornográfica de mulheres e de crianças e adolescentes reais, sem consentimento das titulares afetadas”. Ainda de acordo com o documento, “tais resultados seriam visíveis a qualquer usuário da Plataforma X, o que ampliaria significativamente o alcance e os potenciais danos às pessoas retratadas”.

Violência digital e violação de direitos

A ANPD destaca que esse tipo de prática vai muito além de um mau uso da tecnologia. “A utilização do sistema de inteligência artificial Grok para a produção de conteúdo sintético sexualizado ou erotizado viola diversos direitos fundamentais, afetando a imagem, a privacidade, a autodeterminação sexual e a integridade física e psíquica das pessoas envolvidas”, aponta a nota.

No caso de crianças e adolescentes, a gravidade é ainda maior. O documento afirma que “a manipulação indevida da imagem de crianças e adolescentes para a criação de representações sexualizadas compromete o desenvolvimento saudável da personalidade de titulares vulneráveis, podendo gerar efeitos duradouros de estigmatização e revitimização”.

 O que são deepfakes?

 Deepfakes são conteúdos criados com inteligência artificial que manipulam imagens, vídeos ou áudios para parecerem reais. Quando usados para fins sexuais sem autorização, tornam-se uma forma grave de violência digital, especialmente contra mulheres e menores de idade.

Segundo a ANPD, qualquer conteúdo sintético que represente uma pessoa identificável deve ser tratado como dado pessoal. E, quando envolve imagem, voz ou características biométricas, pode ser classificado como dado pessoal sensível, o que exige ainda mais proteção.

 O que o governo está exigindo da empresa do X?

 Entre as principais recomendações feitas ao X estão:

• Bloquear imediatamente a geração de imagens, vídeos ou áudios com crianças e adolescentes em contextos sexualizados;

• Impedir a criação de conteúdos eróticos com pessoas adultas identificáveis sem consentimento;

• Criar mecanismos eficazes para identificar e remover esse tipo de material da plataforma;

• Suspender contas envolvidas nessas práticas;

• Garantir canais acessíveis para denúncias e proteção às vítimas.

Essas medidas devem valer para todas as versões e planos do Grok, sem exceção.

A nota técnica é incisiva ao afirmar que a plataforma não pode se comportar como agente neutro: “A materialização do resultado lesivo somente se viabiliza em razão do tratamento de dados pessoais inerente ao funcionamento do modelo de inteligência artificial. Por isso, incumbe à plataforma a responsabilidade de adotar medidas técnicas e administrativas compatíveis com o nível de risco gerado pelo serviço”.

 Tecnologia com responsabilidade

O Governo Lula tem reafirmado que tecnologia não pode ser terra sem lei. A atuação conjunta da ANPD, do MPF e da Senacon mostra que o Brasil está levando a sério os impactos da inteligência artificial sobre direitos humanos.

A própria ANPD conclui que há “falha estrutural na arquitetura de governança de dados do modelo Grok, sujeitando todos os titulares de dados a riscos elevados, reiterados e sistemáticos relacionados à proteção de seus direitos fundamentais”. Caso a empresa não cumpra as recomendações, outras medidas, inclusive judiciais, poderão ser adotadas.

O objetivo da ação conjunta é defensor a dignidade humana também no ambiente digital, enfrentando abusos, responsabilizando grandes plataformas e colocando a vida, a integridade e os direitos das pessoas em primeiro lugar.

Ramíla Moura, especial para a Redação do PT.