Governo Lula pressiona X por uso indevido de imagens criadas por IA

O MPF (Ministério Público Federal), a ANPD (Agência Nacional de Proteção de Dados) e a Senacon (Secretaria Nacional do Consumidor) emitiram, nesta 3ª feira (20.jan.2026), recomendações formais à plataforma X para impedir o uso indevido do sistema de inteligência artificial Grok.

As autoridades determinaram a adoção imediata de barreiras técnicas contra a criação de imagens sexualizadas de mulheres e crianças reais.

Segundo relatos, usuários manipulam fotos compartilhadas em redes sociais para criar versões sem roupas ou em contextos erotizados, sem consentimento. A atuação conjunta do MPF com órgãos do Ministério da Justiça e Segurança Pública estabelece medidas de fiscalização sobre conteúdos produzidos com o Grok, válidas para todo o território nacional. Leia a íntegra (PDF – 298 kB).

Na 4ª feira (14.jan.2026), a xAI, empresa de inteligência artificial fundada por Elon Musk, informou que o Grok deixará de permitir a criação ou edição, por inteligência artificial, de imagens sexualizadas de pessoas reais na plataforma X a partir de comandos dos usuários.

A decisão veio depois de críticas de consumidores, manifestações políticas e abertura de investigações regulatórias em diferentes países.

Em nota publicada na conta X Safety, a empresa informou que implementou barreiras técnicas para impedir o Grok de editar imagens de pessoas reais com trajes considerados reveladores, como biquínis. A xAI declarou que a restrição vale para todos os usuários, inclusive assinantes pagos.

Entre as determinações, os órgãos públicos exigiram que a empresa crie, em até 30 dias, procedimentos técnicos e operacionais para identificar, revisar e remover conteúdos inadequados já criados pelo Grok e ainda disponíveis na plataforma.

As autoridades também exigiram a suspensão imediata das contas envolvidas na produção de imagens sexuais ou erotizadas sem autorização, com comprovação por meio de relatórios mensais.

Os órgãos informaram que, se as recomendações não forem cumpridas ou se mostrarem insuficientes para eliminar os riscos identificados, poderão adotar outras medidas administrativas e judiciais, com foco na proteção de mulheres, crianças e adolescentes.