A deputada federal Erika Hilton protocolou uma representação no Ministério Público Federal contra o Grok, ferramenta de inteligência artificial integrada à plataforma X, antigo Twitter. O pedido é direto e contundente: a suspensão imediata da IA em todo o território nacional.

Segundo a parlamentar, o funcionamento do Grok permitiu a geração e edição automatizada de imagens sexualizadas de pessoas reais, incluindo crianças e adolescentes, sem qualquer mecanismo eficaz de verificação de idade, consentimento ou finalidade legítima.

O que é o Grok e como a IA funciona dentro do X

O Grok é um sistema de inteligência artificial generativa que opera como um chatbot dentro do X. A ferramenta responde a comandos dos usuários, produz textos e edita imagens com base em fotos publicadas na própria rede social.

Por meio de modelos avançados de IA, o Grok interpreta pedidos e entrega resultados automatizados, inclusive alterações visuais em fotografias, algo que, segundo a denúncia, abriu espaço para abusos graves.

Falta de filtros teria permitido deepfakes sexuais

Na petição enviada ao MPF, Erika Hilton sustenta que o Grok passou a editar imagens de terceiros sem checar consentimento, idade ou legitimidade do pedido. Essa ausência de salvaguardas teria viabilizado a produção e circulação de deepfakes sexuais, envolvendo tanto mulheres adultas quanto menores de idade.

O documento relata que, a partir de comandos simples, a IA gerou imagens eróticas e pornográficas de crianças e adolescentes reais. Mesmo após denúncias públicas, a funcionalidade teria continuado ativa, ampliando o alcance do material produzido.

Mulheres também foram vítimas de sexualização não consentida

Além dos casos envolvendo menores, a representação descreve episódios de sexualização não consentida de mulheres adultas. Em um dos relatos, usuários pediram ao Grok que “despisse digitalmente” uma fotografia publicada na plataforma.

O resultado foi a circulação de imagens geradas pela IA, mesmo após protestos da vítima, o que reforça a acusação de violação da dignidade, da privacidade e do direito à imagem.

O que Erika Hilton pede ao MPF

Entre os pedidos apresentados pela deputada estão:

• Abertura de procedimento investigatório no MPF
• Suspensão imediata ou restrição severa das funcionalidades do Grok
• Apresentação de informações técnicas detalhadas sobre filtros e mecanismos de proteção
• Comunicação formal do caso à Autoridade Nacional de Proteção de Dados
• Desativação do Grok no Brasil até a implementação de salvaguardas consideradas eficazes

A petição ainda prevê multa diária de R$ 500 mil caso haja descumprimento de eventual decisão.

Direito à imagem e pornografia infantil entram no centro do debate

Em publicação no próprio X, Erika Hilton foi enfática ao afirmar que o direito à imagem é individual e intransferível, não podendo ser relativizado por termos de uso de redes sociais.

Para a deputada, a distribuição em massa de pornografia infantil por uma inteligência artificial integrada a uma plataforma digital ultrapassa todos os limites legais, éticos e humanos, exigindo resposta imediata do Estado.

O caso reacende o debate sobre regulação da inteligência artificial, responsabilidade das plataformas digitais e os riscos de tecnologias capazes de gerar conteúdo realista sem controles adequados.

Para acompanhar análises claras sobre política, tecnologia e direitos digitais, continue navegando pelo Brasilvest.

Perguntas Frequentes (FAQs)

Por que Erika Hilton acionou o MPF contra o Grok?

Porque a IA teria permitido a criação e circulação de deepfakes sexuais, inclusive com crianças e adolescentes

O que é o Grok?

É uma ferramenta de inteligência artificial do X que gera textos e edita imagens a partir de comandos dos usuários

A deputada pediu a retirada da ferramenta do ar?

Sim, ela solicitou a desativação do Grok em todo o território nacional

O caso envolve pornografia infantil?

Segundo a denúncia, sim, pois há geração de imagens sexualizadas de menores reais

Quais órgãos além do MPF foram acionados?

A deputada também pediu a atuação da Autoridade Nacional de Proteção de Dados (ANPD)