O governo federal e o Ministério Público Federal (MPF) recomendaram que a rede social X, controlada pelo bilionário Elon Musk, adote medidas imediatas para impedir o uso da ferramenta de inteligência artificial Grok na criação de conteúdos sexualizados e eróticos a partir de imagens de pessoas reais no Brasil.
A recomendação foi divulgada nesta terça-feira (20) e é assinada pela Agência Nacional de Proteção de Dados (ANPD), pela Secretaria Nacional do Consumidor (Senacon), do Ministério da Justiça, e pelo MPF. A iniciativa ocorre após uma série de denúncias de usuários que afirmam ter sido vítimas de montagens íntimas e deepfakes geradas pela IA da plataforma, muitas delas sem qualquer tipo de consentimento.
Segundo o documento, o X deve impedir imediatamente que o Grok produza novas imagens, vídeos ou áudios que retratem crianças e adolescentes em contextos sexualizados ou erotizados, bem como adultos identificáveis nessas mesmas situações sem autorização prévia. As instituições alertam que, caso as recomendações não sejam cumpridas ou sejam aplicadas de forma insuficiente, medidas administrativas e judiciais poderão ser adotadas.
Além do bloqueio imediato da geração desse tipo de conteúdo, os órgãos também pedem que a empresa suspenda as contas envolvidas na produção de imagens sexuais falsas, tanto de menores quanto de adultos. Outra exigência é a criação, em até 30 dias, de procedimentos técnicos e operacionais para identificar, revisar e remover conteúdos já publicados que tenham sido gerados de forma irregular pelo Grok.
As instituições também cobraram a implementação de um mecanismo transparente, acessível e eficaz para que vítimas possam denunciar o uso indevido de seus dados pessoais, com garantia de resposta adequada e dentro de um prazo razoável. A recomendação inclui ainda a elaboração de um relatório de impacto à proteção de dados pessoais, específico para as atividades do Grok relacionadas à geração de conteúdos sintéticos.
De acordo com o MPF, embora o Marco Civil da Internet preveja que plataformas não sejam responsabilizadas automaticamente por conteúdos publicados por terceiros, esse entendimento não se aplica totalmente ao caso. Isso porque os conteúdos sexualizados gerados pelo Grok resultam de uma interação direta entre usuários e a ferramenta criada e disponibilizada pelo próprio X, o que pode caracterizar a empresa como coautora, e não apenas intermediária.
O documento também lembra que o Supremo Tribunal Federal (STF) declarou recentemente a inconstitucionalidade parcial do artigo 19 do Marco Civil, ao entender que ele não oferece proteção suficiente a direitos fundamentais. Com isso, plataformas digitais passam a ter um dever especial de cuidado, especialmente para evitar a circulação de crimes graves, como os praticados contra mulheres, crianças e adolescentes.
Outro ponto destacado é que as próprias regras internas do X proíbem a publicação de nudez não consensual e a manipulação de imagens de terceiros com conteúdo sexual. Para as autoridades, permitir o funcionamento de uma ferramenta de IA sem filtros rigorosos vai contra essas normas e torna a situação “insustentável”.
Críticas do Idec
O Instituto de Defesa do Consumidor (Idec), responsável por apresentar a denúncia inicial, avaliou que as recomendações são insuficientes. Em nota, a entidade afirmou que os órgãos optaram por uma abordagem burocrática, sem interromper o funcionamento da ferramenta.
Segundo o Idec, a decisão ignora a gravidade dos milhares de casos de uso indevido de dados pessoais, inclusive de crianças e adolescentes, mantendo consumidores brasileiros em situação de risco enquanto o Grok segue operando normalmente.
As instituições deram prazo até o fim de janeiro para que o X informe quais medidas adotará. Caso contrário, o caso pode avançar para ações judiciais, com base no Marco Civil da Internet, no Código de Defesa do Consumidor e na Lei Geral de Proteção de Dados (LGPD).