A Agência Nacional de Proteção de Dados (ANDP), a Secretaria Nacional do Consumidor (Senacom) e o Ministério Público Federal (MPF) emitiram recomendações urgentes à empresa controladora da plataforma digital X, em resposta a crescentes preocupações sobre o uso inadequado da ferramenta de inteligência artificial, Grok.

O foco principal das recomendações é impedir a geração e circulação de conteúdos sexualizados indevidos, produzidos através do Grok. A medida visa lidar com denúncias de usuários que apontam para a criação de imagens sintéticas de natureza sexualizada, utilizando-se de imagens de pessoas reais.

Recomendações Específicas

As instituições solicitaram que a X implemente procedimentos técnicos e operacionais para identificar e remover conteúdos sexualizados gerados pelo Grok, a partir de comandos de usuários. Além disso, pedem a suspensão imediata de contas envolvidas na produção de imagens sexuais de crianças, adolescentes ou adultos, sem o consentimento adequado.

Leia também:

Apple, Huawei e OPPO lideram queda no mercado chinês de smartphones em 2025 – Análise!

China Explode: Novas Firmas e IA Revolucionam a Indústria de Jogos em 2025!

Redmi AirDots e Samsung Galaxy Buds: Guia Completo para Pareamento Perfeito em 2026!

Um ponto crucial das recomendações é a criação de um mecanismo transparente e acessível para que os titulares de dados possam exercer seus direitos, incluindo o envio de denúncias sobre o uso irregular de dados pessoais, especialmente em casos de criação de conteúdos sintéticos sexualizados ou erotizados sem consentimento.

Contexto Legal e Jurisprudência

As instituições destacam que, apesar do artigo 19 do Marco Civil da Internet, a responsabilidade dos provedores de aplicação da internet não é totalmente isenta, especialmente quando a ferramenta de IA facilita a produção de deepfakes. O Supremo Tribunal Federal (STF) já declarou a parcial inconstitucionalidade desse artigo, reforçando a necessidade de um cuidado especial com crimes como a violência contra a mulher.

O STF também enfatizou que a plataforma X, ao disponibilizar uma ferramenta de IA sem filtros rigorosos, assume um papel de coautoridade na produção de conteúdos sexualizados, e não apenas de intermediário.

Responsabilidade da Plataforma X

As instituições lembram que a política de autorregulação da X relacionada à nudez não consensual já proíbe a publicação e o compartilhamento de imagens ou vídeos explícitos produzidos sem consentimento. A plataforma também veda a produção, manipulação e disseminação de imagens de terceiros com conteúdo sexual ou erotizado, utilizando o Grok.

Caso as recomendações não sejam acatadas ou implementadas de forma eficaz, as três instituições se reservam o direito de adotar outras medidas, tanto administrativas quanto judiciais, para garantir a proteção dos cidadãos, especialmente mulheres, crianças e adolescentes.