A Agência Nacional de Proteção de Dados (ANDP), a Secretaria Nacional do Consumidor (Senacom) e o Ministério Público Federal (MPF) emitiram recomendações urgentes à empresa controladora da plataforma digital X, em resposta a crescentes preocupações sobre o uso inadequado da ferramenta de inteligência artificial, Grok.
CONTINUA DEPOIS DA PUBLICIDADE
O foco principal das recomendações é impedir a geração e circulação de conteúdos sexualizados indevidos, produzidos através do Grok. A medida visa lidar com denúncias de usuários que apontam para a criação de imagens sintéticas de natureza sexualizada, utilizando-se de imagens de pessoas reais.
Recomendações Específicas
As instituições solicitaram que a X implemente procedimentos técnicos e operacionais para identificar e remover conteúdos sexualizados gerados pelo Grok, a partir de comandos de usuários. Além disso, pedem a suspensão imediata de contas envolvidas na produção de imagens sexuais de crianças, adolescentes ou adultos, sem o consentimento adequado.
LEIA TAMBÉM!
Um ponto crucial das recomendações é a criação de um mecanismo transparente e acessível para que os titulares de dados possam exercer seus direitos, incluindo o envio de denúncias sobre o uso irregular de dados pessoais, especialmente em casos de criação de conteúdos sintéticos sexualizados ou erotizados sem consentimento.
Contexto Legal e Jurisprudência
As instituições destacam que, apesar do artigo 19 do Marco Civil da Internet, a responsabilidade dos provedores de aplicação da internet não é totalmente isenta, especialmente quando a ferramenta de IA facilita a produção de deepfakes. O Supremo Tribunal Federal (STF) já declarou a parcial inconstitucionalidade desse artigo, reforçando a necessidade de um cuidado especial com crimes como a violência contra a mulher.
O STF também enfatizou que a plataforma X, ao disponibilizar uma ferramenta de IA sem filtros rigorosos, assume um papel de coautoridade na produção de conteúdos sexualizados, e não apenas de intermediário.
CONTINUA DEPOIS DA PUBLICIDADE
Responsabilidade da Plataforma X
As instituições lembram que a política de autorregulação da X relacionada à nudez não consensual já proíbe a publicação e o compartilhamento de imagens ou vídeos explícitos produzidos sem consentimento. A plataforma também veda a produção, manipulação e disseminação de imagens de terceiros com conteúdo sexual ou erotizado, utilizando o Grok.
Caso as recomendações não sejam acatadas ou implementadas de forma eficaz, as três instituições se reservam o direito de adotar outras medidas, tanto administrativas quanto judiciais, para garantir a proteção dos cidadãos, especialmente mulheres, crianças e adolescentes.