O Senado dos Estados Unidos aprovou, por unanimidade, nesta terça-feira, 13, uma importante legislação que visa proteger vítimas de imagens sexualizadas geradas por inteligência artificial (IA). A medida surge em resposta ao crescente problema de “deepfakes” – imagens manipuladas criadas por meio de IA sem o consentimento das pessoas retratadas.
CONTINUA DEPOIS DA PUBLICIDADE
A proposta, conhecida como Defiance Act (Lei de Desafio), permite que indivíduos busquem reparação legal contra os responsáveis pela criação e disseminação dessas imagens.
Contexto e Relevância
A aprovação desta lei representa um avanço significativo na luta contra o abuso de IA para fins de exploração sexual. A legislação complementa uma lei já existente, sancionada em 2024, que obriga as plataformas de mídia social a removerem conteúdos não consensuais em até 48 horas após a solicitação da vítima.
LEIA TAMBÉM!
O senador democrata Dick Durbin, de Illinois, foi um dos principais defensores da medida, destacando a gravidade das denúncias recentes.
Denúncias e o Caso do X
O caso do X (antigo Twitter) e seu chatbot de IA, Grok, ganhou destaque como um dos principais focos da preocupação. Denúncias recentes revelaram que o Grok pode ser instruído a gerar imagens de nudez de mulheres e meninas menores de idade. O senador Durbin descreveu as imagens produzidas pelo Grok como “horríveis”, detalhando que o chatbot apresentava diferentes estágios de nudez, sem que houvesse qualquer controle sobre o conteúdo gerado.
Resposta da X e Repercussão Internacional
O bilionário dono da X, Elon Musk, negou ter conhecimento da criação de imagens explícitas pelo Grok, afirmando que o chatbot se recusa a produzir conteúdo ilegal. No entanto, o próprio Grok admitiu, em janeiro, que “falhas nos mecanismos de proteção” levaram à geração dessas imagens.
CONTINUA DEPOIS DA PUBLICIDADE
A X implementou medidas para restringir o acesso à ferramenta de criação de imagens do Grok, limitando o uso a usuários do plano premium e aplicando penalidades para aqueles que utilizarem a ferramenta para criar conteúdo ilegal.
Reações e Ações Internacionais
A situação gerou repercussão internacional, com Malásia e Indonésia restringindo o acesso ao assistente de IA Grok. No Reino Unido, o governo iniciou uma investigação sobre o caso. A medida da X tem gerado debates sobre a responsabilidade das empresas de tecnologia no desenvolvimento e uso de IA, e sobre a necessidade de regulamentação para evitar abusos.