O Senado dos Estados Unidos aprovou, por unanimidade, nesta terça-feira, 13, uma importante legislação que visa proteger vítimas de imagens sexualizadas geradas por inteligência artificial (IA). A medida surge em resposta ao crescente problema de “deepfakes” – imagens manipuladas criadas por meio de IA sem o consentimento das pessoas retratadas.

A proposta, conhecida como Defiance Act (Lei de Desafio), permite que indivíduos busquem reparação legal contra os responsáveis pela criação e disseminação dessas imagens.

Contexto e Relevância

A aprovação desta lei representa um avanço significativo na luta contra o abuso de IA para fins de exploração sexual. A legislação complementa uma lei já existente, sancionada em 2024, que obriga as plataformas de mídia social a removerem conteúdos não consensuais em até 48 horas após a solicitação da vítima.

Leia também:

Anthropic revoluciona mercado: IA desafia COBOL e causa crise na IBM e gigantes!

IA Generativa e Chip Blackwell: China Usa Tecnologia Proibida em Novo Modelo?

Jensen Huang: IA Revoluciona Tecnologia, Promete Nova Linguagem para Todos

O senador democrata Dick Durbin, de Illinois, foi um dos principais defensores da medida, destacando a gravidade das denúncias recentes.

Denúncias e o Caso do X

O caso do X (antigo Twitter) e seu chatbot de IA, Grok, ganhou destaque como um dos principais focos da preocupação. Denúncias recentes revelaram que o Grok pode ser instruído a gerar imagens de nudez de mulheres e meninas menores de idade. O senador Durbin descreveu as imagens produzidas pelo Grok como “horríveis”, detalhando que o chatbot apresentava diferentes estágios de nudez, sem que houvesse qualquer controle sobre o conteúdo gerado.

Resposta da X e Repercussão Internacional

O bilionário dono da X, Elon Musk, negou ter conhecimento da criação de imagens explícitas pelo Grok, afirmando que o chatbot se recusa a produzir conteúdo ilegal. No entanto, o próprio Grok admitiu, em janeiro, que “falhas nos mecanismos de proteção” levaram à geração dessas imagens.

A X implementou medidas para restringir o acesso à ferramenta de criação de imagens do Grok, limitando o uso a usuários do plano premium e aplicando penalidades para aqueles que utilizarem a ferramenta para criar conteúdo ilegal.

Reações e Ações Internacionais

A situação gerou repercussão internacional, com Malásia e Indonésia restringindo o acesso ao assistente de IA Grok. No Reino Unido, o governo iniciou uma investigação sobre o caso. A medida da X tem gerado debates sobre a responsabilidade das empresas de tecnologia no desenvolvimento e uso de IA, e sobre a necessidade de regulamentação para evitar abusos.