Investigação da Comissão Europeia Contra a Rede Social X por Conteúdo Gerado por IA

A Comissão Europeia anunciou nesta segunda-feira a abertura de uma investigação formal contra a rede social X, devido à criação de imagens sexualizadas e não consentidas por meio de sua inteligência artificial, Grok. A análise se concentrará na avaliação se a empresa, liderada por Elon Musk, está em conformidade com as leis digitais da União Europeia.

Em comunicado, Bruxelas explicou que a investigação visa determinar se o X avaliou e reduziu adequadamente os riscos associados à utilização das funcionalidades do Grok na Europa. A principal preocupação é a possibilidade de distribuição de conteúdo ilegal, incluindo imagens manipuladas sexualmente que poderiam ser consideradas material de abuso infantil.

“Os riscos parecem ter se materializado. Por isso, a Comissão investigará se o X cumpre com suas obrigações sob a Lei de Serviços Digitais, buscando avaliar e mitigar riscos sistêmicos e garantir que a empresa apresente um relatório de riscos específico sobre as funcionalidades do Grok que impactam significativamente o perfil de risco da plataforma antes de seu lançamento,” declarou a Comissão.

Leia também:

Endrick Brilhou com Hat-Trick e Desencadeou a “Endrickmania” no Lyon!

UE Proíbe Radicalmente Gás Russo: Medida Decisiva em 2027!

Irã Abre Portas para Diálogo com EUA – Condições e Alerta de Retaliação!

A investigação ocorre em um contexto de crescente polêmica, após a publicação de imagens de crianças e mulheres nuas geradas pelo Grok nas últimas semanas. Essa situação levou o governo francês a iniciar um processo judicial contra a rede social X.

A situação se soma a outros casos de conteúdo problemático, como o negacionismo do Holocausto, que também foi divulgado pela IA da plataforma no final do ano passado.

A Comissão Europeia acredita que, caso as alegações sejam confirmadas, o X estaria violando diversos artigos da Lei de Serviços Digitais, que a empresa deve cumprir ao operar na União Europeia. A legislação exige a avaliação e mitigação de riscos para os cidadãos europeus.

É importante ressaltar que a Comissão já havia aplicado uma multa de 120 milhões de euros ao X em dezembro do ano passado, devido a descumprimentos relacionados à transparência de seu selo de verificação azul, à falta de transparência em seu repositório publicitário e à restrição de acesso a dados públicos para pesquisadores.

Adicionalmente, a Comissão Europeia prorrogou sua investigação iniciada em 2023, que analisa se o X está cumprindo suas obrigações de gestão de riscos em seus sistemas de recomendação de conteúdo, considerando a recente mudança para um sistema baseado na inteligência artificial do Grok.