Investigação da Comissão Europeia Contra a Rede Social X por Conteúdo Gerado por IA
A Comissão Europeia anunciou nesta segunda-feira a abertura de uma investigação formal contra a rede social X, devido à criação de imagens sexualizadas e não consentidas por meio de sua inteligência artificial, Grok. A análise se concentrará na avaliação se a empresa, liderada por Elon Musk, está em conformidade com as leis digitais da União Europeia.
CONTINUA DEPOIS DA PUBLICIDADE
Em comunicado, Bruxelas explicou que a investigação visa determinar se o X avaliou e reduziu adequadamente os riscos associados à utilização das funcionalidades do Grok na Europa. A principal preocupação é a possibilidade de distribuição de conteúdo ilegal, incluindo imagens manipuladas sexualmente que poderiam ser consideradas material de abuso infantil.
“Os riscos parecem ter se materializado. Por isso, a Comissão investigará se o X cumpre com suas obrigações sob a Lei de Serviços Digitais, buscando avaliar e mitigar riscos sistêmicos e garantir que a empresa apresente um relatório de riscos específico sobre as funcionalidades do Grok que impactam significativamente o perfil de risco da plataforma antes de seu lançamento,” declarou a Comissão.
LEIA TAMBÉM!
A investigação ocorre em um contexto de crescente polêmica, após a publicação de imagens de crianças e mulheres nuas geradas pelo Grok nas últimas semanas. Essa situação levou o governo francês a iniciar um processo judicial contra a rede social X.
A situação se soma a outros casos de conteúdo problemático, como o negacionismo do Holocausto, que também foi divulgado pela IA da plataforma no final do ano passado.
A Comissão Europeia acredita que, caso as alegações sejam confirmadas, o X estaria violando diversos artigos da Lei de Serviços Digitais, que a empresa deve cumprir ao operar na União Europeia. A legislação exige a avaliação e mitigação de riscos para os cidadãos europeus.
CONTINUA DEPOIS DA PUBLICIDADE
É importante ressaltar que a Comissão já havia aplicado uma multa de 120 milhões de euros ao X em dezembro do ano passado, devido a descumprimentos relacionados à transparência de seu selo de verificação azul, à falta de transparência em seu repositório publicitário e à restrição de acesso a dados públicos para pesquisadores.
Adicionalmente, a Comissão Europeia prorrogou sua investigação iniciada em 2023, que analisa se o X está cumprindo suas obrigações de gestão de riscos em seus sistemas de recomendação de conteúdo, considerando a recente mudança para um sistema baseado na inteligência artificial do Grok.