Investigação da Ofcom Revela Preocupações com o Gerenciamento de Imagens Geradas por IA pelo Grok
A Autoridade de Segurança Online do Reino Unido, Ofcom, iniciou uma investigação formal sobre o X, a plataforma que hospeda o chatbot de IA Grok, após receber relatos alarmantes de uso inadequado da ferramenta para a criação de imagens sexualizadas de mulheres e crianças.
CONTINUA DEPOIS DA PUBLICIDADE
A investigação surge como a mais recente ação do governo britânico contra o chatbot de Elon Musk, levantando sérias questões sobre a segurança e o gerenciamento de conteúdo gerado por inteligência artificial.
A Ofcom anunciou a medida na segunda-feira, destacando a gravidade dos relatos. Se confirmada a violação da Lei de Segurança Online, a plataforma poderá enfrentar multas significativas, que podem chegar a 10% da sua receita, ou até mesmo uma ordem judicial para interromper suas operações, incluindo a proibição de acesso ao serviço.
LEIA TAMBÉM!
A situação se agrava com o histórico de ações contra o X. Em julho, o Ministério da Eletrônica e Tecnologia da Informação da Índia emitiu um alerta severo, enquanto a União Europeia ordenou que o X conservasse todos os documentos e dados internos relacionados ao Grok, sob a Lei dos Serviços Digitais.
As imagens geradas foram classificadas como “terríveis” e “repugnantes”.
Além disso, a Austrália abriu uma investigação semelhante, liderada pelo Comissário de Segurança Online, sobre deepfakes “digitalmente despidos” gerados pelo Grok. A Indonésia e a Malásia também implementaram proibições temporárias ao acesso ao chatbot.
CONTINUA DEPOIS DA PUBLICIDADE
“Essa mudança simplesmente transforma um recurso de IA que permite a criação de imagens ilegais em um serviço premium”, declarou um porta-voz do gabinete do primeiro-ministro do Reino Unido ao The Guardian, em resposta à limitação imposta pela Grok ao seu recurso de geração de imagens na sexta-feira. “Não é uma solução.
Na verdade, é um insulto às vítimas de misoginia e violência sexual.”
A situação se insere em um contexto de regulamentação crescente em torno de tecnologias de IA. A Lei de Segurança Online do Reino Unido, aprovada em 2023, visa responsabilizar as empresas de tecnologia pela remoção de conteúdo ilegal gerado por seus usuários.
A lei também criminaliza o envio de imagens sexuais não solicitadas e a disseminação de informações falsas com a intenção de causar danos significativos.
O Reino Unido já possui um histórico extenso de prisões relacionadas a comunicações online, remontando à Lei de Ordem Pública de 1986, que criminaliza palavras ou comportamentos destinados a incitar o ódio racial, religioso ou por orientação sexual.
Segundo um estudo debatido na Câmara dos Lordes, o país realiza mais de 12.000 prisões por ano relacionadas a comunicações online.
Elon Musk tem criticado persistentemente as leis sobre mídias sociais do Reino Unido, descrevendo o país como um “estado policial” e uma “ilha-prisão”, e afirmando que possui um governo e um sistema judiciário “falidos”. Em resposta a um gráfico que mostrava o Reino Unido com o maior número de prisões por comentários online, o primeiro-ministro britânico, Keir Starmer, classificou as imagens sexualizadas não consensuais do Grok como “ilegais”, acrescentando: “não vamos tolerar isso”.