Investigação da Ofcom Revela Preocupações com o Gerenciamento de Imagens Geradas por IA pelo Grok

A Autoridade de Segurança Online do Reino Unido, Ofcom, iniciou uma investigação formal sobre o X, a plataforma que hospeda o chatbot de IA Grok, após receber relatos alarmantes de uso inadequado da ferramenta para a criação de imagens sexualizadas de mulheres e crianças.

A investigação surge como a mais recente ação do governo britânico contra o chatbot de Elon Musk, levantando sérias questões sobre a segurança e o gerenciamento de conteúdo gerado por inteligência artificial.

A Ofcom anunciou a medida na segunda-feira, destacando a gravidade dos relatos. Se confirmada a violação da Lei de Segurança Online, a plataforma poderá enfrentar multas significativas, que podem chegar a 10% da sua receita, ou até mesmo uma ordem judicial para interromper suas operações, incluindo a proibição de acesso ao serviço.

Leia também:

LEGO SURPREENDE NO CES: SMART Play Revoluciona Brincadeiras com Star Wars!

Samsung e Google Unem forças com Galaxy AI: expansão ambiciosa e futuro da IA!

Gemini North Captura Imagem Surpreendente: Cometa 3I/ATLAS Revela Brilho Verde!

A situação se agrava com o histórico de ações contra o X. Em julho, o Ministério da Eletrônica e Tecnologia da Informação da Índia emitiu um alerta severo, enquanto a União Europeia ordenou que o X conservasse todos os documentos e dados internos relacionados ao Grok, sob a Lei dos Serviços Digitais.

As imagens geradas foram classificadas como “terríveis” e “repugnantes”.

Além disso, a Austrália abriu uma investigação semelhante, liderada pelo Comissário de Segurança Online, sobre deepfakes “digitalmente despidos” gerados pelo Grok. A Indonésia e a Malásia também implementaram proibições temporárias ao acesso ao chatbot.

“Essa mudança simplesmente transforma um recurso de IA que permite a criação de imagens ilegais em um serviço premium”, declarou um porta-voz do gabinete do primeiro-ministro do Reino Unido ao The Guardian, em resposta à limitação imposta pela Grok ao seu recurso de geração de imagens na sexta-feira. “Não é uma solução.

Na verdade, é um insulto às vítimas de misoginia e violência sexual.”

A situação se insere em um contexto de regulamentação crescente em torno de tecnologias de IA. A Lei de Segurança Online do Reino Unido, aprovada em 2023, visa responsabilizar as empresas de tecnologia pela remoção de conteúdo ilegal gerado por seus usuários.

A lei também criminaliza o envio de imagens sexuais não solicitadas e a disseminação de informações falsas com a intenção de causar danos significativos.

O Reino Unido já possui um histórico extenso de prisões relacionadas a comunicações online, remontando à Lei de Ordem Pública de 1986, que criminaliza palavras ou comportamentos destinados a incitar o ódio racial, religioso ou por orientação sexual.

Segundo um estudo debatido na Câmara dos Lordes, o país realiza mais de 12.000 prisões por ano relacionadas a comunicações online.

Elon Musk tem criticado persistentemente as leis sobre mídias sociais do Reino Unido, descrevendo o país como um “estado policial” e uma “ilha-prisão”, e afirmando que possui um governo e um sistema judiciário “falidos”. Em resposta a um gráfico que mostrava o Reino Unido com o maior número de prisões por comentários online, o primeiro-ministro britânico, Keir Starmer, classificou as imagens sexualizadas não consensuais do Grok como “ilegais”, acrescentando: “não vamos tolerar isso”.