Nesta quinta-feira (22), o Google informou que vai temporariamente interromper a criação de imagens usando comandos de texto pela Gemini, sua inteligência artificial (IA). Essa pausa imediata terá duração indefinida.
Conforme informações do Google, a paralisação ocorre devido a erros nas representações históricas. Recentemente, a inteligência artificial recebeu críticas nas redes sociais como o X (antigo Twitter) por apresentar resultados problemáticos relacionados a certas etnias e nacionalidades.
Continua depois da publicidade
Analisamos criticamente a tecnologia, o mundo dos negócios e os comportamentos relacionados.
Assine agora o The Brief, uma newsletter diária que mantém você informado sobre tudo
“Estamos trabalhando para melhorar rapidamente a representação das imagens. A criação de várias pessoas pela IA Gemini é geralmente benéfica, uma vez que é usado por pessoas em todo o mundo. No entanto, houve um erro nesse caso.”
Estamos trabalhando para resolver problemas recentes com a função de geração de imagens do Gemini. Enquanto fazemos isso, vamos pausar a geração de imagens de pessoas e em breve lançaremos uma versão aprimorada. https://t.co/SLxYPGoqOZ
Continua depois da publicidade
A empresa irá consertar os algoritmos do serviço o mais rápido possível. Uma nova versão será lançada em breve. Recentemente, a Google já lançou uma versão melhorada do Gemini Ultra, chamada 1.5, que é a mais poderosa atualmente.
As críticas sobre o uso da IA Gemini para criar imagens vieram após vários testes de usuários. Em geral, a plataforma é criticada por errar em tons de pele, etnias e representações com contexto histórico impreciso.
Google pediu desculpas por imprecisões como a dessas imagens.
Em um caso específico, aconteceu um resultado inesperado quando o Gemini criou uma imagem dos “senadores dos Estados Unidos nos anos 1800”. Aconteceu uma grande diversidade de pessoas, incluindo indígenas e mulheres no papel de políticos. Além disso, houve também a inclusão de pessoas negras nas pinturas dos “pais fundadores” dos EUA. No entanto, vale ressaltar que isso não é historicamente correto, já que tais representações não existiam na realidade política do país naquela época.
Em outro pedido, sobre criar “soldados da Alemanha de 1943”, os oficiais nazistas retratados incluem uma mulher asiática e um homem negro.
Um dos assuntos que causou polêmica no Gemini foi o prompt.
Fora esses erros, usuários conservadores acusam o Gemini no X de “excluir pessoas brancas” de certos prompts, como ao criar imagens baseadas no texto “uma mulher norte-americana”.
Em todos os casos, o problema parece ser que o algoritmo do Google está selecionando com muito rigor as imagens de IA sem representar adequadamente pessoas de diferentes grupos étnicos. Isso é uma preocupação frequente da comunidade há algum tempo, principalmente porque as plataformas têm menos materiais que incluem pessoas de outras etnias.
