Google explica erros que causaram a parada do gerador de imagens do Gemini

O Google pausou temporariamente a capacidade do Gemini de gerar imagens de pessoas devido a problemas em representações históricas e raciais encontradas nos conteúdos produzidos pela IA. A empresa confirmou esta decisão na sexta-feira (23), dando mais explicações sobre os motivos que levaram a essa ação.

Desde o início de fevereiro, um novo recurso tecnológico, inicialmente chamado de Bard, está disponível. Esse mecanismo tem a capacidade de criar imagens a partir de descrições em texto. No entanto, algumas pessoas têm relatado imprecisões nos resultados gerados por essa tecnologia nos últimos dias.

Análise crítica de tecnologia, negócios e comportamento.

Assine já o The BRIEF, a newsletter diária que te deixa por dentro de tudo

Um erro da IA generativa, que se tornou viral no X/Twitter, aconteceu quando a ferramenta criou imagens de um homem negro e uma mulher asiática ao receber o pedido para gerar fotos de soldados alemães em 1943. Em outro incidente, pessoas negras e indígenas foram geradas em um quadro sobre os “Pais Fundadores” dos Estados Unidos.

O Google admitiu os problemas e anunciou que suspendeu temporariamente o gerador de imagens do Gemini. Eles reconheceram o erro e vão trabalhar em uma nova versão melhorada antes de retomar a geração de imagens de pessoas.

Leia também:

Tim Cook afirma que a Apple vai lançar uma ‘revolucionária’ Inteligência Artificial geradora em 2024

O Llama 3, uma IA de linguagem da Meta, será lançado em julho

Elon Musk acusa OpenAI de ‘traição’ por se tornar uma empresa voltada para o lucro

O que deu errado no gerador de imagens do Gemini?

No documento, a gigante de Mountain View explica que a sua IA generativa sofre com “alucinações”, fenômeno comum e que pode afetar qualquer modelo de linguagem, incluindo o popular ChatGPT da OpenAI. Ao interpretar informações erroneamente, a ferramenta acaba gerando respostas sem sentido e/ou imprecisas.

A empresa também explicou que as mudanças feitas para que a tecnologia mostrasse diferentes tipos de pessoas não deram o resultado esperado. A tecnologia não levou em consideração os casos em que não era apropriado mostrar essa diversidade de pessoas. Além disso, o gerador ficou mais prudente e passou a recusar certas solicitações.

“Estas duas coisas levaram o modelo a compensar excessivamente em alguns casos e a ser demasiado conservador em outros, conduzindo a imagens embaraçosas e erradas”, destacou. Diante dos problemas, a desenvolvedora optou por desativar a funcionalidade momentaneamente.

Segundo o Google, o sistema passará por melhorias e testes adicionais antes de estar disponível novamente, mas ainda não há uma data prevista para isso. Apesar dessas mudanças, a empresa admite que o gerador de imagens do Gemini pode ocasionalmente retornar resultados inadequados, imprecisos ou ofensivos.