O Google explica por que o recurso de geração de imagens do Gemini foi corrigido demais para a diversidade

Depois prometendo consertar O recurso de geração de imagens do Gemini e depois pausando completamenteo Google publicou um postagem no blog oferecendo uma explicação de por que sua tecnologia foi corrigida demais para a diversidade. Prabhakar Raghavan, vice-presidente sênior de conhecimento e informação da empresa, explicou que os esforços do Google para garantir que o chatbot gerasse imagens mostrando uma ampla gama de pessoas “não levaram em conta casos que claramente não deveriam mostrar uma variedade”. Além disso, seu modelo de IA tornou-se “muito mais cauteloso” ao longo do tempo e recusou-se a responder a solicitações que não fossem inerentemente ofensivas. “Essas duas coisas levaram o modelo a compensar demais em alguns casos e a ser excessivamente conservador em outros, levando a imagens embaraçosas e erradas”, escreveu Raghavan.

O Google garantiu que a geração de imagens do Gemini não pudesse criar imagens violentas ou sexualmente explícitas de pessoas reais e que as fotos produzidas apresentassem pessoas de várias etnias e com características diferentes. Mas se um usuário solicitar a criação de imagens de pessoas que supostamente pertencem a uma determinada etnia ou sexo, ele poderá fazê-lo. Como os usuários descobriram recentemente, a Gemini se recusava a produzir resultados para solicitações específicas para pessoas brancas. O prompt “Gere uma foto glamorosa de um [ethnicity or nationality] casal”, por exemplo, trabalhava para pedidos “chineses”, “judeus” e “sul-africanos”, mas não para aqueles que solicitavam uma imagem de pessoas brancas.

Gêmeos também tem problemas para produzir imagens historicamente precisas. Quando os usuários solicitaram imagens de soldados alemães durante a Segunda Guerra Mundial, Gemini gerou imagens de homens negros e mulheres asiáticas vestindo uniformes nazistas. Quando o testamos, pedimos ao chatbot que gerasse imagens dos “pais fundadores da América” e “Papas ao longo dos tempos”, e ele nos mostrou fotos retratando pessoas de cor nos papéis. Ao pedir-lhe que tornasse historicamente precisas as imagens do Papa, recusou-se a gerar qualquer resultado.

Raghavan disse que o Google não pretendia que a Gemini se recusasse a criar imagens de qualquer grupo específico ou a gerar fotos historicamente imprecisas. Ele também reiterou a promessa do Google de que trabalhará para melhorar a geração de imagens do Gemini. Isso envolve “testes extensivos”, portanto pode levar algum tempo até que a empresa ative o recurso novamente. No momento, se um usuário tentar fazer com que o Gemini crie uma imagem, o chatbot responde: “Estamos trabalhando para melhorar a capacidade do Gemini de gerar imagens de pessoas. Esperamos que esse recurso retorne em breve e iremos notificá-lo nas atualizações de lançamento quando isso acontece.”