Google promete consertar geração de imagem do Gemini após reclamações de que ele está ‘acordado’

do Google Chatbot Gêmeos, que anteriormente era chamado de Bard, tem a capacidade de criar ilustrações geradas por IA com base na descrição de texto do usuário. Você pode pedir para criar fotos de casais felizes, por exemplo, ou de pessoas com roupas de época andando pelas ruas modernas. Enquanto o BBC observa, no entanto, que alguns usuários estão criticando o Google por retratar figuras brancas específicas ou grupos de pessoas historicamente brancas como indivíduos racialmente diversos. Agora, o Google emitiu um comunicado dizendo que está ciente de que o Gemini “está oferecendo imprecisões em algumas representações históricas de geração de imagens” e que vai consertar as coisas imediatamente.

De acordo com Ponto Diárioum ex-funcionário do Google deu início às reclamações quando twittou imagens de mulheres negras com a legenda: “É embaraçosamente difícil fazer o Google Gemini reconhecer que existem brancos”. Para obter esses resultados, ele pediu ao Gemini que gerasse fotos de mulheres americanas, britânicas e australianas. Outros usuários, principalmente aqueles conhecidos por serem figuras de direita, concordaram com seus próprios resultados, mostrando imagens geradas por IA que retratam os pais fundadores da América e os papas da Igreja Católica como pessoas de cor.

Em nossos testes, pedir a Gêmeos que criasse ilustrações dos pais fundadores resultou em imagens de homens brancos com uma única pessoa negra ou mulher. Quando pedimos ao chatbot para gerar imagens do papa ao longo dos tempos, obtivemos fotos que retratavam mulheres negras e nativos americanos como líderes da Igreja Católica. Pedir a Gêmeos que gerasse imagens de mulheres americanas nos deu fotos de uma mulher branca, uma do Leste Asiático, uma nativa americana e uma mulher do Sul da Ásia. A beira diz que o chatbot também retratou os nazistas como pessoas de cor, mas não conseguimos fazer com que Gemini gerasse imagens nazistas. “Não posso atender ao seu pedido devido ao simbolismo prejudicial e ao impacto associado ao Partido Nazista”, respondeu o chatbot.

O comportamento de Gemini pode ser resultado de uma correção excessiva, uma vez que chatbots e robôs treinados em IA nos últimos anos tenderam a exibir comportamento racista e sexista. Em um experimentar a partir de 2022, por exemplo, um robô escolheu repetidamente um homem negro quando questionado sobre qual dos rostos que escaneou era o de um criminoso. Em um comunicado postado no X, o líder de produto da Gemini, Jack Krawczyk disse O Google projetou seus “recursos de geração de imagens para refletir [its] base global de usuários e [it takes] representação e preconceito a sério.” Ele disse que Gemini continuará a gerar ilustrações racialmente diversas para sugestões abertas, como imagens de pessoas passeando com seus cachorros. No entanto, ele admitiu que “[h]contextos históricos têm mais nuances e [his team] irá ajustar ainda mais para acomodar isso.”