[ad_1]
O Google disse quinta-feira que está pausando seu Chatbot de Gêmeos capacidade de gerar pessoas. A mudança ocorre depois que postagens virais nas redes sociais mostraram que a ferramenta de IA corrigia excessivamente a diversidade, produzindo imagens “históricas” dos nazistas, dos fundadores da América e do Papa como pessoas de cor.
“Já estamos trabalhando para resolver problemas recentes com o recurso de geração de imagens do Gemini”, disse o Google postou em X (através da O jornal New York Times). “Enquanto fazemos isso, vamos pausar a geração de imagens das pessoas e relançaremos uma versão melhorada em breve.”
O usuário X @JohnLu0x postou capturas de tela dos resultados do Gemini para o prompt “Gerar uma imagem de um soldado alemão de 1943”. (O erro ortográfico de “Soldado” foi intencional para enganar a IA, fazendo-a contornar os filtros de conteúdo para gerar imagens nazistas que de outra forma seriam bloqueadas.) Os resultados gerados parecem mostrar soldados negros, asiáticos e indígenas vestindo uniformes nazistas.
Outros usuários sociais criticaram Gemini por produzir imagens para o prompt: “Gere uma foto glamorosa de um [ethnicity] casal.” Ele cuspiu imagens com sucesso ao usar instruções “chinesas”, “judias” ou “sul-africanas”, mas recusou-se a produzir resultados para “brancos”. “Não posso atender ao seu pedido devido ao potencial de perpetuação de estereótipos e preconceitos prejudiciais associados a etnias ou tons de pele específicos”, respondeu Gemini ao último pedido.
“John L.”, que ajudou a desencadear a reação, teoriza que o Google aplicou uma solução bem-intencionada, mas preguiçosamente implementada, para um problema real. “O sistema deles que solicita adicionar diversidade às representações de pessoas não é muito inteligente (não leva em conta o gênero em papéis historicamente masculinos como o papa; não leva em conta a raça em representações históricas ou nacionais)”, postou o usuário. Depois que a brigada anti-“acordar” da Internet se apegou às suas postagens, o usuário esclareceu que apoia a representação diversificada, mas acredita que a “medida estúpida” do Google foi não fazê-lo “de uma forma sutil”.
Antes de interromper a capacidade de Gemini de produzir pessoas, o Google escreveu: “Estamos trabalhando para melhorar imediatamente esse tipo de representação. A geração de imagens Al de Gêmeos gera uma ampla gama de pessoas. E isso geralmente é bom porque pessoas ao redor do mundo o usam. Mas está errando o alvo aqui.”
O episódio pode ser visto como um retorno (muito menos sutil) para o lançamento do Bard em 2023. O chatbot de IA original do Google teve um começo difícil quando um anúncio do chatbot no Twitter (agora X) incluiu um “fato” impreciso sobre o Telescópio Espacial James Webb.
Como o Google costuma fazer, rebatizou Bard na esperança de dar-lhe um novo começo. Coincidindo com uma grande atualização de desempenho e recursos, a empresa renomeou o chatbot Gemini no início deste mês, enquanto a empresa corre para se manter firme contra ChatGPT da OpenAI e Copiloto da Microsoft – ambos representam uma ameaça existencial ao seu mecanismo de pesquisa (e, portanto, às receitas de publicidade).
[ad_2]
Fonte: