[ad_1]
O CEO do Google, Sundar Pichai, abordou os problemas recentes da empresa com sua ferramenta de geração de imagens Gemini, alimentada por IA, depois de em imagens históricas. Ele classificou o rumo dos acontecimentos como “inaceitável” e disse que a empresa está “trabalhando dia e noite” para encontrar uma solução, de acordo com um relatório.
“Nenhuma IA é perfeita, especialmente nesta fase emergente do desenvolvimento da indústria, mas sabemos que o padrão é alto para nós e continuaremos assim pelo tempo que for necessário”, escreveu Pichai aos funcionários. “E analisaremos o que aconteceu e garantiremos que consertaremos em grande escala.”
Pichai permanece otimista em relação ao futuro do chatbot Gemini, anteriormente chamado de Bard, observando que a equipe já “observou melhorias substanciais em uma ampla gama de prompts”. O aspecto de geração de imagem de Gêmeos até que uma solução seja totalmente resolvida.
Isso começou quando os usuários do Gemini começaram a perceber que o gerador começou a gerar imagens historicamente imprecisas, como fotos de nazistas e dos fundadores da América como pessoas de cor. Isso rapidamente se tornou um grande sucesso nas redes sociais, com a palavra “acordei” sendo muito divulgada.
Prabhakar Raghavan, vice-presidente sênior de conhecimento e informação do Google, não atribuiu a culpa ao despertar, Basicamente, o modelo foi ajustado para permitir diversos grupos de pessoas nas fotos, mas “não levou em conta casos que claramente não deveriam mostrar uma extensão”. Isso levou a imagens controversas, como pessoas de cor aparecendo como vikings e papas católicos nativos americanos.
Raghavan também disse que o modelo se tornou mais cauteloso com o tempo, recusando-se ocasionalmente a responder a certas solicitações após interpretá-las erroneamente como sensíveis. Isso explica relatos de que a modelo se recusou a gerar imagens de pessoas brancas.
Parece que a empresa estava tentando agradar um público global e garantir que o modelo não caísse em algumas das armadilhas de produtos rivais, como a criação de imagens sexualmente explícitas ou representações de pessoas reais. Ajustar esses modelos de IA é um trabalho extremamente delicado e o software pode facilmente É o que eles fazem. De qualquer forma, eu preferiria um Papa católico historicamente impreciso Qualquer dia da semana. Considere isso como mais um lembrete de que a IA ainda tem um longo caminho a percorrer.
Quanto ao Gemini, a empresa promete que o gerador de imagens retornará em um futuro próximo, mas ainda requer um conjunto de correções e testes para garantir que isso nunca aconteça novamente, incluindo “mudanças estruturais, diretrizes de produto atualizadas, processos de lançamento aprimorados, avaliações robustas e recomendações técnicas e de equipe vermelha.
[ad_2]
Fonte: