[ad_1]
Numa época em que os fraudadores usam IA generativa para dinheiro fraudulento ou manchar a reputação de alguém, as empresas de tecnologia estão criando métodos para ajudar os usuários a verificar o conteúdo – pelo menos imagens estáticas, para começar. Como provocado em seu Estratégia de desinformação para 2024a OpenAI agora está incluindo metadados de proveniência em imagens geradas com ChatGPT na web e API DALL-E 3, com suas contrapartes móveis recebendo a mesma atualização até 12 de fevereiro.
Os metadados seguem o padrão aberto C2PA (Coalition for Content Provenance and Authenticity) e quando uma dessas imagens é carregada no Verificação de credenciais de conteúdo ferramenta, você poderá rastrear sua linhagem de proveniência. Por exemplo, uma imagem gerada usando ChatGPT mostrará um manifesto de metadados inicial indicando sua origem da API DALL-E 3, seguido por um segundo manifesto de metadados mostrando que apareceu em ChatGPT.
Apesar da sofisticada tecnologia criptográfica por trás do padrão C2PA, este método de verificação só funciona quando os metadados estão intactos; a ferramenta não terá utilidade se você fizer upload de uma imagem gerada por IA sem metadados – como é o caso de qualquer captura de tela ou imagem carregada nas redes sociais. Não é novidade que as imagens de amostra atuais no página oficial do DALL-E 3 retornou em branco também. No seu Página de perguntas frequentesa OpenAI admite que esta não é uma solução mágica para enfrentar a guerra de desinformação, mas acredita que a chave é encorajar os utilizadores a procurarem activamente tais sinais.
Embora o esforço mais recente da OpenAI para impedir conteúdo falso esteja atualmente limitado a imagens estáticas, o DeepMind do Google já SynthID para marcar digitalmente imagens e áudio gerados por IA. Enquanto isso, a Meta vem testando marcas d’água invisíveis por meio de seu Gerador de imagens de IAque pode ser menos propenso a adulterações.
[ad_2]
Fonte: