[ad_1]
Com o surgimento de ferramentas de IA que podem criar rapidamente imagens e vídeos modificados, criar imagens falsas para espalhar desinformação política que leva às próximas eleições presidenciais dos EUA tornou-se mais fácil do que nunca. A solução da Midjourney para isso poderia ser proibir totalmente as imagens políticas, de acordo com Bloomberg. David Holz, CEO da Midjourney, teria dito aos usuários durante uma sessão de bate-papo no Discord que a empresa está perto de banir imagens como as de Biden e Trump nos próximos 12 meses.
“Eu sei que é divertido fazer fotos de Trump – eu faço fotos de Trump”, disse ele aos usuários que participaram da sessão. “Trump é esteticamente muito interessante. No entanto, provavelmente é melhor simplesmente não – é melhor recuar um pouco durante esta eleição. Veremos.” Como Bloomberg observa que as pessoas já haviam usado a IA da empresa para gerar deepfakes de Trump sendo preso. A empresa testes gratuitos encerrados por seu gerador de imagens de IA depois que essas imagens – junto com aqueles infames deepfakes do papa vestindo um casaco inspirado em Balenciaga – se tornaram virais.
Neste momento, a empresa já tem regras em vigor que proíbem a criação de “figuras públicas enganosas” e “retratações de eventos” com “potencial para enganar”. Bloomberg ainda foi capaz de criar imagens modificadas de Trump coberto de espaguete usando a versão mais antiga do sistema de Midjourney, enquanto a versão mais recente se recusou a gerar imagens modificadas do ex-presidente. É claro que, mesmo que Midjourney proíba imagens de políticos de alto perfil, estará apenas a proteger a sua plataforma de atrair a ira dos críticos e de se tornar o centro das atenções nesta época eleitoral. Não impedirá a utilização de ferramentas de IA em campanhas de desinformação política ou a difusão de informações falsas destinadas a manipular as eleições no seu conjunto.
Outras empresas tecnológicas também tomaram medidas para ajudar a prevenir a desinformação política, ou pelo menos para ajudar a facilitar a sua identificação. ChatGPT começará em breve marcação de imagens criado usando DALL-E 3, enquanto Meta é trabalhando para desenvolver tecnologia que pode detectar e indicar se uma imagem, vídeo ou clipe de áudio foi gerado usando IA.
[ad_2]
Fonte: