[ad_1]
A OpenAI disse que interrompeu cinco operações secretas de influência que usavam seus modelos de IA para atividades enganosas na Internet. Estas operações, que a OpenAI encerrou entre 2023 e 2024, tiveram origem na Rússia, China, Irão e Israel e tentaram manipular a opinião pública e influenciar resultados políticos sem revelar as suas verdadeiras identidades ou intenções, disse a empresa disse na quinta feira. “Em maio de 2024, essas campanhas não parecem ter aumentado significativamente o envolvimento ou o alcance do público como resultado de nossos serviços”, disse OpenAI em um comunicado. relatório sobre a operação e acrescentou que trabalhou com pessoas da indústria tecnológica, da sociedade civil e dos governos para isolar estes maus atores.
O relatório da OpenAI surge em meio a preocupações sobre o impacto da IA generativa em múltiplas eleições em todo o mundo previstas para este ano, incluindo nos EUA. Nas suas descobertas, a OpenAI revelou como redes de pessoas envolvidas em operações de influência usaram IA generativa para gerar textos e imagens em volumes muito maiores do que antes, e falso envolvimento usando IA para gerar comentários falsos em publicações nas redes sociais.
“Durante o último ano e meio, houve muitas questões sobre o que poderia acontecer se as operações de influência usassem IA generativa”, disse Ben Nimmo, investigador principal da equipe de Inteligência e Investigações da OpenAI, aos membros da mídia em uma coletiva de imprensa. de acordo com para Bloomberg. “Com este relatório, queremos realmente começar a preencher algumas lacunas.”
A OpenAI disse que a operação russa chamada “Doppelganger” usou os modelos da empresa para gerar manchetes, converter artigos de notícias em postagens no Facebook e criar comentários em vários idiomas para minar o apoio à Ucrânia. Outro grupo russo usou modelos da OpenAI para depurar o código de um bot do Telegram que postou breves comentários políticos em inglês e russo, visando a Ucrânia, a Moldávia, os EUA e os Estados Bálticos. A rede chinesa “Spamouflage”, conhecida por seus esforços de influência no Facebook e no Instagram, utilizou os modelos da OpenAI para pesquisar atividades nas redes sociais e gerar conteúdo baseado em texto em vários idiomas em várias plataformas. A “União Internacional de Mídia Virtual” iraniana também usou IA para gerar conteúdo em vários idiomas.
A divulgação da OpenAI é semelhante às que outras empresas de tecnologia fazem de tempos em tempos. Na quarta-feira, por exemplo, Meta lançou seu último relatório sobre comportamento inautêntico coordenado, detalhando como uma empresa de marketing israelense usou contas falsas do Facebook para realizar uma campanha de influência em sua plataforma que tinha como alvo pessoas nos EUA e no Canadá.
[ad_2]
Fonte: