[ad_1]
O Departamento de Justiça dos EUA prendeu um homem de Wisconsin na semana passada por gerar e distribuir material de abuso sexual infantil (CSAM) gerado por IA. Tanto quanto sabemos, este é o primeiro caso deste tipo em que o DOJ procura estabelecer um precedente judicial de que os materiais de exploração continuam a ser ilegais, mesmo quando não foram utilizadas crianças para os criar. “Simplificando, CSAM gerado por IA ainda é CSAM”, subprocuradora-geral Lisa Monaco escreveu em um comunicado de imprensa.
O DOJ diz que o engenheiro de software Steven Anderegg, de 42 anos, de Holmen, WI, usou um fork do gerador de imagens de IA de código aberto Difusão Estável para fazer as imagens, que ele usou para tentar atrair um menor de idade para situações sexuais. Este último provavelmente desempenhará um papel central no eventual julgamento pelas quatro acusações de “produção, distribuição e posse de representações visuais obscenas de menores envolvidos em conduta sexualmente explícita e transferência de material obsceno para um menor com idade inferior a 16 anos”.
O governo afirma que as imagens de Anderegg mostraram “menores nus ou parcialmente vestidos exibindo ou tocando lascivamente seus órgãos genitais ou tendo relações sexuais com homens”. O DOJ afirma que ele usou instruções específicas, incluindo instruções negativas (orientação extra para o modelo de IA, informando o que não produzir) para estimular o gerador a fazer o CSAM.
Geradores de imagens baseados em nuvem, como Meio da jornada e DALL-E 3 têm salvaguardas contra este tipo de actividade, mas Ars Técnica relatórios que Anderegg supostamente usou Stable Diffusion 1.5, uma variante com menos limites. Stability AI disse à publicação que o garfo foi produzido pela Runway ML.
Segundo o DOJ, Anderegg se comunicou online com o garoto de 15 anos, descrevendo como ele usou o modelo de IA para criar as imagens. A agência afirma que o acusado enviou mensagens diretas ao adolescente no Instagram, incluindo várias imagens de IA de “menores exibindo lascivamente seus órgãos genitais”. Para seu crédito, o Instagram relatou as imagens ao Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC), que alertou as autoridades.
Anderegg pode pegar de cinco a 70 anos de prisão se for condenado pelas quatro acusações. Ele está atualmente sob custódia federal antes de uma audiência marcada para 22 de maio.
O caso irá desafiar a noção que alguns podem sustentar de que a natureza ilegal do CSAM se baseia exclusivamente nas crianças exploradas na sua criação. Embora o CSAM digital gerado por IA não envolva nenhum ser humano vivo (além daquele que digita as instruções), ele ainda pode normalizar e encorajar o material ou ser usado para atrair crianças para situações predatórias. Isto parece ser algo que os federais querem esclarecer à medida que a tecnologia avança rapidamente e cresce em popularidade.
“A tecnologia pode mudar, mas o nosso compromisso de proteger as crianças não”, escreveu o deputado AG Monaco. “O Departamento de Justiça perseguirá agressivamente aqueles que produzem e distribuem material de abuso sexual infantil – ou CSAM – independentemente de como esse material foi criado. Simplificando, o CSAM gerado pela IA ainda é CSAM, e responsabilizaremos aqueles que exploram a IA para criar imagens obscenas, abusivas e cada vez mais fotorrealistas de crianças.”
[ad_2]
Fonte: