O chatbot de negócios de Nova York está distribuindo informações “perigosamente imprecisas”

Um chatbot de IA lançado pelo governo da cidade de Nova York para ajudar proprietários de empresas a acessar informações pertinentes tem divulgado falsidades, às vezes até desinformando os usuários sobre ações que são contra a lei, de acordo com um relatório do . O relatório, que foi co-publicado com as redações locais sem fins lucrativos Documentado e A cidadeinclui numerosos exemplos de imprecisões nas respostas do chatbot a questões relacionadas com políticas habitacionais, direitos dos trabalhadores e outros tópicos.

Administração do prefeito Adams em outubro como uma adição ao portal MyCity, que como “um balcão único para serviços e benefícios da cidade”. O chatbot, desenvolvido pela Azure AI da Microsoft, é voltado para proprietários de empresas atuais e aspirantes e foi anunciado como uma fonte de “informações acionáveis ​​e confiáveis” que vêm diretamente dos sites do governo municipal. Mas é um programa piloto, e um aviso no site observa que “pode ocasionalmente produzir conteúdo incorreto, prejudicial ou tendencioso”.

Em A marcaçãoNos testes do chatbot, o chatbot forneceu repetidamente informações incorretas. Em resposta à pergunta “Posso tornar a minha loja sem dinheiro?”, por exemplo, respondeu: “Sim, pode tornar a sua loja sem dinheiro na cidade de Nova Iorque” – apesar de a cidade de Nova Iorque ter proibido lojas sem dinheiro em 2020. O relatório mostra que o chatbot também respondeu incorretamente sobre se os empregadores podem aceitar as gorjetas dos seus trabalhadores, se os proprietários têm de aceitar vouchers da secção 8 ou os inquilinos em assistência de aluguer e se as empresas têm de informar os funcionários sobre alterações de horário. Um especialista em política habitacional que conversou com A marcação chamou o chatbot de “perigosamente impreciso” no seu pior.

A cidade indicou que o chatbot ainda é um trabalho em andamento. Numa declaração a A marcaçãoLeslie Brown, porta-voz do Escritório de Tecnologia e Inovação de Nova York, disse que o chatbot “já forneceu respostas oportunas e precisas a milhares de pessoas”, mas acrescentou: “Continuaremos a nos concentrar na atualização desta ferramenta para que possamos melhor apoiar pequenas empresas em toda a cidade.