[ad_1]
NVIDIA acaba de lançar um versão de demonstração gratuita de um chatbot que é executado localmente no seu PC. Isso é muito legal, pois dá ao chatbot acesso aos seus arquivos e documentos. Você pode alimentar o Chat com RTX com uma seleção de dados pessoais e fazer com que ele crie resumos com base nessas informações. Você também pode fazer perguntas, como qualquer chatbot, e mergulhar em seus dados para obter respostas.
A empresa afirma que permite aos usuários “conectar de forma rápida e fácil arquivos locais em um PC como um conjunto de dados a um grande modelo de linguagem de código aberto como Mistral ou Llama 2”. A NVIDIA dá o exemplo de um usuário perguntando ao chatbot sobre um restaurante recomendado por seu parceiro enquanto estava em Las Vegas. O software verifica os arquivos locais para encontrar a resposta. Ele suporta vários formatos de arquivo, incluindo .txt, .pdf, .doc/.docx e .xml. A empresa afirma que carregará arquivos relevantes em seu conjunto de dados “em segundos”.
O Chat with RTX também integra vídeos e playlists do YouTube. Você pode adicionar um URL de vídeo ao conjunto de dados e ele integrará o conhecimento contido no clipe para consultas contextuais. A NVIDIA afirma que isso será útil ao solicitar recomendações de viagens “com base no conteúdo dos vídeos de influenciadores favoritos” ou ao procurar tutoriais e resumos derivados de recursos educacionais.
A beira tive algum tempo prático com o chatbot e ficaram impressionados, escrevendo que podiam vê-lo como “uma parte valiosa da pesquisa de dados para jornalistas ou qualquer pessoa que precise analisar uma coleção de documentos”.
Isto parece um grande passo em direção a algo semelhante a um assistente digital real que funciona dentro da estrutura contextual dos seus dados pessoais. Na maioria dos chatbots, os dados são enviados para a nuvem, mas o Chat with RTX “permite que os usuários processem dados confidenciais em um PC local sem a necessidade de compartilhá-los com terceiros ou de ter uma conexão com a Internet”. Então é mais seguro e mais contextualmente consciente.
Existem algumas limitações. Este é um produto de demonstração, então você deve esperar muitos bugs, embora a NVIDIA deva começar a eliminá-los assim que os usuários começarem a emitir relatórios de erros e similares. Existem também algumas limitações estritas de hardware aqui. O Chat com RTX funciona apenas em PCs Windows com GPUs NVIDIA GeForce RTX Série 30 ou superior e pelo menos 8 GB de VRAM.
A NVIDIA tem realmente mostrado suas proezas em IA ultimamente, já que a empresa acaba de lançar sua próxima geração de chips de supercomputador de inteligência artificial. Isso é absolutamente nadando em lucros, devido principalmente aos segmentos de IA e data center da empresa.
Este artigo contém links afiliados; se você clicar nesse link e fizer uma compra, poderemos ganhar uma comissão.
[ad_2]
Fonte: