Descobrindo o Futuro da IA com o Chat com RTX da Nvidia

A Nvidia ingressou no mundo da inteligência artificial com seu mais recente demo tecnológico chamado Chat com RTX. Este demo, atualmente em beta com a versão 0.2, oferece um vislumbre do futuro da IA em dispositivos. Ao contrário de outros modelos de IA que dependem de computação em nuvem para obter poder computacional, o Chat com RTX permite que os usuários executem o chatbot diretamente em seus computadores. Essa abordagem não apenas garante tempos de resposta mais rápidos, mas também aprimora a segurança dos dados.

Para experimentar o Chat com RTX, tudo o que você precisa é de uma GPU Nvidia da série 30 ou 40, 8GB de memória do sistema e o Windows 11. Conforme descoberto pelo nosso site parceiro PCMag, o tamanho do download para o demo é de aproximadamente 35 GB, com espaço adicional de 100GB em disco necessário para a instalação. O processo de instalação leva de 30 minutos a uma hora, tornando-o ideal para deixar sem supervisão. Vale ressaltar que o Chat com RTX não é compatível com GPUs mais antigas da série RTX 20, possivelmente devido à inadequação de núcleos de tensor, que são vitais para a inteligência artificial generativa.

Similar ao ChatGPT ou ao Copilot da Microsoft, o Chat com RTX permite que os usuários interajam com um grande modelo de linguagem desenvolvido pela Nvidia, conhecido como Mistral. Os usuários podem fazer perguntas ao modelo, que gera respostas rapidamente ao acessar dados da internet e até mesmo documentos complexos, incluindo PDFs e vídeos do YouTube. Embora a Nvidia afirme que o Chat com RTX também pode realizar tradução de idiomas, essa funcionalidade ainda não está disponível.

A avaliação do PCMag revela que o Chat com RTX funciona de forma semelhante ao ChatGPT, mas possui algumas limitações em relação a alguns recursos. Por exemplo, o Chat com RTX ocasionalmente pula partes das consultas, ao contrário do ChatGPT. A principal característica atual do Chat com RTX parece ser sua capacidade de resumir arquivos de texto (PDF, Doc, txt) e vídeos do YouTube e responder perguntas com base em seu conteúdo. Embora todos nós apreciemos uma história de GPU de 18 minutos, ter uma versão textual seria uma adição bem-vinda para entusiastas de texto.

De acordo com a avaliação do PCMag, o Chat com RTX se destaca ao resumir vídeos do YouTube, mas seu desempenho com arquivos PDF contendo resultados de testes de GPU foi misto. Enquanto respostas precisas foram geradas para vídeos do YouTube, o modelo forneceu respostas incorretas e teve dificuldades com perguntas de acompanhamento ao lidar com PDFs. Atualmente, o Chat com RTX parece ser mais uma ferramenta experimental, colocando a Nvidia à frente de seus concorrentes nesse domínio. No entanto, agora que tanto os processadores da AMD quanto os da Intel vêm equipados com unidades de processamento neural (NPUs), surge a questão de qual hardware lidará com a IA que desejamos utilizar em nossos computadores. Sinceramente, a competição está ficando acirrada.