Annabelle Stephenson
Nvidia ha incursionado en el ámbito de la inteligencia artificial generativa con su última demo tecnológica llamada Chat with RTX. Esta demo, actualmente en versión beta 0.2, nos ofrece una visión del futuro de la inteligencia artificial en dispositivos. A diferencia de otros modelos de IA que dependen del poder de cómputo en la nube, Chat with RTX permite a los usuarios ejecutar el chatbot directamente en sus computadoras. Este enfoque no solo garantiza tiempos de respuesta más rápidos, sino que también mejora la seguridad de los datos.
Para experimentar con Chat with RTX, todo lo que necesitas es una GPU de Nvidia de la serie 30 o 40, 8 GB de memoria del sistema y Windows 11. Según nuestro sitio asociado PCMag, el tamaño de descarga de la demo es de aproximadamente 35 GB, con un espacio adicional de 100 GB en el disco requerido para la instalación. El proceso de instalación toma de 30 minutos a una hora, por lo que es ideal dejarlo sin supervisión. Cabe destacar que Chat with RTX no es compatible con GPUs antiguas de la serie RTX 20, posiblemente debido a una falta de cores tensoriales adecuados para la inteligencia artificial generativa.
Similar a ChatGPT o Copilot de Microsoft, Chat with RTX permite a los usuarios interactuar con un gran modelo de lenguaje desarrollado por Nvidia, conocido como Mistral. Los usuarios pueden hacer preguntas al modelo, el cual genera rápidamente respuestas accediendo a datos de internet e incluso documentos complejos, como PDFs y videos de YouTube. Aunque Nvidia afirma que Chat with RTX también puede proporcionar traducción de idiomas, esta funcionalidad aún no está disponible.
La evaluación de PCMag revela que Chat with RTX funciona de manera similar a ChatGPT pero carece de algunas de sus características. Por ejemplo, Chat with RTX ocasionalmente omite partes de las consultas, a diferencia de ChatGPT, que no presenta este tipo de problemas. La característica destacada actual de Chat with RTX parece ser su capacidad para resumir archivos de texto (PDF, Doc, txt) y videos de YouTube, y responder preguntas basadas en su contenido. Aunque todos amamos una historia de GPU de 18 minutos, tener una versión textual sería una adición bienvenida para los entusiastas del texto.
Según la evaluación de PCMag, Chat with RTX destaca en la capacidad de resumir videos de YouTube, pero su rendimiento con archivos PDF que contienen resultados de pruebas de GPU fue mixto. Mientras que se generaron respuestas precisas para los videos de YouTube, el modelo proporcionó respuestas incorrectas y tuvo dificultades para seguir preguntas adicionales al presentarle PDFs. Actualmente, Chat with RTX parece ser más una herramienta experimental, lo que sitúa a Nvidia por delante de sus competidores en este ámbito. Sin embargo, dado que tanto los procesadores de AMD como de Intel ahora vienen equipados con unidades de procesamiento neural (NPUs), surge la pregunta sobre qué hardware manejará la IA que deseamos utilizar en nuestras computadoras. Francamente, se está convirtiendo en una auténtica competencia.
Preguntas frecuentes – Programa Chat with RTX
The source of the article is from the blog maestropasta.cz
