Annabelle Stephenson
Nvidia ha incursionado en el campo de la inteligencia artificial generativa con su última demo tecnológica llamada Chat with RTX. Esta demo, actualmente en versión beta 0.2, ofrece una visión del futuro de la IA en dispositivos. A diferencia de otros modelos de IA que dependen de la computación en la nube para la potencia de cálculo, Chat with RTX permite a los usuarios ejecutar el chatbot directamente en sus computadoras. Este enfoque no solo garantiza tiempos de respuesta más rápidos, sino que también mejora la seguridad de los datos.
Para experimentar Chat with RTX, todo lo que necesitas es una GPU Nvidia de la serie 30 o 40, 8 GB de memoria del sistema y Windows 11. Según descubrió nuestro sitio asociado PCMag, el tamaño de descarga de la demo es de aproximadamente 35 GB, y se requieren otros 100 GB de espacio en disco para la instalación. El proceso de instalación puede llevar entre 30 minutos y una hora, por lo que es ideal dejarlo sin supervisión. Cabe señalar que Chat with RTX no es compatible con GPUs más antiguas de la serie RTX 20, posiblemente debido a núcleos tensores insuficientes, que son vitales para la IA generativa.
Similar a ChatGPT o Copilot de Microsoft, Chat with RTX permite a los usuarios interactuar con un gran modelo de lenguaje desarrollado por Nvidia, conocido como Mistral. Los usuarios pueden plantear preguntas al modelo, que genera rápidamente respuestas accediendo a datos de Internet e incluso documentos complejos, como PDFs y videos de YouTube. Aunque Nvidia afirma que Chat with RTX también puede proporcionar traducción de idiomas, esta funcionalidad aún no está disponible.
La evaluación de PCMag revela que Chat with RTX funciona de manera similar a ChatGPT pero carece de algunas de sus características. Por ejemplo, Chat with RTX a veces omite partes de las consultas, mientras que ChatGPT no tiene este problema. La característica destacada actual de Chat with RTX parece ser su capacidad para resumir archivos de texto (PDF, Doc, txt) y videos de YouTube y responder preguntas basándose en su contenido. Aunque a todos nos encanta una historia de GPU de 18 minutos, tener una versión textual sería una adición bienvenida para los entusiastas orientados al texto.
Según la evaluación de PCMag, Chat with RTX destaca en la capacidad de resumir videos de YouTube, pero su rendimiento con archivos PDF que contienen resultados de pruebas de GPU fue mixto. Mientras que se generaron respuestas precisas para los videos de YouTube, el modelo proporcionó respuestas incorrectas y tuvo dificultades con preguntas de seguimiento al presentarle PDFs. Actualmente, Chat with RTX parece ser más una herramienta experimental, colocando a Nvidia por delante de sus competidores en este ámbito. Sin embargo, ahora surge la pregunta de qué hardware, ya sea de AMD o Intel, manejará la IA que deseamos usar en nuestras computadoras. Francamente, la competencia está aumentando.
