Die Zukunft der künstlichen Intelligenz mit Nvidia’s Chat with RTX
Nvidia hat mit seiner neuesten technologischen Demo namens Chat with RTX den Bereich der generativen künstlichen Intelligenz betreten. Diese Demo, derzeit als Beta-Version 0.2 verfügbar, gibt einen Einblick in die Zukunft der KI auf Geräten. Im Gegensatz zu anderen KI-Modellen, die auf Cloud Computing für Rechenleistung angewiesen sind, ermöglicht es Chat with RTX den Benutzern, den Chatbot direkt auf ihren Computern auszuführen. Dieser Ansatz gewährleistet nicht nur schnellere Reaktionszeiten, sondern auch eine verbesserte Datensicherheit.
Um Chat with RTX zu erleben, benötigt man lediglich eine Nvidia-Grafikkarte aus der 30er oder 40er Serie, 8 GB Arbeitsspeicher und Windows 11. Wie unsere Partnerseite PCMag herausgefunden hat, beträgt die Download-Größe für die Demo etwa 35 GB, wobei zusätzlicher Festplattenspeicher von 100 GB für die Installation erforderlich ist. Der Installationsprozess dauert zwischen 30 Minuten und einer Stunde, sodass er idealerweise unbeaufsichtigt durchgeführt werden kann. Es sei darauf hingewiesen, dass Chat with RTX ältere GPUs aus der RTX 20er Serie nicht unterstützt, möglicherweise aufgrund unzureichender Tensor Cores, die für generative KI unverzichtbar sind.
Ähnlich wie ChatGPT oder Microsofts Copilot ermöglicht Chat with RTX den Benutzern, mit einem großen Sprachmodell namens Mistral von Nvidia zu interagieren. Benutzer können Fragen an das Modell stellen, das schnell Antworten generiert, indem es Daten aus dem Internet und sogar komplexen Dokumenten wie PDFs und YouTube-Videos abruft. Obwohl Nvidia behauptet, dass Chat with RTX auch eine Sprachübersetzung bieten kann, ist diese Funktion derzeit nicht verfügbar.
Die Einschätzung von PCMag zeigt, dass Chat with RTX ähnlich wie ChatGPT funktioniert, aber einige Funktionen vermissen lässt. Zum Beispiel überspringt Chat with RTX gelegentlich Teile von Anfragen, während ChatGPT keine solchen Probleme hat. Das derzeit herausragende Merkmal von Chat with RTX scheint seine Fähigkeit zu sein, Textdateien (PDF, Doc, txt) und YouTube-Videos zusammenzufassen und Fragen auf der Grundlage ihres Inhalts zu beantworten. Obwohl wir alle eine 18-minütige GPU-Story lieben, wäre eine textbasierte Version eine willkommene Ergänzung für textorientierte Enthusiasten.
Gemäß der Bewertung von PCMag brilliert Chat with RTX bei der Zusammenfassung von YouTube-Videos, aber seine Leistung bei PDF-Dateien mit GPU-Testergebnissen war gemischt. Während für YouTube-Videos genaue Antworten generiert wurden, lieferte das Modell falsche Antworten und hatte Schwierigkeiten bei Folgefragen, wenn ihm PDFs vorgelegt wurden. Derzeit scheint Chat with RTX eher ein experimentelles Werkzeug zu sein, das Nvidia in diesem Bereich an die Spitze bringt. Allerdings gibt es angesichts dessen, dass sowohl AMD- als auch Intel-CPUs nun mit Neural Processing Units (NPUs) ausgestattet sind, die Frage, welcher Hardware die KI auf unseren Computern verarbeiten wird. Es wird wirklich zu einem spannenden Wettbewerb.
FAQ – Chat with RTX Programm
The source of the article is from the blog jomfruland.net