Erkunden Sie die Zukunft der KI mit Nvidias Chat mit RTX
Nvidia hat mit seinem neuesten technologischen Demo namens Chat mit RTX den Bereich der generativen künstlichen Intelligenz betreten. Diese Demo, die derzeit in der Beta-Version 0.2 vorliegt, bietet einen Einblick in die Zukunft der KI auf Geräten. Im Gegensatz zu anderen KI-Modellen, die zur Berechnung Leistung von Cloud-Computing abhängig sind, ermöglicht es Chat mit RTX Benutzern, den Chatbot direkt auf ihren Computern auszuführen. Dieser Ansatz ermöglicht nicht nur schnellere Reaktionszeiten, sondern auch eine verbesserte Datensicherheit.
Um Chat mit RTX zu erleben, benötigen Sie lediglich eine Nvidia-GPU aus der 30- oder 40-Serie, 8 GB Systemspeicher und Windows 11. Wie unsere Partnerseite PCMag herausgefunden hat, beträgt die Download-Größe des Demos etwa 35 GB, wobei zusätzlich 100 GB Festplattenspeicher für die Installation erforderlich sind. Die Installation dauert zwischen 30 Minuten und einer Stunde und eignet sich daher ideal für unbeaufsichtigtes Ausführen. Es sei darauf hingewiesen, dass Chat mit RTX ältere GPUs aus der RTX-20-Serie nicht unterstützt, möglicherweise aufgrund unzureichender Tensor-Kerne, die für die generative KI entscheidend sind.
Ähnlich wie ChatGPT or Microsoft Copilot ermöglicht es Chat mit RTX Benutzern, mit einem großen Sprachmodell namens Mistral zu interagieren, das von Nvidia entwickelt wurde. Benutzer können dem Modell Fragen stellen, auf die es schnell Antworten generiert, indem es Daten aus dem Internet und sogar komplexen Dokumenten wie PDFs und YouTube-Videos abruft. Obwohl Nvidia behauptet, dass Chat mit RTX auch Sprachübersetzungen liefern kann, ist diese Funktion derzeit noch nicht verfügbar.
Die Bewertung von PCMag zeigt, dass Chat mit RTX ähnlich wie ChatGPT funktioniert, aber einige seiner Funktionen nicht bietet. Zum Beispiel überspringt Chat mit RTX gelegentlich Teile von Anfragen, während ChatGPT solche Probleme nicht hat. Das herausragende Merkmal von Chat mit RTX scheint derzeit seine Fähigkeit zu sein, Textdateien (PDF, Doc, txt) und YouTube-Videos zusammenzufassen und Fragen basierend auf deren Inhalt zu beantworten. Obwohl wir alle eine 18-minütige GPU-Geschichte lieben, wäre eine schriftliche Version eine willkommene Ergänzung für textorientierte Enthusiasten.
Laut der Bewertung von PCMag ist Chat mit RTX hervorragend darin, YouTube-Videos zusammenzufassen, aber seine Leistung mit PDF-Dateien, die GPU-Testergebnisse enthalten, war gemischt. Während genaue Antworten für YouTube-Videos generiert wurden, gab das Modell falsche Antworten und hatte Schwierigkeiten mit Folgefragen, wenn ihm PDFs vorgelegt wurden. Derzeit scheint Chat mit RTX eher ein experimentelles Werkzeug zu sein, das Nvidia in diesem Bereich seinen Mitbewerbern vorausstellt. Mit der Einführung von neuronaler Verarbeitungseinheit (NPU) auf sowohl AMD- als auch Intel-CPUs stellt sich jedoch die Frage, wer die KI-Berechnungen auf unseren Computern übernehmen wird. Es entsteht ein Wettbewerb.
FAQ – Chat mit RTX Programm
The source of the article is from the blog japan-pc.jp