Annabelle Stephenson
Nvidia влиза в света на генеративната изкуствена интелигентност с новата си технологична демонстрация наречена Chat with RTX. Тази демо версия, в момента бета с версия 0.2, предлага поглед в бъдещето на AI на устройствата. За разлика от другите модели на AI, които използват облачно изчисление за компютърна мощ, Chat with RTX позволява на потребителите да използват чатбота директно на техните компютри. Този подход не само осигурява по-бързо време за реакция, но и повишава сигурността на данните.
За да използвате Chat with RTX, всичко, което ви е необходимо, е Nvidia GPU от серия 30 или 40, 8GB системна памет и Windows 11. Както открива нашият партньорски сайт PCMag, големината на свалящия се файл за демото е около 35GB, с допълнителни 100GB свободно пространство необходими за инсталацията. Процесът на инсталиране отнема между 30 минути и час, което го прави идеален за разранени. Струва си да се отбележи, че Chat with RTX не поддържа по-старите модели на GPU от серия RTX 20, вероятно поради неадекватните тензорни ядра, необходими за генеративната AI.
Подобно на ChatGPT или Copilot на Microsoft, Chat with RTX позволява на потребителите да комуникират с голям модел на езика, разработен от Nvidia, наречен Mistral. Потребителите могат да поставят въпроси, на които моделът бързо генерира отговори, като достъпва данни от интернет, включително и сложни документи като PDF файлове и YouTube видеа. Въпреки че Nvidia твърди, че Chat with RTX може също да осигури превод на езика, тези функции в момента не са достъпни.
Оценката на PCMag показва, че Chat with RTX функционира по подобен начин като ChatGPT, но липсват някои от неговите характеристики. Например Chat with RTX понякога пропуска части от заявките, докато ChatGPT няма такива проблеми. Настоящата особеност на Chat with RTX изглежда е неговата способност да обобщава текстови файлове (PDF, Doc, txt) и YouTube видеа и да отговаря на въпроси, базирани на тяхното съдържание. Въпреки че всички обичаме 18-минутни истории за GPU, наличието на текстова версия би било добре дошло за ентусиасти с интерес към текст.
Според оценката на PCMag, Chat with RTX се справя отлично с обобщаването на YouTube видеа, но представянето му с PDF файлове, съдържащи резултати от тестове на GPU, беше смесено. Докато точни отговори бяха генерирани за YouTube видеата, моделът предоставяше грешни отговори и имаше затруднения с последващите въпроси, когато се срещаше с PDF файлове. В момента Chat with RTX изглежда по-скоро като експериментален инструмент, който поставя Nvidia напред пред конкурентите в тази област. Въпреки това, сега както AMD, така и Intel вече оборудват своите процесори с невронни процесорни блокове (NPUs), възниква въпросът коя марка хардуер ще се справя с AI, който искаме да използваме нашите компютри. По истински, става все по-голяма конкуренцията.
ЧЗВ – Програма Chat with RTX
Често задавани въпроси – Chat with RTX
1. Какво представлява Chat with RTX?
Chat with RTX е технологична демонстрация, основана на генеративна изкуствена интелигентност, разработена от Nvidia. Тази програма позволява на потребителите да комуникират с голям модел на езика, наречен Mistral, който може да отговаря на въпроси и да обобщава текстове и видеа.
2. Какви са изискванията за използване на Chat with RTX?
За използване на Chat with RTX е необходимо да разполагате с Nvidia GPU от серия 30 или 40, 8GB системна памет и операционна система Windows 11.
3. Колко място заема инсталацията на Chat with RTX?
Размерът на инсталационния файл на Chat with RTX е около 35GB, а за инсталацията се изискват още 100GB свободно пространство на диска.
4. Какви са основните функции на Chat with RTX?
Chat with RTX позволява на потребителите да задават въпроси на голям модел на езика и да получават бързи отговори. Програмата може да съдържа данни от интернет и сложни документи като PDF файлове и YouTube видеа. В момента обаче функцията за превод на езика не е достъпна.
5. Каква е разликата между Chat with RTX и ChatGPT?
Chat with RTX функционира по подобен начин като ChatGPT, но липсват някои от характеристиките му. Chat with RTX понякога пропуска части от заявките, докато ChatGPT няма такива проблеми.
Източник: www.example.com
The source of the article is from the blog trebujena.net
