Annabelle Stephenson
Nvidia je vstopila v svet generativne umetne inteligence z najnovejšo tehnološko demonstracijo imenovano Pogovor z RTX. Ta demonstracija, trenutno v beta različici 0.2, ponuja vpogled v prihodnost AI na napravah. Za razliko od drugih AI modelov, ki temeljijo na oblaku za računsko moč, Pogovor z RTX uporabnikom omogoča, da chatbot izvajajo neposredno na njihovih računalnikih. Tak pristop ne zagotavlja le hitrejših odzivnih časov, ampak tudi izboljšuje varnost podatkov.
Da izkusite Pogovor z RTX, potrebujete le Nvidia GPU iz serije 30 ali 40, 8 GB sistemskega pomnilnika in Windows 11. Kot je razkrila naša partnerska spletna stran PCMag, velikost prenosa za demonstracijo je približno 35 GB, za namestitev pa je potrebnih dodatnih 100 GB prostora na disku. Postopek namestitve traja od 30 minut do ene ure, kar omogoča tudi ustavljen postopek. Vredno je omeniti, da Pogovor z RTX ne podpira starejših GPU-jev iz serije RTX 20, kar je lahko posledica nezadostnih tensor jeder, ki so ključnega pomena za generativno AI.
Podobno kot ChatGPT ali Microsoftov Copilot, Pogovor z RTX uporabnikom omogoča interakcijo z velikim jezikovnim modelom, razvitim s strani Nvidia, znanem kot Mistral. Uporabniki lahko postavljajo vprašanja modelu, ki hitro generira odgovore na podlagi podatkov z interneta, pa tudi zapletenih dokumentov, vključno s PDF-ji in YouTube videoposnetki. Čeprav Nvidia trdi, da Pogovor z RTX omogoča tudi prevajanje jezikov, ta funkcionalnost še ni na voljo.
PCMag-ova ocena razkriva, da Pogovor z RTX deluje podobno kot ChatGPT, vendar ji nekatere funkcionalnosti manjkajo. Na primer, Pogovor z RTX včasih izpusti dele vprašanj, medtem ko ChatGPT takšnih težav nima. Trenutna izstopajoča lastnost Pogovora z RTX se zdi njegova sposobnost povzetja besedilnih datotek (PDF, Doc, txt) in YouTube videoposnetkov ter na njihovi vsebini odgovarjanja na vprašanja. Čeprav vsi radi poslušamo 18-minutne zgodbe o GPU-jih, bi bilo za ljubitelje besedil dobrodošlo tudi besedilno različico.
Glede na PCMag-ovo oceno, Pogovor z RTX odlično povzema YouTube videoposnetke, vendar je njegova uspešnost pri PDF datotekah, ki vsebujejo rezultate testov GPU, mešana. Medtem ko so se za YouTube videoposnetke generirali točni odgovori, je model pri PDF-jih zagotovil napačne odgovore in imel težave pri odgovorih na nadaljnja vprašanja. Trenutno se zdi, da je Pogovor z RTX bolj eksperimentalno orodje, ki postavlja Nvidia pred svojimi konkurenti na tem področju. Vendar pa se oba AMD in Intel CPU-ja zdaj opremita z enotami za nevronske procese (NPU-ji), kar postavlja vprašanje, katera strojna oprema bo obvladovala AI, katere želimo uporabljati na naših računalnikih. Iskreno povedano, postaja to prava konkurenca.
Pogosta vprašanja – Program Pogovor z RTX
The source of the article is from the blog crasel.tk
