Annabelle Stephenson
Nvidia je ušla u svet generativne veštačke inteligencije sa svojim najnovijim tehnološkim demo programom nazvanim Razgovor sa RTX-om. Ovaj demo, trenutno u beta verziji 0.2, pruža uvid u budućnost veštačke inteligencije na uređajima. Za razliku od drugih modela veštačke inteligencije koji se oslanjaju na računanje u oblaku za računarsku snagu, Razgovor sa RTX-om omogućava korisnicima da pokreću četbot direktno na svojim računarima. Ovaj pristup ne samo da obezbeđuje brže vreme odgovora, već i poboljšava bezbednost podataka.
Da biste iskusili Razgovor sa RTX-om, sve što vam je potrebno je Nvidia GPU iz 30 ili 40 serije, 8 GB sistemske memorije i Windows 11. Kako je otkrio naš partnerski sajt PCMag, veličina preuzimanja demo programa je otprilike 35GB, uz dodatnih 100GB prostora na disku potrebnih za instalaciju. Proces instalacije traje od 30 minuta do jednog sata, što ga čini idealnim za ostavljanje bez nadzora. Valja napomenuti da Razgovor sa RTX-om ne podržava starije GPU-ove iz RTX 20 serije, potencijalno zbog nedovoljno adekvatnih tensor jezgara, koja su ključna za generativnu veštačku inteligenciju.
Slično kao i ChatGPT ili Microsoft-ov Copilot, Razgovor sa RTX-om korisnicima omogućava interakciju sa velikim jezičkim modelom razvijenim od strane Nvidia-e, poznatim kao Mistral. Korisnici mogu postavljati pitanja modelu, koji brzo generiše odgovore pristupajući podacima sa interneta i čak kompleksnim dokumentima, uključujući PDF-ove i YouTube video zapise. Iako Nvidia tvrdi da Razgovor sa RTX-om može pružiti i prevod jezika, ova funkcionalnost trenutno nije dostupna.
Procena PCMag-a otkriva da Razgovor sa RTX-om funkcioniše slično kao i ChatGPT, ali mu nedostaju neke od njegovih funkcionalnosti. Na primer, Razgovor sa RTX-om ponekad preskače delove upita, dok ChatGPT nema takvih problema. Trenutno najistaknutija funkcija Razgovora sa RTX-om čini se njegova sposobnost sažimanja tekstualnih datoteka (PDF, Doc, txt) i YouTube video zapisa i odgovaranje na pitanja na osnovu njihovog sadržaja. Iako svi volimo priču o GPU-u koja traje 18 minuta, dobrodošao dodatak za entuzijaste usmerene na tekst bio bi tekstualna verzija.
Prema proceni PCMag-a, Razgovor sa RTX-om se odlično pokazuje u sažimanju YouTube video zapisa, ali mu je performansa sa PDF datotekama koje sadrže rezultate testiranja GPU-a bila pomešana. Dok su tačni odgovori generisani za YouTube video zapise, model je pružao netačne odgovore i imao poteškoće sa dodatnim pitanjima kada su mu predstavljeni PDF dokumenti. Trenutno se čini da je Razgovor sa RTX-om više eksperimentalni alat, što Nvidia stavlja ispred svojih konkurenata u ovoj oblasti. Međutim, budući da i AMD i Intel CPU-ovi sada dolaze opremljeni neuralnim procesorskim jedinicama (NPUs), postavlja se pitanje čija će hardverska platforma obrađivati veštačku inteligenciju koju želimo koristiti na našim računarima. Iskreno, to postaje prilično takmičenje.
FAQ – Program Razgovor sa RTX-om
1. Koji su sistemski zahtevi za korišćenje Razgovora sa RTX-om?
– Za korišćenje Razgovora sa RTX-om potrebno je imati Nvidia GPU iz 30 ili 40 serije, 8 GB sistemske memorije i Windows 11.
2. Koliko traje proces instalacije Razgovora sa RTX-om?
– Proces instalacije Razgovora sa RTX-om traje od 30 minuta do jednog sata.
3. Kako funkcioniše Razgovor sa RTX-om?
– Razgovor sa RTX-om omogućava korisnicima interakciju sa jezičkim modelom Mistral, koji generiše odgovore pristupajući podacima sa interneta i kompleksnim dokumentima poput PDF-ova i YouTube video zapisa.
4. Koje su trenutne funkcionalnosti Razgovora sa RTX-om?
– Trenutno, Razgovor sa RTX-om može sažeti tekstualne datoteke (PDF, Doc, txt) i odgovarati na pitanja na osnovu njihovog sadržaja. Međutim, funkcionalnost prevoda jezika trenutno nije dostupna.
5. Kako se Razgovor sa RTX-om razlikuje od drugih sličnih programa?
– Razgovor sa RTX-om funkcioniše slično kao i ChatGPT, ali mu nedostaju neke funkcionalnosti. Takođe, trenutno je u eksperimentalnoj fazi i ima poteškoća u radu sa određenim tipovima dokumenata.
The source of the article is from the blog procarsrl.com.ar
