Avasta AI tulevik Nvidia vestlusega RTX-iga

Nvidia on astunud generatiivse tehisintellekti valdkonda oma uusima tehnoloogilise demoga nimega vestlus RTX-iga. See beetafaasis olev demo versioon 0.2 annab aimu tuleviku AIst seadmetes. Erinevalt teistest tehisintellekti mudelitest, mis sõltuvad pilveteenustest arvutusvõimsuseks, võimaldab vestlus RTX kasutajatel käivitada juturoboti otse oma arvutites. Selline lähenemine tagab mitte ainult kiiremad vastusajad, vaid ka tugevdab andmete turvalisust.

Vestluse RTX-i kogemiseks on vaja ainult Nvidia graafikakaarti 30. või 40. seeriast, 8 GB süsteemimälu ja Windows 11. Nagu meie partnerveebisait PCMag on avastanud, on demo allalaadimise suurus umbes 35 GB, lisaks on vaja 100 GB ketasruumi installimiseks. Installimisprotsess võtab aega 30 minutit kuni tund, mis teeb selle ideaalseks jätta valveta. Oluline on märkida, et vestlus RTX ei toeta vanemaid graafikakaarte RTX 20-seeriast, võimalik, et ebapiisavate tensoride tuumade tõttu, mis on olulised generatiivse tehisintellekti jaoks.

Sarnaselt ChatGPT või Microsofti Copilotile võimaldab vestlus RTX kasutajatel suhelda Nvidiast välja töötatud suure keelemudeliga nimega Mistral. Kasutajad saavad mudelile esitada küsimusi, mis genereerib kiiresti vastused, juurdepääsuga andmetele internetist ja isegi keerukatele dokumentidele, sealhulgas PDF-failidele ja YouTube’i videotele. Kuigi Nvidia väidab, et vestlus RTX võib ka pakkuda keele tõlkimist, ei ole see funktsionaalsus praegu veel saadaval.

PCMagi hindamine näitab, et vestlus RTX toimib sarnaselt ChatGPT-ga, kuid tal puuduvad mõned selle funktsioonid. Näiteks vestlus RTX jättis mõnikord osa päringutest vahele, samas kui ChatGPT-l selliseid probleeme ei esine. Praegu tundub, et vestlus RTX kõige silmapaistvamaks omaduseks on võime kokku võtta tekstifaile (PDF, Doc, txt) ja YouTube’i videoid ning vastata nende sisu põhjal küsimustele. Kuigi me kõik armastame kaheksateist minutit kestvat GPU-lugu, oleks tekstipõhine versioon teretulnud lisandus tekstiorienteeritud entusiastidele.

PCMagi hindamise kohaselt osutus vestlus RTX suurepäraseks YouTube’i videote kokkuvõtmisel, kuid tema esinemine GPU-testide tulemusi sisaldavate PDF-failidega oli ebaühtlane. Samal ajal kui täpsed vastused genereeriti YouTube’i videote jaoks, pakkus mudel vigaseid vastuseid ning raskusi tekkis järelküsimustega seoses PDF-idega. Praegu tundub, et vestlus RTX on rohkem eksperimentaalne tööriist, mis paneb Nvidia oma konkurentidest sellel alal ette. Siiski, kuna nii AMD kui ka Intel CPU-d on nüüd varustatud neuronaalsete töötlusühikutega (NPU-d), tekib küsimus, kelle riistvara hakkab haldama AI-d, mida me oma arvutites kasutada soovime. Ausalt öeldes on see saamas üsna konkurentsivõimeliseks.