Annabelle Stephenson
Nvidia on sisenenud generatiivse tehisintellekti valdkonda oma uusima tehnoloogilise demonstratsiooniga nimega “Chat with RTX”. See demoversioon, hetkel beetas versiooniga 0.2, pakub pilku tuleviku AI-le seadmetes. Erinevalt teistest AI mudelitest, mis sõltuvad arvutusvõimsuse saamiseks pilvandmetöötlusest, võimaldab Chat with RTX kasutajatel käivitada vestlusroboti otse oma arvutites. See lähenemine tagab mitte ainult kiirema reageerimisaja, vaid suurendab ka andmete turvalisust.
Chat with RTX kogemiseks on vaja ainult Nvidia GPU-d 30. või 40. seeriast, 8 GB süsteemimälu ja Windows 11. Nagu meie partnerite veebisait PCMag avastas, on demoversiooni allalaadimise suurus umbes 35 GB, lisaks on vaja installimiseks veel 100 GB kettaruumi. Installimisprotsess võtab aega 30 minutit kuni tund, mistõttu on soovitatav lasta see tähelepanuta. Väärib märkimist, et Chat with RTX ei toeta vanemaid GPU-sid RTX 20 seeriast, tõenäoliselt seetõttu, et neil võib puududa piisav arv keerukaid südamikke, mis on olulised generatiivse tehisintellekti jaoks.
ChatGPT või Microsofti Copilotiga sarnaselt võimaldab Chat with RTX kasutajatel suhelda Nvidia arendatud suure keelemudeliga nimega Mistral. Kasutajad saavad mudelile küsimusi esitada, mis kiiresti genereerib vastuseid, kasutades andmeid Internetist ja isegi keerulisi dokumente, sealhulgas PDF-e ja YouTube’i videoid. Nvidia väitel suudab Chat with RTX pakkuda ka keele tõlkimist, kuigi see funktsioon pole veel saadaval.
PCMagi analüüs näitab, et Chat with RTX toimib sarnaselt ChatGPT-le, kuid tal puuduvad mõned funktsioonid. Näiteks jätab Chat with RTX mõnikord osad päringud vahele, samas kui ChatGPT-l selliseid probleeme pole. Praegune eristav omadus Chat with RTX-i puhul tundub olevat võime kokku võtta tekstifailid (PDF, Doc, txt) ja YouTube’i videod ning vastata küsimustele nende sisu põhjal. Kuigi me kõik armastame 18-minutilist GPU-lugu, oleks tekstiversioon tervitatav tekstiarmastajatele.
Vastavalt PCMagi hindamisele on Chat with RTXil suurepärane võime YouTube’i videoid kokku võtta, kuid tema esinemine GPU testitulemusi sisaldavate PDF-idega oli ebaühtlane. Kuigi YouTube’i videote kohta genereeriti täpseid vastuseid, pakkus mudel PDF-ide puhul vale vastuseid ja raskusi järelküsimustega. Praegu tundub, et Chat with RTX on pigem eksperimentaalne tööriist, mis seab Nvidia selle valdkonna konkurentidest ette. Siiski, kuna nii AMD kui ka Inteli protsessorid on nüüd varustatud neuraalprotsessori ühikutega (NPU-d), tekib küsimus, kelle riistvara hakkab käitlema meie arvutites kasutatavat AI-d. Ausalt öeldes on see muutumas üsna konkurentsiks.
