Budúcnosť umelej inteligencie: Nvidia a jej program Chat s RTX

Nvidia vstúpila do sveta generatívnej umelej inteligencie s najnovším technologickým demom nazvaným Chat s RTX. Tento demo, momentálne vo verzii 0.2 beta, poskytuje pohľad do budúcnosti umelej inteligencie na zariadeniach. Na rozdiel od iných modelov umelej inteligencie, ktoré sa spoliehajú na výpočtový výkon v cloude, Chat s RTX umožňuje používateľom spúšťať chatbota priamo na ich počítačoch. Tento prístup nielen zabezpečuje rýchlejšie reakčné časy, ale zlepšuje aj bezpečnosť údajov.

Ak chcete vyskúšať Chat s RTX, všetko, čo potrebujete, je grafická karta Nvidia zo série 30 alebo 40, 8 GB systémovej pamäte a Windows 11. Podľa zistení nášho partnerského webu PCMag je veľkosť sťahovania dema približne 35 GB a na inštaláciu je potrebné ďalších 100 GB voľného miesta na disku. Inštalačný proces trvá približne 30 minút až hodinu, čo ho robí ideálnym pre neobmedzenú činnosť počas inštalácie. Treba si všimnúť, že Chat s RTX nepodporuje staršie grafické karty zo série RTX 20, pravdepodobne kvôli nedostatočným tensorným jadram, ktoré sú kľúčové pre generatívnu umelej inteligenciu.

Podobne ako ChatGPT alebo Copilot od spoločnosti Microsoft, Chat s RTX umožňuje používateľom interagovať s veľkým jazykovým modelom vyvinutým spoločnosťou Nvidia, známym ako Mistral. Používatelia môžu klásť otázky modelu, ktorý rýchlo generuje odpovede prístupom k údajom z internetu a dokonca aj zložitým dokumentom, vrátane PDF a YouTube videí. Zatiaľ čo Nvidia tvrdí, že Chat s RTX dokáže tiež poskytovať preklad jazyka, táto funkcia zatiaľ nie je dostupná.

Zhodnotenie PCMag odhaluje, že Chat s RTX funguje podobne ako ChatGPT, ale niektoré jeho funkcie mu chýbajú. Napríklad Chat s RTX občas vynecháva časti otázok, na rozdiel od ChatGPT, ktorý takéto problémy nemá. Aktuálne hlavnou výhodou Chatu s RTX sa zdá byť jeho schopnosť sumarizovať súbory textu (PDF, Doc, txt) a YouTube videá a odpovedať na otázky na základe ich obsahu. Aj keď všetci radi počúvame 18-minútové príbehy GPU, písomná verzia by bývala vítaným príspevkom pre nadšencov orientovaných na text.

Podľa hodnotenia PCMagu Chat s RTX vyniká v sumarizácii YouTube videí, ale jeho výkon pri spracovaní PDF súborov obsahujúcich výsledky testov GPU bol zmiešaný. Zatiaľ čo presné odpovede boli generované pre YouTube videá, model poskytoval nesprávne odpovede a mal problémy s ďalšími otázkami, keď mu boli predložené PDF dokumenty. Chat s RTX sa momentálne zdá byť skôr experimentálnym nástrojom, čo dáva Nvidii náskok pred konkurenciou v tejto oblasti. Avšak, keďže aj procesory AMD a Intel sú teraz vybavené jednotkami neurónového spracovania (NPU), vzniká otázka, ktorý hardvér bude spravovať umelej inteligencii, ktorú chceme používať na našich počítačoch. Úprimne povedané, táto súťaž stále nabera na obrátkach.