Annabelle Stephenson
Nvidia se dostala do oblasti generativní umělé inteligence se svou nejnovější technologickou ukázkou nazvanou Chat s RTX. Tato ukázka, která je v současné době ve verzi beta 0.2, nám nabízí pohled do budoucnosti AI na zařízeních. Na rozdíl od jiných modelů umělé inteligence, které spoléhají na cloudové počítače pro výpočetní výkon, umožňuje Chat s RTX uživatelům spouštět chatbota přímo na jejich počítačích. Tento přístup nejen zajišťuje rychlejší odezvu, ale také zvyšuje bezpečnost dat.
Pro zážitek s Chatem s RTX potřebujete pouze Nvidia GPU z řady 30 nebo 40, 8 GB systémové paměti a Windows 11. Jak jsme zjistili na našem partnerském webu PCMag, velikost stahování ukázky je přibližně 35 GB, s dalších 100 GB místa na disku potřebných pro instalaci. Instalační proces trvá od 30 minut do jedné hodiny, což z něj činí ideální volbu pro nehlídaný průběh. Stojí za zmínku, že Chat s RTX nepodporuje starší GPU ze série RTX 20, pravděpodobně kvůli nedostatečným tensorním jádrům, která jsou pro generativní AI nezbytná.
Podobně jako ChatGPT nebo Microsoftův Copilot umožňuje Chat s RTX uživatelům interagovat s velkým jazykovým modelem vyvinutým společností Nvidia, známým jako Mistral. Uživatelé mohou modelu klást otázky, na které rychle generuje odpovědi přístupem k datům z internetu a dokonce i složitým dokumentům, včetně PDF a YouTube videí. Nvidia tvrdí, že Chat s RTX také dokáže provádět překlady mezi jazyky, avšak tato funkcionalita zatím není k dispozici.
Hodnocení PCMag ukazuje, že Chat s RTX funguje podobně jako ChatGPT, ale nemá některé jeho funkce. Například Chat s RTX občas vynechává části dotazů, zatímco ChatGPT takové problémy nemá. Aktuálně nejzajímavější funkcí Chatu s RTX se zdá být jeho schopnost shrnout textové soubory (PDF, Doc, txt) a odpovídat na otázky na základě jejich obsahu. I když všichni rádi slyšíme 18minutový příběh o GPU, textová verze by byla vítaným doplňkem pro nadšence do textu.
Podle hodnocení PCMag vyniká Chat s RTX v shrnutí YouTube videí, ale jeho výkon s PDF soubory obsahujícími výsledky testů GPU byl smíšený. Zatímco přesné odpovědi byly generovány na základě YouTube videí, model poskytoval nesprávné odpovědi a měl problémy s následujícími otázkami u PDF souborů. V současné době se Chat s RTX jeví spíše jako experimentální nástroj, což Nvidii staví do čela v této oblasti. Nicméně, s tím, jak jak AMD, tak Intel nyní vybavují své procesory jednotkami neuronového zpracování (NPUs), vzniká otázka, čí hardware bude zajišťovat AI, kterou chceme na našich počítačích. Upřímně řečeno, situace se stává velmi konkurenční.
FAQ – Program Chat s RTX
The source of the article is from the blog motopaddock.nl
