Annabelle Stephenson
Nvidia ir iegājusi generatīvās mākslīgās intelekts jomā ar jaunāko tehnoloģijas demonstrējumu, ko sauc par Chat with RTX. Šī demonstrējuma pašreizējā beta versija 0.2 ļauj iegūt ieskatu nākotnes AI ierīcēs. Atšķirībā no citiem AI modeļiem, kas balstās uz mākoņu skaitļošanas resursiem, Chat with RTX ļauj lietotājiem darbināt četrdziņteņa čatbota tieši savā datorā. Šāds pieejas veids ne tikai nodrošina ātrākus atbildes laikus, bet arī palielina datu drošību.
Lai izmantotu Chat with RTX, jums vienīgi ir nepieciešama Nvidia grafiskā karte no 30 vai 40 sērijas, 8 GB sistēmas atmiņa un Windows 11. Kā atklāja mūsu partnera vietne PCMag, demonstrējuma lejupielādes apjoms ir aptuveni 35 GB, un vēl papildu 100 GB diskvietas ir nepieciešami instalēšanai. Instalācijas process ilgst no 30 minūtēm līdz stundai, tāpēc to var veikt, neuzraugot datoru. Jāpatur prātā, ka Chat with RTX neatbalsta vecākas RTX 20 sērijas grafiskās kartes, iespējams, sakarā ar nepietiekamiem tenzora kodoliem, kas ir būtiski generatīvajai AI.
Līdzīgi kā ChatGPT vai Microsoft Copilot, Chat with RTX ļauj lietotājiem mijiedarboties ar lielu valodas modeli, ko izstrādājusi Nvidia un kas pazīstams kā Mistral. Lietotāji var uzdot jautājumus modelim, kurš ātri ģenerē atbildes, piekļaujoties datiem no interneta, kā arī kompleksiem dokumentiem, ieskaitot PDF failus un YouTube video. Lai gan Nvidia apgalvo, ka Chat with RTX arī var veikt valodas tulkojumus, šī funkcionalitāte pašlaik nav pieejama.
PCMag novērtējums atklāj, ka Chat with RTX darbojas līdzīgi kā ChatGPT, bet tā tam trūkst dažu funkciju. Piemēram, Chat with RTX dažreiz izlaiž daļas no vaicājumiem, savukārt ChatGPT tam nav šādu problēmu. Pašlaik Chat with RTX izceļas ar spēju apkopot teksta failus (PDF, Doc, txt) un YouTube video un atbildēt uz jautājumiem, balstoties uz to saturu. Lai arī mums visiem patīk 18 minūšu GPU stāsts, teksta versija būtu lieliska papildinājums tiem, kas vēlas vairāk izteikties tekstveida izstrādājumiem.
PCMag novērtējuma dēļ ir zināms, ka Chat with RTX labi noskaidro YouTube video saturu, bet tā sniegums ar PDF failiem, kurā ir GPU testa rezultāti, bija atšķirīgs. Lai gan precīzas atbildes tika ģenerētas YouTube video gadījumā, modelis sniedza nepareizas atbildes un cīnījās ar papildjautājumiem, skatoties PDF failus. Pašlaik Chat with RTX šķiet vairāk kā eksperimentāls rīks, kas liek Nvidijai izvirzīties priekšā konkurentiem šajā jomā. Tomēr, tā kā AMD un Intel procesori tagad ir aprīkoti ar neironu apstrādes vienībām (NPU), rodas jautājums, kuras aparatūras rokās mēs vēlamies turēt AI lietošanai datoros. Godīgi sakot, tas kļūst par īstu sacensību.
The source of the article is from the blog reporterosdelsur.com.mx
