Annabelle Stephenson
Η Nvidia έχει εισέλθει στον χώρο της γεννητικής τεχνητής νοημοσύνης με το πιο πρόσφατο τεχνολογικό demo της, που ονομάζεται Chat with RTX. Αυτό το demo, που βρίσκεται αυτήν τη στιγμή σε έκδοση beta 0.2, προσφέρει μια ματιά στο μέλλον της τεχνητής νοημοσύνης στις συσκευές. Αντίθετα από άλλα μοντέλα τεχνητής νοημοσύνης που εξαρτώνται από υπολογισμούς στο cloud για την ισχύ υπολογισμού, το Chat with RTX επιτρέπει στους χρήστες να εκτελούν το chatbot κατευθείαν στους υπολογιστές τους. Αυτή η προσέγγιση όχι μόνο εξασφαλίζει ταχύτερους χρόνους απόκρισης αλλά ενισχύει επίσης την ασφάλεια των δεδομένων.
Για να εμπειριστείτε το Chat with RTX, χρειάζεστε μόνο μια GPU Nvidia από τη σειρά 30 ή 40, 8GB μνήμης συστήματος και τα Windows 11. Όπως ανακάλυψε ο συνεργάτης μας το PCMag, το μέγεθος λήψης για το demo είναι περίπου 35GB, με επιπρόσθετο απαιτούμενο χώρο στον δίσκο 100GB για την εγκατάσταση. Η διαδικασία εγκατάστασης διαρκεί από 30 λεπτά έως μία ώρα, καθιστώντας το ιδανικό για να αφεθεί ανεπηρέαστο. Όπως αξίζει να σημειωθεί, το Chat with RTX δεν υποστηρίζει παλαιότερες GPU από τη σειρά RTX 20, πιθανότατα λόγω ανεπαρκούς αριθμού τεντών πυρήνων, που είναι ζωτικής σημασίας για τη γεννητική τεχνητή νοημοσύνη.
Όπως και το ChatGPT ή το Copilot της Microsoft, το Chat with RTX επιτρέπει στους χρήστες να αλληλεπιδρούν με ένα μεγάλο μοντέλο γλώσσας που έχει αναπτύξει η Nvidia, γνωστό ως Mistral. Οι χρήστες μπορούν να θέτουν ερωτήσεις στο μοντέλο, το οποίο γεννά γρήγορα απαντήσεις, αποκτώντας πρόσβαση σε δεδομένα από το internet και ακόμα και σε πολύπλοκα έγγραφα, συμπεριλαμβανομένων PDF και YouTube βίντεο. Αν και η Nvidia υποστηρίζει ότι το Chat with RTX μπορεί επίσης να προσφέρει μετάφραση γλώσσας, αυτή η λειτουργία δεν είναι ακόμα διαθέσιμη.
Η αξιολόγηση του PCMag δείχνει ότι το Chat with RTX λειτουργεί παρόμοια με το ChatGPT, αλλά λείπει από μερικά από τα χαρακτηριστικά του. Για παράδειγμα, το Chat with RTX περιστασιακά παραλείπει τμήματα ερωτήσεων, ενώ το ChatGPT δεν έχει τέτοια προβλήματα. Η τωρινή κορυφαία λειτουργία του Chat with RTX φαίνεται να είναι η δυνατότητά του να περιλαμβάνει συνόψεις αρχείων κειμένου (PDF, Doc, txt) και YouTube βίντεο και να απαντά σε ερωτήσεις με βάση το περιεχόμενό τους. Αν και όλοι αγαπάμε μια ιστορία GPU 18 λεπτών, θα ήταν ευπρόσδεκτη η προσθήκη μιας έκδοσης κειμενικού περιεχομένου για τους λάτρεις του κειμενοπροσανατολισμένου περιεχομένου.
Σύμφωνα με την αξιολόγηση του PCMag, το Chat with RTX εξαιρείται στη σύνοψη YouTube βίντεο, αλλά η απόδοσή του με αρχεία PDF που περιέχουν αποτελέσματα δοκιμών GPU ήταν μεικτή. Ενώ δημιουργούνταν ακριβείς απαντήσεις για τα YouTube βίντεο, το μοντέλο παρέχει εσφαλμένες απαντήσεις και αντιμετωπίζει δυσκολίες με ερωτήσεις παρακολούθησης όταν παρουσιάζονται τα PDF. Αυτήν την στιγμή, το Chat with RTX φαίνεται να είναι περισσότερο ένα εργαλείο πειραματισμού, τοποθετώντας την Nvidia μπροστά από τους ανταγωνιστές της σε αυτό τον τομέα. Ωστόσο, καθώς οι επεξεργαστές CPUs της AMD και της Intel διαθέτουν τώρα μονάδες νευρικής επεξεργασίας (NPUs), προκύπτει η ερώτηση για τα hardware ποιου κατασκευαστή θα χρησιμοποιηθούν για την τεχνητή νοημοσύνη που θέλουμε να χρησιμοποιήσουμε στους υπολογιστές μας. Ειλικρινά, γίνεται αρκετός ανταγωνισμός.
FAQ – Πρόγραμμα Chat with RTX
The source of the article is from the blog meltyfan.es
