Επαναστατώντας την Τεχνητή Νοημοσύνη: Το Liqid’s UltraStack και το VR Project της Meta
Η Meta (πρώην Facebook), γνωστή για την αφοσίωσή της στην υιοθέτηση προηγμένων τεχνολογιών, βρήκε μια λύση στην ανάγκη μεγαλύτερης υπολογιστικής ισχύος που παρέχεται από GPU για το έρευνητικό της έργο στον τομέα της εικονικής πραγματικότητας. Το έργο αντιμετώπιζε περιορισμούς λόγω συνηθισμένων στον τομέα της πληροφορικής εμποδίων όπως η περιορισμένη πυκνότητα και διαθεσιμότητα των GPU σε διακομιστές. Ωστόσο, η Meta στράφηκε στην Liqid, μια πρωτοπόρο στον χώρο της αποσυνθέτησης επενδυτικής υποδομής, για να ξεπεράσει αυτές τις προκλήσεις.
Η Liqid παρουσίασε τη λύση UltraStack server, με 2U διακομιστές Dell PowerEdge εξοπλισμένους με έως και 20 NVIDIA L40S GPUs. Αυτή η καινοτόμος λύση όχι μόνο καλύπτει τη ζήτηση για υψηλή πυκνότητα GPU, αλλά βελτιώνει σημαντικά την απόδοση. Το UltraStack έχει τη δυνατότητα να επιταχύνει φορτία εργασίας της νέας γενιάς, παρέχοντας μια εντυπωσιακή αύξηση 35% στην απόδοση. Επιπλέον, προσφέρει εξοικονόμηση κόστους με μείωση 35% στην κατανάλωση ενέργειας και εξαιρετική μείωση 75% στα κόστη αδειοδότησης λογισμικού σε σύγκριση με διακομιστές με χαμηλότερες χωρητικότητες GPU.
Ο Vasu Agrawal, ερευνητής προσωπικού στην Meta, αναδεικνύει τον αντίκτυπο της Liqid UltraStack με NVIDIA L40S GPUs και Dell PowerEdge διακομιστές σε μια συνέντευξη σε βίντεο. Τονίζει πώς αυτή η υποδομή έχει μετασχηματίσει το έργο τους στην εικονική πραγματικότητα, ενισχύοντας τις υπολογιστικές δυνατότητες και προωθώντας σημαντικές εξελίξεις.
Το κύριο πλεονέκτημα του UltraStack βρίσκεται στη δυνατότητά του να συνδέει ομαλά ένα μεγάλο αριθμό GPUs σε έναν τυπικό διακομιστή. Με αυτόν τον τρόπο, αντιμετωπίζει αποτελεσματικά τρία κρίσιμα προβλήματα στο χώρο της υπολογιστικής νοημοσύνης: κόστος και πολυπλοκότητα, χρόνο και απόδοση.
Πρώτον, το UltraStack εξαλείφει το κόστος και την πολυπλοκότητα που σχετίζεται με την ανεπαρκή πυκνότητα GPU. Πολλοί υπολογιστές νοημοσύνης αντιμετωπίζουν προβλήματα με τον περιορισμένο αριθμό GPUs ανά διακομιστή, με αποτέλεσμα να αυξάνονται τα κόστη ενέργειας, ψύξης και χώρου, καθώς και η πολυπλοκότητα διαχείρισης συστημάτων. Ωστόσο, το UltraStack λύνει αυτό το πρόβλημα ενσωματώνοντας έως και 20 GPUs ανά διακομιστή.
Δεύτερον, η εφαρμογή υποδομής για τον υπολογιστικό τομέα της νοημοσύνης αντιμετωπίζει συχνά καθυστερήσεις λόγω της περιορισμένης διαθεσιμότητας υψηλής απόδοσης GPUs. Η ένταξη των έτοιμα διαθέσιμων NVIDIA L40S GPUs από το UltraStack εξασφαλίζει την έγκαιρη και αποτελεσματική εφαρμογή.
Τέλος, το UltraStack παρέχει εξαιρετική απόδοση με την συγχώνευση έως και 20 GPUs ανά διακομιστή. Τα αποτελέσματα δοκιμής χρησιμοποιώντας το MLPerf 3.1 Inference LLM (Large Language Model) καταδεικνύουν εντυπωσιακές τιμές ερωτημάτων ανά δευτερόλεπτο σε διάφορους τομείς. Για παράδειγμα, με 16x L40S GPUs, το UltraStack επέτυχε εντυπωσιακά 94 ερωτήματα/δευτ. σε ~7.000W για το MLPerf 3.1 Inference LLM. Επιπλέον, το UltraStack απέδειξε την εξειδικευμένη του ικανότητα σε Ανίχνευση Αντικειμένων, Ιατρική Απεικόνιση και Επεξεργασία Φυσικής Γλώσσας, επιτυγχάνοντας, αντίστοιχα, 10.104 ερωτήματα/δευτ., 62,6 ερωτήματα/δευτ. και 44.730 ερωτήματα/δευτ. αντίστοιχα.
Η Liqid προσφέρει το UltraStack τόσο σε αυτόνομες όσο και σε ετοιμοπαράδοτες επιλογές διακομιστών. Οι αυτόνομοι διακομιστές φιλοξενούν έως 20 GPUs, ενώ οι έτοιμοι για clusters διακομιστές ενσωματώνουν έως 16 L40S GPUs, μαζί με Liqid IO Accelerator NVMe SSDs, NVIDIA ConnectX-7 NICs και NVIDIA BlueField-3 DPUs για βελτιωμένη συνδεσιμότητα και αποδοτικότητα σε περίπλοκα περιβάλλοντα ΤΝ στον χώρο της υπολογιστικής νοημοσύνης.
Η UltraStack της Liqid, σε συνδυασμό με την δέσμευση της Meta στην υιοθέτηση της τεχνολογίας της ΤΝ, σηματοδοτεί ένα σημαντικό άλμα προόδου στον τομέα της υπολογιστικής νοημοσύνης. Αντιμετωπίζοντας κρίσιμες προκλήσεις και παρέχοντας εξαιρετική απόδοση, το UltraStack ανοίγει τον δρόμο για επιταχυνόμενες εξελίξεις στην τεχνητή νοημοσύνη και επιδραστικές εμπειρίες εικονικής…
