Annabelle Stephenson
מפעילי עננים המתמחים בניהול יחידות עיבוד גרפיות (GPUs) המחוספסות באנרגיה ותשתיות בינה מלאכותית אחרות, פונים באופן מתמד למאיצים של AMD במקום להצעות Nvidia.
אחד מפעלי אלו, TensorWave, התחיל לאחרונה לשלב מערכות עם מאיצים חדשים של AMD Instinct MI300X. החברה מתכוונת להשכיר את השבבים במחירים נמוכים יותר בהשוואה למאיצים של Nvidia.
המאיצים האחרונים של AMD גררו עניין רב משמעות. הם זמינים לרכישה באופן קל בהשוואה למוצרי המתחרים של Nvidia, מעניקים ל-TensorWave גישה לכמויות גדולות דרך כישורי המשא ומתן שלהם.
עד סוף 2024, הינו תכווית של TensorWave להתקין 20,000 מאיצים MI300X בשתי המתקנים שלה. בנוסף, החברה מתכוונת להציע מערכות מוקררות בנוזל לשנה הבאה לביצוע ביצועים משופרים.
עגבמלנופים של AMD מהירים בהשוואה ל-H100 הנחפש במיוחד של Nvidia. ה-MI300X מעלה על ה-H100 מבחינת תקן, כאשר יש לו קיבולת זכרון גדולה יותר ותפיסת נתונים גבוהה יותר. הוא נחשף במהלך אירוע ה-MI300X של AMD בדצמבר 2024, ונמסר כי הוא מהיר ב-32% יותר מה-H100 של Nvidia.
בהשוואה ל-H100 המתחרה, חריץ של AMD כולל קיבולת זכרון HBM3 של 192 GB, מאפשר תפוקת נתונים של 5.3 TB/s. לעומת זאת, ה-H100 כולל קיבולת זכרון של 80 GB ותפוקת של 3.35 TB/s.
במובן שאילצים, עדיין קיימת שאלה ביחד לביצועים של מאצי AMD בהשוואה למוצרי Nvidia. TensorWave מתכוונת להשתמש בצומתון של MI300X באמצעות טכנולוגית RoCE (RDMA over Converged Ethernet) על מנת לחילוץ תהליכי התקנה.
תוכניות לטווח ארוך של TensorWave כוללות יישום פתרון ניהול משאבים מתקדם יותר, חיבור של עד 5,750 GPUs ופטה בייטים של זיכרון תקין באמצעות טכנולוגיית PCIe 5.0-based FabreX של GigaIO. הפרויקט ימוממן דרך קרדיט יישומים מגרפיים מאובטח, שיטה שמשמשת גם על ידי חברות מרכזי נתונים אחרות.
The source of the article is from the blog maestropasta.cz
