מרכזי הנתונים הנוכחיים של AI מתמודדים עם שני צווארי בקבוק ליבה בקנה מידה, ובקנה מידה מסורתי - למעלה ולסולם - דגמי החוצה נאבקים לעמוד בגיגה - דרישות AI בקנה מידה:
סולם - מגבלות למעלה: מושג על ידי שדרוג מערכות או מתלים בודדים (למשל, הגדלת ספירת GPU או שיפור ביצועי המכשיר בודדים {}}), אך מוגבלים על ידי תקרות כוח מתשתיות כמו קירור מים. למרכזי נתונים קיימים יש ספים פיזיים לקלט כוח ופיזור חום, ומונעים עלייה אינסופית בצפיפות המחשוב לכל מתלה או מרכז נתונים.
סולם - מגבלות: מורחב על ידי הוספת מתלים ושרתים לקנה מידה של אשכולות, אך מוגבל על ידי המרחב הפיזי במקום יחיד, והטיל כובעים קשים על קיבולת הציוד.
כדי להתגבר על דילמה זו, NVIDIA מציעה את הממד החדש של "סולם - לרוחב", מיטוב תקשורת רשת בין מרכזי נתונים מפוזרים גיאוגרפית כדי לגרום לאשכולות AI מבוזרים לשתף פעולה כאחד. מייסד ומנכ"ל NVIDIA ג'נסן הואנג מתאר את הצלב הזה - מפעל AI Super אזורי כתשתית מפתח למהפכה התעשייתית AI, עם ספקטרום - xG כ- Technology Technology.
טכנולוגיות ליבה של ספקטרום - xgs
ספקטרום - XGS אינו פלטפורמת חומרה חדשה לחלוטין אלא התפתחות של הספקטרום הקיים של NVIDIA - X Ethernet Ecosystem. מאז השקת 2024 שלה, ספקטרום - x העביר ביצועי רשת AI גבוהים יותר של 1.6X לעומת אתרנט מסורתי דרך הספקטרום {}}} 4 מתגים SN5600 של Architecture ו- Bluefield {}} 3 dpus, והופכים למוצרי הבחירה ב- AI עבור Centers GPUs GPUs. הפריצה בספקטרום-XG טמונה בשלושה חידושים אלגוריתמיים וסינרגיות חומרה העוסקות באתגרי חביון, עומס וסנכרון תקשורת באשכולות GPU חוצה אזורים.
1. אלגוריתמים של Core: התאמה דינאמית למאפייני רשת ארוכים {}}}
Spectrum - הגרעין של XGS הוא קבוצה של אלגוריתמי "מרחק - מודעים לאופטימיזציה של רשת" המנתחים פרמטרים מרכזיים של צלב {}}} נתונים - תקשורת מרכזית בתקשורת אמיתית {4} זמן (מרחוק, דפוסי תנועה, רמות קונסטרוקיות), ביצועים של רשתות), רמות של Congistics), Contrictics), Contidicitics), gongicitics)
מרחק - בקרת עומס אדפטיבית:בניגוד לטיפול האחיד של Ethernet המסורתי בכל החיבורים, ספקטרום - XGS אלגוריתמים מתאימים אוטומטית ספי עומס על בסיס מרחקים בפועל בין מרכזי נתונים (תומכים כיום בפריסה של עד מאות קילומטרים), הימנעות מאובדן מנות או הצטברות באורך {} 1}} משמס.
ניהול חביון מדויק:דרך PER - מנות משובחות - ניתוב אדפטיבי מגושם, הוא מבטל את ריצוד ההשהיה מההסכמה מחדש של מנות ברשתות מסורתיות. ריצוד הוא סכנה קריטית באשכולות AI: אם מפגרים בודדים של GPU בגלל עיכוב, כל ה- GPUs המשתפים פעולה חייבים לחכות, ולהשפיע ישירות על הביצועים הכוללים.
סיום - ל - טלמטריה סיום: אמיתי - אוסף זמן של - נתוני ביצועים מקשר מ- GPUs למתגים וחוצה - נתונים - קישורי מרכז מספקים אלפיות שניות - משוב ברמה של דרישות עבודה של AII עבור ALGORITHMIC, מבטיחים התאמה דינאמית לסטטוס רשת AII.
2. סינרגיות חומרה: מינוף ספקטרום - x Ecosystem High - קרן רוחב פס
Spectrum - XGS משיג ביצועים אופטימליים בשילוב עם חומרת NVIDIA ספציפית:
Spectrum - מתגי X: כעמוד השדרה הבסיסי של הרשת, המספק צפיפות יציאה גבוהה ונמוך - העברת חביון.
Connectx-8 supernic: 800 GB/S AI - מתאם רשת ייעודי עבור העברת נתוני מהירות גבוהה- בין GPUs למתגים.
חומרת אדריכלות בלקוול: כגון B200 GPUs ו- GB10 Superchips, משולבים עמוק עם ספקטרום - xgs כדי להפחית את הקצה - ל - חביון סוף. NVIDIA validated through NCCL (collective communications library) benchmarks: Spectrum-XGS boosts communication performance between cross-data-center GPUs by 1.9x while controlling end-to-end latency at about 200 milliseconds-a רמה שמרגישה מגיבה ופיגור - בחינם לאינטראקציות של משתמשים, פגישה עם דרישות זמן אמיתיות - להפרת AI.
מלא - מיטוב ערימה לאימוני AI ויעילות הסקה עם ספקטרום - xgs
Spectrum - XGS אינה טכנולוגיה מבודדת אלא תוספת מרכזית למלאה המלאה של NVIDIA - Stack AI Ecosystem. במהדורה זו, NVIDIA חשפה גם תוכנה - שיפורי ביצועים ברמה המסננים עם ספקטרום - xgs לחומרה {}}} אלגוריתם - שיתוף פעולה תוכנה:
שדרוג תוכנת Dynamo: אופטימיזציה לאדריכלות בלקוול (למשל מערכות B200) כדי להגביר את ביצועי ההסקה של מודל AI עד 4x, מה שמפחית משמעותית את צריכת המחשוב להפרעה של מודלים גדולים.
טכנולוגיית פענוח ספקולטיבית: משתמש במודל טיוטה קטן כדי לחזות את אסימון הפלט הבא של מודל ה- AI הראשי מראש, להפחית את החישוב של המודל הראשי ולשפר את ביצועי ההסקה של 35%נוספים. זה מתאים במיוחד לתרחישי הסקה שיחה במודלים בשפה גדולה (LLMS).
מנהל מחלקת המחשוב המואץ של NVIDIA, דייב סלבטור, הצהיר כי מטרת הליבה של אופטימיזציות אלה היא לקבוע את יישומי AI סוכנים שאפתניים. בין אם טריליון אימונים - פרמטר דגמים גדולים או תמיכה בשירותי הסקה של AI עבור מיליוני משתמשים סימולטניים, השילוב של ספקטרום {}}} xgs והמערכת האקולוגית של התוכנה מספקת ביצועים צפויים.
יישומים מוקדמים והשפעת התעשייה של ספקטרום - xgs
משתמשים ראשונים: חלוצי CoreWeave Cross - Domain AI Super Factoryספק שירותי הענן של GPU CoreWeave הוא בין המאמצים הראשונים של הספקטרום - xgs. המייסד CO - של החברה ומייסד ה- CTO פיטר סלנקי ציינו כי טכנולוגיה זו תאפשר ללקוחותיה לגשת ליכולות AI של GIGA {}}, מה שמאיצב פריצות דרך בענפים. לדוגמה, תמיכה באולטרה - גדולה - פרויקטים AI בקנה מידה כמו יוזמת Stargate מ- Oracle, SoftBank ו- Openai.
מגמות בתעשייה: Ethernet החלפת אינפיניבנד כמיינסטרים ברשת AIלמרות שאינפיניבנד החזיקה בכ- 80% משוק הרשת של AI Backend בשנת 2023, התעשייה עוברת במהירות ל- Ethernet. הבחירה של Nvidia לפתח ספקטרום - xgs ב- Ethernet תואמת מגמה זו:
יתרונות תאימות ועלויות:Ethernet הוא התקן האוניברסלי למרכזי נתונים גלובליים, מוכרים יותר למהנדסי רשת, וזול יותר לפריסה מאשר אינפיניבנד.
תחזיות בקנה מידה בשוק:נתוני קבוצת Dell'oro מראים ששוק מתגי מרכז הנתונים Ethernet יגיע לכמעט 80 מיליארד דולר בחמש השנים הבאות.
הצמיחה של Nvidia עצמה: 650 דוחות קבוצתיים מצביעים על NVIDIA כ"ספק ההולך וגדל "המהיר ביותר -" בשוק המתג של מרכז הנתונים 2024, כאשר הכנסותיו העסקי הרשתות מגיעות ל -5 מיליארד דולר ב- Q {}}} (מסתיים ב -27 באפריל), עלייה של 56% שנה-} מעל {}} שנה).
ההשקה של ספקטרום - XGS מרחיבה את - אסטרטגיית המונופול של NVIDIA בתשתית AI, תוך הצבת דינמיקה תחרותית חדשה:
פריסת הערימה המלאה של Nvidia: מ- GPUs (Blackwell), חיבורים (מתג Nvlink/nvlink), רשתות (ספקטרום - x/ספקטרום {}}} xgs, Quantum {}}} x infiniband) לתוכנה (cuda, tensorrt {}}}, n, n, nim, Nim, Nim, Nim, Nim), Nim, Nim), Nim), Nim), Nim), Nim), Nim)) (cuda,)::: יצר לולאה סגורה המכסה את "Compute - Connect - תוכנה" עבור תשתית AI. Spectrum-XGS synergizes with NVLink for three-level scaling: intra-rack (NVLink), intra-data-center (Spectrum-X), and cross-data-center (ספקטרום - xgs).
תגובות המתחרים: טכנולוגיית SUE הקודמת של Broadcom חולקת יעדים דומים עם Spectrum - xgs, במטרה למטב את ביצועי ה- Ethernet כדי לסגור את הפער באמצעות Infiniband. בנוסף, ספקים כמו אריסטה, סיסקו ומארוול מאיצים את מתגי ה- Ethernet הייעודיים של AI-, כאשר התחרות מתמקדת בביצועים - עלות - תאימות מערכת אקולוגית.
ערך הליבה של הספקטרום - xgs טמון בדחיפת מרכז הנתונים של AI מדרגה מתוך "סינגל - אילוצי אתר" ל- "Cross - שיתוף פעולה אזורי." ככל שהכוח והאדמות הופכות למגבלות קשיחות למרכזי נתונים בודדים, Cross - עיר וצלב - מפעלי סופר של מדינה AI יהפכו לצורת הליבה התומכת הבאה ב - יישומי AI של דור (למשל, אינטליגנציה מלאכותית כללית, גדול- מוקצי סוכן בקנה מידה).
מכיוון ש- NVIDIA את מחלקת הרשתות של NVIDIA סגן נשיא בכיר גילאד שיינר התצוגה מקדימה בוועידת CHIPS Hot: "Cross - נתונים - קיימים מזמן רשתות פיזיות סיבים אופטיים, אך אלגוריתמים תוכנה כמו ספקטרום {}} xG הם המפתח לפתיחת הביצועים האמיתיים כמו פיזינה."
