הבחירה של Meta בטכנולוגיית התקשורת Spectrum-6 של Nvidia עבור מפעלי ה-AI שלה המבוססים על Vera Rubin ממחישה כיצד התחרות על בניית מערכות AI גדולות יותר מתרחבת מעבר למעבדים עצמם, אל התשתיות שמחברות ביניהם. באמצעות שילוב המתגים של Nvidia עם תוכנת קוד פתוח שפיתחה בעצמה, Meta שואפת לחבר יותר מ-100,000 GPUs תוך שימוש בפחות שכבות תקשורת. גישה זו עשויה לשפר את היעילות ולהפחית את המורכבות של מערכות מחשוב AI בהיקף נרחב.

הרשת הופכת לצוואר בקבוק בתשתיות ה-AI

ככל שמודלי AI גדלים ומסתבכים, מרכזי הנתונים נשענים יותר ויותר על אלפי מעבדים הפועלים במקביל. ה-GPUs צריכים להעביר במהירות נתוני מודלים ותוצאות ביניים בין רכיבי המערכת. לכן, רוחב הפס, זמן ההשהיה ואמינות הרשת משפיעים ישירות על ביצועי המערכת כולה. גם מאיצים רבי עוצמה עלולים שלא לנצל את מלוא יכולתם אם הרשת המחברת ביניהם אינה עומדת בקצב הביקוש למחשוב.

פלטפורמת Spectrum-6 של Nvidia מיועדת לתקשורת Ethernet בתשתיות AI. Ethernet הוא תקן תקשורת ותיק, והשימוש בו באשכולות AI גדולים משקף את מאמצי התעשייה לפתח מערכות רשת הניתנות להרחבה ומתאימות לעומסי מחשוב תובעניים. הביצועים אינם תלויים רק במתגים עצמם, אלא גם בניתוב התעבורה, בניהול העומסים ובאופן שבו התוכנה מתאמת את התקשורת בין רכיבי המערכת.

עבור Meta, האתגר נעשה משמעותי במיוחד ככל שהיא מרחיבה את התשתיות התומכות במודלי AI, במערכות ההמלצות שלה ובמוצרים חדשים המבוססים על AI. חיבור של יותר מ-100,000 GPUs מחייב תיאום מדויק בין רכיבי הרשת. צמצום מספר שכבות התקשורת עשוי לפשט את פריסת המערכות ולשפר את יעילותן, אך התועלת בפועל תהיה תלויה בתכנון המערכת, בסוג עומסי העבודה ובאיכות הביצוע התפעולי.

אסטרטגיית הקוד הפתוח של Meta מוסיפה ממד תוכנתי

התוכנית של Meta להשתמש בתוכנת קוד פתוח משלה לצד חומרת התקשורת של Nvidia משקפת אסטרטגיה רחבה יותר: שילוב רכיבים מסחריים עם תוכנה פנימית המותאמת לתשתיות החברה. מערכות קוד פתוח יכולות להעניק למפעילות מרכזי נתונים גדולים שליטה רבה יותר בהגדרות הרשת ובאינטגרציה שלה, ולאפשר התאמה טובה יותר לעומסי העבודה הייחודיים שלהן.

הגישה ממחישה גם את מערכת היחסים המתפתחת בין Meta ל-Nvidia. Nvidia מספקת רכיבים מרכזיים למחשוב AI, אך ל-Meta יש תמריץ לשפר את אופן השימוש בהם במקום להסתמך לחלוטין על מערכות משולבות של ספק יחיד. בחברה הפועלת בהיקף עצום, שיפור בניצול הציוד, בצריכת החשמל וביעילות הרשת עשוי להשפיע באופן משמעותי על העלויות, במיוחד כשהוא מיושם על פני צי רחב של ציוד יקר.

עם זאת, שימוש בתוכנת קוד פתוח אינו מבטיח כשלעצמו עלויות נמוכות יותר או ביצועים משופרים. אינטגרציה, בדיקות, אמינות ותחזוקה שוטפת נותרות חיוניות. Meta תצטרך לוודא שהתוכנה מסוגלת לנהל אשכולות GPU גדולים ומורכבים בלי ליצור סיכונים תפעוליים חדשים.

Nvidia מרחיבה את פעילותה מעבר למאיצי AI

המהלך מחזק את מעמדה של Nvidia כספקית של שכבות שונות בתשתיות AI, לרבות ציוד תקשורת לצד GPUs. ככל שההשקעות ב-AI גדלות, ציוד רשת עשוי לתפוס חלק משמעותי יותר מתקציבי מרכזי הנתונים. הדבר מעניק ליצרניות שבבים הזדמנות להרחיב את פעילותן מעבר למכירת מאיצים. במקביל, ללקוחות גדולים כמו Meta יש אינטרס לשמור על גמישות ולצמצם תלות מיותרת בספק יחיד.

פלטפורמת Vera Rubin מייצגת את ארכיטקטורת המחשוב מהדור הבא של Nvidia, ולכן תכנון הרשת הוא שיקול חשוב עבור חברות המתכננות את מפעלי ה-AI העתידיים שלהן. עם זאת, עצם אימוץ מתגי Spectrum-6 אינו מעיד בהכרח על העלות הכוללת של הפריסה, על היקף השיפור בביצועים או על קנה המידה המסחרי של המהלך ב-Meta.

המשקיעים יעקבו אחר פרטים נוספים בנוגע ללוחות הזמנים לפריסה, לביצועי המערכות, ליעילות צריכת החשמל ולעלויות ההפעלה של אשכולות מחשוב בהיקף כזה. השאלה המרכזית היא אם השילוב בין ציוד התקשורת של Nvidia לתוכנה של Meta יניב שיפור מדיד בניצול המשאבים ובעלויות, או שהמורכבות הגוברת של תשתיות ה-AI מהדור הבא תקזז חלק מהיתרונות שמספקת חומרה חזקה יותר.