המאבק על ההובלה בתחום תשתיות הבינה המלאכותית מתרחב מעבר לביצועי השבבים בלבד ומתמקד יותר ויותר ביעילות התפעולית ובעלות ההפעלה. על פי תוצאות ההשוואה והניתוח המוצגים לעיל, מאיץ ה־MI355X של AMD מציג עלות נמוכה יותר להסקת מסקנות (Inference) לעומת B200 של אנבידיה לאורך חלק ניכר מטווח הביצועים המעשי. ממצא זה ממחיש כי התחרות בתחום החומרה ל־AI מתמקדת כיום לא רק בביצועי שיא, אלא גם בכדאיות הכלכלית של פריסת המערכות בפועל.

בעוד ספקיות הענן הגדולות ממשיכות להשקיע מיליארדי דולרים בתשתיות בינה מלאכותית, מדד העלות לכל טוקן הופך לגורם מרכזי בהחלטות הרכש של ארגונים המבקשים לייעל את הפעלתם של מודלי שפה גדולים.

יעילות כלכלית בהסקת מסקנות הופכת לזירת התחרות המרכזית

הגרף משווה בין העלות למיליון טוקנים לבין ביצועי ההסקה של ה־MI355X מבית AMD ושל ה־B200 של אנבידיה. על פי הנתונים המוצגים, AMD מספקת עלות תפעול נמוכה יותר ברוב טווחי הביצועים שבהם צפויים ארגונים לפעול בסביבות ייצור. מנגד, ה־B200 של אנבידיה ממשיך להפגין יתרון ברמות התפוקה הגבוהות ביותר, אם כי רמות ביצועים אלו עשויות לעלות על צורכיהם של יישומי AI מסחריים רבים.

ככל שהוצאות הארגונים על הסקת מסקנות מבוססת AI גדלות, הערכת החומרה מתבססת יותר ויותר לא רק על מהירות העיבוד, אלא גם על עלות הבעלות הכוללת, הכוללת צריכת חשמל, שיעורי ניצול המשאבים ויעילות התשתית.

מערכות התוכנה ממשיכות לעצב את מאזן הכוחות בשוק

לצד יכולות החומרה, סביבת התוכנה הפכה לגורם תחרותי משמעותי לא פחות. על פי הניתוח המצורף להשוואה, AMD צמצמה באופן משמעותי את הפער באמצעות שיפורים מתמשכים במערך התוכנה וביכולות התקשורת שלה – תחומים שבהם אנבידיה נהנתה לאורך שנים מיתרון משמעותי בזכות סביבת CUDA הבשלה שלה.

בדוח צוין גם כי OpenAI ו־Anthropic משתפות פעולה עם AMD במסגרת יוזמות לאופטימיזציה בקוד פתוח. אף שההשפעה המסחרית ארוכת הטווח של שיתופי פעולה אלה עדיין אינה ברורה, שיפור התאימות התוכנתית עשוי להקל על ארגונים לאמץ פתרונות חלופיים ולהפחית את התלות במערכת האקולוגית של אנבידיה.

השלכות על שוק תשתיות הבינה המלאכותית

ענף שבבי הבינה המלאכותית ממשיך להיות אחד ממנועי הצמיחה המרכזיים של תעשיית הטכנולוגיה, כאשר ספקיות ענן ולקוחות ארגוניים ממשיכים להגדיל את השקעותיהם בתשתיות AI. ככל שההשקעות ההוניות מתרחבות, החלטות הרכש צפויות להתבסס יותר ויותר על יעילות תפעולית ועל העלות הכוללת, ולא רק על מפרטי החומרה.

עבור משקיעים בישראל וחברות טכנולוגיה המשתלבות במערכת האקולוגית העולמית של הבינה המלאכותית, התחזקות התחרות בין יצרניות השבבים עשויה לשפר את זמינות החומרה, להגביר את התחרות במחירים ולהאיץ את החדשנות בתחום תשתיות ה־AI. עם זאת, חשוב לציין כי ההשוואות המוצגות מבוססות על ניתוח של צד שלישי, ולכן אינן מהוות בהכרח מדד מייצג לכל עומס עבודה או סביבת הפעלה.

בהמשך, המשקיעים יעקבו אחר תוצאות מבחני ביצועים בלתי תלויים, התפתחות מערכות התוכנה, החלטות הרכש של ספקיות הענן הגדולות והשקות מוצרים עתידיות מצד AMD ואנבידיה. השלב הבא בתחרות בתחום הבינה המלאכותית צפוי להיקבע לא רק על פי עוצמת העיבוד, אלא גם על פי השילוב בין ביצועים, יעילות, יכולת הרחבה ועלות תפעול כוללת.