אנבידיה מתקדמת במהירות במסחור הטכנולוגיה של Groq, כאשר מערכת Groq 3 LPX נמצאת כעת בייצור מלא וצפויה להיות פרוסה אצל ספקית הענן Nebius בהמשך השנה. ההתפתחות מגיעה בתקופה שבה שוק תשתיות הבינה המלאכותית מתרחב מעבר לאימון מודלים אל שלב ההסקה, שבו מהירות התגובה וזמן העיבוד הופכים לגורמים משמעותיים בכלכלת הפעלת יישומי AI.

טכנולוגיית Groq מתמקדת בצוואר הבקבוק של שלב ההסקה

ארכיטקטורת Groq 3 תוכננה להסיקת מודלים בהשהיה נמוכה, במיוחד בשלב הפענוח של הפעלת מודלי AI. לדברי אנבידיה, השבב כולל 500 מגה-בייט של זיכרון SRAM מהיר ישירות על גבי השבב, במטרה לצמצם צווארי בקבוק הקשורים לזיכרון שעלולים להאט את זמני התגובה.

אנבידיה משלבת 256 שבבי Groq 3 בכל מערכת LPX, ומציינת ביצועים של 3,400 טוקנים בשנייה על בסיס מדד Artificial Analysis. הדגש אינו רק על יכולת חישוב גולמית, אלא על קיצור זמני התגובה בעומסי עבודה הרגישים להשהיה, בהם תכנות וסוכני AI.

היכולת הזו עשויה לתמוך גם בשירותי ענן בעלי בידול תפעולי. אנבידיה טוענת כי קצב מהיר יותר של יצירת טוקנים מאפשר לספקיות ענן להציע מסלולים מתקדמים ללקוחות המוכנים לשלם עבור מערכות AI בעלות זמני תגובה קצרים יותר. מצב זה עשוי ליצור תמריץ מסחרי לשימוש בחומרה ייעודית להסיקה.

אנבידיה בונה שכבת עיבוד ייעודית סביב פלטפורמת ה-GPU

הפריסה של Groq מחדדת גם את אסטרטגיית התשתיות הרחבה יותר של אנבידיה. החברה אינה מציגה את שבבי ההסקה הייעודיים כתחליף למעבדי GPU, אלא כמעבדים משלימים המוקצים לעומסי עבודה מסוימים.

דיון האריס, מנהל בכיר באנבידיה, תיאר את הגישה כבחירת המעבד המתאים לכל חלק בעומס העבודה. מעבדי GPU נותרים מרכזיים באימון מודלים ובהסקה כללית, בעוד Groq מיועדת לטפל בעומסי פענוח הרגישים להשהיה, שבהם ארכיטקטורה ייעודית עשויה לספק יתרון.

האסטרטגיה מקבלת חשיבות ככל שתשתיות הבינה המלאכותית נעשות הטרוגניות יותר. אנבידיה פורסת ב-Nebius את Groq 3 LPX לצד מעבדי Vera המרכזיים ומעבדי Rubin הגרפיים, במבנה שנועד לחלק את עומסי העבודה בהתאם לדרישות החישוביות שלהם.

התחרות בתחום ההסקה מתגברת לקראת דוחות אנבידיה

המהלך של אנבידיה מתרחש במקביל למאמצים של מתחרותיה בתחום ההסקה. AMD הודיעה על מערכות בקנה מידה של ארונות הכוללות טכנולוגיה של Cerebras, בעוד OpenAI הציגה מצב Ultrafast המופעל באמצעות Cerebras. ההתפתחויות מצביעות על כך שצמצום זמן ההשהיה בהסקת מודלים הופך לזירת תחרות נפרדת בתוך שוק שבבי הבינה המלאכותית הרחב.

במקביל, אנבידיה ממשיכה להרחיב את פלטפורמת Vera Rubin המרכזית. החברה החלה להגדיל את משלוחי המערכות מוקדם יותר השנה, בעוד המנכ״ל ג׳נסן הואנג צופה מכירות מצטברות של 1 טריליון דולר ממערכות Blackwell ו-Vera Rubin עד 2027. הואנג גם ציין כי רבע מיכולת מרכזי הנתונים המיועדת ליישומי תכנות עשויה להיות מוקצית למעבדי Groq.

מה המשקיעים יעקבו אחריו

המסחור של טכנולוגיית Groq מעניק לאנבידיה ערוץ נוסף ללכידת הוצאות על תשתיות AI ככל שעומסי העבודה עוברים מאימון להסיקה בהיקפים גדולים. המבחן הקרוב יהיה אם הלקוחות יאמצו מערכות ייעודיות בהיקף שיצדיק את החשיבות האסטרטגית של הרכישה, ואם הסקה בהשהיה נמוכה תהפוך למקור משמעותי של ביקוש נוסף לתשתיות.

אנבידיה צפויה לפרסם את דוחותיה ביום רביעי, והמשקיעים יעקבו גם אחר המשך ההוצאות על תשתיות AI, הביקוש מצד הלקוחות וקצב ההתרחבות של פורטפוליו המעבדים של החברה. מוקד נוסף יהיה יכולתה של אנבידיה לתרגם את היתרונות הטכנולוגיים של המערכות החדשות לצמיחה מתמשכת בהכנסות.