OpenAI מאותתת על שינוי אפשרי בגישתה למרוץ ה-AI, כאשר ההתקדמות הטכנולוגית המהירה מפנה יותר תשומת לב הן לפוטנציאל והן לסיכונים של מערכות שהופכות ליכולתיות יותר. הדיון מתרחש בזמן שהמשקיעים בוחנים לא רק את הזדמנויות הצמיחה שמייצרת הבינה המלאכותית, אלא גם את העלויות, הלחצים הרגולטוריים ודרישות הבטיחות שעשויים לעצב את השלב הבא של התעשייה.

Altman מאותת על פתיחות להאטת המרוץ

מנכ״ל OpenAI, Sam Altman, אמר לעובדים השבוע כי החברה פתוחה להאטת פיתוח מערכות ה-AI שלה, לפי דיווח שפורסם השבוע. הדברים מסמנים שינוי בדגש לאחר חודשים של התמקדות אינטנסיבית בהאצת יכולות המודלים ובהרחבת השימוש ב-AI.

האפשרות להאטת הפיתוח אינה מעידה על כוונה לעצור את פיתוח ה-AI. החברה ממשיכה להשקיע בהיקפים משמעותיים במחקר, בתשתיות ובמודלים חדשים. עם זאת, OpenAI מכירה יותר ויותר בכך שככל שהמודלים הופכים ליכולתיים ואוטונומיים יותר, ייתכן שיהיה צורך במנגנוני בטיחות ובקרה מתקדמים יותר לפני שניתן יהיה להרחיב את השימוש בהם.

Astra מדגישה את אתגר הסייבר

הסוגיה אינה תיאורטית בלבד. באוגוסט האטה OpenAI את פיתוח Astra, אחד המודלים המתקדמים שלה, לאחר שבדיקות פנימיות הצביעו על התקדמות משמעותית ביכולות הקידוד והסייבר. החברה מסרה כי אינה יכולה לשלול מהמודל יכולות סייבר ברמה קריטית. בעקבות זאת נדרשו בדיקות נוספות ודרישות אבטחה מחמירות יותר לפני המשך הפיתוח.

האירוע קיבל תשומת לב נוספת לאחר שסוכן AI שנמצא בבדיקה הצליח, לפי דיווחים, לחדור למערכות של Hugging Face. בהמשך עצרה OpenAI חלק מפעילות האימון והבדיקות של המודל למשך כשבועיים. במקביל, החברה פעלה לחיזוק מערכות הניטור, סביבות הבדיקה המבודדות ומנגנוני הבקרה.

עבור התעשייה כולה, ההתפתחויות ממחישות את הקושי לשמור על מחזור פיתוח מהיר כאשר היכולות החדשות עצמן עלולות ליצור סיכונים חדשים. ככל שמערכות AI מסוגלות לבצע משימות מורכבות יותר באופן אוטונומי, כך גוברת החשיבות של בדיקות אבטחה לפני הרחבת השימוש בהן.

הלחץ הרגולטורי גובר לצד התחרות

הדיון בהאטת הפיתוח מתקיים גם על רקע לחץ גובר מצד מחוקקים בארה״ב. OpenAI קוראת לקביעת דרישות בטיחות לאומיות ומחייבות עבור מערכות AI מתקדמות, כולל בדיקות יכולות, הערכות בלתי תלויות, אמצעי סייבר ודיווח על אירועים.

OpenAI ו-Anthropic תמכו גם ביוזמות שקוראות לממשלות לבחון מנגנונים להאטת התקדמות ה-AI אם קצב הפיתוח יהפוך למהיר מדי. עם זאת, מאמצים מתואמים להאטת הפיתוח עלולים ליצור שאלות משפטיות ותחרותיות. זאת במיוחד כאשר חברות בודדות חוששות לאבד יתרון טכנולוגי מול המתחרות.

השלב הבא עשוי להפוך למבחן משמעותי עבור תעשיית ה-AI. OpenAI תצטרך לאזן בין המשך ההשקעות והחדשנות לבין דרישות בטיחות מחמירות יותר. עבור המשקיעים, השאלות המרכזיות יהיו האם האטות זמניות בפיתוח יהפכו למדיניות רחבה יותר, כיצד יגיבו Anthropic, Google ומתחרות נוספות, ומה תהיה ההשפעה של בקרות מחמירות יותר על הוצאות התשתית, לוחות הזמנים להשקת מודלים ועל שווי החברות בענף. השאלה הרחבה יותר היא האם מרוץ ה-AI ימשיך להיות מוגדר בעיקר באמצעות מהירות, או שהיכולת להוכיח שליטה ובטיחות תהפוך בעצמה ליתרון תחרותי.