יו”ר ומנכ”ל מיקרוסופט, סאטיה נאדלה, משרטט גבולות גזרה חדשים לתעשיית הבינה המלאכותית. בפוסט שפרסם ברשת החברתית X (לשעבר טוויטר), קרא נאדלה לתכנן מערכות AI מתקדמות כך שיכללו מנגנוני הכלה, בקרות עצמאיות ו-“בלם חירום” מובנה. לדבריו, הפיתוח המואץ מחייב להקיף מודלים לא-דטרמיניסטיים בעיצוב מערכתי דטרמיניסטי וחזק, שליטה אנושית ונהלי הפעלה אמינים, במיוחד במקומות שבהם התקנים הקיימים בתעשייה אינם מספקים. נאדלה אף הרחיק לכת והציע להתייחס למודלי קצה (Frontier Models) פתוחים וסגורים כאיומי פנים (Insider risks) בעת בניית המערכות הללו.

משבר אמון וחרדה גוברת בתעשייה

הצהרתו של נאדלה אינה מגיעה בחלל ריק, אלא בשיאו של גל אזהרות מצד בכירי הטכנולוגיה בעולם, בהם ביל גייטס, אילון מאסק, ומנכ”לי OpenAI ואנתרופיק (Anthropic). החשש מאובדן שליטה תפס לאחרונה כותרות כאשר חוקר בינה מלאכותית עזב את אנתרופיק בחודש שעבר, תוך שהוא מאשים את החברה ואת מתחרתה OpenAI בכך שהן “מהמרות על חיינו”. באותו יום, בכיר אחר בחברה העריך כי קיים סיכוי של למעלה מ-10% שהטכנולוגיה תוביל ל”הכחדת האנושות” בעשור הקרוב.

וושינגטון נגד עמק הסיליקון

בעוד מנהיגי התעשייה מנסים ללחוץ על הבלמים, הממשל האמריקאי לוחץ על הגז. הנשיא דונלד טראמפ ביטל לא אחת את תרחישי האימה סביב ה-AI, והדגיש כי סדר העדיפויות הלאומי מחייב את ארה”ב לשמור על יתרון טכנולוגי מובהק על פני סין. כחלק מאסטרטגיה זו, הציג לאחרונה טראמפ את “כוח ה-AI” (AI Force) החדש בראשותו של מנהל המודיעין הלאומי ג’יי קלייטון, שנועד להקל על התעשייה ולסנן גורמים עוינים.

על מנת לגשר על הפער בין פיתוח מואץ לבטיחות, נאדלה הציג מערכת של “עקרונות נראות” (Observability) הכוללת מגוון מודלים, תיעוד קריא לבני אדם של פעולות המערכת, בדיקות רציפות, בקרות עצמאיות וגילוי תקריות שקוף. התפיסה הפילוסופית-טכנולוגית של מיקרוסופט, כפי שסיכם זאת נאדלה, מציגה פרדוקס מכוון: “מערכת הבינה העל-אנושית האמינה ביותר לא תהיה זו המבוססת על המודל שאנו סומכים עליו הכי הרבה, אלא זו שתאפשר לנו לסמוך על המודל כמה שפחות”.