OpenAI קוראת לארה”ב להוביל קביעת תקנים טכניים בינלאומיים לבינה מלאכותית מתקדמת, ולהציב את ממשל ה-AI והבטיחות במרכז הדיון הרחב יותר סביב קצב התפתחות הטכנולוגיה. ההצעה מגיעה כאשר מנהיגי העולם מתכנסים לעצרת הכללית של האו”ם וכאשר ממשלות בוחנות יותר ויותר את ההשלכות הכלכליות, הביטחוניות והטכנולוגיות של מערכות AI בעלות יכולות מתקדמות.

OpenAI מבקשת תקנים משותפים לבינה מלאכותית מתקדמת

OpenAI מקדמת תקנים בינלאומיים תואמים שיסדירו את האופן שבו נמדדות היכולות והסיכונים של מודלי AI מתקדמים, את אופן הדיווח על אירועים חמורים ואת האופן שבו מפתחים קובעים מתי נדרשים אמצעי הגנה נוספים. החברה טוענת כי גישות לאומיות מפוצלות עלולות ליצור דרישות בטיחות לא אחידות, כאשר מודלים, מחקר ומומחיות טכנולוגית עוברים בין מדינות.

ההצעה מבוססת על עמדת המדיניות האחרונה של OpenAI, שלפיה AI מתקדם דורש הן אמצעי הגנה לאומיים מחייבים והן תקנים תואמים ברמה הבינלאומית. OpenAI קראה לרגולציה אמריקאית המבוססת על יכולות, להערכות עצמאיות, לחיזוק דרישות אבטחת הסייבר ולדיווח על אירועים, תוך תמיכה בתקנים בהובלת התעשייה כאמצעי משלים מיידי לרגולציה ממשלתית.

שיפור עצמי רקורסיבי מעלה את רמת הסיכון

אחד הנושאים המרכזיים הוא שיפור עצמי רקורסיבי, שבו מערכות AI עשויות לתרום לפיתוח דורות עוקבים של מערכות בעלות יכולות הולכות וגדלות. OpenAI הדגישה כי שיפור עצמי רקורסיבי אוטונומי לחלוטין אינו מתרחש כיום וכי אין לקדם אותו אלא אם ניתן לבצעו בבטחה. במקביל, החברה מציינת כי סוכני AI כבר מאיצים חלקים מתהליך המחקר והפיתוח המשמש לבנייה ולהערכה של מודלים מתקדמים.

להבחנה הזו יש חשיבות עבור קובעי המדיניות, משום שתקנים המבוססים רק על מודלים מהדור הנוכחי עלולים להתיישן ככל שהיכולות יתפתחו. לכן, OpenAI טוענת שיש צורך במערכות מדידה שיוכלו לעקוב אחר ההתקדמות לעבר פיתוח AI אוטונומי יותר ולהגדיר ספי בטיחות שיקבעו מתי ניתן להמשיך בפיתוח, מתי יש להאט אותו ומתי יש לעצור אותו.

הובלה אמריקאית היא גם שאלה גיאופוליטית

הדחיפה לקביעת תקנים בינלאומיים מתרחשת במקביל לדיון רחב יותר סביב התחרותיות הטכנולוגית של ארה”ב. ממשל טראמפ דחה קריאות להאטה כללית בפיתוח AI, כאשר גורמים בממשל חוששים שהגבלות עלולות לאפשר לסין לצמצם את הפער הטכנולוגי. עמדה זו יוצרת מתח מדיניות: וושינגטון מתבקשת לבסס מסגרות בטיחות מחמירות יותר ובמקביל לשמור על קצב מהיר של פיתוח והשקעות בתחום ה-AI.

הסוגיה נדונה יותר ויותר גם מחוץ לארה”ב. נשיאת הנציבות האירופית אורסולה פון דר ליין תמכה במאמצים להתמודד עם הסיכונים הקשורים ל-AI מתקדם והציעה שיתוף פעולה בין מעבדות AI מובילות ושותפים בינלאומיים. במקביל, גורמים אמריקאים וסינים הסכימו להמשיך בדיונים בנושא בטיחות AI, כולל מנגנוני תקשורת במקרה של אירועי AI משמעותיים.

ממשל ה-AI מתקדם לעבר תיאום בינלאומי

מנכ”ל OpenAI, סם אלטמן, צפוי לתדרך את מועצת הביטחון של האו”ם השבוע, ובכך להוסיף ממד בינלאומי ברמה גבוהה לדיון. הדיונים מתקיימים לאחר שמספר מנהיגים וחוקרים בתחום הטכנולוגיה העלו חששות בנוגע לקצב התפתחות ה-AI ולאפשרות שמערכות בעלות רמת אוטונומיה הולכת וגדלה יהפכו לקשות יותר לשליטה.

עבור משקיעים וחברות טכנולוגיה, הדיון המתפתח סביב התקנים עשוי להשפיע על עלויות הפיתוח העתידיות, דרישות הציות, השקעות באבטחת סייבר והטמעת מודלים מתקדמים בתחומי שיפוט שונים. השלב הבא יהיה תלוי בשאלה האם ארה”ב תוכל לתרגם את המסגרת שמציעה OpenAI למדיניות מקומית והאם הכלכלות המרכזיות יצליחו לגבש כללים תואמים מבלי ליצור פיצול רגולטורי. האיזון בין שמירה על חדשנות בתחום ה-AI לבין קביעת דרישות בטיחות מדידות ימשיך להיות סוגיה מרכזית במדיניות ובשווקי הטכנולוגיה ככל שיכולות המודלים ימשיכו להתפתח.