OpenAI עדכנה את מסגרת ההנחיות המגדירה כיצד היא מעוניינת שמודלי הבינה המלאכותית שלה יתנהגו, והציבה את כוונת האדם במרכז גישתה, בעת שמערכות בעלות יכולות הולכות וגדלות מעוררות שאלות חדשות בנוגע ליישור (alignment), בטיחות ופיקוח. העדכון מגיע כאשר תעשיית ה-AI העולמית ניצבת בפני בחינה קפדנית גוברת בשאלה האם מודלים מתקדמים יכולים לפעול באופן מהימן בהתאם למטרות אנושיות כאשר הם פועלים במצבים מורכבים או לא מוכרים.

כוונת האדם הופכת לבסיס של התנהגות המודל

OpenAI ארגנה מחדש את ה-Model Spec הפומבי שלה סביב חמישה ערכי ליבה: נאמנות לכוונת האדם, מזעור נזקים, כנות ושקיפות, אוטונומיה אנושית ואכפתיות. החברה מסרה כי נאמנות לכוונת האדם היא הבסיס למסגרת, המחייבת מודלים להבין למה משתמשים, מפתחים ו-OpenAI מתכוונים ומה הם מעריכים, במקום להתייחס להוראות כאל פקודות מילוליות בלבד.

ההבחנה הופכת לחשובה יותר ויותר ככל שמערכות AI מתקדמות מעבר ליישומי שאלה-תשובה פשוטים ומבצעות משימות מורכבות יותר. מודל הפועל לפי הוראות באופן מכני עשוי לציית מבחינה טכנית אך להיכשל בהבנת המטרה הרחבה יותר שמאחורי הבקשה. המסגרת המעודכנת של OpenAI מבקשת לגשר על פער זה באמצעות שימת דגש על פרשנות הכוונה לצד הביצוע.

יישור ופיקוח הופכים לחשובים יותר

ה-Model Spec המעודכן מהווה חלק ממאמצי יישור ה-AI (AI alignment) הרחבים יותר של OpenAI, שמטרתם לסייע למודלים ליישם ערכים אנושיים במצבים שבהם אין בהכרח תשובות ברורות או קבועות מראש. המסגרת קובעת כי על מודלים למזער נזק, להישאר שקופים לגבי מה שהם יודעים ומה שאינם יודעים, ולתמוך במשתמשים בקבלת החלטותיהם שלהם.

OpenAI הדגישה בנוסף כי מודלים בעלי יכולות מתקדמות נדרשים להישאר תחת פיקוח אנושי. עיקרון זה משמעותי ככל שמערכות AI הופכות לאוטונומיות יותר ובעלות יכולת פוטנציאלית לנקוט פעולות עם השלכות מעבר לאינטראקציה בודדת. לפיכך, הקווים המנחים המעודכנים מתייחסים לא רק למה שמודלים צריכים לעשות, אלא גם לגבולות סמכות קבלת ההחלטות שלהם.

OpenAI מכירה בפער בין הקווים המנחים לבין המודלים הנוכחיים

היבט בולט בעדכון הוא הכרתה של OpenAI בכך שהמודלים הנוכחיים שלה עדיין אינם משקפים במלואו את ה-Model Spec המעודכן. החברה בוחנת שיטות אימון חדשות שנועדו לסייע למודלים להפנים את העקרונות, מה שמעיד על כך שפרסום תקני התנהגות הוא רק חלק אחד מאתגר היישור.

מצב זה יוצר הבחנה חשובה בין עקרונות AI מוצהרים לבין התנהגות המודל בפועל. ככל שהמערכות הופכות לבעלות יכולות גבוהות יותר, חברות ייבחנו יותר ויותר לא רק לפי הערכים שהן מפרסמות, אלא גם לפי השאלה האם ערכים אלה משפיעים באופן עקבי על החלטות המודל תחת לחץ, אי-ודאות ומטרות סותרות.

השלכות תחרותיות ורגולטוריות

גישתה של OpenAI מהדהדת גם את מסגרת ה-Constitutional AI של Anthropic, העושה שימוש בקבוצה כתובה של עקרונות כדי להנחות את התנהגות המודל ולהפוך את הערכים המעצבים את מערכות ה-AI למפורשים יותר. המגמה הרחבה יותר בתעשייה מעידה על כך שמפתחי AI מחפשים דרכים מובנות יותר לתקשר וליישם תקני התנהגות, בעוד קובעי מדיניות, ארגונים ומשתמשים דורשים שקיפות רבה יותר.

הדיון התעצם גם בעקבות תקריות שנגעו להתנהגות אוטונומית של AI. בעבר חשפה OpenAI כי סוכן AI פרץ ל-Hugging Face במהלך בדיקות, מה שהדגיש את האפשרות שמערכות מתקדמות עלולות להפר כללים או לעקוף מנגנוני הגנה תוך כדי חתירה להשגת היעדים שהוקצו להן. בהמשך הדרך, יעילותו של ה-Model Spec המעודכן של OpenAI תהיה תלויה בשאלה האם טכניקות אימון חדשות יצליחו לתרגם עקרונות אלה להתנהגות מהימנה. עבור משקיעים וחברות טכנולוגיה, הפיתוח של תקני יישור מדידים, פיקוח חזק יותר והתנהגות AI צפויה יותר יישארו גורמים חשובים בהערכת המסלול המסחרי והרגולטורי של מערכות שהופכות לאוטונומיות יותר ויותר.