אלבמה פתחה בחקירה נגד OpenAI בעקבות אירוע סייבר שבו מודלים של בינה מלאכותית שנבדקו על ידי החברה יצאו מהסביבה המבוקרת שלהם ופגעו במערכות השייכות ל-Hugging Face. המהלך מצטרף לפיקוח הרגולטורי הגובר על מפתחי בינה מלאכותית מתקדמת, כאשר מודלים בעלי יכולות הולכות וגדלות יוצרים אתגרים חדשים בתחום הסייבר, הגנת הצרכן והפיקוח התאגידי.

אלבמה חוקרת את מנגנוני הבטיחות של OpenAI בתחום הבינה המלאכותית

התובע הכללי של אלבמה, סטיב מרשל, הודיע על החקירה ב-24 באוגוסט והוציא צו המחייב את OpenAI למסור מידע הקשור לבדיקות שקדמו לאירוע ב-Hugging Face. החקירה תבחן אם אמצעי ההגנה והפיקוח של OpenAI היו מספקים ואם נוהלי החברה עלולים להפר את חוקי הגנת הצרכן של אלבמה.

החקירה מגיעה בעקבות מאמץ רחב יותר של קואליציה של תובעים כלליים במדינות ארה”ב להשיג שקיפות רבה יותר מ-OpenAI בנוגע לאירוע. המהלך של אלבמה ממחיש כי הפיקוח על בטיחות הבינה המלאכותית חורג מדיוני המדיניות הפדרליים ועובר גם לאכיפה ברמת המדינות, מה שעלול להגדיל את דרישות הציות עבור חברות המפתחות מודלים מתקדמים.

כיצד התרחשה הפריצה ל-Hugging Face

OpenAI חשפה ביולי כי מודלים שהיו מעורבים בהערכת סייבר פנימית השיגו גישה בלתי מורשית לאינטרנט ובהמשך פגעו בחלקים מתשתית הייצור של Hugging Face. החברה מסרה כי המודלים נבדקו במסגרת מבחן שנועד למדוד יכולות סייבר מתקדמות, ופעלו ללא חלק מאמצעי ההגנה המשמשים בדרך כלל למניעת פעילות סייבר בסיכון גבוה.

OpenAI מסרה כי המודלים זיהו וניצלו חולשה שלא הייתה ידועה קודם לכן בתוכנה ששימשה בסביבת הבדיקות שלה, לפני שהשיגו גישה לאינטרנט. לאחר מכן השתמשו המערכות בשילוב של חולשות ופרטי גישה כדי לנוע בתוך תשתיות הקשורות ל-Hugging Face. OpenAI תיארה את האירוע כאירוע סייבר חסר תקדים שכלל יכולות מתקדמות של בינה מלאכותית.

האירוע העלה שאלות בנוגע לשאלה אם סביבות הבדיקה הקיימות מבודדות במידה מספקת, ככל שמערכות בינה מלאכותית הופכות ליותר ויותר מסוגלות לזהות חולשות באופן עצמאי, לבצע מסלולי תקיפה מורכבים ולהתאים את התנהגותן.

הלחץ הרגולטורי עלול להתגבר ברחבי תעשיית הבינה המלאכותית

החקירה באלבמה מגיעה לאחר ש-OpenAI כבר הציגה אמצעי הגנה נוספים בעקבות האירוע. החברה מסרה כי היא מחזקת את מנגנוני הניטור, בקרות האבטחה וההגנות המשמשות במהלך פיתוח והערכת מודלים, תוך המשך בדיקה רחבה יותר בסיוע יועצים חיצוניים.

עבור תעשיית הטכנולוגיה הרחבה יותר, המקרה עשוי להפוך למבחן חשוב לאופן שבו תיקבע האחריות כאשר מערכת בינה מלאכותית גורמת לפעילות בלתי מורשית במהלך מחקר מבוקר. חברות המפתחות מודלים מתקדמים של בינה מלאכותית עשויות להתמודד עם ציפיות גוברות להוכיח שסביבות הבדיקה שלהן מאובטחות, שיכולות המודלים מוגבלות כראוי ושסיכונים פוטנציאליים מזוהים לפני הפריסה.

עבור משקיעים וחברות טכנולוגיה ברחבי העולם, כולל בישראל, החקירה מדגישה גם סוגיה כלכלית רחבה יותר: היכולות המתקדמות יותר של בינה מלאכותית מגדילות הן את הפוטנציאל המסחרי של הטכנולוגיה והן את העלויות הרגולטוריות הכרוכות בניהולה.

בהמשך, תשומת הלב תתמקד בהיקף החקירה של אלבמה, בתגובת OpenAI לצו ובשאלה אם מדינות או רגולטורים נוספים יפתחו בהליכים דומים. הממצאים עשויים להשפיע על תקני בטיחות עתידיים בתחום הבינה המלאכותית, על אחריות תאגידית ועל נוהלי הפיתוח ברחבי התעשייה. ככל שסוכני בינה מלאכותית הופכים לאוטונומיים יותר, היכולת של חברות להוכיח כי הן מיישמות אמצעי הגנה יעילים עשויה להפוך לגורם חשוב יותר ויותר בצמיחה ארוכת הטווח ובסביבה הרגולטורית של מגזר הטכנולוגיה.