Meta מרחיבה את בדיקות האבטחה של Muse, סוכן ה-AI האישי החדש שלה, ומכניסה את המערכת לתוכנית באגים ציבורית עם תגמולים שעשויים להגיע ל-300 אלף דולר. המהלך מגיע כאשר Meta מרחיבה את השימוש ב-AI סוכני מעבר לצ’אטבוטים מסורתיים. Muse יכול לפעול מול יישומים, אתרי אינטרנט, דואר אלקטרוני ועסקאות בשם המשתמשים, ולכן הוא יוצר סוג חדש של חשיפה לסיכוני אבטחה.

רף אבטחה גבוה יותר עבור מערכת AI שמבצעת פעולות

Muse מציב אתגר אבטחה שונה מהותית ממערכת AI שמסתפקת ביצירת טקסט. לפי Meta, הסוכן פועל באמצעות Muse Secure VM, הכוללת דפדפן ייעודי וסביבה מבודדת שבה מאוחסנים הסוכן ונתוני המשתמש. סוכן Sentinel נפרד בוחן את הפעילות לפני ש-Muse מקבל גישה לאינטרנט, בעוד שהמשתמשים שומרים על השליטה ביישומים המחוברים ובהרשאות שניתנו למערכת.

הארכיטקטורה משקפת את הסיכונים הייחודיים של AI סוכני. תקיפה של צ’אטבוט רגיל עשויה לגרום למערכת לספק מידע מטעה, אך סוכן שנפרץ עלול להיות מופעל לביצוע פעולות, לגשת לשירותים מחוברים או לעשות שימוש לרעה בהרשאות שניתנו לו. לכן, פרצות מסוג prompt injection, הסלמת הרשאות ופגיעה חוצת-משתמשים עלולות להיות משמעותיות הרבה יותר מתקלות רגילות באיכות המודל.

תגמולים של 300 אלף דולר משקפים את פוטנציאל הנזק של תקיפה מוצלחת

טבלת התגמולים המופיעה במקור המצורף קובעת פרס מרבי של 300 אלף דולר עבור פגיעה בסביבת הייצור של Meta ובמשתמשים מעבר למערכת Muse. היא כוללת עד 250 אלף דולר עבור השתלטות על כלל מערך Muse ועד 130 אלף דולר עבור פגיעה בסוכן Muse של משתמש מסוים. קטגוריות נוספות כוללות עד 25 אלף דולר עבור חשיפת מידע בעל ערך גבוה, 10 אלף דולר עבור קוד המקור של Muse וסודות המשותפים לכלל המערך, וכן תגמולים נמוכים יותר עבור הסלמת הרשאות ועקיפת מנגנוני אבטחה.

יש לראות בסכומים הללו רמות תגמול מרביות, ולא אינדיקציה לכך שהפרצות הללו קיימות כיום. Meta מפעילה כבר שנים תוכנית רחבה לבדיקות אבטחה באמצעות חוקרים חיצוניים. בשנת 2024 דיווחה החברה כי קיבלה כמעט 10,000 דיווחים על באגים ושילמה יותר מ-2.3 מיליון דולר בתגמולים. במקביל, היא הרחיבה את תוכניות הבאונטי שלה לתחומים ייעודיים של אבטחה ופרטיות במערכות AI גנרטיבי.

הארכיטקטורה של Muse הופכת את האבטחה לסוגיה אסטרטגית עבור Meta

Meta השיקה את Muse ב-8 בספטמבר כסוכן AI אישי שנועד לבצע משימות ולא רק להשיב על שאלות. החברה אומרת כי Muse יכול לשלוח הודעות דואר אלקטרוני, למלא טפסים, להזמין נסיעות ולבצע רכישות באישור המשתמש. הסוכן יכול להמשיך לפעול גם לאחר סגירת היישום, לשמור מידע מאינטראקציות קודמות ולהשתמש בו כדי לקדם משימות ארוכות טווח.

היכולות הללו עשויות להגדיל את הערך הכלכלי של המוצר, אך הן גם מגדילות את העלות הפוטנציאלית של כשלי אבטחה. לכן Meta בנתה סביב הסוכן כמה שכבות הגנה, ובהן בקרות הרשאה, יומני פעילות, אחסון מאובטח של פרטי התחברות ודרישת אישור לפעולות רגישות. החברה מתכננת גם להשיק בהמשך השנה את Muse Confidential VM, שתצפין את המכונה הווירטואלית כולה באמצעות מפתח שנמצא בידי המשתמש בלבד.

אבטחה עשויה להפוך לגורם תחרותי בשוק ה-AI הסוכני

מבחינת המשקיעים, המשמעות של התוכנית רחבה יותר מגובה התגמול עצמו. Meta מנסה להפוך את Muse לסוכן אישי לשוק ההמוני, ולכן הצלחתו המסחרית עשויה להיות תלויה גם בנכונות הצרכנים להעניק למערכת AI גישה לתהליכים דיגיטליים רגישים יותר ויותר. תוכנית באגים ציבורית מעניקה לחוקרי אבטחה עצמאיים תמריץ כספי לאתר חולשות לפני שיוכלו להיות מנוצלות על ידי גורמים עוינים.

הגישה של Meta משקפת גם שינוי רחב יותר בתעשייה. ככל שמערכות AI עוברות ממתן המלצות לביצוע פעולות בעולם האמיתי, האבטחה הופכת לשזורה יותר באימוץ המוצר, בבחינה רגולטורית ובחשיפה משפטית של חברות. מסגרת האבטחה של Meta עבור Muse Spark מדגישה גם היא כי אמינות, אבטחה והגנה על המשתמשים צריכות להתפתח במקביל ליכולות המודל.

בהמשך, השוק יעקוב אחר יכולתה של Meta לשמור על איזון בין אוטונומיית הסוכן לשליטת המשתמש, ככל ש-Muse יקבל גישה לשירותים נוספים וישתלב עמוק יותר במערכת האקולוגית של החברה. היקף תוכנית הבאונטי ומבנה התגמולים שלה מצביעים על כך ש-Meta רואה בחלק מהפגיעויות האפשריות במערכות סוכנים סיכון מערכתי ולא רק באג נקודתי. עבור תעשיית ה-AI הרחבה, הדבר עשוי להפוך בדיקות אבטחה עצמאיות לרכיב מרכזי יותר בתהליך הפריסה של סוכנים אוטונומיים בקנה מידה רחב.