אזהרה חריפה על פגיעות הבינה המלאכותית

מנכ”ל גוגל לשעבר, אריק שמידט, פרסם אחת האזהרות הישירות ביותר עד כה לגבי הסכנות הפוטנציאליות של הבינה המלאכותית, תוך הדגשת הסיכון לפריצה ולשימוש לרעה. במהלך נאום שנשא בכנס Sifted בלונדון, אמר שמידט כי ניתן לשנות מודלים של בינה מלאכותית – בין אם הם קוד פתוח או קוד סגור – כך שיעקפו את מנגנוני הבטיחות המובנים שלהם, דבר שמעורר חששות חמורים בתחום אבטחת הסייבר והניהול הגלובלי.

“ישנן עדויות לכך שניתן לקחת מודלים, סגורים או פתוחים, ולפרוץ אותם כדי להסיר את מנגנוני ההגנה שלהם,” אמר שמידט. “במהלך האימון שלהם, הם לומדים הרבה דברים. דוגמה רעה לכך תהיה שהם לומדים איך להרוג אדם.”

דבריו של שמידט משקפים דאגה גוברת בקרב קובעי מדיניות וטכנולוגים לגבי הבטיחות של מערכות בינה מלאכותית מתקדמות. ככל שהמודלים הופכים למתוחכמים ונפוצים יותר, גוברים החששות ששחקנים עוינים ינצלו אותם למטרות פליליות או צבאיות. ההשוואה של שמידט בין התפשטות הבינה המלאכותית להסלמה גרעינית מדגישה את הדחיפות בהקמת מנגנוני פיקוח בינלאומיים לפני שהטכנולוגיה תצא משליטה.

האנטומיה של ניצול הבינה המלאכותית

החששות של שמידט אינם תיאורטיים בלבד. מערכות בינה מלאכותית כבר הוכיחו שהן פגיעות למספר סוגי תקיפות, כולל “הזרקות פקודות” (prompt injections) ו”שבירת מגבלות” (jailbreaking). שיטות אלו משנות את הקלטים או הפלטים של המודל, ובכך עוקפות את מנגנוני הבטיחות שלו. באחד המקרים הידועים, משתמשים יצרו דמות חלופית בשם “DAN” (“Do Anything Now”) שהצליחה לגרום ל-ChatGPT של OpenAI להפיק תוכן לא חוקי או מסוכן על ידי “איומים” בהשמדתו הדיגיטלית.

בעוד שחברות כמו OpenAI, Google DeepMind ו-Anthropic השקיעו משאבים ניכרים במסגרת אבטחתית, שמידט הזהיר כי גם המערכות הסגורות ביותר עלולות להיות מנותחות לאחור (reverse-engineered). “כל החברות הגדולות עושות את המיטב כדי לשמור על בטיחות המודלים שלהן, והן עושות זאת מהסיבות הנכונות,” אמר. “אך קיימות עדויות לכך שניתן לפרוץ אליהן — וזו בעיה חמורה.”

שמידט הוסיף כי היעדר “משטר אי-הפצה” (non-proliferation regime) בתחום הבינה המלאכותית יוצר פער מסוכן. ללא תיאום בינלאומי, מודלים מתקדמים עלולים ליפול לידי מדינות סוררות, קבוצות קיצוניות או מפתחים בלתי מפוקחים — מה שעלול להעצים את הסיכונים לנזקים דיגיטליים ואף פיזיים.

בין סיכון להזדמנות

על אף האזהרה החריפה, הגישה של שמידט כלפי בינה מלאכותית נותרה אופטימית בעיקרה. הוא תיאר את הטכנולוגיה כ“מוערכת בחסר”, והדגיש כי היתרונות הכלכליים והחברתיים שלה לטווח הארוך עולים בהרבה על האתגרים המוקדמים. בהתייחסו לקצב האימוץ המהיר — כמו 100 מיליון המשתמשים של ChatGPT תוך חודשיים בלבד — ציין שמידט כי הפוטנציאל הטרנספורמטיבי של הבינה המלאכותית רק מתחיל להתממש.

“אני חושב שהגעתה של אינטליגנציה זרה שאינה בדיוק אנחנו, אך נמצאת פחות או יותר בשליטתנו, היא עניין עצום עבור האנושות,” אמר שמידט. “רמת היכולת של המערכות הללו תעלה בהרבה על מה שבני אדם מסוגלים לעשות לאורך זמן.”

הוא דחה את ההשוואות בין פריחת הבינה המלאכותית הנוכחית לבועת הדוט-קום של תחילת שנות ה-2000, וטען כי גל ההשקעות הנוכחי משקף פוטנציאל כלכלי אמיתי ולא ספקולציה. “האנשים שמשקיעים את כספם שהרוויחו בעמל רב מאמינים שהתשואה לטווח הארוך תהיה עצומה,” אמר. “מדוע אחרת היו לוקחים את הסיכון?”

המבט קדימה

ככל שמערכות הבינה המלאכותית הופכות לחזקות ומשולבות יותר בתעשיות שונות, אזהרתו של שמידט משמשת תזכורת בזמן אמת לכך שהחדשנות חייבת להתאזן עם זהירות. האתגר העומד בפני רגולטורים וחברות הוא לבנות מסגרות ממשל יציבות שימנעו שימוש לרעה מבלי לחנוק את ההתקדמות.

השאלה האם האנושות תצליח לשמור על שליטה במערכות אוטונומיות הולכות ומתרחבות עלולה להפוך לאחת הסוגיות המכריעות של העשור. כפי שרמז שמידט, המרוץ כבר אינו רק ליצירת מכונות חכמות יותר — אלא להבטיח שהן יישארו בטוחות, אחראיות, ונאמנות לצד שלנו.