הדיון העולמי סביב ממשל הבינה המלאכותית התעצם ביום שני לאחר שמייסד-שותף ב-Anthropic, כריס אולה, הזהיר כי פיתוח מערכות AI מתקדמות אינו יכול להישאר בשליטה בלעדית של תאגידי הטכנולוגיה הגדולים.

במהלך אירוע בוותיקן, שנערך במסגרת הצגת האנציקליקה הראשונה של האפיפיור ליאו בנושא בינה מלאכותית, טען אולה כי ממשלות, מוסדות דת, ארגוני חברה אזרחית וגופי פיקוח עצמאיים חייבים למלא תפקיד משמעותי יותר בעיצוב עתיד התחום.

הדברים נאמרו בזמן שהתחרות בין חברות ה-AI הגדולות ממשיכה להחריף, כאשר החברות משקיעות מאות מיליארדי דולרים בתשתיות מחשוב, מודלים גדולים של שפה ומערכות אוטונומיות מתקדמות.

הופעתו של אולה לצד האפיפיור המחישה עד כמה הבינה המלאכותית הפכה מסוגיה טכנולוגית בלבד לשאלה מוסרית, כלכלית וגיאופוליטית רחבה.

חשש גובר מפני פגיעה רחבת היקף בתעסוקה

אחד המסרים המרכזיים של אולה עסק בהשפעה האפשרית של הבינה המלאכותית על שוק העבודה העולמי.

לדבריו, קיימת “אפשרות ממשית” לכך שבינה מלאכותית תחליף עובדים “בהיקפים גדולים מאוד”, ותשפיע על תחומים רבים — משירות לקוחות ופיתוח תוכנה ועד פיננסים, לוגיסטיקה, בריאות וחינוך.

אולה אמר כי ניהול ההשלכות החברתיות של שינוי כזה יהפוך ל”חובה מוסרית בעלת משמעות היסטורית”.

האזהרה משקפת את הדאגה הגוברת בקרב כלכלנים ומקבלי החלטות מכך שהתקדמות בתחומי ה-AI הגנרטיבי, האוטומציה והסקת המסקנות הממוחשבת עשויה להתרחש מהר יותר מקצב ההסתגלות של שוקי העבודה.

בעוד בכירי התעשייה מדגישים את יתרונות הפריון והצמיחה הכלכלית ארוכת הטווח, מבקרים מזהירים כי ללא מדיניות מתואמת, תוכניות הכשרה והגנות מוסדיות, העלויות החברתיות בטווח הקצר עלולות להיות משמעותיות.

הלחצים המסחריים מעוררים שאלות אתיות

אולה התייחס גם למתח ההולך וגובר בין תחרות מסחרית לבין פיתוח אחראי של בינה מלאכותית.

לדבריו, מעבדות ה-AI המובילות פועלות תחת לחצים פיננסיים, גיאופוליטיים ואישיים כבדים, שלעיתים אינם מתיישבים עם האינטרסים הרחבים של החברה.

ענף הבינה המלאכותית הפך בשנים האחרונות לזירת תחרות אגרסיבית, המונעת על ידי ביקוש משקיעים, מאבקי כוח בין מדינות והשקעות עצומות בתשתיות AI.

חברות הטכנולוגיה הגדולות מתחרות במקביל בתחומי מחשוב הענן, שבבים, יישומים ביטחוניים, תוכנה ארגונית ומוצרי AI לצרכן, מה שמגביר את הלחץ להאיץ את קצב ההשקה ולהבטיח שליטה בשוק.

דבריו של אולה מצביעים על כך שגם חוקרים ומנהלים בעלי כוונות אתיות פועלים בתוך מערכת תחרותית שמגבילה לעיתים את יכולתם לפעול בזהירות.

המצב הזה מגביר את הקריאות להקמת מנגנוני פיקוח עצמאיים שיוכלו לבחון סוגיות של בטיחות, שקיפות, השפעה על שוק העבודה, הפצת מידע כוזב והשלכות חברתיות רחבות — מעבר לאינטרסים העסקיים של החברות עצמן.

הוויכוח על ממשל AI הופך לסוגיה גלובלית

האירוע בוותיקן ממחיש כיצד סוגיית הפיקוח על בינה מלאכותית הופכת בהדרגה לנושא גלובלי רחב ולא רק לדיון מקומי בעמק הסיליקון.

ממשלות בארצות הברית, אירופה ואסיה כבר דנות במסגרת רגולטורית חדשה הכוללת תקני בטיחות ל-AI, זכויות יוצרים, פרטיות מידע, שימושים צבאיים והשלכות כלכליות.

גם מוסדות דת ואקדמיה מצטרפים לדיון, במיוחד סביב שאלות הנוגעות לאוטונומיה אנושית, סמכות קבלת החלטות ותפקידה העתידי של בינה מלאכותית בחברה.

Anthropic עצמה ביססה חלק משמעותי מהמותג שלה סביב בטיחות AI ופיתוח אחראי של מודלים, תוך בידול מול מתחרות באמצעות דגש על מסגרות “Constitutional AI” ומחקרי התאמה בין מערכות AI לערכים אנושיים.

בטווח הארוך, השאלה מי ישלוט בפיתוח הבינה המלאכותית המתקדמת — ממשלות, תאגידים, מוסדות בינלאומיים או החברה הרחבה — עשויה להפוך לאחת הסוגיות הכלכליות והפוליטיות המרכזיות של העשור הקרוב, ככל שיכולות ה-AI ממשיכות להתפתח בקצב חסר תקדים.