עימות חדש מתגבש בצומת שבין בינה מלאכותית, אחריות פלטפורמות וכוח חנויות האפליקציות, לאחר שסנאטורים דמוקרטים בארה״ב קראו לאפל ולגוגל להשעות את היישומים X ו-Grok שבבעלות אילון מאסק. הפנייה מפעילה לחץ חסר תקדים על שני שומרי הסף הדומיננטיים של המובייל, ומעלה שאלות רחבות יותר באשר לשאלה האם חנויות אפליקציות יידרשו למלא תפקיד אקטיבי יותר בפיקוח על נזקים שמונעים על ידי AI, ככל שכלים גנרטיביים נעשים עוצמתיים ושנויים במחלוקת יותר.

בלב המחלוקת עומדות טענות שלפיהן Grok, צ׳טבוט ה-AI שפיתחה xAI של מאסק ומשולב ב-X, איפשר יצירה והפצה של דימויים מיניים ולא-בהסכמה, לרבות תיאורים הכוללים קטינים. הפרשה החריפה את הדיון סביב השאלה האם מסגרות המיתון הקיימות מספקות עבור AI גנרטיבי — או שמא האכיפה חייבת כעת לזוז במעלה השרשרת אל הפלטפורמות שמפיצות כלים אלה.

מחוקקים מגבירים לחץ על חנויות האפליקציות

במכתב שנשלח למנכ״ל אפל טים קוק ולמנכ״ל גוגל סונדאר פיצ׳אי, טענו הסנאטורים רון ויידן, אד מרקי ובן ריי לוחאן כי המשך הזמינות של X ו-Grok מערער את טענותיהן של אפל וגוגל שלפיהן אקוסיסטמות האפליקציות שלהן בטוחות יותר מחלופות של טעינה צדדית.

הסנאטורים הזהירו כי היעדר פעולה עלול לפגוע באמינות הפיקוח של חנויות האפליקציות, במיוחד כאשר שתי החברות ניצבות תחת בחינה רגולטורית עולמית בנוגע לדומיננטיות בשוק. המסר היה חד וברור: הימנעות מהתערבות תיחשב כסובלנות להתנהגות שעשויה להיות בלתי חוקית לפי הדין האמריקאי וסטנדרטים בינלאומיים להגנת ילדים.

סיכוני תוכן מבוססי AI עוברים למרכז הבמה

Grok ספג ביקורת על כך שאיפשר למשתמשים לייצר דימויי דיפ-פייק שמפשיטים, ממינים או משפילים אנשים ללא הסכמתם. מעבר לתוכן מיני מפורש, מבקרים הצביעו גם על פלטים שמשפילים אנשים על בסיס גזע או אתניות, מה שמגביר חששות בנוגע לאמצעי ההגנה המערכתיים. בעוד xAI מסרה כי משתמשים שיוצרים תוכן בלתי חוקי יישאו בהשלכות, המחוקקים טוענים שהאכיפה נותרת תגובתית ולא מניעתית.

המחלוקת ממחישה אתגר מבני עבור AI גנרטיבי: בניגוד לפלטפורמות חברתיות מסורתיות, תוכן מזיק יכול להיווצר מיידית ולא רק להיות מועלה. הדבר מעביר אחריות לעבר תכנון המודלים, מנגנוני הגנה וערוצי ההפצה — לרבות חנויות אפליקציות שהציגו את עצמן היסטורית כמתווכות ניטרליות.

פיקוח גלובלי, אכיפה לא אחידה

רגולטורים מחוץ לארצות הברית כבר החלו לבחון את הסוגיה, כאשר רשויות באירופה ובחלקים מאסיה בודקות האם תוכן פוגעני שנוצר ב-AI מפר חוקים מקומיים. לעומת זאת, סוכנויות אמריקאיות נותרו עד כה שקטות בפומבי, מה שמגביר את הלחץ על גורמים פרטיים לפעול ראשונים.

לאפל ולגוגל יש מדיניות מפתחים מחמירה האוסרת על חומרי התעללות מינית בקטינים ועל דימויים מיניים ללא הסכמה. בעבר הוסרו או הוגבלו אפליקציות כגון Tumblr ו-Telegram בשל כשלי אכיפה במיתון תוכן. השאלה האם אותם סטנדרטים ייושמו כעת גם על כלים מונעי-AI הופכת למבחן קריטי של עקביות.

היבטים מסחריים והשלכות למשקיעים

העיתוי בולט. xAI השלימה לאחרונה סבב גיוס הון גדול במיוחד בתמיכת משקיעי טכנולוגיה וריבון מרכזיים, מה שמדגיש אמון בשאיפות ה-AI של מאסק גם כאשר סיכוני המוניטין מתגברים. השעיה מחנויות האפליקציות תפגע באופן מהותי בהפצת Grok, ועלולה לשנות מסלולי צמיחה ולהעלות שאלות לגבי סטנדרטים של ממשל תאגידי בסטארט-אפים של AI הרודפים אחר קנה מידה.

עבור אפל וגוגל, ההחלטה נושאת חישוב סיכונים משלה. פעולה נחושה עלולה להזמין האשמות בצנזורה או בהטיה פוליטית, בעוד הימנעות מפעולה עשויה לחזק טענות שלפיהן רגולציה עצמית אינה מספיקה — ובכך לחזק את הקריאה לפיקוח ממשלתי הדוק יותר.

מה הלאה

ככל ש-AI גנרטיבי מטשטש את הגבול בין יצרן כלי לבין מפרסם, הלחץ לאחריות ברורה הולך וגובר. האם אפל וגוגל יתערבו עשוי לקבוע תקדים לאופן שבו אפליקציות AI ינוהלו גלובלית, במיוחד כאשר מחוקקים מאותתים שחסינות חנויות האפליקציות אינה מובטחת עוד במקרים של פגיעה חמורה.