הבינה המלאכותית נכנסת לחייהם של ילדים בקצב שמעלה שאלות חדשות בנוגע לבטיחות, רגולציה ואחריות תאגידית. טום סיגל, מייסד צוות האמון והבטיחות של Google, הזהיר כי הטכנולוגיה עלולה ליצור עבור משתמשים צעירים סיכונים שבסופו של דבר יהיו גדולים מאלה שנקשרו לרשתות החברתיות. לדבריו, התעשייה צריכה להאט את קצב הפיתוח עד ליצירת אמצעי הגנה חזקים יותר.

בכיר הבטיחות לשעבר ב-Google מעלה חששות בנוגע ל-AI

סיגל הצטרף ל-Common Sense Media כמנכ”ל הראשון של Youth AI Safety Institute, ארגון המתמקד באופן ייעודי בבחינת השפעת הבינה המלאכותית על ילדים. בשיחה עם Reuters אמר כי מגזר הטכנולוגיה מסתכן בחזרה על הניסיון שנצבר ברשתות החברתיות, שבהן החששות בנוגע לבטיחות צעירים התעצמו רק לאחר שהפלטפורמות כבר הגיעו לאימוץ רחב.

סיגל הצביע על כמה תחומי דאגה, בהם סיכונים אפשריים הקשורים לאובדנות, פסיכוזה וירידה ביכולות החשיבה הביקורתית. אלה אזהרות שמציג סיגל ולא מסקנות מבוססות לגבי ההשפעה הכוללת של AI על ילדים. עם זאת, הן מדגישות את הקושי להעריך מערכות שמתפתחות במהירות לפני שהן הופכות לחלק עמוק מחיי היומיום.

המכון לבטיחות AI לילדים מבקש לקבוע תקנים עצמאיים

Youth AI Safety Institute הוקם במאי 2026 כארגון מחקר ובדיקות עצמאי, המתמקד באינטראקציה של ילדים עם מערכות AI. מטרתו המוצהרת היא ליצור תקני בטיחות, לפתח כלי הערכה בקוד פתוח ולבדוק מוצרי AI באופן עצמאי, כאשר תוצאות הבדיקות יהיו זמינות לציבור. הגישה נועדה לספק מסגרת אחידה להערכת בטיחות AI, במקום להסתמך רק על ההערכות הפנימיות של חברות הטכנולוגיה.

המכון כבר החל לפרסם הערכות. בספטמבר הוא בחן את פונקציית החיפוש מבוססת ה-AI של Perplexity והעניק לה דירוג של “סיכון בלתי קביל” עבור קטינים, תוך ציון חששות בטיחות ומידע לא מדויק בתרחישים מסוימים. ביולי העניק הארגון דירוג דומה לתכונות AI ששולבו בחיפוש של Google. הערכות אלה ממחישות כיצד בדיקות עצמאיות עשויות להפוך לחלק משמעותי יותר ממערך הממשל המתפתח בתחום ה-AI.

השימוש ב-AI כבר מתרחב בקרב משתמשים צעירים

הסוגיה הופכת מהותית יותר ככל שילדים משתמשים ב-AI לצורכי לימודים, בידור ואינטראקציה אישית. סקר של Common Sense Media בקרב 1,204 ילדים בגילי 9 עד 17 מצא כי 86% משתמשים ב-AI, בעוד שכמעט רבע מהם משתמשים בו מדי יום. יותר מארבעה מתוך 10 המשיבים אמרו כי מעולם לא שוחחו עם הורה או אפוטרופוס על בטיחות בשימוש ב-AI.

השימוש לצורכי חינוך נפוץ גם הוא. סקר נפרד בקרב 1,017 בני נוער בארה”ב מצא כי שבעה מתוך 10 משתמשים בכלי AI לצורכי לימודים, כאשר 63% מהמשתמשים הללו נעזרים ב-AI כדי לקבל תשובות. המכון הזהיר כי העברת תהליך הגעה לתשובה למערכת AI עלולה לפגוע בלמידה ובפיתוח החשיבה הביקורתית. עם זאת, המחקר מצא גם שתלמידים רבים משתמשים ב-AI לסיעור מוחות ולבדיקת עבודות, ולא רק כדי לקבל תשובות.

רגולציה עשויה להפוך לסיכון השקעה הולך וגדל בתחום ה-AI

הדיון יוצר סוגיה אסטרטגית רחבה יותר עבור חברות הטכנולוגיה. דרישות מחמירות יותר לאימות גיל, בדיקות מוצר והגבלות על מערכות AI המשמשות קטינים עלולות להגדיל את עלויות הציות ולהשפיע על עיצוב המוצרים ועל הגישה לשווקים. במקביל, היעדר אמצעי הגנה אמינים עלול לחשוף חברות להליכים משפטיים, התערבות רגולטורית וסיכונים למוניטין, במיוחד כאשר ממשלות בוחנות את הלקחים מתעשיית הרשתות החברתיות.

המשקיעים יעקבו אפוא אחר השאלה האם תקני בטיחות עצמאיים בתחום ה-AI יאומצו באופן רחב יותר והאם הרגולטורים יטילו דרישות ייעודיות על מוצרים הזמינים לקטינים. אימות גיל, בדיקות עצמאיות, אמצעי הגנה בסוכני AI לשיחה ושימושים חינוכיים צפויים להישאר תחומי בחינה מרכזיים, כאשר קובעי מדיניות וחברות טכנולוגיה מנסים לאזן בין פיתוח מהיר של AI לבין הגנה על משתמשים צעירים.