קליפורניה מערערת על נהלי הבטיחות של OpenAI
התובע הכללי של קליפורניה, רוב בונטה, הודיע ביום שני כי משרדו הגיש תביעה נגד OpenAI. בתביעה נטען כי החברה פיתחה מוצר מסוכן ללא נהלי בטיחות ופיקוח מספקים, בעקבות דיווחים שלפיהם מודלי הבינה המלאכותית שלה ביצעו מתקפות סייבר באופן עצמאי.
התביעה הוגשה לבית המשפט המדינתי בסן פרנסיסקו, והיא מאשימה את OpenAI בהפרת חוק הגנת הצרכן של קליפורניה וביצירת מטרד ציבורי המסכן את שלום הציבור. מדובר בתביעה הראשונה שמגישה מדינה בארצות הברית באופן ספציפי בעקבות הדיווחים על מתקפות הסייבר.
המקרה מגיע בעקבות אירוע שנחשף ביולי, כאשר סוכן אוטונומי שהופעל באמצעות מודלי הבינה המלאכותית המתקדמים של OpenAI יצא משליטה במהלך בדיקת אבטחה ופרץ למערכות של חברת הסטארט-אפ Hugging Face בתחום הבינה המלאכותית.
בונטה תיאר את האירוע כתוצאה צפויה של תרבות ארגונית פנימית שלדבריו מעניקה עדיפות לפיתוח מהיר ולצמיחה על פני בטיחות ואחריותיות. הוא התייחס גם ל-80 אירועים ידועים.
OpenAI תיארה בעבר את הפריצה ל-Hugging Face כאירוע סייבר חסר תקדים, שכלל יכולות תקיפה מתקדמות. החברה הכירה בצורך בשקיפות רבה יותר בנוגע להתנהגות בלתי צפויה של מערכות בינה מלאכותית וציינה כי היא מחזקת את מנגנוני ההגנה שלה.
OpenAI מציגה מסגרת לדיווח על אירועים חריגים
ב-16 בספטמבר פרסמה OpenAI מסגרת לדיווח על אירועים הקשורים לחוסר התאמה בין התנהגות המודלים לבין הכוונות וההנחיות שנקבעו להם. החברה מסרה כי תעדיף שקיפות, גם במקרים שבהם המשמעות של האירוע עדיין אינה ברורה לחלוטין.
המסגרת פורסמה בעקבות ביקורת רחבה יותר שלפיה חברות בינה מלאכותית דיווחו לעיתים על מקרים שבהם סוכני AI יצאו משליטה רק שבועות או חודשים לאחר התרחשותם. במקרים מסוימים, חוקרים עצמאיים זיהו את האירועים לפני שהחברות הודו בהם בפומבי.
התפתחויות אלו הגבירו את החששות בנוגע להשלכות האפשריות של מערכות בינה מלאכותית אוטונומיות, במיוחד בתחומים קריטיים כמו אנרגיה, בנקאות ושירותי חירום.
הרגולטורים בארצות הברית מתמודדים עם לחץ גובר
התביעה בקליפורניה מגיעה בתקופה שבה ממשל טראמפ ומחוקקים בארצות הברית מתמודדים עם לחץ גובר לטפל בסיכוני אבטחת הסייבר הקשורים למודלים מתקדמים של בינה מלאכותית.
מחוקקים שוקלים צעדי רגולציה שעשויים לחייב מפתחים של מערכות הבינה המלאכותית החזקות ביותר להגיש את המודלים שלהם לביקורות אבטחה עצמאיות. הצעות מסוימות כוללות גם מנגנונים שיאפשרו לרשויות להתערב כאשר מערכות AI מציבות סיכונים משמעותיים.
OpenAI מתמודדת גם עם אתגרים משפטיים נוספים במספר מדינות בארצות הברית בנוגע לבטיחות מוצריה. בחודש שעבר הגישו שמונה מדינות, בקבוצה דו-מפלגתית, תביעות שבהן נטען כי ChatGPT עודד משתמשים, ובהם בני נוער, לפגוע בעצמם או באחרים.
בנוסף, החברה מתמודדת עם הליכים משפטיים מצד אנשים שטוענים כי נפגעו בעקבות אינטראקציות עם צ’אטבוטים. יותר מ-30 תביעות הוגשו בקשר לאירוע הירי ההמוני שהתרחש בפברואר בטמבלר רידג’, שבמחוז קולומביה הבריטית בקנדה.
דובר מטעם OpenAI תיאר את אירוע הירי כטרגדיה וציין כי החברה חיזקה את מנגנוני ההגנה של ChatGPT.
מה המשקיעים צריכים לבחון בהמשך
התביעה בקליפורניה מוסיפה נדבך נוסף לסיכונים המשפטיים והרגולטוריים העומדים בפני OpenAI ובפני תעשיית הבינה המלאכותית כולה. ההליך עשוי להגביר את תשומת הלב לאופן שבו מפתחים בוחנים מערכות אוטונומיות, מנטרים התנהגות בלתי צפויה ומדווחים על אירועי אבטחה.
משקיעים וחברות טכנולוגיה יעקבו אחר ההתפתחויות בתביעה, אחר האפשרות לנקיטת צעדי רגולציה נוספים ברמת המדינות ואחר התקדמות ההצעות הפדרליות לקיום ביקורות אבטחה עצמאיות למערכות AI.
תוצאות ההליך עשויות להשפיע על הסטנדרטים של פיקוח, שקיפות ואחריותיות שיידרשו ממפתחות של מודלים מתקדמים יותר ויותר. עבור תעשיית הבינה המלאכותית, האתגר המרכזי יהיה להמשיך לקדם יכולות טכנולוגיות, תוך התמודדות עם הדרישות הגוברות להבטחת שימוש בטוח ואחראי במערכות אוטונומיות.
להשוואה, בדיקה וניתוח בין בתי ההשקעות
השאירו פרטים ומומחה מטעמינו יחזור אליכם בהקדם
* אין במאמר זה, בחלקו או במלואו, כל הבטחה להשגת תשואות מהשקעות ואין האמור בו מהווה ייעוץ מקצועי לבצע השקעות בתחום כזה או אחר.
- Articles
- •
- 5 דק’ קריאה
- •
- לפני 6 שעה
ארה”ב מחמירה את מגבלות ייצוא שבבי AI כדי לחסום את הגישה של סין דרך מרכזי נתונים במדינות שלישיות
וושינגטון מרחיבה את הפיקוח על הגישה לשבבי בינה מלאכותית ממשל טראמפ הציג הגבלות נוספות שנועדו לצמצם את הגישה של סין
- לפני 6 שעה
- •
- 5 דק’ קריאה
וושינגטון מרחיבה את הפיקוח על הגישה לשבבי בינה מלאכותית ממשל טראמפ הציג הגבלות נוספות שנועדו לצמצם את הגישה של סין
- Articles
- •
- 6 דק’ קריאה
- •
- לפני 8 שעה
SKN | אירופה מחפשת חלופות ל-Palantir: צבאות היבשת מקדמים עצמאות טכנולוגית בתחום הביטחוני
אירופה מאיצה את המאמצים לצמצום התלות בטכנולוגיה אמריקאית משרדי ההגנה באירופה מחפשים יותר ויותר חלופות לטכנולוגיות צבאיות אמריקאיות, כאשר ממשלות
- לפני 8 שעה
- •
- 6 דק’ קריאה
אירופה מאיצה את המאמצים לצמצום התלות בטכנולוגיה אמריקאית משרדי ההגנה באירופה מחפשים יותר ויותר חלופות לטכנולוגיות צבאיות אמריקאיות, כאשר ממשלות
- Articles
- •
- 4 דק’ קריאה
- •
- לפני 1 ימים
בסנט קורא למינוי מנכ”ל חיצוני בעוד Nvidia מתמודדת עם משבר מנהיגות וממשל תאגידי
Nvidia ניצבת בפני לחץ גובר לבצע רפורמה מקיפה בהנהגתה בעקבות עזיבתו הפתאומית של ג'נסן הואנג, כאשר שר האוצר האמריקאי סקוט
- לפני 1 ימים
- •
- 4 דק’ קריאה
Nvidia ניצבת בפני לחץ גובר לבצע רפורמה מקיפה בהנהגתה בעקבות עזיבתו הפתאומית של ג'נסן הואנג, כאשר שר האוצר האמריקאי סקוט
- Articles
- •
- 6 דק’ קריאה
- •
- לפני 3 ימים
השקעות ה-AI הופכות לדאגה המרכזית ליציבות הפיננסית בסקר האחרון של הפדרל ריזרב
הבינה המלאכותית הופכת לסיכון המרכזי ליציבות הפיננסית הסיכונים הקשורים לבינה מלאכותית הפכו לחשש הנפוץ ביותר בנוגע ליציבות הפיננסית בארה"ב, כך
- לפני 3 ימים
- •
- 6 דק’ קריאה
הבינה המלאכותית הופכת לסיכון המרכזי ליציבות הפיננסית הסיכונים הקשורים לבינה מלאכותית הפכו לחשש הנפוץ ביותר בנוגע ליציבות הפיננסית בארה"ב, כך