לקוחות ארגוניים מתנגדים למדיניות נתוני ה-AI

מחלוקת הולכת וגוברת סביב הגנת מידע מתחילה להשפיע על האופן שבו חברות גדולות מטמיעות מודלי בינה מלאכותית מתקדמים. Palantir Technologies, Nvidia ו-Booz Allen Hamilton מגבילות או שוקלות מחדש את השימוש שלהן במודלים של Anthropic ו-OpenAI, על רקע חששות שמידע עסקי רגיש עלול להישמר או להיחשף דרך מערכות AI חיצוניות.

עבור חברות הפועלות בתחומי הביטחון, אבטחת הסייבר ותעשיות רגישות אחרות, הסוגיה חורגת מעבר לביצועי המודל. השליטה בנתונים קנייניים הופכת לגורם חשוב יותר ויותר בהחלטה אילו מערכות AI ניתן לשלב בתהליכי עבודה קריטיים.

מדיניות שמירת הנתונים של Anthropic מעוררת חששות

לפי הדיווחים, Palantir דרשה מ-Anthropic ערבויות לאפס שמירת נתונים לפני שתאפשר את השימוש במודלים שלה באמצעות התוכנה של Palantir. Nvidia הגבילה את המודלים של Anthropic ליישומים פנימיים רגישים פחות, ובמקביל העדיפה את מודלי Nemotron שלה לעבודה עם מידע קנייני.

Booz Allen נקטה גישה מגבילה אף יותר, ואסרה על עובדיה להשתמש במודל המסחרי של Anthropic בפרויקטים של אבטחת סייבר הכוללים מידע קנייני.

החששות התגברו לאחר ש-Anthropic הציגה ביוני מדיניות לשמירת נתונים למשך 30 יום, במקביל להשקת מודל Fable 5. Anthropic מסרה כי תקופת השמירה נחוצה לצורך ניתוח יומני שימוש וזיהוי מתקפות מתוחכמות שעלולות להתפתח לאורך מספר סשנים. החברה גם ציינה כי המידע שנשמר לא ישמש לאימון המודלים שלה.

Anthropic עוברת לכיוון של שליטה בנתונים מצד הלקוח

Anthropic הגיבה באמצעות השקת Enterprise Frontier Safeguards, המאפשר ללקוחות ארגוניים לאחסן נתוני פעילות בסביבות הענן שלהם עצמם, כולל Amazon S3, Azure Blob Storage ו-Google Cloud Storage. הלקוחות יכולים גם להשתמש במפתחות ההצפנה שלהם.

מערכות הבטיחות האוטומטיות של Anthropic יכולות להמשיך לנטר פעילות לצורך זיהוי שימוש לרעה, בעוד שהחברה טוענת כי המבנה החדש מבטל את הצורך בבדיקה אנושית מצד עובדי Anthropic. המערכת מוצגת בהדרגה, כאשר זמינות רחבה יותר צפויה בהמשך הסתיו.

לפי המידע שסופק, לא Anthropic ולא OpenAI משתמשות כברירת מחדל בנתוני לקוחות לצורך אימון המודלים. עם זאת, שתיהן אוספות מטא-נתונים אנונימיים לצורך שיפור המוצרים, אלא אם הלקוחות בוחרים להצטרף לכך.

Nvidia ו-Palantir מציעות גישה חלופית

ההגבלות מדגישות גם שינוי אסטרטגי רחב יותר לעבר מערכות AI שמאפשרות לארגונים לשמור על שליטה רבה יותר בנתונים שלהם. Palantir ו-Nvidia הציגו לאחרונה פלטפורמה המשלבת את התוכנה של Palantir עם מודלי Nemotron הפתוחים של Nvidia, שנועדה לאפשר לארגונים להפעיל AI על הנתונים שלהם מבלי לחשוף אותם לספקי מודלים חיצוניים.

לפי הדיווחים, Nvidia היא הלקוחה הראשונה של יישום הטכנולוגיה בתחום שרשרת האספקה, מה שמחזק את הפוטנציאל המסחרי של הגישה.

האסטרטגיה עשויה להפוך לאטרקטיבית יותר ויותר עבור עסקים שרואים בריבונות על הנתונים גורם חשוב לא פחות מאינטליגנציה של המודל. במקום לשלוח מידע רגיש לספק AI חיצוני, ארגונים יכולים יותר ויותר לפנות לארכיטקטורות שמשאירות את הנתונים הקריטיים בתוך התשתית או סביבת הענן שלהם.

Microsoft מזהה הזדמנות בתחום ה-AI הארגוני

אי-הוודאות הגוברת יוצרת גם הזדמנות עבור Microsoft, המשווקת את מוצרי ה-AI שלה ואת תשתית הענן המפולחת שלה ללקוחות ארגוניים המודאגים מאבטחת מידע ומבידוד נתונים.

הדבר מצביע על כך שהתחרות בתחום ה-AI הארגוני מתרחבת מעבר לשאלה איזו חברה מחזיקה במודל בעל היכולות הגבוהות ביותר. ממשל נתונים, אבטחה, שליטה בתשתיות ועמידה בדרישות רגולטוריות הופכים לרכיבים מרכזיים בהחלטת הרכישה.

מניות ה-AI מתמודדות עם גורם סיכון חדש

תגובת השוק ממחישה באיזו מהירות חששות סביב תשתיות AI ואימוץ מערכות AI בקרב ארגונים יכולים להשפיע על תמחור חברות הטכנולוגיה. מניית Nvidia ירדה בכ-3% ביום שני, כאשר מניות הקשורות ל-AI ירדו באופן נרחב.

עבור Anthropic ו-OpenAI, שמירה על אמון הלקוחות הארגוניים תהיה חיונית ככל שעומסי עבודה רגישים יותר עוברים לפלטפורמות AI. עבור Nvidia ו-Palantir, לעומת זאת, השינוי עשוי ליצור הזדמנות לקדם ארכיטקטורות AI שמעניקות עדיפות לשליטת הלקוח בנתונים.

המשמעות הרחבה יותר היא שהשלב הבא באימוץ AI ארגוני עשוי להיות מעוצב לא פחות על ידי אמון ובעלות על נתונים מאשר על ידי ביצועי המודל. אם ארגונים גדולים ימשיכו להגביל שימוש במודלים של צדדים שלישיים בשל חששות הנוגעים לשמירת מידע ולפרטיות, הביקוש למערכות AI שיכולות לפעול בסביבות מבוקרות עשוי להאיץ. מצב כזה עשוי לשנות את מפת התחרות סביב תשתיות ה-AI הארגוניות, ולהעניק יתרון לספקים שמסוגלים לשלב מודלים מתקדמים עם ערבויות חזקות יותר לריבונות על הנתונים.

קטגוריה: טכנולוגיה