Palantir Technologies, Nvidia ו-Booz Allen Hamilton בוחנות מחדש את השימוש שלהן במודלי בינה מלאכותית מתקדמים על רקע חששות בנוגע לקניין רוחני ולאופן הטיפול בנתונים רגישים, לפי דיווח של The Information שצוטט על ידי רויטרס. ההתפתחויות מוסיפות ממד חדש לדיון סביב אימוץ AI, כאשר ארגונים שוקלים יותר ויותר את יתרונות הפרודוקטיביות של מודלים מתקדמים מול סיכוני אבטחת מידע וסודיות.

הסוגיה מתעוררת כאשר חברות ה-AI המובילות נתונות לבחינה גוברת בנוגע לאופן שבו המודלים שלהן מטפלים במידע של לקוחות והאם נתונים עשויים להישמר או לשמש בדרכים שאינן עולות בקנה אחד עם דרישות ארגוניות. עבור מגזר הטכנולוגיה העולמי, הדיון עשוי להשפיע על השאלה אילו פלטפורמות AI ארגונים יהיו מוכנים להטמיע בהיקף רחב.

הגנת נתונים הופכת למגבלה באימוץ AI

לפי The Information, Palantir דרשה מ-Anthropic לספק התחייבויות בלתי חוזרות לאי-שמירת נתונים לפני שתאפשר שימוש במודלים שלה באמצעות תוכנת Palantir. לפי הדיווח, Nvidia הגבילה את מודלי Anthropic למשימות רגישות פחות ובמקביל משתמשת במודלי Nemotron שלה לעבודה פנימית, בעוד Booz Allen אסרה על עובדיה להשתמש במודל המסחרי של Anthropic בפעילויות סייבר הקשורות למידע קנייני.

צעדים אלה ממחישים כיצד ממשל נתונים הופך לשיקול מעשי בהטמעת AI בארגונים. חברות הפועלות עם טכנולוגיה קניינית, מידע רגיש על לקוחות או נתונים הקשורים לביטחון לאומי עשויות לדרוש מנגנוני הגנה חזקים משמעותית מאלה הנדרשים מצרכנים המשתמשים ביישומי AI למשימות כלליות.

Anthropic ו-OpenAI מתמודדות עם בחינה גוברת מצד לקוחות

החששות אינם מוגבלים למפתחת AI אחת. Anthropic התמודדה עם ביקורת מצד לקוחות לאחר שינוי מדיניות הקשור למודל Fable, שאפשר לחברה לשמור יומני שימוש למשך 30 יום כדי להתגונן מפני מתקפות שתיארה כמורכבות וחדשות. OpenAI התמודדה גם היא עם ביקורת בעקבות טענות שלפיהן ייתכן שעשתה שימוש בנתוני משתמשים במסגרת פתרון בעיה מתמטית. שתי החברות אומרות כי כברירת מחדל הן אינן מאמנות את המודלים שלהן על נתוני לקוחות, אלא אם הלקוחות נותנים לכך הסכמה, אף שניתן לאסוף מטא-נתונים שעברו אנונימיזציה לצורך שיפור המוצרים.

ההבחנה בין נתוני לקוחות, מטא-נתונים ומידע המשמש לאימון מודלים הופכת חשובה יותר ויותר במסגרת המשא ומתן על חוזי AI. גם כאשר חברות אוסרות שימוש במידע של לקוחות לצורכי אימון, שאלות הנוגעות לשמירת מידע, אבטחה, גישה ועיבוד בידי צדדים שלישיים עשויות לקבוע אם מערכת AI עומדת בדרישות הציות הפנימיות.

Microsoft מנסה לייצר יתרון באמצעות סביבות AI מבודדות

לפי הדיווח, Microsoft מנסה להפוך את החששות הללו להזדמנות תחרותית באמצעות קידום סביבות ענן מבודדות ומוצרי AI משלה בפני לקוחות פוטנציאליים. האסטרטגיה משקפת הבחנה חשובה יותר ויותר בשוק בין שירותי AI לשימושים כלליים לבין מערכות ארגוניות שנבנו סביב שליטה הדוקה יותר בגישה לנתונים ולתשתיות.

עבור Microsoft וספקיות ענן אחרות, ערבויות בתחום האבטחה עשויות להפוך לגורם מבדל משמעותי כאשר ארגונים גדולים עוברים מפרויקטי AI ניסיוניים להטמעה רחבה יותר. ארגונים עשויים לדרוש יותר ויותר סביבות שמפרידות מידע רגיש מספקי מודלים חיצוניים, תוך שמירה על גישה ליכולות AI מתקדמות.

ממשל AI עשוי לעצב את השלב הבא בצמיחה הארגונית

ההתפתחויות מתרחשות במקביל לחששות רחבים יותר בנוגע לקצב הפיתוח של מערכות AI מתקדמות. מנכ״ל Anthropic, דאריו אמודיי, קרא להאט את קצב הפיתוח, בעוד מנכ״ל OpenAI סם אלטמן ואילון מאסק תמכו בזהירות רבה יותר. הדיון מצביע על כך שממשל AI עובר משיקול משני לסוגיה מסחרית מרכזית עבור חברות טכנולוגיה ולקוחותיהן.

בהמשך, השוק יעקוב אחר השאלה אם מפתחות ה-AI יציעו הגנות חוזיות וטכנולוגיות חזקות יותר ללקוחות ארגוניים. שקיפות רבה יותר בנוגע לשמירת נתונים, אימון מודלים ואבטחה עשויה לתמוך באימוץ רחב יותר, בעוד שחששות שלא ייפתרו עלולים לעודד חברות להעדיף מודלים קנייניים, סביבות ענן מבודדות או מערכות AI הנמצאות בשליטה פנימית. עבור משקיעים, הסוגיה חורגת מעבר לביצועי מודל בודד: היכולת לבסס אמון סביב מידע רגיש עשויה לקבוע יותר ויותר אילו פלטפורמות AI יצליחו להגיע להיקף שימוש ארגוני משמעותי לאורך זמן.