ככל שהבינה המלאכותית משתלבת בתהליכי העבודה היומיומיים, ארגונים מתמודדים עם אתגר אבטחה הולך וגובר: עובדים עשויים להשתמש בכלי AI ללא יכולת ברורה של הארגון לדעת באילו פלטפורמות נעשה שימוש ואיזה מידע מוזן אליהן. המפגש, שאורכו 30 דקות, מציג כיצד Cloudflare Zero Trust ו-Cloudflare AI Gateway יכולים לספק לארגונים נראות, אכיפת מדיניות ושליטה רבה יותר על השימוש ב-AI במקום העבודה, לרבות בנוגע להנחיות המוזנות למערכות, יישומי AI וגישה לשרתי MCP.

השימוש ב-Shadow AI יוצר פערי שליטה בארגון

המפגש נפתח בהתייחסות לתופעת “Shadow AI”, שבמסגרתה עובדים יכולים להשתמש ביישומי AI ללא מנגנוני בקרה מרכזיים מצד הארגון. מצב זה יוצר פערי נראות בנוגע לכלים שבהם נעשה שימוש ולמידע המועבר אליהם.

ההצגה מתייחסת גם לחשיפת הנחיות ולשרתי MCP כתחומים נוספים הדורשים פיקוח. ללא מדיניות הפועלת ברמות הרשת והזהות, יכולת הארגון לזהות באילו שירותי AI משתמשים העובדים או לקבוע כללים בנוגע לגישה אליהם עשויה להיות מוגבלת.

Cloudflare One מרכז את השליטה בשימוש ב-AI

ההדגמה מציגה את Cloudflare One כפלטפורמה להתמודדות עם האתגרים הללו. אחת היכולות המוצגות היא ניתוח Shadow IT, המאפשר לארגונים לזהות אילו כלי AI משמשים את צוותיהם.

בהמשך מוצגות הגדרות Gateway המאפשרות לחסום או להפנות יישומי AI שאינם מאושרים. כך יכולים ארגונים לקבוע אילו שירותי AI מותרים לשימוש, לצד הגבלת הגישה ליישומים שלא קיבלו אישור ארגוני.

הגישה מאפשרת להפעיל בקרות מדיניות מבלי שהארגון יידרש לפתח קוד ייעודי עבור כל יישום AI שאותו הוא מבקש להסדיר.

DLP מצמצם את הסיכון לחשיפת מידע רגיש

מוקד נוסף במפגש הוא מניעת דלף מידע, ובפרט בכל הנוגע לאינטראקציות עם ChatGPT. ההדגמה מציגה כיצד ניתן להפעיל כללי DLP כדי למנוע מעובדים להזין בכלי AI מידע רגיש, כגון מידע המאפשר זיהוי אישי (PII) או פרטי התחברות.

יכולת זו מתייחסת לאחד האתגרים המרכזיים של ארגונים המאמצים בינה מלאכותית יוצרת: עובדים עלולים לכלול ללא כוונה מידע חסוי בתוך ההנחיות שהם מזינים למערכות AI. במקום להסתמך באופן בלעדי על מודעות העובדים, בקרות המבוססות על מדיניות יכולות להוסיף שכבת הגנה נוספת.

AI Gateway ו-MCP מרחיבים את מנגנוני האבטחה גם לסוכני AI

המפגש מציג גם את Cloudflare AI Gateway כשכבת אבטחה ונראות בין סוכני AI לבין ספקי מודלי שפה גדולים. ההצגה מתמקדת בין היתר ביכולות לחסימת ניסיונות לעקיפת מגבלות המודל ובמעקב אחר עלויות, המאפשרות לארגונים לפקח על פעילות AI ולשלוט בה תוך קבלת תמונה רחבה יותר של דפוסי השימוש.

גישה לשרתי MCP היא תחום נוסף הנכלל בהדגמה. המפגש מציג כיצד ארגונים יכולים להחיל בקרות Zero Trust כדי לקבוע לאילו שרתי MCP סוכני AI רשאים לגשת, ובכך להרחיב את מדיניות הגישה הקיימת ליישומים גם לתהליכי עבודה המבוססים על סוכני AI.

תחזית השוק

ככל שארגונים עוברים משלב הניסוי בבינה מלאכותית לפריסה רחבה יותר בסביבת העבודה, השליטה בגישה והגנה על מידע צפויות להפוך לחשובות יותר. המפגש מציג מודל שבו יישומי AI, הנחיות, סוכנים ושרתי MCP כפופים למדיניות אבטחה מרכזית, במקום להיות מנוהלים באופן עצמאי על ידי עובדים. עבור חברות המרחיבות את השימוש ב-AI, היכולת לשלב נראות, בקרות גישה, DLP ופיקוח על הפעילות עשויה להפוך לרכיב מרכזי בתשתיות AI ארגוניות ובאסטרטגיות אבטחת סייבר.