האויב השקט של תקציבי ה-AI: כשחור בחשבון הופך למתקפת סייבר

בעולם שבו סוכנים אוטונומיים פועלים ללא הרף, השאלה אינה רק כמה עולה ה-AI – אלא מי מנטר את התנהגותו

אימוץ מערכות בינה מלאכותית התמקד בעיקר בשיפור יכולות ופריון. אך לצדו צצה אתגר חדש: מי שולט בצריכת ה-AI, ומה קורה כשהיא יוצאת משליטה?

כיום, רוב ספקי ה-AI הגדולים, כמו OpenAI, אנת'רופיק (Anthropic) וגוגל (Google), גובים תשלום בהתאם להיקף השימוש, ובמקרים רבים לפי כמות הטוקנים שנצרכו. במבט ראשון זה נשמע כמו מודל תמחור הגיוני: משלמים על מה שמשתמשים. אבל כאן מסתתר שינוי משמעותי – אם בעבר ארגון רכש תוכנה בעלות יחסית צפויה, כיום חלק מעלויות ה-AI יכולות להשתנות בכל רגע, בהתאם להתנהגות של משתמשים, יישומים וסוכני AI אוטונומיים.

ספקיות ה-AI הגדולות גובות תשלום לפי שימוש (כמות טוקנים). מודל גמיש זה משנה את מהות התקציב: במקום עלות תוכנה קבועה, העלויות משתנות ברציפות בהתאם להתנהגות משתמשים, יישומים וסוכני AI אוטונומיים.

כאשר סוכן AI שצורך אלפי טוקנים ביום מזנק למאות אלפים, הסיבה יכולה להיות לולאה בלתי תקינה, אך גם מפתח API שנחשף, שימוש בלתי מורשה או פעילות עוינת.

לא כל חריגה היא מתקפת סייבר, אך כל שינוי חד בדפוס השימוש מחייב בדיקה.

דוגמה מובהקת לכך היא תרחיש Denial of Wallet: תוקפים מנצלים משאבי ענן יקרים כדי לייצר פגיעה כלכלית ישירה. המערכת אינה קורסת, אך החשבון תפוח במהירות.

המציאות הזו מחייבת בקרה חדשה. לא מספיק להכיר את המודלים שבשימוש; יש לדעת מי מפעיל אותם, באיזה היקף, ולאיזו מטרה. פתרון מרכזי לכך הוא AI Gateway – שכבת תיווך בין המשתמשים והסוכנים לבין המודלים. כשער כניסה אחוד, השכבה מזהה את מקור הבקשה, יעדה, צריכת המשאבים שלה ומדד תאימותה למדיניות הארגונית. חריגה קיצונית מהדפוס הרגיל מציפה אנומליה בזמן אמת.

בעוד שב-APIs מסורתיים נמדדה רק כמות הבקשות, ב-AI מדד זה אינו מספק. שתי בקשות זהות ברמת ה-API יכולות להיות שונות לחלוטין בהיקף המידע, בעלות וברמת הסיכון.

על הארגון לעבור ממעקב כמותי לניתוח מהותי ("מה קרה בכל בקשה"). הבקרה מתחילה בשיוך כל פעולה למשתמש, יישום או סוכן, המאפשר הגדרת הרשאות ותקציבים מותאמים.

השלב הבא הוא זיהוי חריגות בזמן אמת. עלייה פתאומית בגודל הקלט, למשל, עשויה להעיד על שליחת מידע רגיש בניגוד למדיניות. ברגע המענה, על הארגון להגיב מיידית: להגביל או לחסום את הפעילות, לדרוש אישור נוסף, או להסלים את האירוע לצוותי האבטחה.

בנקודה זו פוגש ניהול העלויות את עולם הסייבר. הנתונים שמספקים ל-CFO תמונת מצב תקציבית, עוזרים ל-CISO לזהות אנומליות מבצעיות. הגבול בין FinOps ל-Security הולך ומיטשטש.

בעולם שבו סוכנים אוטונומיים פועלים ללא הרף, השאלה אינה רק כמה עולה ה-AI – אלא מי מנטר את התנהגותו ויודע לעצור חריגות בזמן.

קישור לכתבת המקור שפורסמה ב"ISRAEL DEFENSE" לחץ כאן.