מודלים פתוחים: כך ה-IT מחזיר את השליטה על הנתונים

פעם שימוש ב-AI היה כרוך בחשש שמידע רגיש ידלוף החוצה. היום, בזכות מודלי open-weight, הכול נשאר בתוך הבית. אז האם נפתרה הדילמה בין פרודוקטיביות לסודיות? לא בדיוק

_{פורסם לראשונה בITtime}

האם אימון מודלי בינה מלאכותית הוא הימור על סודיות החברה? עד לא מזמן חשש הגדול בקרב ארגונים רבים היה חשיפה של מידע רגיש בשימוש במודלים מבוססי ענן – מקוד מקור ועד אסטרטגיות פנימיות – בפני חברות צד שלישי. אך כעת, עם כניסתם של מודלים פתוחי-משקל (open-weight) חדשים כמו gpt-oss מבית OpenAI שהוכרז לאחרונה, כללי המשחק משתנים ובינה מלאכותית הופכת להיות בשליטה מלאה.

מה הם אותם מודלים פתוחי משקל? במודלים מסחריים סגורים הארגון תלוי בפלטפורמות חיצוניות ומעביר נתונים רגישים לענן. לעומתם, מודלים פתוחי-משקל מותקנים בתוך מערכות הארגון ומעניקים שליטה מוחלטת במידע, בפרטיות ובתאימות. הם זולים יותר ולכן אטרקטיביים גם לעסקים קטנים ובינוניים, מאפשרים עמידה בדרישות רגולציה בזכות שמירת הנתונים ומניעת חשיפתם לספקים חיצוניים, ואינם דורשים תשתיות חישוב עתירות משאבים משום העיבוד מתבצע מקומית. בפועל, המעבר למודלים פתוחים משחרר את הארגון מהתלות בענן מסחרי ומאפשר לו למצות את יכולות ה-AI תוך שמירה על ביטחון, שליטה וגמישות.

הדילמה הגדולה

בשנה האחרונה מנהלים ראו כיצד שימוש במודלי שפה גדולים (LLMs) משפר את הפרודוקטיביות באופן דרמטי, ובמקביל התמודדו עם הנחיה חד משמעית: אל תזינו למנועי AI מידע סודי. ההנחיה לא ניתנה בחלל ריק – הזנה של מידע רגיש עלולה להוביל להדלפת נתונים, פגיעה בקניין רוחני ואף חשיפה של מידע אישי ופיננסי. ואף אחד לא חסין – לפני כשנתיים מהנדסים של סמסונג הזינו קוד מקור רגיש של החברה למודל שפה ציבורי כדי שיסייע להם לפתור באגים. התוצאה הייתה דליפת מידע חמורה שהציפה את החשש הארגוני מפני דליפה בלתי מבוקרת של קניין רוחני וסודות מסחריים, וחסימה של ChatGPT לעובדי הארגון. אז איך נהנים מהיתרונות של ה-AI בלי לסכן את הליבה העסקית של הארגון?

הפתרון מגיע מכיוון לא צפוי: החברות עצמן. מודלים חדשים כמו gpt-oss-120b ו-gpt-oss-20b, ששוחררו תחת רישיון Apache 2.0, מציעים פתרון כפול: ביצועים מרשימים (הדומים למודלים מסחריים קנייניים) וגמישות התקנה.

במקום להפעיל את המודל דרך API מבוסס ענן, ארגונים יכולים להוריד את המודל ולהתקין אותו בשרתים מקומיים (on-premise) או בתשתיות ענן פרטיות תחת שליטתם המלאה, וכך לבטל את הצורך להעביר נתונים רגישים לגורם חיצוני. למעשה נוצר כאן "גן סגור" שבו המידע של החברה מוגן לחלוטין, אך בפועל המודל מתפקד כ"מודל פתוח" מכיוון שהוא מאפשר שליטה מלאה בנתונים ופריסה עצמאית על תשתיות הארגון, שהיא הנקודה הקריטית ביותר מבחינת אבטחת מידע וסודיות.

האפשרות הזו מבטלת את אותם חששות:

– בטיחות מידע מובנית: הנתונים נשארים בתוך הארגון. אין סיכון שמידע סודי, קוד מקור או התכתבויות פנימיות ידלפו החוצה או ישמשו לאימון מודלים ציבוריים.
– שמירה על קניין רוחני: ארגונים יכולים להשתמש בנכסים הייחודיים שלהם (כמו קוד או ידע מקצועי) כדי להתאים את המודל לצרכים שלהם, מבלי לחשוש שהמידע הזה יגיע למתחרים.
– עמידה בתקנות: במגזרים כמו פיננסים ובריאות, שבהם יש דרישות רגולטוריות נוקשות (לדוגמה, GDPR), התקנה מקומית מאפשרת עמידה מלאה בתקנות פרטיות ואבטחת מידע.
– אחריות ובעלות: הבעלות על המודל והנתונים היא בידי הארגון והוא נושא במלוא האחריות והשליטה על המודל ועל כל פעולה הקשורה אליו.
– מהירות ויעילות: ניתן לקבל תגובות מהירות, גם במערכות עם כוח מחשוב מוגבל (דוגמת מערכות רפואיות או תחבורה), כי עיבוד הנתונים מתבצע במקום ולא מחוץ לארגון.

לא מדובר בקסם. המעבר למודלים מקומיים אמנם פותר את רוב בעיות האבטחה החיצוניות, אך חשוב להבין שהוא אינו מבטל לחלוטין את הסיכונים, אלא בעצם מעביר את האחריות המלאה על האבטחה לארגון. בעיה טכנולוגית אולי נפתרה, אך האתגר האנושי עדיין כאן במלואו, והמשמעות היא שהאיומים הפוטנציאליים הם בעיקר פנימיים: מפרצות אבטחה ברשת הארגונית ועד שימוש שגוי ולא מבוקר של עובדים במודל – ההנחיות הבסיסיות והקריטיות כמו "שמרו על מידע סודי מחוץ למנועי AI" ממשיכות להיות רלוונטיות. מאמרים פנימיים, נהלים והכשרות לעובדים אינם בגדר המלצה בלבד, אלא רכיב חיוני באסטרטגיית אבטחת המידע החדשה של הארגון.

כדי לממש את מלוא הפוטנציאל של המודלים המקומיים, על הארגון להשקיע בתשתית תומכת – ממערכות ניטור וזיהוי בזמן אמת, דרך בקרות גישה מדורגות ועד מנגנוני ניהול גרסאות למודל עצמו. שילוב של טכנולוגיה ואסטרטגיה; אוטומציה ואכיפה אנושית; וחידוש טכנולוגי עם תרבות ארגונית אחראית יבטיח שהיתרון שבמודלים פתוחים לא יהפוך לסיכון חדש במעטפת שונה.