כך תהפכו את ה-AI שלכם לגאון ב-5 שלבים בלבד

כמעט ולא תמצאו בעלי תפקידים בארגונים השונים שלא שמעו על צ'אטבוטים או על העוזרים הדיגיטליים החכמים שכיום נמצאים כמעט בכל אתר זה או אחר. יחד עם זאת, אם אתם מנסים לעשות זאת לבד אתם עלולים להיתקל בלא מעט מחסומים והבוט יתחיל לגמגם, לענות תשובות כלליות מדי, להתבלבל בהקשרים או להפנות למקומות שאינם נכונים ופשוט לא להיראות כמו הצ'טבוטים החדשניים שאתם מכירים ורוצים להידמות אליהם. אם גם אתם מרגישים שאתם מסתבכים ועדיין רוצים להתקדם ולא להישאר מאחור באנו לעשות לכם סדר. כך תהפכו את ה-AI שלכם לגאון בכמה שלבים. בואו ללמוד כיצד בקריאה של 2 דקות.

כך תהפכו את ה–AI שלכם לגאון בלי להסתבך יותר מדי

כבר הגעתם לשלב שבו אתם מחפשים איך להפוך את הצ'טבוט שלכם לדבר החם ביותר בארגון אך רמת התסכול שלכם עולה ככל שאתם פשוט לא מצליחים לתפעל אותו. השאלה שכולם שואלים היא איך לקחת את מודל השפה הגולמי ולהפוך אותו לאמצעי שאפשר לעבוד איתו ברמה חדה ומדויקת. הדרך היא לאו דווקא להחליף את המודל אלא פשוט לשפר את הדרך שמתקשרים עם המודל. הנה מספר עקרונות שחשוב ליישם בכל פרויקט AI:

• לתת מקום למורכבות: הדבר הראשון שאנחנו מבקשים מהAI זה בעצם לסווג כל פנייה למקום ספציפי. למשל, תקלה טכנית או בקשה למידע. אך אם מדובר בשאלה מורכבת משני התחומים? כאן רוב הבוטים מתחילים להתבלבל. חשוב לתת לAI גמישות ולאפשר לו לתייג שאלה תחת שתי קטגוריות במקביל, מה שישפר באופן משמעותי את היכולת שלו להעניק מענה אנושי ומדויק יותר.

• גם למכונה יש זיכרון קצר: כאשר מדובר על AI וביג דאטה מדובר על מכונה שכדאי להתאים אותה לתכונות האנושיות לכל דבר ועניין. לכל אדם יש את הרגע הזה שהוא מקבל הוראות ארוכות אך הוא זוכר רק את המשפט האחרון שאמרו לו. מודל AI סובל מאותה התסמונת. הפתרון הוא לחזור על ההוראות החשובות והאילוצים בסוף הפרומפט. צעד זה יבטיח לכם שהכללים ישארו טריים בזיכרון הAI אפילו עד לרגע המענה.

• ספקו דוגמאות: על מנת שהמודל יבין בדיוק מה אתם רוצים חשוב שתתנו לו דוגמאות רלוונטיות. הבעיה היא שהדוגמאות לא תמיד מתאימות לכל סיטואציה ולכן חשוב להשתמש בטכניקה דינמית. במקום רשימה קבוע, בנו לכם מנגנון שישלוף דוגמאות שדומות לשאלה הספציפית ששאלתם באותו הרגע. זה יחסוך לכם משאבים ויעלה את הדיוק במתן המענה.

• תנו ל-AI לחשוב: העובדה שמדובר במכונה לא אומרת שהמודל תוך שניות יכול למצוא לכם את המענה המדויק ביותר. בקשו מהמודל להסביר את עצמו אפילו לפני שהוא נותן לכם מענה ותקבלו תוצאה טובה יותר. בקשו הצגה של שרשרת המחשבה שהובילה אותו למסקנה, כשהמודל מנמק את הדרך לו הוא עושה פחות טעויות.

יצירת עוזר AI היא לא דבר של מה בכך, מדובר בתהליך של כיוונון עדין ומחשבה מדויקת מאד. אל תסתפקו בתשובה הראשונית שהמודל נותן. למדו אותו, אתגרו אותו ודייקו את ההנחיות כך שהוא ילמד גם אתכם וגם אותו. אם תכירו אחד את השניה ההבדל בתוצאות יהיה מדויק ואיכותי יותר.

ארכיטקטורת Prompt Engineering בארגון: מתודולוגיה לשיפור דיוק בניתוב שאילתות

שילוב של מודל שפה בארגון הוא כבר מזמן לא חדשנות אלא צורך קיומי בתקופה הנוכחית של היום. יחד עם זאת חשוב להבין שהאתגר הוא לא בבחירת המודל עצמו אלא ביכולת לגשר על הפער שבין מה המשתמשים באמת רוצים לבין הביצוע הטכני בפועל. כאשר אנו בונים סוכני AI פנימיים כמו מערכת לניתוב קריאות IT לצורך העניין, אנו נתקלים במכשול של חוסר דיוק. על סמך ניתוח מעמיק של מתודולוגיות פיתוח עדכניות כולל ה-Case Study המרתק שפורסם לאחרונה על ה-Classifier של Omnissa ניתן לראות גישה אחרת לבניית מערכות AI שמאפשרת מערכות מדויקות יותר, המבוססת על תהליך ייחודי של הנדסת פרומפטים. הנה ארבעה פרמטרים מרכזיים שיכולים להוות בסיס לבניית מודל סיווג אמין בסביבה העסקית של כיום:

• מעבר מ-Binary ל-Multi-Label Classification: הטעות הנפוצה ביותר בתהליך זה היא כפייה של קטגוריה בודדת על כל שאילתה. מודל יציב וחזק חייב לתמוך בסיווג מרובה והניסיון מלמד אותנו שהגמישות הזו אמנם מייצרת הקבלה אך האי חשובה למניעה של שגיאות ניתוח במקרי קצה שונים ובעיקר במקרים מורכבים במיוחד.

• טיפול בארטיפקטים של LLM, הטיית האחרוניות (Recency Bias): כאשר מדובר על פרומפטים ארוכים ומורכבים ניתן לזהות תופעה בה המודל מתעלם מהוראות המופיעות בראשית הטקסט. הפתרון לכך הוא יצירת מיקום חוזר של האילוצים הקריטיים בסוף הפרומפט מה שישפר באופן משמעותי את המודל לטווח הארוך.

• אופטימיזציית טוקנים: הזנת דוגמאות למודל היא טכניקה בסיסית. כיום מומלץ להשתמש במודל לשליפת דוגמאות סיווג באופן דינמי. כך המערכת מזהה את ההקשר של השאילתה ושולפת עבור המודל אך ורק דוגמאות הרלוונטיות לסיטואציה המבוקשת. מדובר על מהלך שמשפר באופן מהותי את דיוק המענה תוך הפחתה בעלות הטוקנים.

• הוספת שכבת מטא קוגניציה: כדי לשפר ביצועים עברו מפרומפטינג ישיר לפרומפטינג מטא קוגניטיבי. במקום לבקש מהמודל Input -> Output, דרשו ממנו Input -> Reasoning -> Output. כאשר המודל נדרש לנמק את הדרך שלו לפני הבחירה של המענה הסופי הוא מציג שקיפות שמפחיתה תשובות אקראיות ומובילה אל מענה מדויק יותר.

אל תעשו את זה לבדכם

בנייה והקמה של כלי AI לארגון שלכם היא לא משימה של בחירת המודל בלבד אלא של פרויקט איכותי שהולך להוביל את הארגון שלכם אל מקום טוב יותר. חשוב שיהיה סיווג גמיש, ניהול זיכרון דינמי ודרך פעולה של המודל שיעניקו לכם יציבות וערך אמיתי לארגון. כאשר אתם מנהלים את הפרויקט הייחודי הזה, חשוב שלא תעשו זאת לבדכם אלא בליווי מקצועי עם המומחים בתחום.

בינת תקשורת מחשבים היא חברת האינטגרציה המובילה בישראל מאז 1975, המתמחה בפרויקטים אסטרטגיים ובפתרונות טכנולוגיים מקצה לקצה. בעזרת כאלף מומחים ועשרות שותפים גלובליים, החברה מספקת שירותי ענן ו-IT מותאמים אישית במודל חדשני. עם מחזור שנתי של כ-1.5 מיליארד שקל, בינת ממשיכה להוביל חדשנות ופיתוח עצמאי עבור מגוון רחב של תעשיות במשק. דברו איתנו עוד היום, ביחד נוביל את הארגון שלכם לצמיחה וחדשנות.

הפוסט באדיבות אוהד דודאי, Professional Sales Nvidia בינת תקשורת.