החשיבות של אקראיות בבינה מלאכותית

אקראיות טבעית, או אמיתית היא רצף של ישויות (מספרים, סמלים, אירועים) אותן לא ניתן לחזות בצורה יעילה יותר מאשר בניחוש. בדרך כלל מדובר על נגזרת של תופעה פיסיקלית כגון התפרקות גרעין ספציפי בחומר רדיואקטיבי.

לעומתה אקראיות מדומה, או ״פסאודו- אקראיות״ היא רצף הנראה אקראי אך מיוצר בתהליך קבוע שבו הפלט ניתן לחישוב מהקלט באופן מוחלט. הרצף מיוצר על-ידי סדרה סופית וידועה מראש של משתנים הנקראים ״זרעים״ (seeds). דוגמאות מסוג זה של אקראיות ניתן לראות בייצור מספרים אקראיים ע״י מחשב. הם נראים אקראיים אך במקרה שהאלגוריתם וערכי הזרעים ידועים, ניתן לחזות את הרצף.

כעת, כאשר אנו מבינים אקראיות בצורה עמוקה יותר, אפשר לדון על חשיבותה. ישנם מגוון תחומים בהם אקראיות מהווה מרכיב קריטי כגון אבולוציה וגנטיקה אך אנו נתמקד בבינה מלאכותית. אינטואיטיבית לא נדמה כי אקראיות היא אמצעי יעיל ללמידה ושיפור מודלים האמורים לספק תשובה מוחלטת ומדויקת, אך למעשה יש לאקראיות כמה תפקידים חשובים בתחום.

חקר מול ניצול – (Exploration vs. Exploitation): למידה חיזוקית היא תחום בבינה מלאכותית בו אנו מלמדים סוכן ממוחשב לנהל אינטראקציה עם סביבה ממוחשבת, לדוגמא הנהג האוטומטי ברכב מסוג ״טסלה״. הסוכן נדרש לאזן בין ניצול הידע שנצבר לבין חקירת פעולות חדשות בכדי לצבור עוד ידע. אלגוריתמים רבים הקובעים לסוכן מתי לפעול על בסיס ידע קיים ומתי לבצע פעולה חדשה בשביל לחקור, מתבססים על אקראיות וסטטיסטיקה ובכך מונעים התאמת-יתר והתקבעות לדפוס מסוים. בנוסף הפעולה החדשה שמתבצעת לצורך חקר וצבירת ידע חדש יכולה להיות אקראית לגמרי או חלקית. כך נוצרות סיטואציות חדשות ונלמדים דפוסים שייתכן ולא היו נחקרים מעולם.

אקראיות גם הכרחית בבניית רשתות נוירונים. המשקולות של הרשת מאותחלות בצורה אקראית, ובכך נמנעת סימטריה בבניית הרשת והיא יכולה ללמוד תכונות ודפוסים מורכבים יותר. בנוסף תהליך מציאת הערכים האופטימליים של המשקולות נעזר באקראיות. לדוגמא: ״Stochastic Gradient Descent״ היא שיטה למציאת משקולות עם ערך שגיאה מינימלי, המשתמשת בכל איטרציה בתת- קבוצה אקראית של נתונים מתוך המידע הזמין ללמידת הרשת. התהליך הזה עוזר למודל ״להיחלץ״ מנקודות מינימום מקומיות ולהתכנס לכיוון המינימום הגלובלי של פונקציית השגיאה. אקראיות הכרחית גם בטכניקות כמו ״השמטה״ (dropout) שבה נוירונים אקראיים מושמטים בזמן הלמידה על מנת למנוע התאמת- יתר לתכונות מסוימות.

לסיכום אקראיות היא חלק בלתי נפרד מההצלחה והביצועים של מודלי בינה מלאכותית. יש לה תפקיד מכריע באימון סוכנים ואופטימיזציה של רשתות נוירונים וערכי המשקולות שלהן. בזמן שאקראיות ״אמיתית״ קשה להשגה בצורה חישובית, אקראיות מדומה מספקת מענה פרקטי ויעיל לצרכים אלו ולעיתים מהווה יתרון, כיוון ש״seed״ קבוע מאפשר לשחזר תהליכים ולחקור השפעות של שינויים ברשת ללא חשש שההבדל בתוצאה נובע מהאקראיות שברשת. עם זאת, ככל שמפתחים מודלים מורכבים ומשוכללים יותר, עולה השאלה האם אקראיות טבעית תהפוך ליתרון ואף לצורך הכרחי בפיתוח מודלים אלו.