רשתות עצביות עשויות אור: כוח פוטון מניע את מהפכת הבינה המלאכותית הבאה

מערכת אופטית חדשה לרשתות עצביות פותחה על ידי מכון מקס פלנק, המציעה אלטרנטיבה פשוטה וחסכונית יותר באנרגיה לשיטות הנוכחיות.

מערכת זו משתמשת בהעברת אור לביצוע חישובים, ומפחיתה את המורכבות ואת דרישות האנרגיה הקשורות לרשתות עצביות מסורתיות.

רשתות עצביות אופטיות

מדענים מציעים דרך חדשה ליישם רשת עצבית עם מערכת אופטית שיכולה ליצור למידת מכונה בר קיימא יותר בעתיד. החוקרים במכון מקס פלנק למדע האור פרסמו את השיטה החדשה שלהם ב פיזיקת הטבעהדגמה שיטה פשוטה הרבה יותר מגישות קודמות.

למידת מכונה ו בינה מלאכותית הופכים נפוצים יותר ויותר עם יישומים החל מראייה ממוחשבת ועד ליצירת טקסט, כפי שהדגימה ChatGPT. עם זאת, משימות מורכבות אלה דורשות רשתות עצביות מורכבות יותר ויותר; חלקם עם מיליארדי פרמטרים רבים.

הצמיחה המהירה הזו של גודל הרשת העצבית העלתה את הטכנולוגיות למסלול בלתי בר קיימא בשל צריכת האנרגיה הגדלה באופן אקספוננציאלי וזמני האימון שלהן. לדוגמה, ההערכה היא שאימון GPT-3 צרך יותר מ-1,000 MWh של אנרגיה, אשר מסתכם בצריכת האנרגיה החשמלית היומית של עיירה קטנה.

מגמה זו יצרה צורך בחלופות מהירות יותר וחסכוניות יותר באנרגיה, והציתה את התחום המתפתח במהירות של מחשוב נוירומורפי. המטרה של תחום זה היא להחליף את הרשתות הנוירוניות במחשבים הדיגיטליים שלנו ברשתות עצביות פיזיות. אלה מתוכננים לבצע את הפעולות המתמטיות הנדרשות באופן פיזי באופן פוטנציאלי מהיר יותר וחסכוני יותר באנרגיה.

אתגרים במחשוב נוירומורפי

אופטיקה ופוטוניקה הן פלטפורמות מבטיחות במיוחד עבור מחשוב נוירומורפי מכיוון שניתן לצמצם את צריכת האנרגיה למינימום. חישובים יכולים להתבצע במקביל במהירויות גבוהות מאוד מוגבלות רק על ידי מהירות האור. עם זאת, עד כה, היו שני אתגרים משמעותיים: ראשית, מימוש החישובים המתמטיים המורכבים הדרושים דורש כוחות לייזר גבוהים. שנית, היעדר שיטת אימון כללית יעילה לרשתות עצביות פיזיות כאלה.

ניתן להתגבר על שני האתגרים עם השיטה החדשה שהוצעה על ידי קלרה וואנג'ורה ופלוריאן מרקארד ממכון מקס פלנק למדע האור במאמרם החדש ב- פיזיקת הטבע.

פישוט הדרכה ברשת עצבית

"בדרך כלל, קלט הנתונים מוטבע בשדה האור. עם זאת, בשיטות החדשות שלנו אנו מציעים להטביע את הקלט על ידי שינוי העברת האור", מסביר פלוריאן מרקורד, מנהל המכון.

בדרך זו, ניתן לעבד את אות הכניסה באופן שרירותי. זה נכון למרות ששדה האור עצמו מתנהג בצורה הפשוטה ביותר שבה גלים מפריעים מבלי להשפיע אחרת זה על זה. לכן, הגישה שלהם מאפשרת להימנע מאינטראקציות פיזיקליות מסובכות כדי לממש את הפונקציות המתמטיות הנדרשות שאחרת היו דורשות שדות אור בעלי הספק גבוה.

ההערכה והאימון של הרשת העצבית הפיזית הזו יהפכו אז לפשוטים מאוד: "זה באמת יהיה פשוט כמו שליחת אור דרך המערכת והתבוננות באור המשודר. זה מאפשר לנו להעריך את הפלט של הרשת. יחד עם זאת, זה מאפשר למדוד את כל המידע הרלוונטי לאימון", אומרת קלרה וואנג'ורה, המחברת הראשונה של המחקר.

המחברים הוכיחו בסימולציות שניתן להשתמש בגישה שלהם לביצוע משימות סיווג תמונות עם אותו הדבר דיוק כרשתות עצביות דיגיטליות.

בעתיד, המחברים מתכננים לשתף פעולה עם קבוצות ניסוי כדי לחקור את יישום השיטה שלהם. מכיוון שהצעתם מרגיעה באופן משמעותי את דרישות הניסוי, ניתן ליישם אותה על מערכות שונות מאוד פיזית. זה פותח אפשרויות חדשות עבור מכשירים נוירומורפיים המאפשרים אימון גופני על פני מגוון רחב של פלטפורמות.