רשתות עצבים מלאכותיות יוכלו בקרוב לעבד נתונים תלויי זמן ביעילות רבה יותר עם פיתוח ממריסטור הניתן לשינוי. טכנולוגיה זו, המפורטת במחקר בראשות אוניברסיטת מישיגן, יכולה להפחית משמעותית את צריכת האנרגיה של AI. קרדיט: twoday.co.il.com
במוח, שמירת זמן נעשית עם נוירונים שנרגעים בקצבים שונים לאחר קבלת אות; כעת גם ממריסטורים – אנלוגי חומרה של נוירונים – יכולים לעשות זאת.
רשתות עצביות מלאכותיות עשויות בקרוב לעבד מידע תלוי זמן, כגון נתוני אודיו ווידאו, בצורה יעילה יותר. הממריסטור הראשון עם 'זמן הרפיה' שניתן לכוון מדווח היום ב-Nature Electronics, במחקר בראשות אוניברסיטת מישיגן.
יעילות אנרגטית ובינה מלאכותית
ממריסטורים, רכיבים חשמליים המאחסנים מידע בהתנגדות החשמלית שלהם, יכולים להפחית את צרכי האנרגיה של AI בכ-90 בהשוואה ליחידות העיבוד הגרפיות של היום. כבר עתה, בינה מלאכותית צפויה להוות כחצי אחוז מצריכת החשמל הכוללת בעולם בשנת 2027, ויש לכך פוטנציאל להתפרץ ככל שיותר חברות מוכרות ומשתמשות בכלי בינה מלאכותית.
"כרגע, יש עניין רב ב-AI, אבל כדי לעבד נתונים גדולים ומעניינים יותר, הגישה היא להגדיל את גודל הרשת. זה לא מאוד יעיל", אמר ווי לו, פרופסור ג'יימס ר. מלור להנדסה ב-UM ומחבר שותף של המחקר עם ג'ון הרון, פרופסור חבר למדעי החומרים והנדסת החומרים ב-UM.
הבעיה עם GPUs
הבעיה היא שמעבדי GPU פועלים בצורה שונה מאוד מרשתות העצבים המלאכותיות שמריצות את אלגוריתמי הבינה המלאכותית – כל הרשת וכל האינטראקציות שלה חייבות להיטען ברצף מהזיכרון החיצוני, שצורך גם זמן וגם אנרגיה. לעומת זאת, ממריסטורים מציעים חיסכון באנרגיה מכיוון שהם מחקים היבטים מרכזיים של האופן שבו רשתות עצבים מלאכותיות וביולוגיות פועלות ללא זיכרון חיצוני. במידה מסוימת, רשת הממריסטורים יכולה לגלם את הרשת העצבית המלאכותית.
חידושים בחומרי Memristor
"אנו צופים שמערכת החומרים החדשה שלנו תוכל לשפר את היעילות האנרגטית של שבבי בינה מלאכותית פי שישה מהחומר המתקדם ללא קבועי זמן משתנים", אמר סיאון צ'ה, דוקטורט לאחרונה ב-UM. בוגרת במדעי החומרים והנדסת החומרים ומחברת שותפה ראשונה של המחקר עם Sangmin Yoo, בוגרת לאחרונה דוקטורט של UM בהנדסת חשמל ומחשבים.
ברשת נוירונים ביולוגית, שמירת זמן מושגת באמצעות הרפיה. כל נוירון מקבל אותות חשמליים ושולח אותם הלאה, אבל זה לא ערובה שאות יתקדם קדימה. יש להגיע לסף כלשהו של אותות נכנסים לפני שהנוירון ישלח את שלו, ויש לעמוד בו בפרק זמן מסוים. אם עובר יותר מדי זמן, אומרים שהנוירון נרגע כשהאנרגיה החשמלית מחלחלת ממנו. קיום נוירונים עם זמני הרפיה שונים ברשתות העצבים שלנו עוזר לנו להבין רצפים של אירועים.
איך ממריסטורים עובדים
ממריסטורים פועלים קצת אחרת. במקום נוכחות או היעדר מוחלט של אות, מה שמשתנה הוא כמה מהאות החשמלי עובר. חשיפה לאות מפחיתה את ההתנגדות של הממריסטור, ומאפשרת לעבור יותר מהאות הבא. בממריסטורים, הרפיה פירושה שההתנגדות עולה שוב עם הזמן.
בעוד שהקבוצה של לו חקרה בעבר את בניית זמן הרפיה לממריסטורים, זה לא היה משהו שניתן לשלוט בו באופן שיטתי. אבל כעת, הצוות של לו והרון הראו שווריאציות על חומר בסיס יכולות לספק זמני הרפיה שונים, מה שמאפשר לרשתות ממריסטו לחקות את מנגנון שמירת הזמן הזה.
הרכב חומרים ובדיקה
הצוות בנה את החומרים על מוליך העל YBCO, העשוי מאיטריום, בריום, פחמן וחמצן. אין לו התנגדות חשמלית בטמפרטורות מתחת ל-292 פרנהייט, אבל הם רצו את זה בגלל מבנה הגביש שלו. הוא הנחה את הארגון של תחמוצות המגנזיום, הקובלט, הניקל, הנחושת והאבץ בחומר הממריסטור.
הרון קורא לסוג זה של תחמוצת, תחמוצת מיוצבת אנטרופיה, "כיור המטבח של העולם האטומי" – ככל שהם מוסיפים יותר יסודות, כך הוא הופך ליציב יותר. על ידי שינוי היחסים של תחמוצות אלה, הצוות השיג קבועי זמן שנעים בין 159 ל-278 ננו-שניות, או טריליון שניות. רשת הממריסטורים הפשוטה שבנו למדה לזהות את הצלילים של המספרים אפס עד תשע. לאחר הכשרה, הוא יכול לזהות כל מספר לפני שכניסת השמע הושלמה.
סיכויי עתיד
ממריסטורים אלה נוצרו בתהליך עתיר אנרגיה מכיוון שהצוות היה זקוק לגבישים מושלמים כדי למדוד במדויק את תכונותיהם, אך הם צופים שתהליך פשוט יותר יעבוד לייצור המוני.
"עד כה, זה חזון, אבל אני חושב שיש דרכים להפוך את החומרים האלה לניתנים להרחבה ובמחיר סביר", אמר הרון. "החומרים האלה שופעים באדמה, לא רעילים, זולים וכמעט אפשר לרסס אותם."
המחקר מומן על ידי הקרן הלאומית למדע. זה נעשה בשיתוף עם חוקרים מאוניברסיטת אוקלהומה, אוניברסיטת קורנל ואוניברסיטת מדינת פנסילבניה.
המכשיר נבנה במתקן הננו-פאבריקציה לוריא ונלמד במרכז מישיגן לאפיון חומרים.
לו הוא גם פרופסור להנדסת חשמל ומחשבים ולמדע והנדסת חומרים. צ'אי הוא כעת עוזר פרופסור להנדסת חשמל ומדעי המחשב באוניברסיטת אורגון סטייט.
