מחקר חדש חושף פערים מזעזעים באמפתיה בינה מלאכותית

סוכני שיחה (CA) כמו אלקסה וסירי נועדו לענות על שאלות, להציע הצעות ואפילו להפגין אמפתיה. עם זאת, מחקר חדש מצביע על כך שהם נופלים בהשוואה לבני אדם בפירוש ובחקירת חוויית המשתמש.

CAs מופעלים על ידי מודלים של שפה גדולה (LLMs) אשר בולעים כמויות אדירות של נתונים מיוצרים על ידי אדם, ולכן יכולים להיות מועדים לאותן הטיות כמו בני האדם שמהם מגיע המידע.

חוקרים מאוניברסיטת קורנל, קולג' אולין ואוניברסיטת סטנפורד בדקו את התיאוריה הזו על ידי הנחיה של CAs לגלות אמפתיה תוך כדי שיחה עם או בערך 65 זהויות אנושיות שונות.

שיפוט ערכי ואידיאולוגיות מזיקות

הצוות מצא ש-CA מבצעים שיפוט ערכי לגבי זהויות מסוימות – כמו הומואים ומוסלמיים – ויכולים לעודד זהויות הקשורות לאידיאולוגיות מזיקות, כולל הנאציזם.

"אני חושב שלאמפתיה אוטומטית יכולה להיות השפעה עצומה ופוטנציאל עצום לדברים חיוביים – למשל, בחינוך או במגזר הבריאות", אמרה הסופרת הראשית אנדריאה קואדרה, כיום חוקרת פוסט-דוקטורט בסטנפורד.

"זה מאוד לא סביר שזה (אמפתיה אוטומטית) לא יקרה", אמרה, "לכן חשוב שבזמן שזה קורה, יהיו לנו נקודות מבט קריטיות כדי שנוכל להיות יותר מכוונים לגבי הפחתת הנזקים הפוטנציאליים".

קוואדרה יציג את "אשליה של אמפתיה? הערות על תצוגות רגש באינטראקציה בין אדם למחשב" ב-CHI '24, כנס איגוד מכונות המחשוב בנושא גורמים אנושיים במערכות מחשוב, 11-18 במאי בהונולולו. מחברי המחקר באוניברסיטת קורנל כללו את ניקולה דל, פרופסור חבר, דבורה אסטרין, פרופסור למדעי המחשב ומלטה יונג, פרופסור חבר למדעי המידע.

תגובות רגשיות לעומת פרשנויות

חוקרים מצאו שבאופן כללי, לימודי LLM קיבלו ציונים גבוהים עבור תגובות רגשיות, אך קיבלו ציון נמוך עבור פרשנויות ומחקרים. במילים אחרות, LLMs מסוגלים להגיב לשאילתה על סמך ההכשרה שלהם, אך אינם מסוגלים לחפור לעומק.

דל, אסטרין ויונג אמרו שהם קיבלו השראה לחשוב על העבודה הזו, כאשר קוואדרה חקרה את השימוש ב-CAs מהדור הקודם על ידי מבוגרים.

"היא הייתה עדה לשימושים מסקרנים בטכנולוגיה למטרות עסקאות כמו הערכות בריאות חלשות, כמו גם לחוויות זיכרון פתוחות", אמרה אסטרין. "לאורך הדרך היא ראתה מקרים ברורים של המתח בין 'אמפתיה' משכנעת ומטרידה".

המימון למחקר זה הגיע מהקרן הלאומית למדע; מלגת דוקטורט של Cornell Tech Digital Life Initiative; מלגת פוסט-דוקטורט של סטנפורד PRISM Baker; ומכון סטנפורד לבינה מלאכותית ממוקדת באדם.