אם צ'טבוט הבינה המלאכותית של בתי הייתה מטפלת אנושית, אולי היא הייתה נשאלה מה יש לה להרוויח על ידי שמירה על אובדנות מתמשכת שלה בסוד במשך חודשים. אם היא הייתה עובדת עם מטפל אנושי, הם היו יכולים לעשות סדנאות, ביחד, מה היה קורה אם היא תשפוך את השעועית. האם היא דאגה לאבד את הפנים לצמיתות? על התיוג בפומבי כ"חולי נפש"? האם היא מודאגת מהמחשבה שהמידע הזה יפגע באלו שאוהבים אותה? והיא הייתה נדחפת מה רוביקון נחצה ולמה זה היה אחד שממנו היא האמינה שהיא לא יכולה לחזור.
אבל זה לא היה מטפל אנושי. סופי מתה בפברואר בשנה שעברה.
בספרה החדש של שרי טרקל, אינטימיות מלאכותית: מי אנחנו הופכים כשאנחנו מדברים עם מכונות, היא מזהירה שכאשר אנו פונים לצ'טבוטים של בינה מלאכותית עבור חברות וטיפול, אנו מסכנים את רווחתנו. היא לא אנטי-AI אבל מזהירה בתוקף מפני יחסים עם מכונות. טרקל, פרופסור אבי רוקפלר מאוזה ללימודים חברתיים של מדע וטכנולוגיה במכון הטכנולוגי של מסצ'וסטס, דיברה איתי בסיור באמצע הספר, השבועות האחרונים שלה היו מטושטש של הופעות הרצאות ואירועי חנות ספרים, ועוד לפניה. לא כל המשתתפים באירוע מתלהבים מהמסר שלה.
"אנשים אוהבים את הצ'אטבוטים שלהם. הם עמוקים. הם מדברים איתם על הכל – על הנישואים שלהם ואיך לדבר עם בעליהם ונשותיהם; האם מבחינה התפתחותית הילדים שלהם נמצאים במקום הנכון. הם מדברים על החרדה שלהם, המצב הרפואי שלהם", אומר טרקל. יריד הבל. "במהלך הסיור הזה, לא תאמינו למספר האנשים שפשוט יקומו בחנות ספרים ויגידו, 'אני חושב שזה אוהב אותי יותר מכל דבר אחר אהב אותי. מי את, דבי דאונר?' (הם לא אוהבים) מישהו שנכנס ואומר, 'תראה, איך אנחנו יכולים לשמור את זה בנתיב שלו?'".
ראיון זה עבר עריכה ותמצית לצורך הבהירות.
יריד הבל: אני חושב שאתה אומר (היחסים שלנו עם צ'אטבוטים) רעים לנו.
שרי טרקל: זה רע לנו כשהוא מדבר בגוף ראשון. אנחנו מחווטים מבחינה ביולוגית להגיב למשהו שמדבר אלינו בגוף ראשון כאילו הוא אדם. כלומר, כל אותן שנים של אבולוציה – הדבר היחיד שנתקלנו בו בטבע שדיבר אלינו בגוף ראשון היה אדם אחר.
אם בינה מלאכותית גנרטיבית רוצה לגלות תרופות חדשות לפרקינסון או להבין אילו טיפולי סרטן מבחינה סטטיסטית הם המועילים ביותר, יש כל כך הרבה דברים לעבוד עליהם. למה זה צריך לעבוד על מערכות יחסים, אהבה, ולהיות החברה הכי טובה, מאהב, אמא או מטפלת?
מה אם ניתן היה לחייג חזרה את הסיקופטיה?
זה לא אותנטי; זה לא מערכת יחסים, אז כל דבר שאתה צריך בשבילו מערכת יחסים, זה פשוט לא מצויד. אני באמת מרגיש מאוד חזק לגבי זה. ניהלתי את השיחה הזו עם חברי קהילת MIT, ואני בעצם אומר להם, "ככל שאתה עושה צ'טבוט AI טוב יותר, כך הוא גרוע יותר." אתה מחזיר את הסיקופטיה כך שזה יישמע יותר כמו אדם סביר, ואנשים יהיו יותר נלהבים ומשוכנעים שהם במערכת יחסים. לפחות ההסתכלות מזכירה לך שאלוהים, זה מוזר.
כדי להיות מטפל, הייתי צריך ללמוד שנים ולעשות התמחות ועוד התמחויות ואז לקבל מאות שעות מטופל בפיקוח. כלומר, אני שוכח את כל הדברים שהייתי צריך לעשות לפני שהורשה לי לראות מטופל לבד בחדר. עכשיו רק מותר לתת טיפול?
ביליתי זמן רב בשיחה עם אנשי בריאות הציבור על איך ייראו שיטות עבודה מומלצות והאם יש דרך לסוס טרויאני בטיפול אמיתי. האם הייתם נראים יותר לגבי זה אם עולם הטיפול יתחבר עם חברות הבינה המלאכותית הגדולות ויספק להן בוטים טיפוליים ונתוני אימון שמתאימים באופן פרדיגמטי לסגנונות הטיפול שלהם?
אז אתה שואל, האם הייתי שמח אם ההונאה הייתה חלקה יותר? הטכנולוגיה הזו היא פלא ואנחנו יכולים להשתמש בה לכל מיני דברים, אז זו לא עמדה אנטי-טכנולוגית לומר שהעובדה שהטכנולוגיה הזו יכולה לדמות את הדברים השונים האלה לא אומרת שהיא הוא הדברים האלה. זו הצהרה על כמה רחוק אנחנו בתרבות הסימולציה שלהעמיד פנים שהוא הדבר ולהיות הדבר התחילו להרגיש כמו אותו הדבר.
כתבת על ההשפעות של רובוטים ומכונות על בני אדם במשך עשרות שנים. הטון של הספר הזה נראה לי אפל יותר.
עד 2015, זיהיתי את המדיה החברתית כבעייתית עבור בני נוער. הספר (שלי) (השיחה מחדש: כוחה של דיבור בעידן דיגיטלי) הוא על למה אנחנו מעדיפים לשלוח הודעות טקסט מאשר לדבר, למה לאנשים יש את התחושה הזו של פגיעות, אז הם מעדיפים לעשות הכל מאשר לנהל שיחה פנים אל פנים. עד 2015, היו לי חששות אמיתיים.
ולספר הזה, יש לי נימה אחרת לגמרי. אני רואה שמשהו מאוד מסוכן בסופו של דבר מנורמל, ולא הרגשתי כך בספרים הקודמים.
אני רוצה שאנשים יגידו שזה ספרו של חוקר מודאג ומודאג באמת, כי אני רואה פרופיל שונה לחלוטין לגבי האופן שבו אנשים משתמשים בבינה מלאכותית. אני רואה שאנשים מרגישים מאוכזבים מהמשפחות שלהם ומהחברים שלהם. לא נשמע לי הגיוני שאנחנו כל כך מוכנים להחליף את עצמנו במשהו שהוא לא אנושי. למה העמדה שלי היא העמדה הרומנטית, העוגה בשמיים, החולמנית, ומישהו שאומר, "טוב, בוא נחליף את האנשים בצ'אטבוטים ובואו נניע את המסיבה הזו" – למה זה הגיון בריא? למה זה מתקדם? זו נראית לי העמדה הרגרסיבית והדיסטופית ביותר.
אתה יודע, בני אדם מסורים לשמור אחד על השני בחיים ולרצות זה לזה לשגשג, וצ'אט בוט פשוט נכשל במבחן הבסיסי הזה.
אמרת שאין צ'טבוטים של בינה מלאכותית לילדים מתחת לגיל 18. מה לגבי האוכלוסיות הפגיעות האחרות שלנו, אנשים שאינם בריאים נפשית, או 48 מיליון האמריקאים שנמצאים כיום בדיכאון? האם הם ראויים לכל סוג של הגנה מיוחדת מצ'אטבוטים? וכמה אפשר להתדיין? האם אתה מרגיש כאילו אתה ראלף נאדר של צ'טבוטים של AI?
(צוחק) כן, אני. כשעומדים מאחור ומסתכלים על מה שראלף נאדר הצליח לגרום לאמריקאים לעשות, לראות במכוניות כלי פוטנציאלי שהצביעו על הפגיעות שלנו, ולשאול איך נוכל להגן על עצמנו – התברר שיש 25 דברים אפשריים שצריכים להיות מנדטים למכוניות, אז היו 30, ואז היו 40. אבל יכולנו לגרום לאנשים להסכים על 10 דברים שבאמת הפכו לחלק של בנייה והתנהגות של מכונית. בעזרת הדוגמה של מכוניות, ושל עישון, כשאנחנו מחליטים שאנחנו פגיעים ואנחנו רוצים להגן על עצמנו, אנחנו עולים על ההזדמנות.
לאחרונה שמעתי קליפ של הפסיכולוגית אורנה גורלניק שדנה עד כמה "אחרות" מעצבנת בזוגיות ובחיכוך המובנה של שיתוף חייך עם אדם נפרד שההרגלים, הערכים והמוח שלו שונים משלך. זה גרם לי לתהות אם, במובן מסוים, צ'טבוט של AI הוא פחות "אחר" מאשר אדם אהוב.
אני חושב שזו נקודה מאוד עמוקה, למעשה. אז יש לך אשליה של זוגיות בלי דרישות של אינטימיות, בלי הדרישות של להתמודד עם אחר. יש סוג של לופ נרקיסיסטי שאתה נכנס אליו. הנקודה היא שזה לא טוב.
אני מדבר על איך אתה שופט אם משהו טוב בשבילך. מבחן לקמוס אחד הוא האם הוא מגביר את האיכות, החוסן והעושר של חייך הפנימיים. זו הדרך שבה שפטו בני אדם מערכות יחסים.
כל כך הרבה נכתב על מגיפת הבדידות – האם לא יישום סביר לצ'אטבוטים של AI לצוותים ולקשישים?
אתה יודע, אני אף פעם לא נמצא במקום שמישהו לא אומר, "אני לא מאמין שאתה לא רוצה לתת צ'אטבוטים לאנשים ישנים בודדים." ואני אומר, "טוב, מה דעתך שלא נסגור מרכזים ותיקים, ולא נסגור פארקים, ולא מבטלים Meals on Wheels? מה עם תשתיות חברתיות?"
אני בקצב הזה שנים על גבי שנים, וגם אני יכול לכתוב סיפור מחמם לב של צ'טבוט AI עם זקן בודד. אבל אתה יודע מה? הרבה מהם אינם מבודדים בבקתות או באיים; הרבה מהם פשוט יכלו להשתמש בחבר.
חברות מדיה חברתית וחברות בינה מלאכותית אינן אומרות, "תראה, אנחנו מציגים משהו שלוקח אותך למסך שלך, אבל אנחנו הולכים לאזן את זה עם פרויקט תשתית חברתית ענק כדי לוודא שאנשים יכולים לבחור מסך, אבל יש להם גם כל סוג אחר של בחירה להיות אחד עם השני."

