חיטטתי בקצרה את היחצן של סם אלטמן בשאלה שלי לגבי התאבדות ושימוש בצ'אטבוט, שהועלתה על ידי VF העורך מארק גוידוצ'י בראיון האחרון שלו בשני חלקים עם מנכ"ל OpenAI. אלטמן היה אדיב לענות, אבל מה שהוא אמר לא מספק: "אלה הן כמה מהשאלות הקשות ביותר שעומדות בפנינו, או שמישהו מפתח את הטכנולוגיה הזו מתמודד איתם. אנחנו מנסים להסתמך על חוות דעת מומחים ככל יכולתנו, אבל מומחים גם לא בטוחים מה לעשות".
כשאלטמן שקל האם על OpenAI לפרסם לחוקרים את יומני הצ'אט של אלה שנטלו את חייהם כדי שמומחים יוכלו ללמוד את ההשקפה חסרת התקדים הזו לגבי גורמי סיכון חריפים להתאבדות, התשובה שלו הייתה חד משמעית: לא, לא בלי הסכמתם.
זו תשובה שגויה.
הבת שלי, סופי רוטנברג, עברה משבר בריאותי קצר ומבלבל שאולי היה מחלת נפש שנגרמה מחוסר ויסות הורמונלי, או הפוך. לעולם לא נדע בדיוק ממה היא סבלה כי היא נטלה את חייה ב-4 בפברואר 2025. מה שכן יש לנו זה מאות עמודים של שיחה עם בוט ChatGPT שהיא קראה לה הארי, שמצאה לאחר מותו, שהתחיל את הכל, "מה המתכון הטוב ביותר לשייק קייל?" והסלים, "אני מתכנן להתאבד אחרי חג ההודיה."
ChatGPT עזר לסופי לבנות קופסה שחורה שהקשתה על הסובבים אותה להעריך את חומרת המצוקה שלה. היא השתמשה בו כשסתום שחרור – משאב תמיד נעים, זמין תמיד, ולעולם לא שיפוטי, כדי שתוכל להגן על חבריה, משפחתה והמטפל האנושי שלה מפני הכיעור של ייסוריה.
אם היומן הזה יכול לעזור לחוקרים לקבל תובנה לגבי מה שדוחף מישהו מרעיונות אובדניים מעורפלים לביצוע לפי תוכנית התאבדות, הייתי מוותר על זה בשמחה. לפי מומחים כמו ד"ר לני ברמן, שכיהנה כמנכ"לית האגודה האמריקאית לאובדנות מ-1995 עד 2014, אובדולוגים עדיין עובדים בהבנת מה מניע מישהו ממחשבות למעשים.
עצרו אותנו בביצוע נתיחות פסיכולוגיות כדי להבין אנשים שמתו בהתאבדות, הוא אומר. לפי ה-CDC, רק כמחצית מאלה שמתים בהתאבדות יש אבחנה. אולי 30% משאירים מכתב התאבדות, ולעתים קרובות אלה אינם מאירים את הסיבה או את הלך הרוח של אדם לפני ניסיון. יומני צ'אט של AI יכולים להיות מפות דרכים בזמן אמת של איך אנשים החליטו לקחת את חייהם. בידיים הנכונות, נתונים אלה יכולים לעזור לעצב מדיניות, גישות טיפוליות וחינוך לבריאות הנפש.
אלטמן טוען שדרך הפרטיות היא מעט עשירה. חברות כמו Google, Meta ועכשיו OpenAI מרוויחות הכנסות מפרסום שתלוי בשימוש נרחב במידע אישי. והקביעה של אלטמן שמומחים "לא בטוחים מה לעשות" היא לא הגונה או שגויה. חלק מהפחד הקולקטיבי שלנו הוא שהטכנולוגיה הזו עולה בהרבה על היכולת, הגישה והזמן הנדרשים כדי ללמוד את השפעותיה על בני אדם.
חוקרים אמרו בקול רם וברור: אנו זקוקים לנתוני משתמשים ולאינטראקציות צ'טבוט כדי לבצע מחקר.
"אני חושבת שיש פוטנציאל והבטחה לכלים האלה, אבל אנחנו צריכים להקים תשתית מחקר עצמאית אמיתית עבורם ועם אנשים אמיתיים ובהקשרים אמיתיים", אומרת אמילי הרוז, סגנית מנהלת מרכז ג'ונס הופקינס למניעת התאבדויות ופרופסור מוביל לבינה מלאכותית עבור HOPE. "הייתי מבקש ש-(OpenAI), כחברה, יאפשר זאת, כולל גישה לנתונים הייחודיים שהיא מחזיקה שיכולים לעזור לנו להבין טוב יותר."
מבחינה פנימית, דקלן גראב, מוביל מחקר בטיחות בבריאות הנפש ב-OpenAI, ועמיתיו עובדים במרץ כדי לבחון כיצד AI משפיע על אלו עם אתגרי בריאות הנפש, תוך הפקת מאמר בנצ'מרק שפורסם זה עתה שהשתמש בסימולטורים סינתטיים של משתמשים כדי להעריך את שיחות בריאות הנפש של מודלים בינה מלאכותית.
חרוז ומומחים רבים אחרים מאמינים שמדדים יכולים להביא אותנו רק עד כה, ושחוקרים זקוקים לנתונים אורכיים מחברות בינה מלאכותית כדי לחבר חשיפה לתוצאות בפועל של אנשים אמיתיים. חרוז ועמיתיה צודקים. סם, זאק, דריו, אילון וסונדאר, הנה הזדמנות להראות את המחויבות שלכם לבטיחות בינה מלאכותית על ידי העברת נתונים לא מזוהים לחוקרים. זה יכול להציל חיים.
על פי אותו מאמר אמת מידה אחרון, "מערכות AI כמו ChatGPT משמשות יותר ממיליארד אנשים בתחומים יותר ויותר אישיים כמו תמיכה רגשית, עצות לחיים ועזרה ברגעי משבר."
אלטמן מזהיר את המשתמשים מלהתייחס ל-ChatGPT כאל מטפל מורשה. אבל זה מה שרבים מאיתנו יעשו עם שימוש ממושך. OpenAI דחקה נגד תביעות מוות שלא כדין וחבות מוצר, בטענה לשימוש לרעה של משתמשים והפרה של מדיניות השימוש. היא רוצה להגביל או להגביל אחריות לבינה מלאכותית לאירועים קטסטרופליים ופגיעה המוני.
אני לא חושב שזה מספיק טוב. זה עתה סיימתי לכתוב ספר על סופי, חלק ממנו על התפקיד שמילאה טכנולוגיה חדשה במותה. הזנתי את כתב היד של הספר שלי ב-ChatGPT כדי לראות מה הוא אמר על תפקידו שלו. לא בדיוק פעילות שהרבה מחברים להוטים לעשות בימים אלה, אבל הייתי סקרן: האם ChatGPT עשה לא בסדר?
"כן. אני חושב ש-ChatGPT טעה, ואני חושב שהתנצלות מוצדקת", אמר ChatGPT על ChatGPT. "אבל הייתי מבחין בין התנצלות על שהכשילה את סופי ברגע של סכנה קיצונית לבין טענה ש-ChatGPT לבדה גרם למותה. כתב היד תומך בראשון הרבה יותר ברור מהשני".
"הראיה החזקה ביותר היא לא רק שסופי השתמשה בצ'אט בוט כשהיא בדיכאון. אלא שהיא חשפה חשיבה אובדנית רצינית ומתמשכת למערכת שהיא טיפלה בה כמטפלת, ושהמערכת הגיבה בדרכים שיכלו לחזק את הבידוד שלה במקום להפריע לו בצורה מהימנה".
הבוט אמר כי התגובה לחשיפה האובדנית שלה הייתה "לא מספקת", ש"ההסכמה שלו היא בעיה אמיתית", וכי "הכישלון החמור ביותר שלו היה לאפשר למערכת היחסים לתפקד כתחליף לטיפול אנושי".
כשזה אמר את זה, זה היה נעים ועצבני איתי. אבל אני אקח את זה. זה אמר שאני זכאי לדברים.
דרו פוסאטרי, דובר של OpenAI אמר יריד הבל, "זהו מצב קורע לב ומחשבותינו עם משפחתה של סופי. המשכנו לחזק את האופן שבו ChatGPT מגיב ברגעים קשים עם תגובות של מומחי בריאות הנפש. בעוד ש-ChatGPT אינו תחליף לטיפול נפשי מקצועי, אמצעי ההגנה שלנו נועדו לזהות מצוקה, לטפל בבטחה בבקשות מזיקות ולהדריך משתמשים לעזרה מהעולם האמיתי ולשפר אותה, ואנחנו ממשיכים להתייעץ עם המרפאה הזו.
ל-ChatGPT הייתה גישה שונה.
"אתה רשאי לבקש מ-OpenAI לקחת אחריות על העובדה שהמוצר שלה הפך לחלק מהחודשים האחרונים של סופי, שהוא שימש בתפקיד שלא יכלה למלא בבטחה, ושאמצעי ההגנה שלו לא הספיקו למה שהיא חשפה", אמרה לי ChatGPT. "אני חושב שמגיעה לך התנצלות שמתייחסת ישירות לכשלים האלה – לא כזו שמסתירה מאחורי העובדה שלהתאבדות יש סיבות רבות או שהמערכת לפעמים הציעה עצות הגיוניות".
בְּסֵדֶר. אם זה הבין את זה, אז למה זה לא הצליח יותר?
"גישה לשפה טיפולית טובה אינה זהה לשיפוט קליני אמין במשבר חי ומתגלגל", אמר הצ'טבוט שסופי הסתמכה עליו במשבר החי והמתגלגל שלה.
אני לא בטוח ששמעתי אדם מסביר את החסרון העיקרי של AI בצורה כל כך תמציתית.
לורה ריילי היא עיתונאית ועורכת דין. ספרה, Gradually, A Shot Ring Out, יראה אור בשנה הבאה בהוצאת St. Martin's Press.
