בסתיו שעבר, בזמן שדיווחתי על סיפור על דת ועמק הסיליקון, ראיינתי מהנדס שהציע קיצור דרך בלתי צפוי להבנת שאיפות ה- AI האולטימטיביות של תעשיית הטכנולוגיה: "צפה בתוכנית הטלוויזיה פנתאון,"הוא אמר לי." כל מי שעובד בחברות ה- AI הגדולות מתבונן במצגה. "
זה היה הראשון ששמעתי עליו פנתאון, למרות שהסדרה המונפשת הוקמה לראשונה כמעט שנתיים קודם לכן. כשצפיתי בזה בסתיו האחרון, עונה ראשונה הייתה קלה מספיק למצוא בנטפליקס, אבל עונה שנייה הייתה מפוזרת למדבר הדיגיטלי; הגרסה היחידה שיכולתי לאתר הייתה ב- YouTube. המופע נוצר על ידי קרייג סילברשטיין, סופר ומפיק שעבד על סדרות כמו פונה: המרגלים של וושינגטון וכן האיש הבלתי נראה. כשפניתי אליו לראיון בתחילת החודש, הוא אמר שהוא לא הופתע שאיחרתי לגלות את המופע: במקור הופק כדי לרוץ בשירות הזרמת המנויים של AMC, פנתאוןהופעת הבכורה קיבלה כמעט אפס שיווק. מאוחר יותר, הרשת קברה את העונה השנייה לאחר שכבר הופקה, לפי סילברשטיין. (שתי העונות זמינות כעת בנטפליקס.)
קהלי הזרם המרכזי אולי החמיצו פנתאון, אבל בעמק הסיליקון, במיוחד בקרב אנשים העובדים ב- AI, הוא בדרך למעמד פולחן. "אני צופה שהפנתיאון יהפוך למופע מיינסטרימי כמו משחקי הכס או משחק דיונון", כתב ג'יימס קמפבל, חוקר שעבד על אינטליגנציה כללית מלאכותית (AGI) בפתיחה, בדצמבר האחרון ב- X. "כאשר ציר הזמן שלנו מתחיל לשקף את המופע, הוא יצייד את PPL במסגרות שימושיות כדי להבין את העולם ואולי למלא תפקיד לא טריוויאלי בהפצת הרגש האנטי-איי."
הקסם של עמק הסיליקון מ פנתאון ככל הנראה נובע מהתיאור המתקבל על הדעת של מירוץ נשק עולמי בסגנון גרעיני, שנוצר על ידי מדינות יריבות המפתחות בו זמנית את האינטליגנציה הדיגיטלית. הכל מרגיש קרוב לאי נוחות לאופן שבו מרוץ AI Arms בין ארה"ב לסין עשוי להתפתח, בו האקרים, חמושים במוחות משופרים במחשב וגישה לתשתיות קריטיות, מערכות צבאיות חוטפות ורשתות כוח.
השאלה העמוקה יותר מתמהמהת פנתאוןשתי העונות נוגעות למה המשמעות של להיות אנושי בעידן של סדיקות דיגיטלית. העונה השנייה של המופע מציעה הצצה לחברות העולם כמו Openai עשויה לדמיין שהן בונות: כזה שבו בני אדם, משוחררים מצורתם הפיזית, חיים כמו אלים. דמות אחת מנבאת כי אינטליגנציות שהועלו, או UIS, יובילו בעידן של שפע. "זה יהיה גדול יותר מהמהפכה התעשייתית," הוא אומר. "ממשק המשתמש ישנה עסקים, רפואה ובנייה. ברגע שהם יפעילו דברים, בני אדם יכולים לבעוט לאחור – הכל בבת אחת, ולתמיד. זה ייצור כלכלת פרישה מסיבית לצעירים, מלאים בשווקים אינסופיים למוצרים ושירותים חדשים."
זה קו שמרגיש שהוא יכול להירוט ישירות ממנכ"ל Openai סם אלטמןהמאמר האחרון, "הייחודיות העדינה", בו כותב אלטמן שככל שחברי -העל משתפר בשנים הקרובות, "קצב הפלאים החדשים שהושגו יהיה עצום. קשה אפילו לדמיין היום את מה שנגלה על ידי 2035 … אנשים רבים לא יופיעו לחיים את חייהם באותה דרך, אך לפחות חלק מהם יכריעו את Al Toce". " הראה, הוא "שמע שזה ממש טוב.")
מוקדם יותר החודש הושטתי אל סילברסטיין בנוגע למופע המופע בעמק הסיליקון. להלן השיחה שלנו, ערכה ומעובה לצורך בהירות:
יריד יהירות: אנשים בעמק הסיליקון כמובן מבלים זמן רב במחשבה על הנושאים שנערכו ב פנתאון, כמו אלמוות, הייחודיות ואפילו העלו את התודעה. איזה סוג של מחקר עשית מבחינת הבנת הקשר של עמק הסיליקון להעלאת התודעה האנושית?
קרייג סילברשטיין: כשחקרנו זאת בתחילה, נתקלנו בהרבה אנשים שאובססיביים להרחבת החיים. ריי קורצוויל, לְמָשָׁל. כל האנשים האלה מנסים להביס את המוות באמצעים שונים, כמו שיבוט או קריוגנים. אני לא מאמין שהם יצליחו, אגב. אבל רוב הסיפורים עוסקים במוות. יש הרבה שאלות מעניינות לגבי המשמעות של להיות אנושי אם תסיר מוות.
יש אזכור קצר לנישואין (בין שני אנשים ששניהם העלו את תודעתם לענן) בתכנית. אם אתה חי מאות או אלפי שנים, מה המשמעות של מושג חבר נפש? מה מושג הפשע והעונש אם אתה חי להיות מאות אלפי שנים? אם אתה רוצח מישהו, האם אתה נמחק או קפוא למשך זמן מסוים? כל הכללים שיש לנו לעצמנו מבוססים על העובדה שאנחנו הולכים למות. האנשים האלה שחושבים שהם לא ימותו … טוב, סליחה, באדי, אתה תמות! אתה חושב שאתה הולך להעלות? ((צוחק) אני לא מאמין בזה. אני אוהב לשער על זה, אבל אני לא חושב שזה יקרה.
לפני שנחקר בתוכנית ותפקידה בעמק הסיליקון עוד יותר, האם תוכל להסביר את הרעיון של אינטליגנציה שהועלה כפי שהוא מוצג ב פנתאון?
אינטליגנציה שהועלה היא טכנולוגיה שעליה השערות עליה זמן מה. קן ליו, שכתב את אוסף הסיפורים הקצרים פנתאון מבוסס על, יש לו הרבה יותר ידע על זה, ובהערכה שלו, אנחנו הרבה יותר קרובים לסוג כזה של טק ממה שאנחנו עשויים לחשוב. אינטליגנציה שהועלה עוסקת בסריקה ויצירת אמולציה מלאה של המוח האנושי. אבל זו סריקה הרסנית, מה שאומר שאתה בהחלט צריך להרוס את המוח הפיזי כך שהחיקוי של המוח הזה ממשיך במחשב חזק מספיק כדי להריץ אותו (כפיסת תוכנה). אנשים משערים על רעיון זה כבר זמן רב. "אינטליגנציה שהועלה" או "ממשק משתמש" זה מה שקראנו לזה בתוכנית. רובין הנסון מתייחס לזה בספרו עידן EM– שקראתי בזמן שחקרתי את המופע – כ"- EMS "כמו ב"אנשים מחדירים".
התאמת פנתאון מאוסף הסיפורים הקצרים של קן ליו, הילדה הנסתרת וסיפורים אחרים. האם המופע מבוסס על סיפור יחיד באוסף ההוא?
שלושה מהסיפורים הקצרים נמצאים בסוג של טרילוגיה, ושם ציירתי השראה לדמויות, מדדי, ואביה, דייוויד. יש סצנה שבה מדדי מדבר עם מישהו באינטרנט שמדבר רק באמוג'ים. היא מבינה שהאדם שאיתו היא מדברת הוא למעשה אביה המת, שהיה חוקר בחברת הטכנולוגיה הגדולה בעמק הסיליקון. ואז הסיפור עובר לתוך ההימור הזה של מלחמת העולם השנייה ומתעמק בסיפורים השונים האלה על אינטליגנציה שהועלה. הדבר שמשך אותי לאוסף הזה הוא שכולם סיפורים משפחתיים; הם מגיעים דרך עדשת המשפחה, האהבה, האופי והדרמה, וזה מה שהטלוויזיה כוללת. זה נתן לי דרך לכתוב על דברים אזוטריים וקשים מדעיים, אבל דרך דרך פשוטה.
אילו השראות לקחת מעמק הסיליקון לתוכנית?
המופע נכתב לפני המגיפה ולפני צ'אט. באותה תקופה, הדברים של AI הגיעו, וכולנו דאגנו ל- AI. כולם דיברו על AI, והרבה מהמושגים שעולים בהמשך המופע, כמו הכנסות יוניברסל בסיסיות ודרכים לפתור עולם אוטומטי בו AI מנהל הכל. אז כל זה היה מאוד בחזית מוחי.
תמיד התעניינתי מאוד ב- AI, אבל כסופר דרמה, אני מאוד חשדן בכתיבת AI כדמות, מכיוון שראינו מיליון דוגמאות לכך בסרטים ובטלוויזיה. AI נוטה להיות הישות הקרה והבלתי מרגישה הזו. או שראיתי את זה מוצג כילד קטן או ילדה קטנה, וכולם קלישאות. יש טון לא מסורבל ל- AI. זה צומח ומשתנה כל כך מהר שאני למעשה מוצא את זה פחות מעניין לכתוב.
אבל אז יש את הרעיון של ממשק משתמש – של מישהו ש היה אנושי – וחשבתי, אה, אני יכול לכתוב את זה. אז אנחנו דוחפים את הרעיון של AI משם, והמופע נכנס ל- ASI (אינטליגנציה סופר מלאכותית, הסף התיאורטי בו AI מחליף את האינטליגנציה האנושית). כל הדברים האלה קשורים לסינגולריות. הדבר היחיד שידעתי בוודאות הוא שלא יכולתי לכתוב על פני הייחודיות. אם ASI אמור לחרוג ממה שאנחנו יכולים להרות כבני אדם, לא נוכל להיות מסוגלים לכתוב את זה. אז חשבתי לרשום את הקצה של זה בעצם.
אחד ההיבטים המדהימים ביותר של המופע הוא האופן בו היא רואה את הייחודיות. נדהמתי מהקשת שמתקיימת בשתי העונות: בעונה הראשונה יש סצנה סיוטית בה דמות מעלה בניגוד לרצונו, וסיימתי את העונה ההיא במחשבה שהאינטליגנציה שהועלה הייתה מחרידה. אבל בעונה השנייה, יש את רגע הייחודיות הזה בו אנו רואים כמה חיים נפלאים יכולים להיות אם לא היינו מוגבלים לגוף פיזי. בשלב זה מצאתי את עצמי מייחלת שאוכל להעלות אותי לענן.
האיזון הזה בין אימה לפוטנציאל השאיפה של הטכנולוגיה הוא גם בסיפוריו של קן. זו גישה אנושית מאוד שבה יש טוב ורע. אמרתי למעשה לצוות הכתיבה: "אתה מכיר את ההצגה מראה שחורה? הטון שלנו הוא 'מראה קשת'. "אני מעוניין באיום וגם בתועלת הטכנולוגיה. יש קו שעולה בעונה השנייה שאני מאמין בה:" אני לא חושב שאתה יכול לעצור את העתיד. "
פנתאוןהחזון של הייחודיות והעניקות העל המובילות בעולם של שפע קרוב מאוד ללב עמק הסיליקון, כולל כמה מהאנשים החזקים ביותר שבונים כיום AI. סם אלטמן כותב את המאמרים האלה חסרי נשימה באמת על עתיד בו העבודה אוטומטית והאנרגיה היא בשפע. האם אתה רואה הקבלות בין פנתאון ומה קורה כרגע בעולם הטכנולוגיה?
אני חושב ששיעור השינוי נראה הולך וגובר. או אם לא יגדל, אז זה אחראי, כמו בחוקו של מור. זה יכול לקחת שנייה לצעוד אחורה ולראות עד כמה כל טכנולוגיה הגיעה בדיוק במאה שעברה בהשוואה לאלה שהגיעו לפני כן. אז הרעיון שקצב השינוי הולך להאיץ אינו מפתיע. אני לא יודע על אינטליגנציה שהועלה, אבל אני יכול לראות ש- AGI מתרחש ממש בקרוב. ואני מודאג מכך. זה מצחיק, פנימה פנתאון, אחד הדברים שנדמה כי כל הדמויות מסכימות עליהם הוא ש- AI מסוכן. הם משתמשים בזה, אבל הם נזהרים מזה.
עונה שנייה הופכת את המקרה המשכנע שהריגת גוף האדם שלך כדי להעלות לענן היא למעשה הדבר המוסרי לעשות מכיוון שעדיף לסביבה. UIS דורשים כל כך הרבה פחות מגופים אנושיים. אתה יכול להתאים כמה אלפי ממשקי משתמש בכונן הבזק, ואילו בני אדם "מגולמים" עדיין דורשים דיור, אוכל ומים.
((צוחק) יכול להיות שהייתי קצת תמימה בזה.
נכון, מכיוון ש- AI למעשה משתמש בכמות אדירה של אנרגיה.
כן, אולי טעיתי בזה. אבל אולי הם יבינו פתרונות חסכוניים יותר באנרגיה בעתיד.
ביקורת אחת שקראתי על המופע היא שמדובר בתעמולה של עמק הסיליקון מכיוון שהיא מציגה את התפיסה הזו שאתה יכול להשיג אלמוות ולהפוך לאל על ידי רדיפת יעדים טכנוקרטיים. מה אתה חושב על הביקורת הזו?
אני מאמין שהטכנולוגיה, בין אם אנחנו אוהבים את זה ובין אם לא, היא המוביל העיקרי של התרבות והחברה האנושית. מדיה חברתית, האינטרנט … כל הדברים האלה עשו יותר כדי לשנות את הדרך בה אנו חיים את חיינו מאשר מדינות ומדיניות. אני לא חושב שזה בהכרח דבר טוב, אגב. אני פשוט חושב שזה נכון. עמק הסיליקון משפיע להפליא. אני גם לא חושב שזה בהכרח טוב. אני באמת מודאג מכך, מכיוון שהם בני אדם.
האנשים בעמק הסיליקון?
כֵּן. אני מְאוֹד חושדים בהם. ואם אתה מסתכל על הדוגמאות שלי לאנשים חזקים בתכנית בעמק הסיליקון, כמו סטיבן הולסטרום, אני לא חושב שהם מוצגים כאנשים גדולים במיוחד.
שאלה אחרונה: אם היית גר ב פנתאוןחזון העונה השנייה של הייחודיות, האם היית מעלה את התודעה שלך לענן?
אם יותר ממחצית האנשים שאני מכיר ואהבה היו, והייתי מסוגל לשאול אותם שאלות על כך, ולקבל ביטחון לגבי זה, ואם הייתה לי אפשרות לקבל אוטונומיה על מותי שלי, אני יכול לשקול את זה. אבל אני בהחלט לא הייתי מהראשונים, זה בטוח.
