במשך כ-15 דקות ביום שלישי בערב, הבלוגר פרז הילטון שידר בשידור חי ב-TikTok עם פלג גוף עליון מדמם וסכין ביד. נראה היה שהוא מזיק לעצמו.
ניהול ה-AI של TikTok סימן את הזרם תוך דקות, ושלח אותו למנחה אנושי. אדם זה קבע שיש להסיר את הסרטון, על פי דובר TikTok בארה"ב, אך חווה קשיים טכניים בעת הורדת הזרם. (חוטי דיבר עם דובר שכינה זאת "שגיאת מנחה", אך החברה פירטה יריד הבל שהמנחה נפגע בהודעת "שגיאה" בעת ניסיון להוריד אותו.) הילטון התעקש, אמר הדובר VFוהוא שידר את עצמו בכמה זרמים שונים.
רשויות אכיפת החוק במיאמי קיבלו מספר שיחות על התקרית – כולל אחת מצוות המנחה של TikTok, אומר הדובר – והגיעו לביתו של הילטון כדי למצוא אותו לבד. לאחר מכן, צוות החילוץ העביר אותו לבית חולים מקומי לקבלת טיפול רפואי, לפי הודעת המשטרה.
משפחתו של הילטון פרסמה עדכון באתר האינטרנט שלו ביום רביעי אחר הצהריים. "אנחנו יכולים לאשר שפרז מקבל טיפול רפואי", הם כתבו, "וההתמקדות של המשפחה שלנו כרגע היא ברווחתו". להילטון, שנולד מריו ארמנדו לבנדיירה ג'וניור, יש שלושה ילדים, אך לפי הדיווחים היה אז לבד בבית.
זה לא השידור החי הגרפי הראשון ששודר בפלטפורמות המדיה החברתית, שבו משתמשים שידרו צילומים בזמן אמת של ירי המוני ומוות בהתאבדות. אבל 15 הדקות שלקח להסרת הסרטון של הילטון מדגישות בעיה שחברות מדיה חברתית מתמודדות איתה כבר שנים: איך אפשר למתן משהו שקורה עכשיו?
סטרימינג בשידור חי הפך למיינסטרים בשנת 2015, כאשר פייסבוק הוציאה את תכונת הסטרימינג שלה. מתינות תמיד הייתה "אתגר גדול באמת", אומר רובין קפלן, עוזר פרופסור למדיניות טכנולוגית באוניברסיטת דיוק. בימים הראשונים, פלטפורמות הסתמכו לעתים קרובות על משתמשים כדי לסמן פוסטים בלתי הולמים ומנחים אנושיים כדי לנתח הפרות פוטנציאליות. זו הייתה עבודה אינטנסיבית להפליא, כזו שדחפה עובדים רבים לגבולות הנפש שלהם. בעשור האחרון, מספר רב של מנחים לשעבר הגישו תביעות בטענה שהם סבלו מטראומה מבילוי שעות ארוכות בצפייה בהתנהגות האנושית הגרועה ביותר.
מאמצי ההתמתנות המוקדמים האלה לא הצליחו לעצור הרבה שידורים חיים אלימים לפני שהתרבו ברשת. בשידורים תיארו גברים יורים בשוטרים וילדה בת 12 לוקחת את חייה. הסרטון האחרון, מ-2016, עלה כמעט שבועיים לפני שפייסבוק הסירה אותו.
אבל החשבון הגדול ביותר היה ב-2019, כאשר יורה בקרייסטצ'רץ', ניו זילנד, שידר את עצמו בשידור חי ופתח באש על שני מסגדים, והרג 51 בני אדם. "הייתה קריאה גדולה לפלטפורמות להחמיר את שיטות המתיחות שלהן", אמר קפלן, "לא רק במהלך השידור החי, אלא כמה קל היה לאנשים להוריד את הסרטון הזה ולהפיץ אותו".
חברות אימצו כעת גישה היברידית אוטומטית-אנושית. במקום להסתמך בעיקר על משתמשים כדי לסמן בעיות, AI הוא קו ההגנה הראשון. ב-TikTok, חלק מהסרטונים ניתנים להסרה אוטומטית, ועבור שידורים חיים, מערכת אוטומטית מסמנת תוכן שעלול להיות בעייתי. ברבעון הראשון של 2026, כ-50 מיליון שידורים חיים הושעו על ידי TikTok, על פי דיווח של החברה.
המעבר ל-AI הוא מעשי: הפלטפורמות הללו מתמודדות עם מבול של תוכן שבני אדם לא יוכלו למתן. TikTok לבדה רואה יותר מ-100 מיליון סרטונים מועלים מדי יום. אבל הסרת התוכן הראשוני היא רק חלק אחד מהמשוואה. לאחר מכן, המנחים צריכים להילחם בזרמים נוספים ובהקלטות הבאות של התקרית כמו חפרפרת, וכאשר חברות טכנולוגיה גדולות מבצעות פיטורים, צוותי האמון והבטיחות היו בין הראשונים ללכת. "החברות האלה ידועות לשמצה בחוסר כוח אדם בכל הנוגע למתינות", אמר קפלן.
חשבון ה-TikTok של הילטון נאסר כעת, אך כפי שקורה לעתים קרובות במדיה החברתית, תוכן מפלטפורמה אחת מתפשט במהירות לאחרת. קשה למצוא קליפים של השידור החי שלו ב-TikTok אבל לא ב-X, שם במשך רוב יום רביעי בבוקר, ההקלטות היו בכל מקום. דובר X לא הגיב לבקשת תגובה.
גם הילטון עדיין לא הגיב, אבל הרשתות החברתיות מוצפות בתפילות ואיחולים מצד מעריציו. הוא גם מלא באזהרות. "אל תצפה בשידור החי של פרז הילטון", כתב אחד המשתמשים. "זה יפגע בנפשך."
אם אתם זקוקים לתמיכה רגשית או נמצאים במשבר, התקשרו לקו ההצלה להתאבדות ולמשבר בטלפון 988.
