יש שמועות רעות (ריצ'רד גיר קיבל את הגרביל). ואז יש שמועות שאתה יוצא עם כותב שירים יפהפה זוכה גראמי. מייקל בי ג'ורדן קיבל את הסוג הטוב.
השבוע, הרשתות החברתיות התמלאו במה שנראה כמו תמונות שנוצרו על ידי AI של השחקן ושל ריי מתנשקים, יוצאים לדייטים וחיים מערכת יחסים שככל שכולם יודעים, לא קיימת. פוסט X עם תמונה מזויפת של השניים מצטלמים בחיבה בטקס פרסי ה-MTV Video Music (אירוע שג'ורדן אפילו לא השתתף בו) צבר למעלה מ-800,000 צפיות, ונכון ליום רביעי, הפלטפורמה של אילון מאסק עדיין לא הציבה עליה תווית "made with AI", או סימנה אותה כעל מניפולציה דיגיטלית. ביום שני, הרומן המזויף הפך לוויראלי מספיק כדי שריי נשאלה על כך על שטיח אדום.
ריי הכחיש את השמועה, אבל ג'ורדן לא – וזה מובן, בהתחשב בעובדה שהשמועה מספרת שהוא יוצא עם מוזיקאי מוכשר ומדהים. זה כמו הגרסה המחמיאה של שאלה עמוסה: האם אתה יוצא עם ריי? תגיד כן ואתה משקר. תגיד לא ואתה דוחה איזו רכילות די מעוררת קנאה. בינתיים, חצי מהעולם כנראה מייחל שהם יצאו עם ריי! (כולל אותי, ואני הומו.) צוות הפרסום של ג'ורדן סירב להגיב מתי VF הושיט יד.
כדי להיות הוגן כלפי ג'ורדן, זה לא ממש משנה מה הוא אומר בשלב זה, כי אנשים כבר מאמינים בזה. השמועה שייכת לאינטרנט כעת. משתמש X עם למעלה מ-50,000 עוקבים הגיב "אנשים כאן חיים את החלום שלי", על הפוסט עם תמונת הזוג המזויף. "אנרגיית נפש תאומה," הגיב אחר.
העובדה שהמלרקי גיר/גרביל שרד עשרות שנים היא עדות לכך שרכילות מפורסמים לא צריכה הרבה הוכחות כדי להתרבות. כזו היא הדביקות של שמועות הוליוודיות. אבל AI גנרטיבי שינה את המשוואה באופן דרסטי. עכשיו לשמועה יש קבלות מזויפות משלה, וכתוצאה מכך, האנשים שילמו כדי להגן על מפורסמים מפני שטויות מסוג זה. יריד הבל שהשמועות שנוצרו על ידי בינה מלאכותית הופכות קשות יותר למאבק.
"זה בהחלט מדאיג עד כמה תמונות AI הפכו למציאותיות בפרק זמן כה קצר. אבל מה שמדאיג יותר הוא עד כמה ניתן להשתמש בטכנולוגיה הזו בצורה מרושעת – כמו זיופים עמוקים של פורנו – ובקלות כזו. אנחנו חייבים לדחוף לרגולציה", אומר יחצן מפורסמים, שביקש אנונימיות כדי לדבר בכנות על עבודתם. יריד הבל.
יחצן מפורסמים אחר מספר VF שכאשר זיוף מקבל תאוצה, הצוות שלהם עלול ללכת בשקט למיקרו-משפיען או לחשבון רכילות כמו Deux Moi כדי להפריך אותו. פעמים אחרות, הם צריכים להתקשר לחברות דיגיטליות שמתמחות באיתור והסרה של חומר מסוג זה. אבל החברות האלה, אומר היחצן, "כל כך יקרות".
יותר ויותר, אחת מהשיחות הללו מגיעה ל- Loti AI, קיצור של "דמיון באינטרנט". על פי המייסד והמנכ"ל לוק אריגוני, החברה מגנה על כ-20,000 שחקנים, מוזיקאים, מנכ"לים, פקידי צבא ואחוזות של ידוענים מתים מפני זיופים עמוקים ושמועות מזויפות באינטרנט. "אנחנו השיחה הראשונה ברשת הטריאז' בהוליווד של 'אופס, יש משהו באינטרנט'", אומר אריגוני יריד הבל.
הדברים האלה נעים בין רומנים מזויפים לפורנו מזויף עמוק ועד למערכת אקולוגית עצומה של התחזות לסלבריטאים מרושעים. כדי לזהות אותם, לוטי מגרדת כ-600 מיליון נכסים מקוונים ביום. "סלבריטאים בעצם צריכים לשכור שירות שאוכל את האינטרנט כל יום", אומר אריגוני. לדבריו, החברה שלהם גובה עד 3,000 דולר בחודש עבור שירותיה.
יש הרבה עבודה לעשות עבור חברות כמו לוטי. החודש, תמונות שנוצרו על ידי בינה מלאכותית, שבהן נראה הזמר והשחקן הקוריאנית יונה בהריון, התפשטו ברשתות החברתיות, מה שהוביל את הסוכנות שלה להגיש תלונה פלילית כדי להסיר אותן. דוויין ג'ונסון שיוצר בינה מלאכותית הוצג דוחה בפומבי הזמנה לאירוע הבית הלבן של UFC. יחצן אחד מספר VF שהיא מתמודדת לאחרונה עם יותר זיופים עמוקים שמכניסים התבטאויות אנטישמיות לפיותיהם של לקוחות. בספטמבר, סרטונים ב-X התיימרו להראות את ליאונרדו דיקפריו וחבורה של שחקנים אחרים שתומכים בקמפיין שקורא לאמריקאים לא להצביע לדמוקרטים בנובמבר. הסרטונים הגיעו אפילו ארוזים עם מזויפים ניו יורק טיימס מיתוג. במקרה של דיקפריו, היוצרים השתמשו מחדש בצילומים מראיון אמיתי של חדשות MTV ב-2019. סרטונים אחרים השתמשו בקטעי Cameo אמיתיים של שחקנים כולל אנני פוטס, פטריק פביאן, אליסה מילאנו ושון אסטין, כדי לגרום לכוכבים להיראות כדוגלים בתנועה פוליטית שהם לא תמכו.
אמנם נראה שהדוגמאות הללו נובעות ממניעים פוליטיים, אבל הרבה מהן הן רק קונ-ארטיסטיות. חשבונות מדיה חברתית מוציאים תמונות בינה מלאכותית פשוט בגלל שמועות על מפורסמים מייצרות קליקים ומעורבות – תנועה שבסופו של דבר ניתן לייצר ממנה רווחים על ידי האנשים שמייצרים אותה והפלטפורמות המארחות אותה.
תוכניות אחרות ישירות יותר – כמו גרסה חדשה של הונאת הנסיך הניגרי שמשתמשת בזיופים עמוקים של ידוענים. הרמאים יתחזות לאנשים מפורסמים באמצעות סרטונים שנוצרו בינה מלאכותית או הקלטות אודיו כדי לטפח מערכות יחסים עם זרים – בעיקר קשישים. שחקנים גברים מבוגרים הם פיתיון נפוץ במיוחד, לפי אריגו. בסופו של דבר, הסלבריטאי המזויף צריך כסף מסיבה מטורפת. אולי הרמאי אומר לסימן שלו שהוא תקוע בחו"ל, או שהמנהל שלו בגד בו, או שהוא צריך 100,000 דולר כדי לברוח מחוזה גרוע. דמותו של בראד פיט שימשה להונאת אנשים לאחרונה. על פי הדיווחים, אישה צרפתייה העבירה מאות אלפי יורו לרמאים לאחר שבילתה יותר משנה בהאמינה שהיא בקשר תכוף עם השחקן. בין ה"הוכחות" ששלחו לה היו תמונות שנוצרו על ידי בינה מלאכותית, המציגות כביכול את פיט מאושפז עם סרטן.
הבעיה הגדולה ביותר עבור חברות כמו לוטי היא שרכילות מפורסמים נעה לעתים קרובות יותר מהר מהאנשים שנשכרו להרוג אותה.
"המטרה היא לעצור את זה לפני שמשחת השיניים יוצאת מהשפופרת", אומר אריגוני. שקול רומנטיקה מזויפת של סלבריטאים. מחזור העיתונות הרגיל עשוי להימשך רק שבועיים או שלושה. אם לוטי לא מזהה ייצור במשך שבוע ואז צריך כמה ימים כדי להסיר אותו, "אתה באמצע המחזור." עד שזה ייעלם, הוא אומר, "אתה בעצם מסיר את 20 או 30% האחרונים, והנזק ברובו נעשה".
ברגע שהם מוצאים את המזויף – שזה רק חצי מהקרב – לוטי אז צריך לשכנע את הפלטפורמה המארחת אותו להוריד אותו. Arrigoni אמר שרוב חברות המדיה החברתיות הגדולות בדרך כלל מגיבות במהירות לבקשות הסרה. אבל יש חריג בולט: X.
"X הוא מטריצה מאוד מוזרה של מה הם יורידו או לא יורידו", אומר Arrigoni. במקום התהליך היעיל יחסית שלוטי נתקל במקומות אחרים, הוא אומר שבקשות הסרה נדונות בשרשורי אימייל – אפילו במקרים של חומר של התעללות מינית בילדים שנוצרו בבינה מלאכותית. "אתה באמת בשרשור עם מישהו שמנסה לשכנע אותם שזה, למעשה, חומר התעללות בילדים, וזה מטורף", אמר.
אנדריאה פאוול, מנהלת הקרן לזהות דיגיטלית, שעובדת עם נפגעי התעללות מינית מבוססת תדמית, נתקלה באותה בעיה עם X. "אני מקווה שלאורך זמן, או מכוח המדיניות והרגולציה, או אולי מישהו יפצח את הקוד לתוך ליבה של החברה הזו", היא אומרת. X לא הגיב לבקשת תגובה.
ההימור הופך פחות מצחיק במידה ניכרת כאשר התמונות המזויפות הן מיניות.
פאוול מספרת ל-VF שאחת מהלקוחות שלה – "סלבריטאי מבוגר וידוע" – קראה פעם תחקיר של הניו יורק טיימס שכתב ניקולס קריסטוף על ניצול מיני באינטרנט. לאחר שקראה אותו, היא חיפשה את עצמה בגוגל וגילתה פורנוגרפיה מזויפת עמוקה עם דמיון משלה שהיא לא ידעה על קיומו.
פאוול רואה בזיופים עמוקים מיניים "דיגיטלי לחזור למטבח"-כלי המשמש ברובו נגד נשים ונערות. "כמעט כל מטומטם עם טלפון יכול עכשיו ליצור פורנו מזויף עמוק", היא אומרת.
אחת מתופעות הזיוף העמוק האחרונות כללה פורנוגרפיה שנוצרה על ידי בינה מלאכותית בהשתתפות ילדים של אנשים מפורסמים. (מתוך דאגה לאלו שנפגעו, לא נפרט אף אחד מהקורבנות של פורנו מזויף עמוק.) הקונגרס ניסה להתעדכן בנושאים אלה. חוק Take It Down, שנחתם בחוק בשנה שעברה, מחייב פלטפורמות ליצור תהליך להסרת תמונות מיניות ללא הסכמה, כולל זיופים שנוצרו על ידי בינה מלאכותית, ולהסיר את התמונות תוך 48 שעות. יש גם הצעת חקיקה פדרלית שיושבת בקונגרס בשם חוק ה-NO FAKES שתלך רחוק יותר על ידי הגנה מפני העתקים לא מורשים של קולו של אדם.
מאט הרטמן מהמרכז למלחמה בשנאה דיגיטלית רואה בסוגיית הזיוף כאבולוציה של בעיה ישנה. "אני חושב שזה רק המשך למה שהיינו רואים בצהובונים", הוא אומר יריד הבל. ההבדל הוא שלצהובון היו לפחות "סטנדרטים עריכה השולטים על שמועה". כעת, הוא אומר, "יש לך מישהו מאחורי מחשב בכל עת שמסוגל להמציא משהו ולהקרין אותו כאילו הוא אמיתי."
חברות בינה מלאכותית פרסמו טכנולוגיה עמוקה מזויפת, ואתרי מדיה חברתית סיפקו את הקהל – הכל לפני שהוקמו מעקות בטיחות. ריי וג'ורדן הם אולי מקרה מבחן לא מזיק יחסית, אבל אל תלכו שולל: כולנו שפני ניסיונות.
