במשך חודשים, ראשי מעבדות הבינה המלאכותית הזהירו אותנו שתקריות כמו הפריצה של Hugging Face של הקיץ עשויות לייצג "יריות אזהרה מוקדמות" לפני התקפות מאיימות נוספות בשנים הבאות. מצוידים בבונקרים משלהם ליום הדין, כמה מנכ"לים החלו להורות לצוותים שלהם להפעיל תרחישי היערכות ליום שאחרי "תקרית AI קטסטרופלית".
"אנחנו מוכנים לקבל כמה דברים משתבשים", אמר מנכ"ל OpenAI, סם אלטמן יריד הבלמנהל העריכה העולמי של מארק גוידוצ'י, בחודש שעבר, הוסיף כי "יש גל גאות מתקרב של בעיות אבטחת סייבר שיגיעו ממודלים אלה של קוד פתוח".
בדיוק בזמן לעונה המפחידה, יריות האזהרה האלה התגברו קצת. ביום רביעי, 21 באוקטובר, נחשפו שתי פרצות אבטחה חמורות ב-PHP, שפת התכנות מאחורי יותר מ-70% מדפי האינטרנט. כמה אנשי מקצוע בתחום אבטחת הסייבר כבר החלו לקרוא לזה "אוקטובר השחור", הודות למבול חסר התקדים של פריצות ברחבי העולם.
AI אכן שיחק תפקיד בכל זה – אבל אולי לא זה שהיית מצפה לו. חוקרי אבטחה השתמשו למעשה בכלים שפותחו על ידי OpenAI כדי לגלות את הבאגים לפני חודשים – ומיהרו לתקן אותם לפני שהגיעו לידיהם של שחקנים גרועים. למרבה הצער, נקודות התורפה הללו דלפו בשבוע שעבר, ושלחו ממשלות ועסקים להתרוצץ כדי להגן על אתרי האינטרנט שלהם לפני שהאקרים – אולי חמושים בכמה מאותם כלי AI ממש כמו אלה שמתגוננים מפניהם – נכנסו פנימה.
עם זאת, אפילו יכולתן של מעבדות הגבול לעמוד בקצב הוטל בספק ביום שני בבוקר, אז ה וושינגטון פוסט פרסם סיפור על האופן שבו Cathedral, חברת אבטחת סייבר חדשה שהוקמה על ידי ארבעה עובדי DOGE לשעבר, חדרה בהצלחה לכמה מהמערכות הפנימיות של Anthropic תוך 12 שעות בלבד. המאמר ירד שעות ספורות לפני שאנתרופיק הגישה תיעוד לפני ההנפקה המפרט את הסיכונים הפוטנציאליים להכנסות שלה ולעולם בכלל אם יימצא שמשחק אבטחת הסייבר שלה חסר.
לקהילת אבטחת הסייבר, זה היה רק האחרון בסדרה של הסלמות מדהימות. ג'ושוע אחיעם, שהתפטר מתפקידו כפוטוריסט הראשי של OpenAI הקיץ לאחר תשע שנים בחברה, כתב ב-X: "מרגיש כמו 1 במרץ 2020 לסייבר. לא נורמלי, משהו קורה. נעילות אינטרנט בעוד כמה חודשים?"
למרות שהחרדות הללו עדיין לא הגיעו לאמריקני הממוצע שלך, מנהיגים עסקיים גדלו יותר ויותר מודאגים. באמצע ספטמבר התכנסו בכירים מכמה מהחברות הגדולות בעולם לפגישה מיוחדת של השותפות לעיר ניו יורק. האורחים המיוחדים שלהם באותו יום היו המלשין האנתרופי ג'ייקוב קוקסון ובכיר משרד ההגנה לשעבר מארק ביאל, שבאו להזהיר אותם מפני האיומים הנשקפים מיכולות הבינה המלאכותית המתפתחות.
היו"רים המשותפים, מנכ"ל פייזר אלברט בורלה ומנכ"ל טישמן שפייר, רוב ספייר, הביטו על המסכים שלהם המלאים במנכ"לים מודאגים מקרנות גידור ובנקים, כמו גם מחברות ביטוח, נדל"ן ותרופות, וציינו שזו אחת ההתכנסויות הגדולות ביותר שלהם מזה שנים. נושא אחד גדול בראשם של הנאספים: התקפות סייבר התומכות בבינה מלאכותית.
במהלך חלק השאלות והתשובות של השיחה, נציג מ-Coinbase הרים את ידו כדי לשאול מה חברות כמו שלו יכולות לעשות כדי להילחם באיום של "מודלים בעלי משקל פתוח בידי שחקנים רעים", מפושעי סייבר ועד מדינות לאום. (מנכ"ל Coinbase בריאן ארמסטרונג, בינתיים, היה אחד התומכים הבוטים יותר של דה-רגולציה, בינה מלאכותית בקוד פתוח.)
מוקדם יותר החודש, יפן הכריזה על "מצב חירום" בעקבות התקפות סייבר גורפות על יותר מ-20 חברות גדולות, מחברות פיננסיות ועד מפעילי רכבות. הרשויות הצרפתיות עדיין מחברות יחד את התעלומה של איך ומדוע האקרים כוונו למקררי סופרמרקטים ברחבי המדינה, והרסו מזון בשווי מיליוני יורו. בינתיים, דו"ח חדש מ-CrowdStrike מציע שהתקפות האחרונות על המגזר הפיננסי של דרום קוריאה בוצעו לכאורה על ידי צעיר בן 26 בסין באמצעות כלי AI בקוד פתוח.
אפילו כאן, התקפות סייבר הפכו כל כך שגרתיות, שאולי פספסת אותן בשטף הכותרות. (האם תפסת את ההפרה המאסיבית של החודש בפרטים האישיים של עובדי ה-FBI? הפגיעה של איראן על יותר מ-30 מערכות מים במינסוטה הקיץ? וזה לא אומר כלום על מאמצים מתגברים של רוסיה להשפיע על בחירות אמצע הקדנציה).
"מרגיש כמו 1 במרץ 2020 עבור סייבר."
הופתעתי לגלות שהדאגות של רוב מומחי אבטחת הסייבר הן פחות אפוקליפטיות ויותר נוכחות מסוגי החזונות הממלאים את ראשיהם של מנכ"לי בינה מלאכותית. בקיצור, הם מאמינים שמערכות בינה מלאכותית עדיין לא גרמו לשינוי פרדיגמה מבחינת היקף הנזק שהן יכולות לגרום. מה שעשה גישה מוגברת לכלי בינה מלאכותית הוא להוריד את מחסום הכניסה אפילו עבור האקרים לא מיומנים כדי לכוון לפירות בעלי תליה נמוכה.
"במהלך השבועות והחודשים הקרובים, התרחיש הסביר יותר הוא שרשת בתי חולים מקומית באוהיו תאבד כוח ומטופלים על תמיכת חיים ימותו כתוצאה מכך; רשת שירות בטקסס לא מקוונת; האורות יכבו בחצי מוויסקונסין", אומר חמזה צ'אודרי, ראש הבינה המלאכותית והביטחון הלאומי במכון Future of Life.
"אנחנו פשוט נמצאים ברגע בלתי עמיד במיוחד, נתקלים במערכות שנועדו לנצל את חוסר החוסן הזה", הוא אומר לי. "לספקים הגדולים ביותר", עם זאת, "יש גם את מירב המשאבים להגן על עצמם, כולל גישה מוקדמת לדגמי AI גבוליים להגנה".
הוא מודה שיש עוד תרחיש אחד שמחזיק אותו ער בלילה. "אני מודאג מאוד מהרגע הגיאופוליטי של חיבוק פנים".
בוועידת האבטחה של מינכן מוקדם יותר השנה, הקבוצה שלו הריצה סימולציה לקהל של גורמי ביטחון לאומי מרחבי המערב: תארו לעצמכם את סין מפתחת יכולת סייבר ברמת המיתוסים, שמגיעה לאחר מכן לידיהם של שכירי החרב בקבוצת וגנר, שפורסים אותה במאלי כדי לכוון לתשתית צבאית צרפתית. ואז, בדומה לתקרית "החיבוק", הסוכנים יוצאים למסע צד לא מכוון ותוקפים תשתית צבאית יבשתית בתוך אירופה. ואז הדברים יוצאים מכלל שליטה. "היה סיכוי אמיתי שסעיף 5 יופעל ונאט"ו יכריז מלחמה על רוסיה" בסימולציה הזו, אומר לי צ'אודרי.
מנהל בדרג גבוה באחת מספקיות האנרגיה הגדולות בעולם אומר לי שהוא מאבד שינה בגלל התשתית המזדקנת, קיצוצים בתקציב ומחסור בכוח אדם. כלי עזר קטנים, הוא אומר, סובלים מ"טלאים שאולי קל לתקן בהינתן המשאבים הדרושים". אבל לעת עתה, "מפעילים פועלים על Windows NT", הוא אומר, בהתייחס למערכת ההפעלה של מיקרוסופט משנות התשעים. תשתית חדשה שמגיעה לאינטרנט כדי לתמוך בבניית מרכזי נתונים אינה טובה בהרבה. התשתית הזו "נבנית במהירות כזו (שאין רגולציה ואין תקנים קשיחים", אומר מנהל האנרגיה. "אבטחה היא מחשבה שלאחר מכן, וזה מפחיד אותי מאוד."
זה החלק בסיפור שבו אני אשמח להרגיע אותך שהכוחות שעבדו קשה בחיזוק מערכות ההגנה שלנו. המציאות היא שהסוכנות לאבטחת סייבר ותשתיות איבדה כמעט שליש מכוח העבודה שלה ומימון של מאות מיליוני דולרים, והיא לא הצליחה למנות מנהל רשמי שיוביל את הסוכנות מאז נכנס ממשל טראמפ לתפקידו בינואר אשתקד. אבל דברים ברמה המדינתית והמקומית הם מה שבאמת מדאיג את המומחים שדיברתי איתם. סקר שנערך לאחרונה על ידי Deloitte בקרב קציני אבטחת מידע ראשיים של המדינה (CISOs) מצא שהתקציבים שלהם לא מצליחים לעמוד בקצב האיומים ההולכים וגדלים – ואף התמודדו עם קיצוצים ב-16% מהמדינה.
"מסיבה כלשהי, תוך הגדלת יכולות הסייבר, למגינים שלנו נגמר הכסף", אומר לי סוהם מהטה, עמית מחקר בקרן לחדשנות אמריקאית. "גָדוֹל."
"אבטחה היא מחשבה שלאחר מכן, וזה מפחיד אותי מאוד."
יש לפחות אינדיקציה שהרשויות מתחילות להתעורר. מוקדם יותר החודש, צוות המשימה החדש של AI הבית הלבן נפגש לראשונה כדי לדון באבטחת סייבר והגנה על תשתיות קריטיות, בין היתר. רבים מקווים ש-frontier AI יעשה יותר כדי לעזור לחברות וממשלות להגן על עצמן מאשר לעזור לתוקפים שלהן – כמו במקרה של הסיוע של OpenAI בגילוי הפגמים ב-PHP. בסקר שנערך בקרב יותר ממאה גורמי ביטחון לאומי בחודש שעבר, 81% אמרו שסביר מאוד שיכולות ההגנה ישתפרו בעזרת AI.
אף אחד מהמומחים שדיברתי איתם לא יעץ לי עדיין לטעון את שקית ה-bug-out. לעת עתה, גורלנו נתון ברובו בידי פקידי הממשלה והמנהלים שצריכים לבחור להשקיע במערכות אבטחה מעודכנות.
הם נתנו במידה רבה את אותה עצה שעבדתי ממנה במשך שנים. הגדר מנהל סיסמאות, כמו גם אימות דו-גורמי בכל מקום שהוא זמין. היזהר מכל הודעות חריגות, ואל תפיל את פרטי כרטיס האשראי שלך לאתרים חשודים. ואולי הכי חשוב: צור קשר עם הנציגים המקומיים שלך כדי לעודד אותם לעדכן את התוכנה הזו משנות ה-90.
