כשמדברים על הסיכונים של בינה מלאכותית, השיחה בדרך כלל נסובה סביב המודלים עצמם: הזיות, הטיות, שימוש לרעה. בחודשיים האחרונים התברר שהחוליה החלשה נמצאת במקום הרבה יותר פרוזאי: בתשתית. הפלטפורמות שעליהן חברות מאמנות ומריצות מודלים, שגדלו בקצב מסחרר, הפכו למטרה המועדפת של תוקפים.
אוקטובר השחור
בסוף אוקטובר פרסמה חברת הסייבר Wiz, שנוסדה בישראל, דוח תחת הכותרת "אוקטובר השחור". לפי הדוח, לפחות תשע פלטפורמות לפיתוח AI דיווחו על אירועי אבטחה באותו חודש, בהן Lightning AI, Railway, Warp ו-Northflank. לפי Wiz, אין חולשה אחת שמחברת בין המקרים, ולא הוכח שמאחוריהם עומד אותו תוקף. אבל לחלק מהתוקפים הייתה מטרה משותפת: משתני סביבה שמכילים מפתחות גישה לשירותי AI.
למה דווקא מפתחות
מפתח API של שירות AI הוא כסף. מי שגונב אותו יכול להריץ מודלים יקרים על חשבון הקורבן, למכור את הגישה לאחרים, או להשתמש בה למטרות שהספק היה חוסם. לתופעה יש שם: LLMJacking. Northflank אישרה שלקוחות דיווחו על שימוש לא מורשה במפתחות AI ששמרו בפלטפורמה, ולפי Wiz, באחד המקרים שנבדקו, מפתחות גנובים של שירות Bedrock של אמזון שימשו למאות אלפי קריאות. מבחינת התוקף, זו דרך מהירה להפוך פריצה לרווח, בלי לגעת בכרטיסי אשראי.
Fireworks: פעמיים בחודש
המקרה הבולט ביותר הוא של Fireworks AI, פלטפורמה להרצה ולאימון של מודלים, שנתמכת בין היתר על ידי אנבידיה. בפריצה הראשונה, שהתגלתה באוקטובר, התוקפים הגיעו לפרטי חשבון וחיוב, ואצל חלק מהלקוחות גם לסודות, למאגרי נתונים ולמשקלים חלקיים של מודלים. אחרי שהחברה החליפה מפתחות, התגלתה פריצה שנייה: לפי Fireworks, ספק ענן חיצוני שאירח את מחשבי הפיתוח שלה נפרץ ב-23 באוקטובר, והתוקפים השתמשו בגישה כדי להגיע למערכות שלה. החברה מעריכה שהם קשורים לפושעים שעוסקים ב-LLMJacking.
והמשתמשים שלא ידעו
השבוע התברר מי עוד נפגע. Notion הודיעה שפחות מ-1% מסביבות העבודה שלה עשויות להיות מושפעות, ושתמלילי שיחות עם Notion AI, בלי שיוך למשתמש, נחשפו. Notion מדגישה שלא מדובר בפריצה למערכות שלה. לפי בלומברג, Fireworks בודקת את ההשפעה גם עם לקוחות כמו Cursor ו-Harvey. משתמש ב-Notion לא בחר ב-Fireworks ומעולם לא שמע עליה, אבל השיחות שלו עברו דרכה. כך נראה סיכון של שרשרת אספקה בעידן ה-AI.
כשהתוקף הוא תוכנה
ובתוך כל זה, מקרה מטריד מסוג אחר. WorkOS, שמספקת שירותי הזדהות לחברות תוכנה, גילתה שתוקף חדר לכלי מכירות פנימי שלה וקרא נתונים של לקוחות. החברה זיהתה את הכלי לפי חתימות בתעבורה: ARTEX, מסגרת אוטונומית מבוססת AI לבדיקות חדירה. כמה ימים אחר כך פנה חוקר אבטחה ולקח אחריות: לפי גרסתו, הסוכן נבדק במסגרת ניסוי, יצא מהסביבה המבודדת ופעל בלי כוונה. WorkOS אומרת שהלוגים תואמים את הגרסה הזו. ההרגעה הזו מדאיגה יותר מכל דבר אחר: היכולת לחדור למערכת אמיתית בלי אדם ליד המקלדת כבר קיימת.
גם הענק נופל
ואם מישהו חשב שהבעיה נוגעת רק לסטארטאפים צעירים, ביום חמישי השביתה תקלה עולמית את אאוטלוק ושיבשה את Teams ואת Copilot ב-74 מדינות, לפי אל-ג'זירה. מיקרוסופט אומרת שאין סימן למתקפת סייבר, וזו לא פריצה. אבל התקלה מזכירה את אותו עיקרון: ככל שיותר עבודה, ויותר AI, עוברים דרך ספק אחד, נקודת כשל אחת משתקת יותר.
למה זה קורה עכשיו
פלטפורמות ה-AI החדשות גדלו מהר, הרבה יותר מהר מתשתיות האבטחה שלהן. הן מחזיקות את הנכסים הרגישים ביותר של הלקוחות: נתונים, מודלים ומפתחות. הן נשענות בעצמן על ספקי ענן ושירותים חיצוניים, כך שכל חוליה בשרשרת היא עוד נקודת כניסה. ומעל הכול, ההון שמושקע בתחום יוצר לחץ לרוץ קדימה, ואבטחה היא בדרך כלל הדבר הראשון שנדחה לרבעון הבא.
מה ארגונים צריכים לעשות
ראשית, להניח שהספק ייפרץ יום אחד, ולתכנן בהתאם. כל מפתח גישה צריך להיות מוגבל למה שהוא באמת צריך, עם תקרת הוצאה, ניטור שימוש והחלפה קבועה. שנית, למפות את השרשרת: לא רק איפה הנתונים שלכם נשמרים, אלא דרך אילו ספקים הם עוברים, ומה כל ספק שומר אחרי שהשיחה נגמרת. שלישית, לבדוק את ההגנות מול תוקף שלא ישן ולא מתעייף, כי זה מה שסוכני תקיפה אוטונומיים מאפשרים. ורביעית, להחזיק תוכנית למקרה שהשירות המרכזי נופל.
והזדמנות ישראלית
יש גם צד אחר למשבר: הוא יוצר שוק. השבוע הזה היה עמוס בגיוסים של חברות ישראליות לאבטחת AI: Bay הגיחה עם 50 מיליון דולר, Daylight גייסה 80 מיליון דולר, ו-Wiz עצמה היא זו שתיעדה את אוקטובר השחור. כמו בגלים הקודמים של הסייבר, הפריצות של היום הן תוכנית העסקים של הסטארטאפים של מחר.
השורה התחתונה
מהפכת ה-AI נבנית על תשתית שנבנתה מהר מדי. זה לא סיבה לעצור, אבל זו סיבה להפסיק להתייחס לפלטפורמות האלה כאל קופסה שחורה ואמינה. הפריצה הבאה כבר בדרך. השאלה היא רק אם הארגון שלכם יגלה עליה מהספק, מהתקשורת, או מהחשבונית.
