Fireworks AI, פלטפורמה להרצה ולאימון של מודלי בינה מלאכותית, חשפה פריצה שנייה בתוך כחודש. הפעם התוקפים הגיעו דרך ספק ענן חיצוני שאירח את מחשבי המחקר והפיתוח של החברה, ולפי Notion, אחת מלקוחותיה, נחשפו גם תמלילים של שיחות עם Notion AI.

מה קרה?

לפי Fireworks, ספק הענן נפרץ ב-23 באוקטובר, ויום לאחר מכן התוקפים השתמשו בגישה כדי להגיע למערכות הפיתוח של החברה ולהריץ עליהן עומס עבודה לא מורשה. הם ניגשו למידע על משאבים, כמו מזהים ושמות, ולפרטי חיוב של לקוחות, כולל כתובות והיסטוריית תשלומים. אצל מספר מצומצם של חשבונות נחשפו גם סודות, מאגרי נתונים ומודלים שלא הושלמו. החברה לא פירטה כמה לקוחות נפגעו ומי ספק הענן.

ומה עם Notion?

Notion הודיעה שפחות מ-1% מסביבות העבודה שלה עשויות להיות מושפעות. לפי החברה, מדובר בתמלילי שיחות עם Notion AI ששימשו לפיצ'ר בשם Insights, בלי שיוך למשתמש או לסביבת עבודה, ובלי תוכן של עמודים או מידע חיצוני ש-Notion AI שלפה. Notion מדגישה שלא מדובר בפריצה למערכות שלה. לפי בלומברג, Fireworks בודקת את ההשפעה גם עם לקוחות נוספים, בהם Cursor ו-Harvey.

מי עומד מאחורי זה?

Fireworks מעריכה שהתוקפים קשורים לפושעים שעוסקים ב-LLMJacking: גניבת גישה למודלי AI ומכירתה דרך שערים לא חוקיים. זו אותה תופעה שעמדה מאחורי גל הפריצות לפלטפורמות AI באוקטובר. החברה שכרה את Unit 42 של פאלו אלטו לחקירה.

הלקח

הסיפור הזה מראה איך סיכון עובר בשרשרת: משתמש ב-Notion לא בחר ב-Fireworks ולא שמע עליה, אבל השיחות שלו עברו דרכה. כל חברה שמשלבת AI במוצר שלה, כולל הרבה חברות ישראליות, צריכה לשאול לא רק איפה הנתונים שלה נשמרים, אלא דרך אילו ספקים הם עוברים, ומה הם שומרים אחרי שהשיחה נגמרת.