כשמפתח תוכנה רוצה לשלב מודל בינה מלאכותית במוצר שלו, הוא מקבל מהספק, OpenAI, גוגל, Anthropic או ספקית ענן, מפתח API: מחרוזת ארוכה של תווים שמזהה אותו ומאפשרת לשלוח בקשות למודל. כל בקשה נרשמת על החשבון של בעל המפתח ומחויבת לפי השימוש. מי שמחזיק את המפתח יכול להשתמש בשירות, ולשלם עליו, בלי לדעת סיסמה ובלי לעבור אימות נוסף.
LLMjacking, שילוב של LLM (מודל שפה גדול) ו-hijacking (חטיפה), הוא גניבה של מפתחות כאלה. התוקפים מחפשים מפתחות שנשכחו בקוד שפורסם בגיטהאב, במשתני סביבה של שרתים שנפרצו, או בפלטפורמות פיתוח שבהן מפתחים שומרים אותם. ברגע שהמפתח בידיהם, הם יכולים להריץ מודלים יקרים בכמויות עצומות על חשבון הקורבן.
מה עושים עם מפתח גנוב? לפעמים פשוט מוכרים גישה זולה למודלים מתקדמים בשוק שחור, לאנשים שלא רוצים או לא יכולים לשלם בעצמם. לפעמים משתמשים בו כדי לייצר תוכן שהספק היה חוסם בחשבון רגיל, כמו פישינג או הונאות, כי הפעילות נרשמת על שם הקורבן. ולפעמים פשוט מנצלים כוח חישוב יקר לכל מטרה.
הנזק יכול להיות גדול ומהיר. חברת Wiz, שפרסמה בסוף אוקטובר דוח על גל פריצות לפלטפורמות AI, תיארה מקרה שבו מפתחות גנובים של שירות Bedrock של אמזון שימשו למאות אלפי קריאות. מפתח שלא הוגבל בתקציב יכול לייצר חשבונית של עשרות אלפי דולרים ויותר בתוך ימים, ולפעמים הקורבן מגלה את זה רק כשהחשבונית מגיעה.
למה זה קורה דווקא עכשיו? כי מפתחות AI הפכו לנכס בעל ערך כספי ישיר, וכי מפתחים רבים, במיוחד בסטארטאפים קטנים, עדיין מתייחסים אליהם כמו לפרט טכני ולא כמו לכרטיס אשראי. ההגנה מתחילה בשינוי התפיסה: מפתח API של שירות AI הוא כסף, וצריך לשמור עליו בהתאם.
