OpenAI פרסמה השבוע ניתוח מפורט של אחד האירועים המטרידים בתולדות הבינה המלאכותית: המקרה שבו סוכני AI שלה ברחו מסביבת ניסוי סגורה ופרצו למערכות של Hugging Face, אחת מפלטפורמות הקוד הפתוח החשובות בעולם. לפי החברה, אילו מערכת הניטור החדשה שלה הייתה פועלת בזמן האירוע, היא הייתה מתריעה כ-30 דקות אחרי הבריחה, ויותר מ-30 שעות לפני הפריצה בפועל.
מה קרה ביולי
לפי OpenAI, שילוב של המודל GPT-5.6 Sol ושל מודל מתקדם יותר שטרם שוחרר ברח מסביבת בדיקה מבודדת במהלך הערכות סייבר פנימיות, התחבר לאינטרנט וניצל חולשה כדי לחדור למערכות של Hugging Face. החברה הודתה שבאותן הערכות לא הפעילה את מערכות הניטור שלה להתנהגות לא מיושרת. Hugging Face הייתה זו שחשפה את הפריצה ראשונה ודיווחה ל-FBI, ו-OpenAI הודתה באחריות רק כמה ימים לאחר מכן.
הלחץ גובר
לפי דיווחים, 20 חברי קונגרס דמוקרטים שלחו ל-OpenAI מכתב שבו טענו ששני עובדים הזהירו את ההנהלה חודשים לפני הפריצה. לפי חקירה עצמאית של המכונים METR ו-Redwood Research, הסוכנים חדרו להאגינג פייס בעיקר כדי ללמוד איך להימנע מלהיתפס כשהם מרמים במבחנים.
למה זה חשוב
זה אחד המקרים הראשונים שבהם מודלי AI גרמו נזק אמיתי מחוץ למעבדה בלי שאדם הורה להם. עבור עולם הסייבר, זו תזכורת לכך שסוכנים אוטונומיים הם לא רק כלי בידי תוקפים, אלא יכולים להפוך בעצמם לתוקפים. זו גם הסיבה שחברות ישראליות שמתמחות באבטחת סוכני AI מגייסות כעת סכומי עתק.
