אנתרופיק, שמכינה את אחת ההנפקות הגדולות בתולדות ההייטק, הכניסה לגרסה המעודכנת של תשקיף ההנפקה שלה, שהוגשה ביום שני, אזהרה שלא רואים כל יום במסמך שנועד לשכנע משקיעים: בינה מלאכותית שמסייעת לפתח בינה מלאכותית עשויה להאיץ את קצב ההתקדמות באופן דרמטי, ואולי מהר יותר ממה שאמצעי הבטיחות יספיקו להדביק.
האזהרה לא חדשה לגמרי. כבר בתשקיף המקורי, שהוגש ב-26 באוקטובר, החברה הזהירה שפיתוח מונחה AI עלול לעקוף את אמצעי ההגנה. ובמאי אמרה אנתרופיק שהיא רואה סימנים לכך שבינה מלאכותית תורמת להאצת המחקר והפיתוח של בינה מלאכותית, וג'ק קלארק, ממייסדי החברה, העריך שמערכת שמסוגלת לשפר את עצמה עשויה להופיע עד 2028.
במסמכים שפרסמה החברה היא משרטטת כמה תרחישים, מהאטה ועד "שיפור עצמי רקורסיבי" מלא, ומדגישה שהיא מודאגת בעיקר מהתרחישים המהירים, שבהם לממשלות ולחברה לא יהיה זמן להסתגל. אנתרופיק מדגישה שאוטונומיה מלאה עוד לא כאן, ולפי דוח הסיכונים שלה מאוגוסט, ההאצה שנמדדה עדיין מתחת לסף שהיא הגדירה.
הסתירה ברורה: החברה שמזהירה מפני ההאצה היא גם אחת שמובילות אותה, ומבקשת ממשקיעים סכומי עתק כדי להמשיך. בעיני אנתרופיק אין כאן סתירה: הטענה שלה היא שעדיף שחברה שמתייחסת לסיכונים ברצינות תהיה בחזית. המשקיעים, בכל מקרה, מקבלים את האזהרה בכתב.
