כמעט בכל דוח של חברת שבבים השנה הופיעו שלוש אותיות: HBM. נובה מרחובות סיפרה שההכנסות שלה בתחום הגיעו לשיא, קמטק ממגדל העמק מוכרת מערכות שבודקות שבבי HBM, וקוואלקום הודיעה שהיא מעלה מחירים בין היתר בגלל המחסור בזיכרון. אז מה זה בעצם, ולמה זה כל כך חשוב?
HBM הוא ראשי תיבות של High Bandwidth Memory, זיכרון בעל רוחב פס גבוה. כדי להבין למה צריך אותו, צריך להבין איך עובד שבב בינה מלאכותית. שבב כמו של אנבידיה מבצע מיליארדי חישובים בשנייה, אבל הוא צריך לקבל את הנתונים לחישובים האלה מהזיכרון. אם הזיכרון איטי, השבב פשוט מחכה. במודלים גדולים של בינה מלאכותית, שבהם צריך להעביר כמויות עצומות של נתונים כל הזמן, הזיכרון הפך לגורם שמגביל את המהירות יותר מהמעבד עצמו.
הפתרון של HBM הוא לבנות לגובה. במקום שבב זיכרון אחד, נערמים כמה שבבים זה על גבי זה, כמו קומות בבניין, ומחוברים באלפי חיבורים זעירים שעוברים דרכם. את הערימה הזו מצמידים ממש ליד שבב הבינה המלאכותית, באותה "אריזה", כך שהנתונים עוברים מרחק קצר מאוד ובמהירות גבוהה מאוד. התוצאה היא זיכרון מהיר בהרבה, אבל גם מסובך ויקר בהרבה לייצור.
כאן מתחילה בעיית המחסור. רק שלוש חברות בעולם מייצרות HBM בהיקף משמעותי: SK הייניקס וסמסונג מקוריאה ומיקרון האמריקאית. כשהן מסיטות קווי ייצור ל-HBM, שמשתלם להן יותר, נשאר פחות זיכרון רגיל לטלפונים, למחשבים ולקונסולות. זו אחת הסיבות לכך שמחירי הזיכרון זינקו השנה, ושיצרניות טלפונים ושבבים מעלות מחירים. בפועל, הבינה המלאכותית מייקרת גם מכשירים שאין להם שום קשר אליה.
והקשר לישראל? כל קומה בערימת HBM היא שכבה נוספת שבה משהו יכול להשתבש, וכל חיבור זעיר הוא נקודת כשל אפשרית. לכן ייצור HBM דורש הרבה יותר מדידות ובדיקות מייצור זיכרון רגיל. זה בדיוק התחום של נובה וקמטק, ובגלל זה המחסור העולמי בזיכרון מתורגם אצלן לרבעוני שיא.
