ההכרזה על Jalapeño מכניסה את OpenAI לשכבה שבה נקבעים המחיר, המהירות והתלות של מוצרי AI גדולים. השבב החדש, שתוכנן עם ברודקום (Broadcom), מיועד ל-inference, כלומר לשלב שבו מודל שכבר אומן מקבל בקשה ממשתמש ומייצר תשובה, קוד, ניתוח או פעולה. זה בדיוק השלב שבו ChatGPT, Codex וה-API צריכים להגיב מהר, בזול ובאמינות גם תחת עומסים כבדים. עבור OpenAI, זו הכרזת חומרה עם משמעות רחבה יותר. החברה מנסה לקחת לידיה חלק גדול יותר מהתשתית שמפעילה את המוצרים שלה.
רוצים לקבל עדכונים בלייב? רוצים מקום בו אתם יכולים להתייעץ עם מומחי AI, לשאול שאלות ולקבל תשובות? רוצים לשמוע על מבצעים והטבות לכלי ה-AI שמשנים את העולם? הצטרפו לקהילות ה-AI שלנו.
אפשר גם להרשם לניוזלטר שלנו
השבב הראשון של OpenAI הוא קודם כל מהלך תשתיתי
Jalapeño הוא "Intelligence Processor", כלומר מאיץ שנבנה מראש להרצת מודלי שפה גדולים. התכנון שלו נשען על הניסיון היומיומי של OpenAI בהפעלת ChatGPT, Codex וה-API, מהרגע שבו בקשה נכנסת למערכת ועד שהתשובה חוזרת למשתמש. לכן הדגש אינו מסתכם בכוח חישוב. הוא כולל גם זיכרון, תעבורת נתונים, זמני תגובה ויכולת לעמוד בעומסים כבדים.
כאן נכנסים השותפים. ברודקום מביאה ניסיון ביישום סיליקון וברשתות תקשורת מהירות, Celestica מעורבת בשילוב המערכות, ו-TSMC צפויה להיות חוליה מרכזית בייצור. זה אומר ש-OpenAI מתקרבת לשכבת החומרה, אבל עדיין נשענת על תעשייה שלמה כדי להפוך תכנון שבב למערכת שאפשר לפרוס בדאטה סנטרים.
החשיבות של Jalapeño אינה כמוצר חדש למכירה. בשלב זה הוא מיועד לשימוש פנימי, ככלי שאמור לשפר את כלכלת ההרצה של OpenAI ולהעניק לה יותר מרחב פעולה בשוק שבבים יקר וצפוף.
הרצת מודלים בקנה מידה עצום
הבחירה להתמקד ב-inference מספרת הרבה על השלב שבו נמצאת תעשיית ה-AI. בשנים הראשונות של המרוץ, תשומת הלב הופנתה בעיקר לאימון מודלים גדולים יותר. עכשיו, כאשר ChatGPT, Codex ושירותי API הופכים למוצרים יומיומיים, חלק משמעותי מהעלות נמצא בהרצה השוטפת שלהם מול משתמשים אמיתיים.
גרסאות בדיקה של Jalapeño כבר פועלות במעבדות של OpenAI ומריצות משימות AI בתנאים שקרובים לאלו שבהם השבב אמור לפעול בפועל. ההבטחה המרכזית היא יעילות גבוהה יותר, כלומר יותר תשובות, קוד ופעולות על אותה צריכת חשמל. בקנה מידה של מיליוני משתמשים, גם שיפור קטן יכול להפוך להבדל גדול בעלויות, בזמני תגובה ובזמינות השירות.
כאן חשוב להדגיש ש-OpenAI עדיין לא פרסמה דוח ביצועים מלא, ולכן מוקדם לדעת עד כמה Jalapeño יעמוד בהבטחות מחוץ למעבדה.
Broadcom מקבלת תפקיד עמוק יותר במרוץ ה-AI
צריך להסתכל על Jalapeño כחלק מתשתית ארוכת טווח, ולא כשבב בודד. Broadcom מדברת על פריסה בקנה מידה של גיגה-וואטים עם Microsoft ושותפים נוספים החל מ-2026, כלומר על מערכות דאטה סנטר שלמות שייבנו סביב הדורות הבאים של AI.
עבור OpenAI, זהו גם מהלך אסטרטגי מול Nvidia. השבב שלה לא צפוי להחליף ביום אחד את מערכות המחשוב שעליהן החברה נשענת כיום, אבל הוא יכול לתת לה מסלול נוסף, מותאם יותר לצרכים שלה, ולהפוך את התלות בספקי שבבים חיצוניים לפחות מוחלטת.
למה זה חשוב למשתמשים
עבור המשתמש הרגיל, שבב חדש נשמע כמו עניין רחוק. בפועל, אם Jalapeño יעמוד בהבטחות, ההשפעה יכולה להגיע עד חוויית השימוש עצמה. תשובות מהירות יותר ב-ChatGPT, משימות ארוכות יותר ב-Codex, API יציב יותר למפתחים וזמינות טובה יותר בזמן עומס.
המשמעות העסקית רחבה יותר. ככל שעלות ההרצה יורדת, קל יותר להציע מודלים מתקדמים ליותר משתמשים, לשלב יכולות AI במוצרים ארגוניים ולהפעיל סוכנים שמבצעים משימות מורכבות לאורך זמן. אבל יש גם מחיר לריכוז הזה. ככל ש-OpenAI שולטת ביותר שכבות של התשתית, היתרון שלה כבר לא מסתכם במודל טוב יותר, אלא נשען על מערכת שלמה, מהשבב ועד הממשק.
Jalapeño עדיין צריך להוכיח את עצמו מחוץ למעבדה. הביצועים, העלות והיכולת לפרוס אותו בקנה מידה רחב יתבררו רק בהמשך. אבל עצם הפיתוח שלו מראה מה מעסיק עכשיו את שוק ה-AI. המודל החכם ביותר כבר לא מספיק. החברות שמובילות את התחום צריכות גם לדעת להפעיל אותו מהר, בזול ובאמינות מול מיליוני משתמשים. עבור OpenAI, השבב הוא ניסיון להפוך את המחשוב מצוואר בקבוק ליתרון תחרותי. זו הסיבה שהסיפור כאן גדול יותר מהכרזה על עוד רכיב חומרה.
