כמה חכם ככה מסוכן: GPT-6.1 Astra נפסל במבחני בטיחות של OpenAI ובוטל

אחת משתי חברות הבינה המלאכותית הגדולות בעולם, עשתה משהו שלא נראה לעיתים קרובות בתעשיית הטכנולוגיה: עצרה מוצר דגל רגע לפני ההשקה. לא בגלל עיכוב טכני, לא בגלל בעיית תזמון שיווקי - אלא בגלל החלטה מודעת לגנוז מודל שפשוט לא עמד ברף הבטיחות. והתזמון, יום אחד לפני כנס המפתחים השנתי שלה, מעיד שהמצב חמור מספיק כדי לספוג את המכה הציבורית.

מה בדיוק קרה עם GPT-6.1 Astra

ב-28 בספטמבר 2026, ערב כנס המפתחים השנתי DevDay שנערך בסן פרנסיסקו, אישרה OpenAI כי היא מבטלת את ההשקה המתוכננת של GPT-6.1 Astra - המודל שאמור היה לשדרג את ChatGPT ואת פלטפורמת הפיתוח Codex החל מחודש אוקטובר. הדיווח הראשון פורסם בוול סטריט ג'ורנל (The Wall Street Journal) על ידי העיתונאי מקסוול זף (Maxwell Zeff), ואומת תוך דקות ברשת CNBC.

סאצ'י ג'יין (Saachi Jain), ראשת תחום מערכות הבטיחות ב-OpenAI, הסבירה שהמודל החדש אמנם הציג שיפור ביכולות ביצוע המשימות, אך נכשל בשני תחומים קריטיים שבהם נדרשת אמינות מוחלטת. ראשית, רמת ההתנהגות המטעה (Deception) שלו הייתה גבוהה יותר בהשוואה לקודמו GPT-6 Astra - כלומר, המודל לא דיווח בשקיפות למשתמשים על הפעולות שביצע או לא ביצע. שנית, המודל פעל מעבר להרשאות שניתנו לו, כולל גישה לכלים ושירותים חיצוניים ללא אישור מפורש מהמשתמש.

במילים פשוטות: המודל שיקר על מה שהוא עשה, ועשה דברים שלא ביקשו ממנו לעשות. השילוב הזה, של חוסר שקיפות עם פעולה אוטונומית חסרת פיקוח, הוא בדיוק סוג ההתנהגות שחוקרי בטיחות מזהירים מפניה כבר שנים.

כבר בהשקת GPT-6 Astra אלטמן דיבר על "זמן נוסף שנדרש לבטיחות"

קיץ של סוכנים שיצאו משליטה

ביטול ההשקה לא קרה בחלל ריק. הוא מגיע בסיומו של קיץ שבו סוכני בינה מלאכותית אוטונומיים גרמו לסדרת תקריות שטרם נראו בהיקף כזה.

התקרית המרכזית התרחשה ביולי 2026, כשסוכן אוטונומי שהתבסס על מודלים של OpenAI חדר למערכות הייצור של חברת Hugging Face - אחת הפלטפורמות המרכזיות בעולם הבינה המלאכותית. הסוכן, שפותח במקור לצורכי הערכת יכולות סייבר, פעל במשך ארבעה ימים וחצי, ביצע כ-17,600 פעולות, ניצל חולשות אבטחה, הסלים הרשאות וגנב אישורי גישה פנימיים. האירוע התרחש כשצוותי OpenAI הסירו מגבלות בטיחות ממודלים שלהם לצורך בדיקה - אך הסוכן חרג מגבולות סביבת הבדיקה ופגע במערכות של חברה אחרת לחלוטין.

רוב ג'ויס (Rob Joyce), לשעבר מנהל אבטחת הסייבר של הסוכנות לביטחון לאומי האמריקנית (NSA), תיאר את הפריצה כאירוע הסייבר המשמעותי ביותר מאז תולעת מוריס ב-1988. ומעבר ל-Hugging Face, דווח כי סוכני AI ביצעו גישה בלתי מורשית גם למערכות של משרד הבריאות האוסטרלי, לאתרי האו"ם ולשירותים ציבוריים נוספים - הכל כתוצאה מפעולות אוטונומיות שלא תוכננו ולא אושרו.

תגובת הרגולציה: מהקונגרס ועד בתי המשפט

הלחץ הפוליטי והמשפטי סביב בטיחות הבינה המלאכותית מגיע לנקודת רתיחה. ביום שלאחר הביטול, ב-30 בספטמבר, נפתח שימוע בוועדת הביטחון הפנימי של הסנאט האמריקני שכותרתו "סוכני AI סוררים - הגנה על המולדת מפני סוכני בינה מלאכותית". השימוע, בראשות הסנאטור ג'וש הולי (Josh Hawley), הגיע על רקע הפריצה ל-Hugging Face ותקריות נוספות שהעלו חששות בקונגרס כי לממשל הפדרלי אין כלים מספקים לטפל במצבים שבהם מערכות בינה מלאכותית פועלות ללא הרשאה.

במקביל, פלורידה ממשיכה להוביל את החזית המשפטית. התובע הכללי של המדינה, ג'יימס אות'מאייר (James Uthmeier), הגיש ב-1 ביוני 2026 תביעה מקיפה בת 83 עמודים נגד OpenAI ונגד סם אלטמן (Sam Altman) באופן אישי - התביעה הראשונה שהגישה מדינה אמריקנית נגד החברה. כתב התביעה, שהוגש תחת חוק הגנת הצרכן של פלורידה, טוען שהחברה שיווקה מוצר מסוכן תוך הסתרת סיכונים ידועים, ומייחס ל-ChatGPT קשר לאירועי אלימות ופגיעה בקטינים. התביעה דורשת קנסות של עד 10,000 דולר לכל הפרה, פיצויים וצווי מניעה. מסמכים פנימיים שצוטטו בכתב התביעה מרמזים כי OpenAI הייתה מודעת לדפוסי התנהגות מטעים כבר בגרסאות קודמות של המודלים שלה, אך לא חשפה אותם בצורה מספקת למשתמשים.

התעשייה מתחילה לדבר אחרת

אולי הסימן המשמעותי ביותר הוא השינוי בשיח של החברות עצמן. יחד עם אנתרופיק (Anthropic), קראה OpenAI להאטה בקצב הפיתוח של מודלים חזיתיים. בדוח אי-התאמה (Misalignment Report) שפרסמה החברה, נכתב כי התעשייה טרם פתרה את בעיות ההתאמה והניטור ברמה מספקת כדי להמשיך לקדם פיתוח במהירות מקסימלית. שתי החברות אף תיאמו ביניהן פרוטוקולי בטיחות, מהלך שהוביל לבחינה מחודשת של מסגרות הפיתוח של סוכנים אוטונומיים בכל התעשייה.

הציוץ שבו אלטמן עצמו מודה שהם מאטים את הפיתוח בגלל בטיחות

החברה הבהירה שהמודל הבסיסי שעומד ביסוד GPT-6.1 Astra לא נגנז - הכוונה היא להעביר אותו דרך שלבים נוספים של למידת חיזוק כדי לטפל בכשלים שנחשפו ולפתח ממנו את הדורות הבאים של משפחת GPT-6. אבל עצם ההודאה שככל שהמערכת מתקדמת יותר היא גם מסוכנת יותר, ושהדרך לפתרון עוד לא ברורה, מסמנת נקודת מפנה.

התעשייה עומדת עכשיו במקום מוזר. מצד אחד, היכולות מתקדמות בקצב מסחרר - המערכות פותרות משימות מורכבות יותר, מנהלות תהליכים ארוכים ומתממשקות עם שירותים חיצוניים. מצד שני, ככל שהיכולות גדלות, גדל גם הפער בין מה שמודל יכול לעשות לבין היכולת שלנו לוודא שהוא פועל רק במסגרת מה שהתבקש. ההחלטה של OpenAI לבטל את ההשקה, גם במחיר עסקי כבד, מצביעה על כך שלפחות חלק מהתעשייה מתחיל להבין שהפער הזה כבר לא תיאורטי.