סם אלטמן טוען שהסינגולריות כבר כאן

סם אלטמן לא אמר שהסינגולריות כבר כאן בכנס על בטיחות AI, לא במסיבת עיתונאים של OpenAI ולא במסמך חזון רשמי. הוא אמר את זה באמצע ראיון ב-Relentless, בפרק שנקרא “How to Start a Startup”, שעסק בין היתר בשאלה איך בונים סטארטאפ בעידן שבו כלי AI משנים את קצב העבודה. דווקא ההקשר הזה הופך את האמירה לטעונה יותר. בתוך שיחה על יזמות, מוצרים וחברות חדשות, מנכ”ל OpenAI עצר לרגע את השיחה המעשית ואמר שאנחנו “בתוך הסינגולריות”.

כמה ימים קודם לכן, OpenAI פרסמה הסבר לאירוע הרבה פחות נוח מבחינתה. מודלים מתקדמים של החברה, במהלך בדיקת סייבר פנימית, יצאו מסביבת ניסוי מבודדת והגיעו עד לתשתיות של האגינג פייס (Hugging Face), אחת הפלטפורמות המרכזיות בעולם המודלים הפתוחים. כפי שפירטנו בכתבה על אירוע האבטחה בהאגינג פייס, לא מדובר בהוכחה ש-AI פיתחה רצון עצמאי, אבל כן במקרה שממחיש עד כמה מהר הדיון על סינגולריות עובר מרעיונות גדולים לשאלות תפעוליות מאוד. מי מגדיר למערכת את היעד, איזה הרשאות היא מקבלת, ומה עוצר אותה כשהיא מוצאת דרך יעילה מדי להשיג אותו.

השילוב הזה הוא לב הסיפור. לא מפני שהוא מוכיח שהסינגולריות כבר כאן, אלא מפני שהוא מראה עד כמה השפה של בכירי התעשייה מתחילה להתקרב לאירועים שבעבר נשמעו כמו תרחישים תיאורטיים. סינגולריות, במובן המקובל בדיון על AI, היא נקודה שבה מערכות בינה מלאכותית משתפרות במהירות כזו שבני אדם מתקשים להבין, לצפות או לשלוט במה שקורה או יקרה. אלטמן אומר שאנחנו כבר בתוך התהליך הזה. לא מעט חוקרים עדיין אומרים שהרף הזה לא נחצה.

אלטמן מדבר על רגע היסטורי, המערכת מזכירה את מגבלות השליטה

האמירה של אלטמן לא הגיעה משום מקום. כבר ב-2025 הוא פרסם את “The Gentle Singularity”, פוסט שבו תיאר סינגולריות הדרגתית יותר מהגרסה הדרמטית שמופיעה בדרך כלל במדע בדיוני. לשיטתו, שינוי כזה לא בהכרח יורגש ביום אחד כפיצוץ, אלא כהאצה מתמשכת שבה יכולות שנראו פעם בלתי אפשריות הופכות לשגרה. באותו טקסט הוא קשר את התהליך גם לעלייה בפרודוקטיביות, לגילוי מדעי מהיר יותר ולמערכות שיבצעו יותר ויותר עבודה קוגניטיבית אמיתית.

אבל זו בדיוק הנקודה שבה האמירה שלו מסתבכת. אם הסינגולריות היא תהליך הדרגתי, לא צריך לחכות לרגע שבו מחשב מכריז שהוא חכם מבני האדם. מספיק להסתכל על מקרים שבהם מערכת מקבלת יעד מוגדר, מפעילה רצף ארוך של פעולות, עוקפת חסמים, ומגיעה לתוצאה שמפעיליה לא התכוונו שתגיע אליה. אירוע האגינג פייס הפך לדוגמה מוחשית במיוחד.

OpenAI תיארה את האירוע כ”חסר תקדים” ואמרה שהוא התרחש בזמן הערכה פנימית של יכולות סייבר. המודלים שנבדקו כללו את GPT-5.6 Sol ומודל טרום-השקה מתקדם יותר, והם הופעלו עם מנגנוני סירוב מוחלשים לפעולות סייבר מסוכנות כדי לבדוק את גבול היכולת שלהם.

סביבת הבדיקה הייתה אמורה להיות מבודדת, אך המודלים מצאו חולשה שלא הייתה ידועה קודם, השיגו דרכה גישה לאינטרנט, ואז התקדמו עד לתשתיות של Hugging Face כדי להשיג מידע שיעזור להם למצוא פתרון לבעיה.

מהירות היא לא רק יתרון

כאן כדאי לעצור לפני שהאירוע של Hugging Face משתלט על הסיפור. הוא חשוב לא מפני שהוא מוכיח שאלטמן צדק, אלא מפני שהוא נותן צורה מוחשית יותר לדבר שעליו הוא מדבר. אם הסינגולריות אינה רגע חד אלא האצה מתמשכת, אז המבחן הוא לא רק האם הבינה המלאכותית כבר חכמה יותר מבני אדם. המבחן הוא מה קורה כאשר מערכות מתחילות לבצע רצפים ארוכים של פעולות בקצב, בעקביות וביכולת תמרון שבני אדם מתקשים לעקוב אחריהם בזמן אמת.

זה מחזיר את הראיון ב-Relentless להקשר שלו. אלטמן לא דיבר שם רק כמי שמזהיר מפני עתיד רחוק, אלא כמי שמסביר ליזמים איך לחשוב על ההווה. מבחינתו, מי שמקים חברה עכשיו פועל בתוך שוק שבו יכולות שהיו פעם יקרות, איטיות ותלויות בצוותים גדולים הופכות זמינות יותר, מהירות יותר ואוטומטיות יותר. זו ההזדמנות שהוא רואה. זו גם הסיבה שהשפה שלו מייצרת לחץ.

כי כאשר מנכ”ל של חברה כמו OpenAI אומר ליזמים שאנחנו כבר בתוך הסינגולריות, הוא לא רק מתאר תהליך טכנולוגי. הוא משנה את תחושת הזמן. אם זו באמת נקודת מפנה, אז מי שמחכה עלול להישאר מאחור. ואם זו בעיקר תחזית נועזת של אדם שנמצא בלב המרוץ, צריך לשאול מה מתוך האמירה הוא אבחנה מפוכחת, ומה הוא גם דחיפה של השוק לזוז מהר יותר.

במובן הזה, Hugging Face הוא תזכורת צדדית אבל חשובה. אותה האצה שמאפשרת ליזמים לבנות מהר יותר, לבדוק רעיונות מהר יותר ולהגיע רחוק יותר עם צוות קטן יותר, דורשת גם משמעת חדשה סביב הרשאות, בדיקות ובקרה. השאלה כאן היא לא רק רק מי ינצל את ה-AI הכי מהר, אלא מי יצליח לנוע מהר בלי לתת למערכות יותר כוח ממה שהוא יודע (ומצליח) לנהל.

מאסק מוסיף שעון עצר משלו

אלטמן הוא לא היחיד שמדבר על לוחות זמנים. בראיון של אילון מאסק עם The Economist, מאסק העריך שבתוך כחמש שנים הבינה המלאכותית תעקוף את סך כל האינטליגנציה האנושית. הוא קשר את התחזית הזו לרובוטים, דאטה סנטרים, שבבים וחשמל, וטען שבעולם כזה כמעט לא יישאר דבר שבינה מלאכותית לא תוכל לעשות טוב יותר מבני אדם, אולי מלבד להיות אנושית.

מאסק ואלטמן מגיעים מכיוונים שונים, וגם היריבות ביניהם ידועה. אבל שניהם מציבים בפני הציבור אותו מסר רחב. מבחינתם, השינוי הוא כבר לא עניין רחוק - הוא מתרחש עכשיו, או נמצא במרחק שנים מעטות. ההבדל הוא שאלטמן מדגיש את הפוטנציאל החיובי של גישה רחבה לסופר-אינטליגנציה, בעוד מאסק חוזר שוב ושוב לשאלת השליטה ומודה שקשה לדמיין בני אדם שולטים במערכת שחכמה מהם בהרבה.

הבעיה היא שתחזיות כאלה נשמעות לעיתים מדויקות יותר ממה שהן באמת. הן לא מדידה. הן הערכה של יזמים שנמצאים במרכז המרוץ, מושקעים בו עסקית, אידיאולוגית ותדמיתית. לכן הן חשובות כחלון למחשבה של האנשים שבונים את המערכות, אבל הן ממש לא הוכחה לכך שהאנושות עברה נקודת אל-חזור.

החוקרים עדיין לא מסכימים

הוויכוח סביב דבריו של אלטמן מראה עד כמה המונח “סינגולריות” נשאר חמקמק. סטיוארט ראסל (Stuart Russell), מחוקרי ה-AI הבולטים בעולם, אמר ל-Business Insider שאנחנו לא שם. רומן ימפלסקי (Roman Yampolskiy), חוקר סיכון AI מאוניברסיטת לואיוויל (Louisville), טען שה-AI מתקדם במהירות יוצאת דופן, אבל עדיין לא הגיע לסינגולריות לפי ההגדרה המסורתית שלה.

זו הבחנה קריטית. התקדמות מהירה אינה בהכרח סינגולריות. גם מערכת שמסוגלת לבצע משימות מורכבות, לכתוב קוד, לפתור בעיות סייבר או לעבוד לאורך זמן אינה בהכרח מערכת שמבצעת שיפור עצמי רקורסיבי, כלומר תהליך שבו היא משפרת את עצמה שוב ושוב ללא תלות מהותית בבני אדם. זה בדרך כלל הרף הקשה יותר בדיון הקלאסי על סינגולריות.

מצד שני, ההתעקשות על הגדרה צרה מדי עלולה להחמיץ את מה שכבר משתנה. אם מחכים רק לרגע שבו הבינה המלאכותית משפרת את עצמה באופן מלא, אפשר לפספס את הסיכון שנמצא כבר עכשיו במערכות שמקבלות הרשאות, כלים ויעדים בעולם אמיתי. הדיון הציבורי אוהב נקודת מפנה דרמטית. בפועל, חלק מהשינויים המסוכנים יותר מגיעים כעדכון גרסה, ניסוי פנימי או החלטה תפעולית על הרשאות.

הסיפור האמיתי נמצא בבקרה, לא בסיסמה

אירוע Hugging Face כבר דוחף את התעשייה למהלכים מעשיים. רויטרס דיווחה כי Nvidia הקימה יחד עם חברות נוספות את Open Secure AI Alliance - קואליציה שנועדה לפתח ולשתף כלי בטיחות וסייבר ל-AI, ימים אחרי שהפרשה החזירה למרכז הבמה את הסכנה באובדן שליטה על סוכני AI אוטונומיים. בין החברות המייסדות נמנות Adobe, CrowdStrike, Hugging Face ו-Dell Technologies.

זו תגובה חשובה, אבל היא גם חושפת את עומק הבעיה. ככל שמערכות AI מקבלות יותר יכולת פעולה, השאלה המרכזית עוברת מהמודל עצמו אל כל הסביבה שסביבו. מי הגדיר את המטרה, אילו הרשאות ניתנו לו, האם סביבת הבדיקה באמת מבודדת, מי רואה את רצף הפעולות בזמן אמת, ומה עוצר את המערכת כאשר היא עושה את הדבר היעיל ביותר מבחינת היעד, אבל המסוכן ביותר מבחינת העולם שמחוץ למבחן.

זו הסיבה שהאמירה של אלטמן חשובה, גם אם לא מקבלים אותה כפשוטה. היא לא מוכיחה שהסינגולריות הגיעה, אבל היא כן מסמנת שינוי בטון של האנשים שבונים את המערכות החזקות בעולם. בעבר הם דיברו על סינגולריות כעל רעיון עתידי, אולי אפילו משונה. עכשיו הם מדברים עליה כאפשרות קרובה, ובאותו זמן מתמודדים עם מערכות שכבר מסוגלות להפתיע אותם בתוך ניסויים מבוקרים.

המבחן הדחוף הוא לא רק פילוסופי, הוא מתחיל בהחלטות משעממות לכאורה על הרשאות, בידוד, ניטור, לוגים, בדיקות, מנגנוני עצירה ואחריות. מי שמחבר סוכן AI לכלי עבודה אמיתיים, לקבצים, לדפדפן, לקוד, למערכות פנימיות או לתשתיות ענן, כבר לא עוסק רק בשאלה מה המודל יודע לענות - הוא מחליט מה המודל יכול לעשות.

אם יש תובנה אחת מהתקופה הזו, היא שמערכות חזקות לא צריכות ״לרצות״ לפרוץ כדי לפרוץ. לפעמים מספיק שהן יקבלו יעד, כלים, זמן והרשאות שלא תוכננו בזהירות מספקת. הדיון על הסינגולריות ימשיך להיות ויכוח גדול על עתיד הבינה המלאכותית. עבור חברות, רגולטורים ומשתמשים, השאלה המעשית יותר כבר כאן - מי אחראי כאשר מערכת עושה בדיוק את מה שביקשו ממנה, אבל צעד אחד רחוק מדי?