חשבון נפש ל-AI, חלק א': כולנו אבודים

הימים שבין ראש השנה ליום כיפור הם הזמן שבו אנחנו עוצרים לעשות חשבון נפש. חושבים על מה שעשינו בשנה שחלפה, על הטוב ועל הפחות טוב, ועל מה שהיינו רוצים להשיג בשנה שמתחילה עכשיו. נראה לי שזה בדיוק הזמן להרים את הראש מהמסך, להפסיק לרגע לבנות ולהריץ אוטומציות, ולהסתכל על התמונה הגדולה של ה-AI. כשמסתכלים עליה מלמעלה רואים שני גלים שמושכים לכיוונים הפוכים. גל אחד אומר שאנחנו דוהרים אל אסון. גל שני אומר שהחיים שלנו עומדים להשתפר מעבר לכל דמיון. בחלק הזה אני רוצה להקשיב דווקא לפסימיים, ובחלק הבא נשמע את הצד השני. וכבר עכשיו אגלה לכם דבר אחד: גם הפסימיים לא מסכימים בינם לבין עצמם.

אלה שקמו והלכו

ב-8 בספטמבר, ימים ספורים לפני החג, חוקר בשם ג'ייקוב קוקסון הודיע שהוא מתפטר מאנטרופיק. בשלוש השנים האחרונות הוא עסק במחקר ב-OpenAI ובאנטרופיק (Anthropic). את הסיבה הוא ניסח בלי לרכך: לדבריו, שתי החברות ממהרות היישר אל מערכות שמשפרות את עצמן ועתידות להיות חכמות מאיתנו בכל תחום, ומהמרות בחיים של כולנו.

הוא לא לבד. אוון האבינגר, שמוביל באנטרופיק צוות שעוסק בבטיחות המודלים, כתב שלהערכתו יש יותר מ-10% סיכוי שה-AI יביא להכחדת המין האנושי בעשור הקרוב. זו הערכה אישית שלו ולא עמדה רשמית של החברה, והיא נאמרה מפי אדם שכל התפקיד שלו הוא לדאוג שזה לא יקרה.

הקול המוכר ביותר בגל הזה הוא דניאל קוקוטאילו. הוא עבד ב-OpenAI, עסק שם בתחזיות לגבי העתיד של התחום, והתפטר ב-2024. בדרך החוצה ביקשו ממנו לחתום על מסמך שאוסר עליו לבקר את החברה. הוא סירב, והיה מוכן לוותר על מניות בשווי 2 מיליון דולר, בערך 80% מההון של המשפחה שלו באותו זמן. בסופו של דבר הסיפור התפוצץ, החברה חזרה בה, והוא נשאר עם המניות.

אילוסטרציה

כששאלו אותו בריאיון אם הוא באמת חושב שיש 70% סיכוי להכחדת האנושות, הוא עצר ותיקן את המראיין. "לא הכחדה בדיוק", הוא אמר. 70% סיכוי שזה ייגמר רע מאוד, והכחדה היא רק אחת מהאפשרויות. הדיוק הזה חשוב, כי הוא מראה אדם שמנסה לדבר נכון, לא להפחיד.

ואז הוא אמר את הדבר שנשאר איתי. יש לו שתי בנות, הבכורה בת 6. הוא לא מאמין שהן יגיעו אי פעם לשוק העבודה. בשלב מסוים הוא אפילו אמר לאשתו שאולי עדיף לא להביא עוד ילדים, כי העתיד פשוט לא ברור מספיק.

והחששות האלה לא נשענים רק על תחזיות. Meta השיקה החודש סוכן אישי בשם Muse, שמסוגל לגשת למייל, ליומן, לתשלומים ולמכשירים בבית. החברה עצמה כתבה שהיא עדיין לא יודעת איך למנוע מצב שבו מישהו שותל הוראות זדוניות בתוך תוכן שהסוכן קורא ומפעיל אותו נגד המשתמש. היא אפילו הציעה פרס של עד 130 אלף דולר למי שיצליח לעשות את זה.

הריאיון עם דניאל קוקוטאילו בפודקאסט The Diary Of A CEO:

הפסימיים האחרים: לא מסוכן, פשוט בועה

אבל יש גל פסימי שני, והוא טוען משהו אחר לגמרי. אד זיטרון, שכותב ומדבר כבר שנים על הכספים של חברות ה-AI, אומר בפשטות שה-AI הגנרטיבי הוא במהותו הונאה. לא מסוכן מדי. פשוט לא שווה את מה שמשלמים עליו.

הטענה המרכזית שלו נוגעת למחיר. המנוי החודשי שאנחנו משלמים עליו לא מכסה את העלות האמיתית. לפי נתונים שהוא מצטט, משתמש כבד במנוי של 200 דולר לחודש יכול לצרוך משאבי מחשוב בשווי אלפי דולרים. OpenAI הפסידה בשנה שעברה 20.9 מיליארד דולר בפעילות השוטפת שלה. כלומר מישהו אחר מממן כרגע חלק ניכר מהיעילות שכולנו חוגגים.

אילוסטרציה

זה קצת כמו מסעדה שמוכרת ארוחה של 500 שקל ב-50 שקל, וכולם מסביב מצביעים על התור בכניסה ואומרים כמה המקום מצליח. התור אמיתי לגמרי. השאלה היא מה יקרה ביום שבו המחירים בתפריט יתעדכנו. מכאן זיטרון ממשיך לתחזית: בסביבות 2027 הכסף ייגמר, ואחר כך תגיע התכווצות כלכלית שתפגע לא רק בחברות הטכנולוגיה אלא גם בחיסכון הפנסיוני של אנשים רגילים.

שני הגלים לא מסכימים זה עם זה

כאן מגיע החלק שהכי העסיק אותי השבוע. לא ייתכן ששני הגלים הפסימיים האלה צודקים. אחד אומר שהמכונה חזקה מדי ואף אחד לא ערוך לקראתה. השני אומר שהיא חלשה מכדי להצדיק את החשבון.

ויש כאן משהו חד יותר. זיטרון תוקף ישירות את אנשי הגל הראשון. הוא מכנה את תרחיש העתיד של קוקוטאילו מדע בדיוני גרוע, וטוען שכל השיחה על סכנות קיומיות משרתת דווקא את החברות עצמן. למה שמנכ"ל יספר לכם שהמוצר שלו עלול לסכן את העולם? כדי שתאמינו שהוא חזק מספיק, וכדי שתפחדו להישאר מאחור אם לא תשתמשו בו כבר היום. לדבריו, כל הונאה בהיסטוריה מתחילה בכך שדוחקים בך.

הריאיון עם אד זיטרון באותו פודקאסט:

גם לפסימיות יש מבקרים

למען ההגינות, לא כולם מקבלים את שתי הטענות האלה. יאן לקון, שהיה המדען הראשי של Meta עד נובמבר 2025, אומר על ההערכות האלה לגבי הכחדה שהן שטויות גמורות. חוקרים אחרים טוענים שכדאי להתייחס ל-AI כמו לכל טכנולוגיה גדולה אחרת, כזאת שמשנה הכול אבל לאט, לאורך עשורים.

גם קוקוטאילו עצמו פחות קיצוני ממה שמצטטים בשמו. הוא נותן בין 10% ל-20% סיכוי שהתחום פשוט ייתקע במקום. כששאלו אותו אם היה לוחץ על כפתור שמכבה את כל המחקר לתמיד, הוא ענה שלא. ועל השאלה אם כבר מאוחר מדי הוא אמר: "אני לא חושב. אם הייתי חושב שמאוחר מדי, לא הייתי יושב כאן".

מה אני לוקח מזה לשנה החדשה

אני לא יודע מי מהם צודק, ואני חושד בכל מי שכן יודע. מה שכן ברור לי הוא שלכל סיפור כאן יש מישהו שמרוויח ממנו. מי שמוכר לנו פחד מרוויח מהפחד, מי שמוכר לנו התלהבות מרוויח מההתלהבות, ושתי הקבוצות מבקשות מאיתנו בדיוק את אותו הדבר: להאמין להן מהר.

ובכל זאת, לא כולם יושבים באותה משבצת. יש משפט אחד של קוקוטאילו שאני חוזר אליו: הוא אמר שישמח מאוד אם כל התחזיות שלו יתבדו. מי שמקדיש את העבודה שלו לתרחיש מסוים ומודה שהוא מקווה לטעות בו, נשמע לי אחרת לגמרי ממי שמוכר ודאות.

יש גם נקודה אחת ששני הגלים מסכימים עליה, וקל לפספס אותה מרוב שהם עסוקים בוויכוח. שניהם אומרים שההחלטה לא צריכה להישאר בידיים של מי שמוכר לנו את המוצר. מעניין דווקא לראות מה כל אחד מהם מציע לעשות בפועל. ההמלצה של קוקוטאילו פשוטה ולא זוהרת: לשים לב, לדבר על זה, ולשאול פוליטיקאים שמבקשים את הקול שלנו מה העמדה שלהם בנושא. ההמלצה של זיטרון קצרה עוד יותר: אל תקבלו החלטות על סמך הבטחות.

המדריכים תמיד חינמיים, אבל אם בא לכם להתמקצע - יש גם קורס אוטומציות עם AI ובניית בוטים וסוכנים

לפרטים נוספים לחצו כאן >>

עוד דבר שאני לוקח מזה נוגע למספרים. שני המרואיינים מוסרים נתונים בביטחון גדול, והנתונים האלה עוברים מכאן לכותרות ומשם לשיחות שלנו. כשישבתי לבדוק כמה מהם מול דיווחים פומביים, חלק לא החזיקו מים. זה לא מפיל את הטענות הגדולות. זה כן מזכיר שגם אדם שמדבר בתום לב, ומכיר את התחום מבפנים, יכול למסור מספר לא מדויק. כשנתון נשמע מרשים במיוחד, שווה לעצור ולבדוק אותו לפני שמעבירים אותו הלאה.

הנקודה המעשית ביותר נובעת דווקא מהטענה של זיטרון. אם המחיר שאנחנו משלמים היום נמוך מהעלות האמיתית, אז חלק מהכדאיות של הכלים שאנחנו מכניסים לעסק היא זמנית. זו לא סיבה להפסיק להשתמש בהם. זו כן סיבה לשאול, לפני שבונים תהליך שלם סביב כלי אחד, מה יקרה לתהליך אם המחיר יוכפל או אם הכלי ייעלם. לעסק שיש לו תשובה לשאלה הזאת יהיה הרבה יותר קל בשנה הקרובה.

ומעל הכול, הדבר השפוי ביותר שאפשר לעשות בימים האלה הוא פשוט להאט. לא להפסיק לעבוד עם הכלים, אלא להפסיק להתייחס לכל הכרזה כאילו היא מחייבת אותנו לקבל החלטה כבר היום. ולזה נועדו הימים האלה.

בחלק הבא נעשה את הדרך ההפוכה, ונקשיב למי שאומרים שאנחנו עומדים בפתחו של העשור הטוב ביותר בתולדות האנושות.

שנה טובה!