×
Send
בתוך כל ההמולה של השבוע שעבר – כנס הפיתוח השנתי של גוגל וההשקה המפתיעה של המודל החדש של ChatGPT, המכונה GPT-4 Omni – הייתה ידיעה אחת בעלת חשיבות אדירה שקצת נפלה בין הכיסאות – ב־14.5.24 איליה סוצקבר, ממייסדי OpenAI והמדען הראשי שלה, עזב את החברה לאחר כמעט עשור של פעילות פורצת דרך. ידיעה שכזו הייתה לבטח מעסיקה אותנו רבות אלמלא האירועים הגדולים והצפופים, אבל היא נבלעה בין שצף ההכרזות. אז עכשיו נתקן את העוול! מה הוביל לעזיבה המפתיעה הזו, ומה המשמעות שלה לעולם הבינה המלאכותית? חילוקי הדעות עם סם אלטמן, ה־CEO של OpenAI, עשויים להיות חלק מהתשובה. כתבה זו תנסה לחשוף את הסיפור שמאחורי עזיבתו של סוצקבר, את המחלוקות בהנהגה ואת העתיד של OpenAI.
רוצים לקבל עדכונים בלייב? רוצים מקום בו אתם יכולים להתייעץ עם מומחי AI, לשאול שאלות ולקבל תשובות? רוצים לשמוע על מבצעים והטבות לכלי ה-AI שמשנים את העולם? הצטרפו לקהילות ה-AI שלנו.
אפשר גם להרשם לניוזלטר שלנו
איליה סוצקבר נולד בניז’ני נובגורוד שברוסיה ועלה לישראל בגיל חמש. לאחר שקיבל תארים מתקדמים מאוניברסיטת טורונטו בהנחיית ג’פרי הינטון, ‘אבי הבינה המלאכותית המודרנית’, עבר לעבוד ב־Google Brain ופיתח טכנולוגיות פורצות דרך בתחום הבינה המלאכותית. ב־2015, הוא הצטרף ל־OpenAI והוביל את המחקר והפיתוח שהציבו את החברה בחזית התחום. זו לא תהיה הגזמה לומר שסוצקבר הוא המוח שמאחורי החידושים המהפכניים של OpenAI, הוא וצוותו כמובן לצד אנשים מוכשרים רבים. אבל במידה רבה אפשר לזקוף לזכותו את ההצלחה האדירה של החברה ואת הטכנולוגיות החדשניות שפיתחה. סם אלטמן, מנכ”ל החברה שהיה גם חברו של סוצקבר ויחד איתו ייסד את OpenAI, אמון בעיקר על ‘ניצוח התזמורת’ והובלת החברה בפן הניהולי ופחות בפן הטכני. הוא גם מוביל חזון מעט שונה משל סוצקבר שעליו נרחיב בהמשך הכתבה.
עזיבתו של סוצקבר נובעת ברובה מחילוקי דעות עמוקים עם סם אלטמן. שניהם פעלו במרץ כדי להביא לפריצת דרך שתוליד את ה־AGI הראשון (בינה כללית מלאכותית) – אותה יישות AI שכוח החישוב שלה משתווה למוח האנושי או עולה עליו; יישות דיגיטלית שיכולה להביא לתועלת אדירה לאנושות אבל גם טומנת בחובה אפשרות להרס אדיר ממדים ואף סכנה קיומית למין האנושי (ולא – אני לא מגזים. הסכנות של טכנולוגיות AI מושוות פעמים רבות לסכנות שבאנרגיית הגרעין). סוצקבר דוגל בפיתוח בינה מלאכותית שתפעל לטובת האנושות ומתנגד לגישה המסחרית של אלטמן. הנושאים השנויים במחלוקת כללו את נושא המוניטיזציה של GPT, את ההתקשרות עם חברות מסחריות כמו מיקרוסופט ואת ההתמקדות במוצרים מסחריים על חשבון בטיחות וניטור הדורות הבאים של המודלים. חילוקי דעות אלה הגיעו לשיאם בהחלטה של דירקטוריון OpenAI בנובמבר 2023 להדיח את אלטמן מתפקיד המנכ”ל, החלטה שסוצקבר היה תומך מרכזי שלה.
הפרשה הזאת הסתיימה גם בעזיבה של גרג ברוקמן ובבריחת מוחות שאיימה על יציבות החברה, באיומים להקמת חברת AI מתחרה, בהתערבות של ‘האח הגדול’ (מיקרוסופט וסאטיה נאדלה, מנכ”ל החברה) ולבסוף במהלך שהפתיע רבים – חזרה מתוקשרת של אלטמן וברוקמן ישירות להנהלת החברה. גם אז היו דיבורים על הדהירה של אלטמן קדימה, על תיעדוף פיתוחים חדשניים שלא עברו את סוללת הבדיקות הנדרשת, וכמובן על שיח ער סביב הפקת רווחים (בחברה שהחלה את דרכה כסוג של מלכ”ר). פה אפשר לקרוא עוד על הטלנובלה הזו.
כבר אז היה ברור לכולם שהבסטיז שהקימו חברה אלמונית שתפחה לממדי על, כבר לא צועדים יד ביד. למען האמת, כבר אז התפלאתי איך הם עדיין ביחד, ואיך הם שרדו כל כך הרבה זמן ללא עזיבות מתוקשרות (מאז נובמבר 2023 עברה חצי שנה של שקט תעשייתי יחסי). אבל מתברר שמתחת לפני השטח רחשו וגעשו חילוקי דעות בנוגע לאופן התקדמות החברה ומוצריה.
ציוץ העזיבה של סוצקבר בחשבון ה־X שלו:
After almost a decade, I have made the decision to leave OpenAI. The company’s trajectory has been nothing short of miraculous, and I’m confident that OpenAI will build AGI that is both safe and beneficial under the leadership of @sama, @gdb, @miramurati and now, under the…
— Ilya Sutskever (@ilyasut) May 14, 2024
סם אלטמן התייחס לעזיבתו של סוצקבר ואמר ש”איליה הוא בקלות אחד המוחות הגדולים בדורנו, מגדלור בתחום וחבר יקר.“
“Ilya is easily one of the greatest minds of our generation, a guiding light of our field, and a dear friend. His brilliance and vision are well known; his warmth and compassion are less well known but no less important.”
סם אלטמן ואיליה סוצקבר באוניברסיטת תל אביב ביוני 2023 | Credit: JACK GUEZ / Getty Images
בעקבות עזיבתו של סוצקבר יאקוב פאצ’וקי מונה לתפקיד Chief Scientist של OpenAI. פאצ’וקי, שעמד בראש פרויקטים חשובים כמו פיתוח GPT-4 ו־OpenAI Five, הוא מדען מוערך עם תואר דוקטור למדעי המחשב התאורטיים מאוניברסיטת קרנגי מלון. בהצהרה שפרסמה OpenAI ב־14.5.24 נכתב שהוא הוביל מחקרים משמעותיים שהשפיעו על כיוון החברה, ושיש לו הכישורים והניסיון להמשיך ולהוביל את OpenAI להישגים נוספים. אנחנו כמובן נמשיך לעקוב ולעדכן.
דרים טים – הנהגת OpenAI והמוחות שמאחורי המהפכה. במרכז – איליה סוצקבר וסם אלטמן | Credit: Ilya Sutskever X Profile @ilyasut
יאן לייק (Jan Leike), שהיה ראש צוות ה־Alignment וה־Superalignment ב־OpenAI ונמנה על תחום הבטיחות בחברה, הודיע גם הוא על עזיבתו. בציוציו בטוויטר לייק תיאר את המסע המטורף שעבר בשלוש השנים האחרונות עם צוותו, ואת ההישגים המרשימים כמו השקת ה־RLHF LLM הראשון עם InstructGPT, פרסום הפיקוח הרחב הראשון על LLMs ופריצות דרך רבות נוספות. לייק הביע את אהבתו ואת תודתו לצוותו ואמר: “אני אוהב את הצוות שלי. אני כל כך אסיר תודה על האנשים המדהימים שעבדתי איתם בתוך צוות הסופר־אליינמנט ומחוץ לו. ל־OpenAI יש כל כך הרבה כישרונות חכמים, נחמדים ויעילים באופן יוצא דופן.” עם זאת, לייק הבהיר כי חילוקי הדעות עם הנהגת OpenAI על סדרי העדיפויות של החברה היו הסיבה המרכזית לעזיבתו: “הצטרפתי כי חשבתי ש־OpenAI תהיה המקום הטוב ביותר בעולם לעשות את המחקר הזה. עם זאת, כבר זמן מה אני במחלוקת עם ההנהגה של OpenAI על סדרי העדיפויות המרכזיים של החברה, עד שלבסוף הגענו לנקודת שבירה.“
הציוץ של לייק בחשבון ה־X שלו:
I joined because I thought OpenAI would be the best place in the world to do this research.
However, I have been disagreeing with OpenAI leadership about the company's core priorities for quite some time, until we finally reached a breaking point.
— Jan Leike (@janleike) May 17, 2024
הוא הוסיף כי לדעתו יש להשקיע הרבה יותר משאבים בהכנה לדורות הבאים של המודלים, באבטחה, בניטור, במוכנות, בבטיחות, בחוסן מול התקפות ובהשפעה החברתית של הטכנולוגיה. לייק הביע חשש כי החברה אינה במסלול הנכון לפתירת הבעיות הללו: “הבעיות האלה מאוד קשות לפתרון, ואני מודאג שאנחנו לא במסלול הנכון להגיע לשם.”
הוא ציין כי במהלך החודשים האחרונים עם צוותו הוא לעיתים הרגיש שהוא “מפליג נגד הרוח”, ושזה נעשה יותר ויותר קשה להשלים את המחקר הקריטי שלדעתו היה כל כך נחוץ. לייק סיכם בציוציו כי OpenAI חייבת לשים את הבטיחות בראש סדר העדיפויות שלה: “אנחנו מזמן בפיגור בהבנה רצינית לגבי ההשלכות של AGI. עלינו להתכונן להן כמיטב יכולתנו ולתת לכך עדיפות. רק אז נוכל להבטיח ש־AGI יועיל לכל האנושות.” הוא קרא לעובדי OpenAI לפעול ברצינות המתאימה למה שהם בונים ואמר: “אני מאמין שאתם יכולים להוביל את השינוי התרבותי הדרוש. אני סומך עליכם.”
הציוץ של לייק על חשיבות הפיתוח האחראי של AGI ויישומי הטכנולוגיה המהפכנית הזו:
We are long overdue in getting incredibly serious about the implications of AGI.
We must prioritize preparing for them as best we can.
Only then can we ensure AGI benefits all of humanity.
— Jan Leike (@janleike) May 17, 2024
השינויים בהנהגה מבשרים על שינוי כיוון ב־OpenAI. תחת הנהגתו של פאצ’וקי ולנוכח הדגש של אלטמן על מסחור סביר שהחברה תמשיך לפתח טכנולוגיות ומוצרים חדשים במהירות גבוהה. לגבי טענת המסחור או ה’מינטוז’ של המודלים של OpenAI – גם פה צריך לבחון את המצב אל מול החלטות החברה האחרונות בדגש על הבחירה לשחרר את GPT-4o בחינם לכל המשתמשים; מהלך שעל הנייר פוגע ברווחיות של החברה ומונע ממנה למסחר את אחד המודלים הכי חזקים, ורסטיליים וייחודיים שקיימים היום בשוק. אך צריך גם לבחון החלטה זו אל מול החזון של החברה והמסע שלה לפיתוח AGI, שעליו כתבנו בהרחבה פה. עם זאת, השאלות בנוגע לבטיחות, אתיקה והשפעת הבינה המלאכותית על החברה ימשיכו לעורר דיון. העתיד של OpenAI תלוי ביכולתה לשלב בין פיתוח טכנולוגי מהיר ובין שמירה על ערכים של בטיחות ואחריות חברתית.
איליה סוצקבר היה דמות מרכזית בהצלחת OpenAI בזכות הידע, הניסיון והחזון שלו. הוא היה שותף לפיתוחים פורצי דרך בתחום הבינה המלאכותית והביא לחברה אמינות וכבוד בזכות מחקריו והישגיו. סוצקבר ויאן לייק היו קולות מובילים בקידום AI בטוח ומועיל לאנושות, והעזיבה שלהם מעלה שאלות בנוגע לכיוון שאליו הולכת OpenAI, ולמתרחש בתוככי החברה. האם פאצ’וקי יצליח לתמרן בין האתגרים האתיים והבטיחותיים ולהוביל את החברה לעתיד בטוח ואחראי יותר? זו שאלה כבדת משקל שהתשובה לה עלולה להשפיע על החיים של כולנו (בלי טיפה של ציניות). אנחנו נמצאים בתקופה מכרעת בהיסטוריה האנושית, וההחלטות שהתקבלו בשנים האחרונות ושיתקבלו ובעתיד הקרוב, ישפיעו על התקדמות הבינה המלאכותית, על אופן פיתוחה ועל השפעתה על מסע האנושות אל עבר אינטגרציה עם מכונות ותלות רבה במכונות ‘חושבות’, יצרניות ו’יצירתיות’.
עזיבתו של איליה סוצקבר מסמנת סיום עידן ב־OpenAI ותחילתה של תקופה חדשה. OpenAI ניצבת בפני אתגרים רבים, וההנהגה החדשה תצטרך להתמודד עם הצורך לשלב בין חדשנות מהירה ובין אחריות לאתיות ולבטיחות. ובנימה אופטימית זו, פאצ’וקי, שהוביל את צוות המחקר תחת איליה סוצקבר ועכשיו מחליף אותו, אמר: “אני אסיר תודה לאיליה. יש לנו סגנונות מנהיגות שונים שבמובנים רבים משלימים זה את זה.”
“I am grateful to Ilya. We have different and in many ways complementary styles of leadership.”
מה משמעותה של אמירה זו? האם הצהרה מעורפלת על סטייה מהקו השמרני של סוצקבר ואימוץ הגישה האקטיבית והאסרטיבית של אלטמן? או אולי פשרה בין השתיים? על כך נאמר: Only time will tell…
בואו ללמוד איתנו בינה מלאכותית בקורס המקיף, העשיר והמבוקש בשוק. הצטרפו לאלפים הרבים שכבר עברו את הקורסים והסדנאות שלנו. פרטים והרשמה באתר.
רוצים לקבל עדכונים בלייב? רוצים מקום בו אתם יכולים להתייעץ עם מומחי AI, לשאול שאלות ולקבל תשובות? רוצים לשמוע על מבצעים והטבות לכלי ה-AI שמשנים את העולם? הצטרפו לקהילות ה-AI שלנו.
אפשר גם להרשם לניוזלטר שלנו
רוצים לקבל עדכונים על כל מה שחדש ומעניין בעולם ה-AI? הרשמו לניוזלטר שלנו!
