חברות לשעבר בדירקטוריון OpenAI חושפות גילויים חדשים על הטלנובלה של נובמבר 2023

גילויים חדשים שופכים אור על הפיטורים של סם אלטמן בנובמבר 2023 מתפקיד מנכ”ל OpenAI לאחר שהדירקטוריון הגיע למסקנה כי הוא לא היה כן באופן עקבי בתקשורת שלו איתם.

למי שהספיק לשכוח את רכבת ההרים מבית OpenAI, כשבוע לאחר ההדחה החברה הודיעה כי אלטמן יחזור לתפקיד המנכ”ל עם דירקטוריון חדש. הלן טונר וטשה מקאולי היו שתיים מארבעת חברי הדירקטוריון של OpenAI שבנובמבר 2023 הצביעו לפטר את סם אלטמן מתפקיד המנכ”ל, יחד עם איליה סוצקבר ואדם ד’אנג’לו לנוכח חילוקי דעות בנוגע לאופן ניהול החברה ומחויבותה (או חוסר מחויבותה) לוודא שמערכות בינה מלאכותית מתקדמות יועילו לאנושות. החשש של הדירקטוריון היה תיעדוף של מניעים רווחיים, מינטוז הטכנולוגיה והשקת “מוצרים נוצצים” (כפי שכינה אותם יאן לייק שעזב לאחרונה את OpenAI) על פני שיקולי אבטחה (או ליתר דיוק – הפיכת הטכנולוגיה לבטוחה). בסופו של דבר, טונר ומקאולי התפטרו מדירקטוריון OpenAI, ואילו אלטמן חזר לשליטה עם דירקטוריון חדש הכולל את ברט טיילור ולארי סאמרס. אבל מה באמת קרה שם? 

בפרקים הקודמים של הטלנובלה הג’נרטיבית של עמק הסיליקון

השבועות שלאחר הדחתו של אלטמן היו סוערים במיוחד ל־OpenAI. החברה נאלצה להחליף שלושה מנכ”לים בתוך שלושה ימים בלבד. מירה מוראטי, שהייתה CTO של החברה, הייתה אמורה להחליף את אלטמן, אך הייתה שותפה חלקית בלבד בהחלטה על הדחתו ונחשפה אליה רק יום לפני המהלך. מיקרוסופט, שותפה מרכזית של OpenAI, לא ידעה מראש על ההדחה, והפעילה לחץ רב להחזרתו של אלטמן לתפקיד המנכ”ל. בסופו של דבר, OpenAI הודיעה על שכירת אמט שיר, מייסד ומנכ”ל Twitch לשעבר, כמנכ”ל זמני. בד בבד רוב עובדי OpenAI, כ־700 מתוך 770, חתמו על מכתב שבו הם איימו לעזוב את החברה אם סם אלטמן לא יוחזר לאלתר להנהלת החברה. המהלך הזה הפעיל לחץ נוסף על הדירקטוריון ובסופו של דבר הביא לחזרתו של אלטמן לתפקיד המנכ”ל.

גילויים חדשים על המתחים בצמרת OpenAI

במאי 2024 התארחה הלן טונר בפודקאסט ה־AI של TED, ובו חשפה מידע מעניין על סאגת ההדחה של אלטמן ועל החודשים שקדמו לה, סאגה שהובילה לאחד הצעדים הדרמטיים ביותר שראינו בעולם הטכנולוגיה בזמן האחרון. להאזנה לפרק המלא לחצו כאן. בציוץ מטה (מתוך חשבון ה־X של טונר), קטע קצר מהפודקאסט המצולם:

Sharing this, recorded a few weeks ago. Most of the episode is about AI policy more broadly, but this was my first longform interview since the OpenAI investigation closed, so we also talked a bit about November.

Thanks to @bilawalsidhu for a fun conversation! https://t.co/h0PtK06T0K

— Helen Toner (@hlntnr) May 28, 2024

דירקטוריון באפלה

“כש־ChatGPT הושק בנובמבר 2022, הדירקטוריון לא עודכן מראש וגילינו על ChatGPT דרך טוויטר”, מספרת הלן טונר. לדבריה היא גילתה בדיעבד על השקת מוצר הדגל המהפכני של החברה (ChatGPT 3.5) יחד עם מנכ”ל Quora אדם ד’אנג’לו וטאשה מקאולי בציוץ בטוויטר. הערפל בדירקטוריון לא היה מוחלט – דמויות מפתח אחרות כמו המנכ”ל אלטמן, גרג ברוקמן (נשיא החברה ו־Co Founder) וגם איליה סוצקבר, אחד ממייסדי החברה ומי שהתפטר באמצע מאי 2024 מתפקידו כמדען הראשי, ידעו גם ידעו על ההשקה המתוכננת (כך לדברי טונר). מאז נראה שסם אלטמן נתון ללחץ לנוכח שאלות על מחויבות החברה לבטיחות, כפי שמעידים הפרסומים האחרונים מצד OpenAI על חשיבות הבטיחות בפיתוחים הקיימים והעתידיים שלהם.

מכאן זה רק נהיה גרוע יותר – סערה רודפת סערה. בשבועות האחרונים צצה ביקורת מכיוון לא צפוי – השחקנית ההוליוודית סקרלט ג’והנסון העלתה טענות קשות על התנהלות לא תקינה מצד אלטמן ו־OpenAI בנוגע לבניית מודל קול עם דמיון רב (מדי) לקולה שלה וללא הסכמתה ל־GPT-4o החדש.

תרבות רעילה של שקרים

בד בבד לטענות של טונר הושמעו טענות קשות גם מצד טשה מקאולי (חברת דירקטוריון נוספת של OpenAI). טונר כתבה בחשבון ה־X שלה שזו הפעם הראשונה שהתראיינה באריכות על אירועי נובמבר 2023 לאחר סגירת החקירה של OpenAI. היא ומקאולי אישרו מחדש את עמדתן בנוגע לטענה שמעשיו של אלטמן “חתרו תחת החלטות הדירקטוריון והפרוטוקולים הבטיחותיים”. הן כינו זאת “מתכון לאסון AGI” והדגישו טענות שהעלו אנשי מפתח נוספים ב־OpenAI, שהאשימו את אלטמן בטיפוח “תרבות רעילה של שקרים” ובהתנהגות שתוארה כ”התעללות פסיכולוגית”. לדבריהן, OpenAI לא יכולה להיות אחראית לעצמה אם אלטמן בתפקיד המנכ”ל וש”ההתפתחויות מאז חזרתו מבשרות רעות” לעתידה של החברה. טונר חשפה שלאחר שהתבטאה בפומבי נגד החברה (בזמן שעדיין הייתה חברת דירקטוריון), נוצרה מתיחות בינה ובין אלטמן. היא סיפרה על תרבות של שקרים מצד המנכ”ל, על ניסיונות לגרום לה לעזוב את הדירקטוריון ועל כשלים בפיתוח מדיניות אחראית בענייני בטיחות (גישה שלה שותפים גם סוצקבר ולייק שהתפטרו במרץ ושהיו אחראים על תחום הבטיחות של המודלים של OpenAI).

הביקורת המתחדשת על הנהגתו של אלטמן באה על רקע מחלוקות מתמשכות בנוגע לדגש שאלטמן שם על השקת מוצרים מסחריים והעדפתם על פני בטיחות. נוסף על כך, עובדים לשעבר דיווחו שנכפה עליהם לחתום על הסכמי יציאה מגבילים המסכנים את האופציות שלהם למניות.

ועדת הבטיחות והביטחון – האם זה הפתרון?

בתגובה, ב־28 במאי OpenAI הודיעה על הקמת ועדת הבטיחות והביטחון (Safety and Security Committee), האחראית על מתן המלצות בנוגע להחלטות קריטיות בענייני בטיחות וביטחון בכל הפרויקטים של OpenAI. בראש הוועדה יעמדו הדירקטורים ברט טיילור (יו”ר), אדם ד’אנג’לו, ניקול סליגמן וסם אלטמן (מנכ”ל). לפי הצהרות החברה, משימתה הראשונה של הוועדה תהיה לפתח ולהעריך תהליכי בטיחות ואמצעי בטיחות ב־OpenAI ב־90 הימים הבאים. לאחר מכן הוועדה תשתף את המלצותיה עם הדירקטוריון, ו־OpenAI תחשוף אותן לציבור.

מה אפשר ללמוד מכל זה? שלא פשוט לנהל חברת AI.

שכנראה מאוד בודד בצמרת.

ונראה שגישתו הדורסנית של אלטמן דוחפת את החברה (ואת האנושות כולה) אל עתיד שבו טכנולוגיות AI ישוחררו לשוק ללא מנגנוני הביטחון והאבטחה הנדרשים.

האם זה מחיר הקדמה? אולי. אבל מה שבטוח, זה רק מחדד את הצורך שלנו לעשות שימוש מושכל וזהיר בכלים אלו. לא לנדב מידע אישי או מידע רגיש, לא לעשות שימוש פוגעני בכלים ג’נרטיביים ובעיקר לזכור שהטכנולוגיה הזו עדיין בחיתוליה, ושאנחנו לא באמת יודעים מה ילד יום.