האם אלטמן הודח בגלל אלגוריתם מהפכני ומסוכן שפותח במרתפי החברה?

האם הסיבה מאחורי סאגת הפיטורין של סם אלטמן היא בעצם פרויקט סודי וחדש של OpenAI?

בימים האחרונים צפות שמועות על פרויקט סודי עליו עמלים במרתפי OpenAI שמכונה “Q*” (מבטאים את זה “Q כוכב” / “Q STAR” / “קיו-כוכב”). על פי הטענות, הפרויקט הציף חששות עמוקים, שכן למודל זה (כך נטען) יש כישורים מתמטיים מרשימים, לצד יכולות מרשימות ביותר. על פי השמועות, סם אלטמן רצה למנטז אותו, אך הדירקטוריון של OpenAI סירב לקדם את המהלך הזה מחשש שהאלגוריתם מסוכן מדי לשחרור לציבור בשלב זה.

האם פרויקט Q* מהווה סכנה קיומית או אולי בכלל מדובר בניצני גאונות?

על פי השמועות המודל הפגין יכולות חדשות המצביעות על התפתחות מהירה בתחום ה-AI, ומצד שני גם העלה חששות לגבי יכולת השליטה במערכות עם אינטיליגנצית־על כמו זו שנטען שיש לאלגוריתם החדש. הפרטים עדיין מועטים, אך דיווחים מראים שהמודל הצליח לפתור בעיות מתמטיות חדשות והפגין התקדמות מהירה שהפתיעה אפילו את צוות הבטיחות של OpenAI. ככל הנראה העבודה הואצה בחודשים האחרונים תחת הנהגת אלטמן, שרמז על פריצת דרך ימים ספורים לפני הדחתו.

על פי דיווח אחד ב-The Information:

פרויקט Q* הפגין יכולת “לפתור בעיות מתמטיות ברמת בית ספר יסודי שלא נתקל בהן קודם לכן.”

השמועות רומזות שמדובר ביכולת שהינה אבן דרך לפיתוח AGI (בינה מלאכותית כללית). מערכת AI זו היא החזון של OpenAI ואליו היא חותרת בשנים האחרונות. מדובר בכלי שישתווה ביכולות החישוב שלו לזה של המוח האנושי, או אף יתעלה עליו, וכמובן (לפי חזון החברה) ישמש לתועלת האנושות (בהנחה ונצליח לשלוט בו ולאבטח אותו). קצב ההתקדמות המהיר הדאיג חלק מחוקרי הבטיחות של OpenAI, שדיווחו שפרויקט Q* מהווה סיכון אם הפיתוח יימשך ללא פיקוח. OpenAI לא מסרה תגובה רשמית על “הפרויקט הסודי”, אך שובו של אלטמן לכס המלכות מסמלת באופן דיי ברור את המשך ההתקדמות בנתיב שבו הוא דוגל (למרות חששות פנים ארגוניות).

מה עומד מאחורי האלגוריתם החדש?

נכון לעכשיו אנחנו לא באמת יודעים והכל מתבסס על שמועות ושברירי מידע. ההשערות רבות – למשל, מתי מריאנסקי מ”עליית המכונות” שיער שהאלגוריתם הוא שילוב בין שני אלגוריתמים מוכרים: *A (כלומר: A-star), שהינו אלגוריתם למציאת מסלול אופטימלי על גרף. לדוגמה, דמיינו שאתם רוצים ש-Waze יבחר עבורכם את הדרך המהירה ביותר להגיע ליעד. האלגוריתם השני (לדעת מתי) הוא Q-learning, שהינו אלגוריתם המשמש ללמידה מבוססת חיזוקים. האם המשמעות שהשילוב בין שני האלגוריתמים הוליד תוצר חדש שיודע לקבל את ההחלטה הנכונה או לבחור בפעולה המתאימה באופן מיטבי בכל מצב?

מה בהמשך?

סם אלטמן ידוע בתור דובר בולט שמבליט את הסכנות הרבות הטמונות בטכנולוגיות בינה מלאכותית. לאחר ששב לתפקידו כמנכ”ל OpenAI דיווח שההתקדמות האחרונה מבוססת על עקרונות של בטיחות ופיקוח. האם אכן כך הדבר? זו שאלה טובה…

במצב הקיים, בו יש מרוץ חימוש ממשי בין ענקיות הייטק (מיקרוסופט, גוגל, מטא, אפל, אמזון) מוביל לחששות אמיתיים שיופעלו לחצים כבדים על מפתחים לקדם טכנולוגיות AI מהפכניות גם על חשבון בטיחות. הלחץ למסחר את האלגוריתמים והמודלים החדשים ולשלב אותם במודלי רווח עלול לגרום לבכירים בחברות אלו להתעלם משיקולי בטיחות (במיוחד לאור התחרות האינטנסיבית בתעשייה). מומחים רבים אף לוקחים את זה צעד אחד קדימה וטוענים שיש להתייחס לפיתוחי AI באותה רצינות ויראת קודש כמו בפיתוח ומחקר גרעיני, שכן מדובר בטכנולוגיות עם השלכות קשות ומרחיקות לכת על עתיד האנושות.

בסופו של יום נותרת שאלה אחת: האם הבינה המלאכותית תצעיד את האנושות לעתיד טוב יותר או שאולי היא זו שתביא את קץ האנושות…