פרויקט Q* (Strawberry) של OpenAI – כל מה שידוע עד כה

בעולם הטכנולוגיה, לפעמים הדברים הקטנים ביותר מסמלים את השינויים הגדולים ביותר. כך קרה כשהרשתות החברתיות הוצפו לפתע במימים של תותים. מה שהתחיל כבדיחה פנימית, הפך במהרה לסמל של מהפכה טכנולוגית אפשרית.

סם אלטמן, המנכ”ל הכריזמטי של OpenAI, הצית את הלהבות כשצייץ “אני אוהב תותים בגינה” עם תמונה של תותים. מה שנראה כציוץ תמים, הפך לרמז ברור למי שעקב אחרי השמועות על פרויקט סודי בשם Q*, שלימים שינה את שמו ל-“Strawberry” (הכל על פי שמועות ופרסומים, אך לא מבוסס על מידע רשמי שהחברה פרסמה).

הציוץ של אלטמן

Q* או לא Q*? זאת השאלה

בדצמבר 2023, התחילו לזלוג שמועות על פרויקט סודי ב-OpenAI. תחילה נקרא Q* (מבטאים את זה “קיו סטאר”), ואז, כמו במטה קסמים, הפך על פי השמועות שם הפרויקט ל-“Strawberry” (תות). אבל למה יש כל כך הרבה מסתורין סביב שם של פרי? או שמא שם של מודל עוצמתי ומסקרן במיוחד…

התשובה טמונה בחשיבות הפוטנציאלית של הפרויקט. לפי מקורות שונים, Q* עשוי לייצג קפיצת מדרגה משמעותית בתחום הבינה המלאכותית – צעד גדול לקראת מה שמכונה AGI (Artificial General Intelligence), או בינה מלאכותית כללית.

קצת על AGI

כמה מילים על AGI. המונח “בינה כללית מלאכותית” מתייחס לאינטליגנציה שמשתווה לכוח החישוב של המוח האנושי לכל הפחות, או אף מתעלה עליו. אבל זה גדול הרבה יותר מזה. במילים אחרות Artificial General Intelligence היא מכונה שיכולה לבצע כל משימה אינטלקטואלית שאדם יכול לבצע (ואף יותר מכך). בניגוד לבינה מלאכותית צרה, שמיועדת לבצע משימות ספציפיות (כמו זיהוי תמונות או משחק שחמט), AGI תהיה בעלת יכולת לפתור מגוון רחב של בעיות בתחומים שונים.

ממיליץ לכם בחום לצפות בסרטון “A.I. ‐ Humanity’s Final Invention?” של הערוץ Kurzgesagt – In a Nutshell. למי שלא מכיר, מדובר בערוץ שמציג סרטוני אנימציה מרהיבים (עם סגנון ייחודי שמאוד מזוהה איתם), המוגשים בשפה פשוטה וקלה להבנה. אבל מה שמיוחד הוא, שכל הסרטונים מבוססים על נושאים מדעיים, טכנולוגיים או פילוסופיים, ושתהליך הפקתם מבוצע ממש כמו מחקר אקדמי, עם אימות מקורות, צבא של חוקרים וכותבים, ועם דגש גבוה על דיוק, אמינות ומהימנות. אנחנו ב-LetsAI מאוד אוהבים אותו, ועוקבים אחריו לאורך שנים רבות. בסרטון מוצג הרעיון של AGI כתופעה אפשרית שתשנה את פני החברה האנושית בצורה רדיקלית. הסרטון מדבר על ההתפתחות ההיסטורית של הבינה האנושית ועל איך ייתכן שבעתיד הקרוב ניצור בינה מלאכותית שתהיה חזקה יותר מכל מה שידענו עד היום. AGI עשויה להיות מסוגלת ללמוד כל דבר במהירות ולהפוך למשאב אינסופי של ידע ויכולות, מה שיכול להוביל להישגים מדהימים אך גם לסיכונים עצומים, כולל אפשרות שהבינה הזו תהיה חזקה יותר מהאנושות ותשנה את סדרי העולם.

בינה צרה מול בינה כללית

• בינה צרה: חשבו לרגע על סנאי – יש לא מוח. יש לו אינטליגנציה. הוא מותאם לסביבתו ויודע לבצע פעולות מאוד ספציפיות שיעזרו לו לשרוד. אבל אם “תזרקו” אותו בסביבה אחרת (נניח מדבר) כנראה שהוא לא יצליח לשרוד, אפילו אם מדובר בסנאי חכם במיוחד.

• בינה כללית: עכשיו חשבו על בן אנוש. המוח האנושי שונה מאוד מהמוח של סנאי – לנו יש בינה כללית. אנחנו יודעים להסיק מסקנות, לבטא רעיונות מופשטים, ליצור כלי עבודה ומכונות וכתוצאה מכך גם לייצר את התנאים שיאפשרו לנו לשרוד כמעט בכל סביבה אפשרית כל כדוה”א (ואפילו מחוצה לו).

ועכשיו חזרה לעולם שלנו – ChatGPT הוא בינה צרה. גם קלוד וגם פרפלקסיטי. הם מאוד חכמים ויודעים לבצע מצוין את מה שהם טובים בו (ייצור וניתוח טקסטים, ניתוח נתונים, כתיבה יצירתית, כתיבת קוד וכן הלאה). אבל אם תבקשו מהם לנהוג במכונית (ונניח שיש ממשק שמאפשר להם לעשות זאת ברמה הטכנית), הם מאוד יתקשו בביצוע המטלה. או אפילו ברמה הכי בסיסית שיש – אם תבקשו מ-Claude לכתוב שיר, הוא יצליח. אבל אם תבקשו ממנו להלחין סימפוניה, זה משהו שהוא פשוט לא בנוי לעשות (בינתיים). 

המסקנה: ChatGPT, Claude ו-Perplexity הם סנאי. עכשיו נסו לדמיין מה היה קורה אם לכלים (המדהימים) הללו היה כוח חישוב ויכולות של AGI. הפער בין אדם לסנאי הוא הפער בין ChatGPT ל-AGI. מבינים לאן אני חותר?

הדרמה מאחורי הקלעים

הסיפור של Q* מתובל בדרמה ארגונית.
זמן קצר לאחר שהשמועות על הפרויקט החלו להתפשט, סם אלטמן פוטר באופן מפתיע מתפקידו כמנכ”ל OpenAI. הספקולציות גברו: האם הפיטורים קשורים לחששות מהתקדמות מהירה מדי של הטכנולוגיה? האם היו מחלוקות על כיוון הפיתוח?

אלטמן חזר לתפקידו תוך ימים ספורים, אבל השאלות נותרו באוויר.
האירוע הדגיש את המתח הקיים בתעשייה בין הרצון לחדשנות לבין הצורך באחריות ובטיחות. מאוחר יותר התברר כי אלטמן הרגיש “נהדר” לגבי התפתחויות מסוימות, בעוד שאיליה סוצקבר, המדען ראשי ב-OpenAI דאז, היה פחות נלהב. מה שגרם לכך שבהמשך איליה גם עזב את החברה והיום הוא עומל על חברה חדשה בשם SSI.

מה באמת יכול התות הזה לעשות? מוח אלקטרוני שלומד לבד

על פי פרסומים, אחד החידושים המרכזיים של Q* הוא היכולת ללמידה עצמאית (RHLF). בניגוד למודלים קיימים שמתבססים על מידע שהוזן להם מראש, Q* מסוגל, לכאורה, לרכוש ידע חדש בכוחות עצמו.

זה נשמע כמו מדע בדיוני, אבל המשמעות היא עצומה. מודל כזה יכול להתפתח ולהסתגל לסיטואציות חדשות באופן שדומה יותר לאינטליגנציה אנושית. זוכרים את הסנאי ממקודם? עכשיו הסנאי שלנו יכול ללמוד לבדו איך להסתגל לסביבות חדשות ואיך לפתור בעיות שסנאי “רגיל” לא מסוגל בכלל להבין. זה פותח אפשרויות חדשות בתחומים כמו מחקר מדעי, פיתוח תרופות, ואפילו חקר החלל.

מתמטיקאי בחיתולים

אחד התחומים שבהם Q* מראה יכולות מרשימות הוא מתמטיקה. אמנם ברמה בסיסית יחסית, אבל עצם היכולת לפתור בעיות מתמטיות ללא הכנה מראש היא פריצת דרך. דווח כי Q* כבר שבר שיאי בנצ’מרק במתמטיקה, מה שמעיד על פוטנציאל עצום בתחום זה.

למה זה חשוב? כי מתמטיקה היא שפה אוניברסלית. מודל שיכול ללמוד ולהבין מתמטיקה באופן עצמאי, עשוי להיות מסוגל להבין ולפתור בעיות מורכבות בתחומים רבים – מפיזיקה ועד כלכלה.

סוף להזיות דיגיטליות?

אחת הבעיות הגדולות של מודלים קיימים היא נטייתם להזיות – יצירת מידע שגוי או לא רלוונטי.
Q* מבטיח לצמצם תופעה זו משמעותית.

איך? על ידי שימוש בשיטות חשיבה מתקדמות יותר. במקום להסתמך רק על הסתברויות, Q* משתמש במה שמכונה “חשיבת מערכת 2” – תהליך חשיבה איטי יותר, אך מדויק יותר, הדומה לחשיבה לוגית אנושית.

Q* משלב מספר טכנולוגיות מתקדמות:

• Q-Learning: שיטה ללמידה מחיזוקים, המאפשרת למודל ללמוד מניסיון ולשפר את ביצועיו לאורך זמן.
• AAR Search: אלגוריתם חיפוש מתקדם שעוזר למצוא את הפתרון האופטימלי לבעיות מורכבות.
• חשיבה מערכתית: יכולת לפרק בעיות מורכבות לתתי-משימות ולפתור אותן בצורה שיטתית.
• Self-Play: טכניקה שבה המודל משחק נגד עצמו כדי לשפר את יכולותיו, בדומה לאופן שבו AlphaGo של DeepMind למד לשחק את משחק הגו.

השילוב של טכניקות אלו מאפשר ל-Q* לא רק לפתור בעיות, אלא גם להבין את הלוגיקה מאחוריהן ולהפיק תובנות חדשות.

כל היכולות המרשימות האלה באות עם מחיר: דרישות עצומות לכוח מחשוב. זה מעלה שאלות לגבי היתכנות השימוש בטכנולוגיה כזו בקנה מידה רחב. האם רק תאגידי ענק יוכלו להרשות לעצמם להפעיל מודלים כאלה? ומה ההשלכות הסביבתיות של צריכת האנרגיה העצומה הנדרשת?

המדריכים תמיד חינמיים, אבל אם בא לכם להתמקצע - יש גם קורס מודלי שפה גדולים (LLM) – “קלוד”, ChatGPT ודאלי3

לפרטים נוספים לחצו כאן >>

העתיד כבר כאן? צעד ענק לבינה המלאכותית

Q* נתפס כצעד משמעותי לקראת AGI – בינה מלאכותית שמסוגלת לבצע כל משימה אינטלקטואלית שאדם יכול לבצע. גם פה עולות שאלות מרתקות: האם נראה בקרוב מחשבים שחושבים ממש כמו בני אדם? ומה המשמעות של זה לחברה שלנו?

היכולות של Q* מבטיחות פריצות דרך מדעיות מרגשות. דמיינו מודל שיכול לנתח מידע גנטי ולגלות תרופות חדשות, או לפתור בעיות סביבתיות מורכבות. יש אפילו ספקולציות שטכנולוגיה כזו עשויה “לפתור בעיות עולמיות בן לילה”.

מצד שני, עולות שאלות אתיות מטרידות. מה יקרה אם מחשב כזה ילמד לפצח כל קוד? האם נאבד שליטה על המערכות שאנחנו יוצרים? ומה לגבי השפעה על שוק העבודה? יש דיווחים על יכולות מדאיגות, כמו יצירת וידאו של מנהיגי עולם אומרים דברים שלא אמרו, או גישה לסודות מדינה בקנה מידה גדול.

לסיום – האם התות יכול לשנות את העולם?

פרויקט Q* (Strawberry) של OpenAI מסמל יותר מסתם התקדמות טכנולוגית. הוא מייצג את הפוטנציאל והאתגרים של עידן חדש בבינה מלאכותית.

פרויקט Q* הסודי שהפך ל-Strawberry

בעוד שרוב הפרטים על הפרויקט עדיין מעורפלים, דבר אחד ברור: אנחנו עומדים בפני שינויים מרחיקי לכת. השמועות מדברות על קפיצת מדרגה משמעותית, אולי אפילו בסדר גודל של המעבר מ-GPT-3 ל-GPT-4.

השאלה היא לא רק האם אנחנו מוכנים טכנולוגית, אלא גם האם אנחנו מוכנים חברתית ואתית לעולם שבו מחשבים חושבים כמעט כמונו. כמו התות עצמו, הפוטנציאל של Q* מתוק ומפתה. אבל יש לו גם צד אחר – צד שדורש מאיתנו לחשוב היטב על ההשלכות של מה שאנחנו מפתחים.

בסופו של דבר, הסיפור של Q* הוא לא רק על טכנולוגיה. הוא על האנושות עצמה, על החלומות שלנו, הפחדים שלנו, והדרך שבה אנחנו רוצים לעצב את העתיד. ואולי, כמו התות הקטן שהפך לסמל גדול, גם אנחנו נגלה שהדברים הקטנים שאנחנו עושים היום, יכולים להוביל לשינויים גדולים מחר.