שבוע טוב לכולם!
אני רוצה שתכירו מאמר חדש ומעניין שיצא.
למה הוא מעניין?
כי הוא עוזר לנו החברה הפשוטים להבין שמי שבונה את הטכנולוגיה הזו לא נח לרגע, ולדעתי חשוב לזכור את זה כי הרבה יותר קל ליפול מהרכבת מאשר לעלות אליה.
מחקר של OpenAI
האם ניתן להשתמש בתכונות ההכללה של למידה עמוקה כדי לשלוט בדגמים חזקים באמצעות פיקוח חלש?
המאמר עוסק באתגר המרכזי של כינון דגמים על-אנושיים בעתיד (super intelligent), כאשר בני אדם יצטרכו לפקח על מערכות AI החכמות מהם.
בעברית: האם דגמים קטנים יכולים לפקח על דגמים גדולים?
ואם אנחנו חושבים על סופראינטילגנציה, אז צריך להבין שמדובר בפער אדיר מהאינטילגנציה שיש לנו, בני האדם.
אנלוגיה פשוטה: האם קהילה של דבורים יכולה לפקח על קהילה של בני אדם?
התוצאות מראות שניתן להשתמש בדגם ברמת GPT-2 כדי להוציא לפועל את רוב יכולותיו של GPT-4,כשהביצועים קרובים לרמת GPT-3.5, גם בבעיות קשות שבהן הדגם הקטן לכשלעצמו נכשל.
אבל כאן יש גישה חדשה לנושא, המחקר מצביע על כך ששיטות כינון נוכחיות, כמו למידת חיזוק מתוך משוב אנושי, עשויות להיות לא יעילות במיוחד עבור דגמים על-אנושיים ללא עבודה נוספת, אך מצד שני, ישנה אפשרות לשפר משמעותית את ההכללה מפיקוח חלש לחזק.
בנוסף למחקר הזה, שוחרר גם הפוסט “Superalignment Fast Grants” המציג את השקת תוכנית המענקים בסך 10 מיליון דולר מטעם OpenAI, בשיתוף עם אריק שמידט, לתמיכה במחקר טכני המכוון לכינון ובטיחות של מערכות AI על-אנושיות.
ורגע לפני שאמשיך, אני רק רוצה להזכיר לכם שממש לפני שבועיים עוד היינו בדרמה של סאם אלטמן
ודנו רבות סביב הנושא הזה של מזה לעזזאל Q* ומה איליה ראה?!
בכל מקרה, אישית אני חושב שעברנו קצת מהר מידי מלדבר על AI ל AGI ל SAI
המענקים מטעם OpenAI יתמכו במחקרים בתחומים כמו הכללה מחלש לחזק, פרשנות, פיקוח ניתן להרחבה, ועוד.
המענקים מיועדים למעבדות אקדמיות, ארגונים ללא מטרות רווח, וחוקרים פרטיים, עם סכומים הנעים בין 100,000 ל-2,000,000 דולר וגם ישנה תמיכה בסכום של 150,000 דולר לסטודנטים לתואר שני ודוקטורט למשך שנה, כולל מלגה ותקציב למחשוב ומחקר.
התוכנית פתוחה גם לחוקרים שעדיין לא עסקו בתחום הכינון, והמטרה היא למשוך חוקרים חדשים לתחום אז אם אתם מכירים מישהו גאון, שלחו לו את זה.
ואם אין לכם, אז אני אשחרר אתכם לסופש עם הסרטון החדש של Optimus 2 בשביל שתוכלו לדמיין מה יקרה כשהוא יפגש עם super intelligent…
פינת הסיכום השבועי שנוצר 100% מבינה מלאכותית: |
|
1. מאמר מחקר של מיקרוסופט מציג את דגם השפה החדש “Phi-2”, בעל 2.7 מיליארד פרמטרים, המראה יכולות מרשימות בתחום ההבנה וההיגיון השפתיים. הדגם מתמודד ולעיתים משיג ביצועים טובים יותר מדגמים גדולים פי 25, הודות לחדשנות בקנה מידה של הדגם ובאיסוף נתוני האימון. נתונים איכותיים מתחום החינוך והמדע תורמים לביצועיו המרשימים של הדגם. “Phi-2” זמין כעת בקטלוג הדגמים של Azure AI Studio, ומהווה מגרש משחקים אידיאלי לחוקרים בתחומים שונים. 2. אקסל שפרינגר ו-OpenAI הודיעו על שותפות עולמית לחיזוק העיתונות העצמאית בעידן הבינה המלאכותית. היוזמה תעשיר את חוויית המשתמשים ב-ChatGPT על ידי הוספת תוכן עדכני ומוסמך במגוון נושאים, תוך הדגשת תפקיד המו”ל בתרומה למוצרי OpenAI. השותפות מסמלת צעד חשוב במחויבות של שתי החברות לנצל את הבינה המלאכותית לשיפור חוויות התוכן ויצירת הזדמנויות כלכליות חדשות שתומכות בעתיד בר-קיימא לעיתונות. משתמשי ChatGPT ברחבי העולם יקבלו תקצירים של תוכן חדשות עולמי נבחר ממותגי התקשורת של אקסל שפרינגר, כולל POLITICO, BUSINESS INSIDER, והמותגים האירופיים BILD ו-WELT, כולל תוכן שהיה בתשלום. תשובות ChatGPT לשאלות המשתמשים יכללו הפניות וקישורים למאמרים המלאים לשקיפות ומידע נוסף. 3. Stability AI מציגה את מועדון החברות שלה, המספק זכויות מסחריות לדגמים המרכזיים שלה במגוון תחומים. המועדון מציע שלוש רמות חברות: ללא תמורה לשימוש אישי ומחקר, מקצועית בעלות של 20 דולר לחודש ליצירתיים וסטארטאפים, וארגונית עם תמחור מותאם לחברות גדולות. המטרה היא להפוך את הבינה המלאכותית הגנרטיבית לנגישה לכולם, תוך קידום פתרונות בטוחים, פרטיים ומאובטחים. 4. חברת הכנת המסים H&R Block השיקה צ’אטבוט מבוסס בינה מלאכותית, AI Tax Assist, המשיב על שאלות של משלמי מסים. הצ’אטבוט, הזמין בגרסאות התשלומיות של תוכנת המס העצמית של H&R Block, מאפשר למשתמשים לשאול שאלות על חוקי מס, פטורים אפשריים ונושאים נוספים הקשורים למס. הצ’אטבוט מפנה גם למומחי מס אנושיים לייעוץ מותאם אישית, והחברה מתכננת לתמוך גם בייעוץ מותאם אישית מבוסס AI. 5. בראיון לכתב TIME, סם אלטמן, מנכ”ל OpenAI, דיבר בכנות על הדיחתו והחזרתו לתפקיד בנובמבר ב-OpenAI, על האיומים שבינה מלאכותית עלולה להביא בתחום המידע המוטעה, ועל הפוטנציאל העתידי של הטכנולוגיה המתקדמת. הוא טען שהחוויה חיזקה את החברה והדגיש את החשיבות של פיתוח בינה מלאכותית כללית באופן דמוקרטי ובטוח. אלטמן ציין כי הבינה המלאכותית יכולה להיות הטכנולוגיה החזקה ביותר שהאנושות פיתחה, אך יש להתמודד עם אתגרים וסיכונים, במיוחד בהשפעתה על דמוקרטיות. 6. Google השיקה את MusicFX, כלי חדש וחלוצי המופעל על ידי בינה מלאכותית, המאפשר למשתמשים ליצור מוזיקה מתוך קלט טקסט. הכלי משתמש ב-MusicLM של Google ובטכנולוגיית הסימון המימי של DeepMind, SynthID, כדי ליצור סימון דיגיטלי ייחודי ביצירות, מה שמבטיח את אותנטיותן ומקורן. MusicFX מציע הזדמנויות חדשות למוזיקאים, מפיקים וחובבים לנסות וליצור מוזיקה, אך עם מגבלות מסוימות כדי להגן על זכויות היוצרים המקוריים. השירות זמין בארה”ב, קניה, ניו זילנד ואוסטרליה והוא חלק מ-AI Test Kitchen של Google, שמטרתו להעניק לציבור הצצה לטכנולוגיות הבינה המלאכותית החדשות שלה. 7. Claude for Sheets הוא תוסף חדש של Google Sheets המאפשר אינטגרציה חלקה בין Claude ו-Google Sheets, כך שניתן לבצע אינטראקציות עם Claude ישירות בתאים. התוסף מחייב התקנה והפעלה בכל פעם שנוצר חוברת עבודה חדשה, ודורש מפתח API של Claude. התוסף מציע שתי פונקציות עיקריות: =CLAUDE(prompt) לשימוש פשוט ו=CLAUDEFREE(prompt, model, params…) לשימוש מתקדם יותר. ניתן להגדיר פרמטרים נוספים בקריאה לפונקציה. Claude for Sheets מציע גם מדריכים ודוגמאות לשימוש בתוסף. 
8. Stability AI השיקה את Stable Zero123, דגם בינה מלאכותית ליצירת תצוגות חדשות של אובייקטים תלת-ממדיים עם איכות משופרת. הדגם משתמש במערך נתונים משופר, מסונן מ-Objaverse, ובתנאי גובה לחיזויים באיכות גבוהה יותר. הדגם, שמיועד לשימוש לא מסחרי ולמחקר, זמין כעת ב-Hugging Face להורדה וניסויים על ידי חוקרים ומשתמשים לא מסחריים. Stable Zero123 מציג תוצאות משופרות באופן מובהק לעומת הדגם הקודם, Zero123-XL. |
בואו ללמוד איתנו בינה מלאכותית בקורס המקיף, העשיר והמבוקש בשוק. הצטרפו לאלפים הרבים שכבר עברו את הקורסים והסדנאות שלנו. פרטים והרשמה באתר.
רוצים לקבל עדכונים בלייב? רוצים מקום בו אתם יכולים להתייעץ עם מומחי AI, לשאול שאלות ולקבל תשובות? רוצים לשמוע על מבצעים והטבות לכלי ה-AI שמשנים את העולם? הצטרפו לקהילות ה-AI שלנו.
אפשר גם להרשם לניוזלטר שלנו
רוצים לקבל עדכונים על כל מה שחדש ומעניין בעולם ה-AI? הרשמו לניוזלטר שלנו!
