האם דריו אמודאי יוריד את השאלטר של קלוד?

עוד ועוד מנכ”לים בעולם הבינה המלאכותית יוצאים בהצהרות פומביות על ההשקעות האדירות והמהלכים שמצפים לנו בשנים הקרובות. בזמן שאנתרופיק רושמת זינוק של פי עשרה בהכנסות, מנכ”ל החברה הצבעוני, דריו אמודאי, שסוחף אחריו עדת מעריצים וגרופיז כמו כוכב רוק בשמי ה-AI, יוצא בהצהרות: “ברגע שלא נוכל לשלוט על המודלים שלנו, נעצור הכול”. אבל מה באמת עומד מאחורי ההצהרה הפומפוזית, והאם באמת אנטרופיק, החברה שמאחורי מודל השפה קלוד, תקפיא את פיתוח מודלי ה-AI המצוינים שלהם?

המתח בין אמודאי לאלטמן

רבים רואים באמודאי כנביא זעם. הוא סוג של אנטיתזה לסם אלטמן. בצד אחד – מנכ”ל צעיר שמפורסם בשערוריות ושמתעדף השקות נוצצות על פני פיתוח זהיר – כן אלטמן… אני מסתכל עליך. ובצד שני – בחור מתולתל וממושקף, שנראה כאילו יצא היישר מפרק של היפה והחנון – כזה שמשחרר מודלים בשקט בשקט, ואז כל העולם מדבר עליהם. שמפרסם מאמרים מחקריים כמעט באותה תדירות שהוא מחליף גרביים – דריו אמודאי, אביר ה- Guardrails וה-Governance. או במילים של אנשים נורמליים – זה עם הצ’טבוט הנחמד שעושה הכל זהיר, בטוח ובלי לחץ.

הצהרות והשקעות באנתרופיק

אז מה באמת עומד מאחורי אותה הצהרה של אמודאי? אנתרופיק כבר מזמן לא האחות הקטנה של OpenAI. החברה גייסה באמצע השנה 3 מיליארד דולר, ועכשיו מגייסת עוד 10 מיליארד דולר – מה שמקפיץ את שווי החברה ל-170 מיליארד דולר. הסכומים הללו שמים אותה באותה שורה עם OpenAI וגוגל. כאחת מחברות ה-AI המובילות בעולם, היא מיתגה את עצמה כמגדלור של בטיחות וחשיבה זהירה. אמודאי עצמו אמר לא פעם שההתפתחות של המודלים היא אקספוננציאלית. כל כמה חודשים יוצא מודל חדש, חכם יותר מקודמו ואם פעם דיברנו על מודלים ברמת משכל של תלמיד תיכון, היום כבר יש מערכות שנותנות ייעוץ כמו מומחים ברמת PHD LEVEL.

האתגרים והעתיד באנתרופיק

ובדיוק פה צפה שוב אותה שאלה מטרידה: “איך בני אנוש יכולים לחלום לפקח על מודלים שחכמים יותר מבני אנוש?” ואיך בכלל אפשר להתמודד עם קצב פיתוח כזה? אולי בדיוק בגלל החשש הזה, אנטרופיק משקיעים כל כך הרבה באבטחה. המודל העסקי שלהם מחייב אותם לפתח מוצרים לתועלת הציבור. לטענת אמודאי, המבחן האמיתי יגיע ברגע שהם יגיעו למודל שאי אפשר לפקח עליו. שם לטענתו הם ילחצו על הברקס. אבל הוא ממהר להרגיע – “זה לא אומר שאנחנו קרובים לנקודה הזו, וגם לא שזה יקרה מחר בבוקר”.

להפך – הוא מדגיש את ההשקעה העצומה במחקרי governance ובניית מנגנונים של בטיחות, שקיפות ושליטה. כמעט בכל חודש מתפרסם מחקר חדש מבית אנתרופיק, שבוחן לעומק איך המודלים פועלים, היכן טמונים הסיכונים, ואיך אפשר להבטיח רמת הבטחה שעומדת בקצב הפיתוח. עד עכשיו, ההבטחה הזו מחזיקה. הבטיחות מצליחה ליישר קו עם קצב הפיתוח הטכנולוגי, ולא נראה שאמודאי הולך להוריד את השאלטר בזמן הקרוב. מבחינתו, האחריות קודמת להיסטריה – והשאיפה היא להמשיך לפתח, אבל לא במחיר של אובדן שליטה.