אנטרופיק מכוונת לשווי של 2 טריליון דולר ומזהירה מסיכוני AI קיומיים

אנטרופיק (Anthropic) מתכוננת לאחת ההנפקות המסקרנות שראה ענף הטכנולוגיה. המפתחת של מודלי קלוד (Claude) מכוונת לשווי שעשוי לחצות את רף 2 טריליון הדולר, אבל בתוך תשקיף ההנפקה שלה מופיעה אזהרה שקשה להתעלם ממנה. אותה טכנולוגיה שעליה בנוי העסק שלה עלולה, בתרחישים קיצוניים, להציב "סיכונים קטסטרופליים או קיומיים לאנושות". רויטרס (Reuters) הצליחה לשים את ידה על מסמכי ההנפקה של החברה, והם מרתקים במיוחד. הם חושפים לא רק את השאיפות הכלכליות האדירות של אנטרופיק, אלא גם את החששות העמוקים שלה מהטכנולוגיה שעליה בנוי כל העסק. לפי הדיווחים, החברה עשויה להמתין עם ההנפקה עד לאחר בחירות אמצע הכהונה בארה"ב בנובמבר 2026. מה שהופך את הסיפור הזה לחריג הוא שאנטרופיק מבקשת מהמשקיעים להאמין שהטכנולוגיה שלה יכולה לבנות חברה ששווה טריליוני דולרים, ובאותם מסמכים מפרטת כיצד אותה טכנולוגיה עלולה להתנהג בדרכים שקשה לחזות, לבדוק או לשלוט בהן.

80 עמודים על מה שעלול להשתבש

אחד המספרים הבולטים בתשקיף לא קשור בכלל להכנסות או לשווי. מתוך 261 עמודי הליבה של המסמך, כ-80 מוקדשים לגורמי סיכון. תיאור הפעילות העסקית של החברה, לשם השוואה, מקבל 48 עמודים בלבד.

וחלק מהסיכונים רחוקים מאוד מהאזהרות הרגילות על תחרות או רגולציה. אנטרופיק כותבת שמודלים מתקדמים עלולים להפגין התנהגויות של "שימור עצמי", נסיונות להתנגד לכיבוי, להסתיר או לתמרן מידע ואפילו להפגין התנהגות שהחברה מתארת כדומה לסחיטה.

כאן חשוב לשים את הדברים בפרופורציה. אנטרופיק לא טוענת שקלוד (Claude) מסתובב היום ומנסה לסחוט משתמשים או למנוע מהם לכבות אותו. חלק מההתנהגויות האלה נצפו בתרחישי בדיקה וניסויים מבוקרים שנועדו לבחון כיצד מודלים פועלים במצבים קיצוניים.

אבל עצם הכניסה שלהן לתשקיף משנה את המשקל שלהן. אלה כבר לא רק תרחישים שנדונים במעבדות מחקר או במאמרי בטיחות. החברה עצמה סבורה שהם מהותיים מספיק כדי שמשקיעים פוטנציאליים יכירו אותם.

80 עמודים על מה שעלול להשתבש

ומה קורה כשהמודל יודע שבודקים אותו?

אחת האזהרות המעניינות ביותר בתשקיף נוגעת דווקא ליכולת לבדוק אם מודל בטוח. אנטרופיק כותבת שמודעות אפשרית של מודל לכך שהוא נמצא תחת הערכה יוצרת מגבלה משמעותית על היכולת להעריך את בטיחותו. חוקרי AI כבר מצאו שמודלים מתקדמים יכולים במקרים מסוימים לזהות מאפיינים של סביבת בדיקה ולהתאים את התנהגותם.

זו בעיה עמוקה יותר מבאג רגיל. אם מערכת מסוגלת להתנהג בצורה אחת בזמן מבחן ובצורה אחרת לאחר מכן, קשה יותר להסיק מבדיקות מוקדמות כיצד היא תפעל בעולם האמיתי. אנטרופיק אפילו מזהירה שיכולות בלתי צפויות עשויות להופיע במהלך האימון ולא להתגלות עד שהמודל כבר נמצא בשימוש.

מבחינת חברת AI, זה מערער הנחה בסיסית מאוד. כדי לנהל סיכון צריך קודם כל להיות מסוגלים למדוד אותו.

גם בתוך אנטרופיק יש הערכות קיצוניות

רויטרס מביאה גם את הערכתו של אוון הובינגר (Evan Hubinger), חוקר בטיחות באנטרופיק, שהעריך הסתברות של יותר מ-10% לכך שבינה מלאכותית תגרום למותם של בני אדם במהלך העשור הקרוב.

חשוב להדגיש שזו הערכה אישית של חוקר, ולא תחזית רשמית של אנטרופיק או קונצנזוס מדעי. אין כיום דרך מוסכמת ואמינה להצמיד מספר מדויק לסיכון קיומי מ-AI. ועדיין, עצם העובדה שנושאים כאלה נכנסים למסמך פיננסי שנועד למשקיעים היא שינוי מעניין. דיון שהיה מזוהה במשך שנים עם חוקרי בטיחות ופילוסופים של טכנולוגיה מתחיל להופיע לצד גורמי סיכון עסקיים ומשפטיים.

ואז מגיעים המספרים

לצד האזהרות, אנטרופיק מציגה עסק שצומח במהירות יוצאת דופן. לפי התשקיף שראו ברויטרס, הכנסות החברה זינקו פי 12 במהלך 2025 והגיעו לכמעט 4.6 מיליארד דולר.

הצמיחה הזאת יקרה מאוד. החברה רשמה הפסד תפעולי של יותר מ-8 מיליארד דולר. ההפסד הנקי התקרב ל-42 מיליארד דולר, למרות ש-34 מיליארד מתוכו נבעו מחיוב חשבונאי הקשור למימון שעשוי להפוך בעתיד למניות, ולא מהפעילות השוטפת.

הוצאות המחשוב והתשתיות הגיעו ל-7.33 מיליארד דולר בשנה, יותר ממחצית מהוצאות התפעול שלה. בנוסף, אנטרופיק מתכננת התחייבויות בהיקף של כ-518 מיליארד דולר לענן, מחשוב ותשתיות בשנים הבאות.

מול כל זה עומד יעד שווי של יותר מ-2 טריליון דולר, יותר מכפול מהערכת השווי של 965 מיליארד דולר שאנטרופיק ייחסה לעצמה רק בחודש מאי האחרון. השוק יצטרך להחליט כיצד מתמחרים צמיחה כזאת כאשר החברה עצמה מזהירה שהטכנולוגיה שמניעה אותה עלולה ליצור גם סיכונים חריגים שקשה לכמת.

בטיחות עולה כסף, והמרוץ לא מחכה

כאן נמצא אחד המתחים המעניינים ביותר בתשקיף. אנטרופיק בנתה חלק גדול מהזהות שלה סביב פיתוח אחראי ובטיחות AI. אבל במסמך היא מודה שעבודת הבטיחות צורכת משאבים רבים ושהתשואה העסקית על ההשקעה הזאת לא ממש ברורה.

החברה צריכה לחלק כוח מחשוב, כסף וחוקרים בין פיתוח מודלים חדשים לבין מחקר בטיחות. במקביל, היא כותבת שהכנסותיה מושפעות מהשקת מודלים חדשים ושקצב השקות רציף הוא חלק מהצורך להישאר בחזית הטכנולוגית.

זה אחד המתחים המרכזיים שמלווים כיום את מעבדות ה-AI המתקדמות ביותר. האטה יכולה לאפשר יותר זמן לבדיקות ולמחקר בטיחות, אבל בעולם שבו OpenAI, גוגל (Google), מטא (Meta) ואחרות ממשיכות להתקדם במהירות, היא עלולה לעלות בלקוחות, בכישרונות ובמעמד בשוק. האצה, מנגד, עלולה להגדיל סיכונים שקשה אפילו למדוד מראש.

הליכה על חבל דק

בעיניי, האזהרות האלה חשובות דווקא משום שהן מופיעות בתשקיף. קל יותר להתייחס לדיונים על סיכון קיומי כאל תרחישים תאורטיים כשהם מופיעים במאמרי מחקר, בבלוגים או בראיונות. כאשר חברה שמבקשת מהציבור להשקיע בה מכניסה אותם לרשימת גורמי הסיכון שלה, הם מקבלים מעמד אחר. הם הופכים לחלק מהמידע שהחברה חושבת שמשקיע צריך להביא בחשבון.

זה עדיין לא אומר שכל תרחיש שאנטרופיק מציגה צפוי להתממש. צריך להיזהר במיוחד מהערכות מספריות כמו זו של הובינגר. אין כיום קונצנזוס שמאפשר לומר שיש 10%, 5% או כל מספר אחר של סיכון לאסון כזה. אבל בעיניי קשה יותר להתעלם מהמתח שאנטרופיק עצמה חושפת.

מצד אחד, היא מאמינה שהמשך פיתוח המודלים ייצור ערך כלכלי עצום. מצד שני, היא אומרת למשקיעים שככל שהמערכות הופכות מתקדמות יותר, הן עלולות גם לייצר התנהגויות שיהיה קשה יותר לזהות ולשלוט בהן. ובאותו זמן היא פועלת בשוק שבו האטה עלולה לתת יתרון למתחרים. זה החבל הדק שעליו היא מנסה ללכת.

המדריכים תמיד חינמיים, אבל אם בא לכם להתמקצע - יש גם קורס בינה מלאכותית במשרד

לפרטים נוספים לחצו כאן >>

זה הרבה יותר ממבחן שווי

ההנפקה של אנטרופיק תהיה הרבה יותר ממבחן לשווי של חברה אחת. היא תבחן כיצד וול סטריט מתמחרת עסק שהצמיחה שלו תלויה בטכנולוגיה שגם יוצריה מודים שהם לא מבינים עדיין את מלוא הסיכונים שלה.

OpenAI מתקדמת גם היא לעבר השוק הציבורי, ולכן החברה שתגיע ראשונה עשויה ליצור נקודת ייחוס משמעותית לאופן שבו המשקיעים מעריכים את חברות ה-AI הגדולות.

וזה אולי החלק המעניין ביותר בתשקיף של אנטרופיק. הדיון על סיכוני AI כבר לא נשאר רק במעבדות מחקר, בכנסים ובוויכוחים פילוסופיים. הוא נכנס למסמך שנועד למשקיעים, לצד הכנסות, הפסדים והתחייבויות של מאות מיליארדי דולרים.

אנטרופיק מבקשת מהשוק להאמין שה-AI שהיא בונה יכול להיות שווה טריליונים. באותו מסמך היא גם מזהירה שהמערכות האלה עלולות להפוך למסוכנות בדרכים שקשה לחזות או אפילו לבדוק מראש. שתי הטענות האלה כבר חיות באותו דוח כספי. עכשיו השאלה היא כמה השוק מוכן לשלם על שתיהן יחד.