ימים לפני הנפקת ענק – אנטרופיק מבקשת מהמתחרים להאט את הקצב

חברה שנמצאת ימים ספורים לפני הנפקה של כמעט טריליון דולר מפרסמת קריאה לעצור את הקצב. זה נשמע כמו סתירה, אבל אנטרופיק טוענת שזו בדיוק הנקודה - מישהו צריך לבנות את הבלם לפני שהמכונית מאיצה לבד.

אנטרופיק (Anthropic), החברה שמאחורי קלוד (Claude), פרסמה השבוע פוסט שמציע משהו לא שגרתי בתעשייה תחרותית עד כאב: שחברות הבינה המלאכותית המובילות בעולם יתאמו ביניהן מנגנון משותף שיאפשר להאט או לעצור זמנית את הפיתוח של מערכות AI מתקדמות. הסיבה, לפי החברה, היא שהטכנולוגיה משתפרת כל כך מהר כך שקיים סיכון ממשי שבני אדם יאבדו עליה שליטה.

הטיעון נשען על מגמה מדידה. מודלים של AI נעשים מהירים יותר ויותר ביכולת שלהם לבצע משימות תוכנה כמו כתיבת קוד באופן עצמאי. אנטרופיק מסבירה שאם המגמה הזו תימשך, ובהינתן מספיק כוח חישוב, מערכת AI עשויה בשלב מסוים לתכנן ולפתח את היורש שלה בעצמה. בתעשייה קוראים לזה שיפור עצמי רקורסיבי.

הציוץ הרשמי של אנטרופיק

למה דווקא עכשיו?

הרעיון של מכונה שמשפרת את עצמה הוא פריצת דרך טכנולוגית עצומה. אנטרופיק עצמה מציינת שמערכת כזו תוכל להביא תועלת רבה במדע, ברפואה ובתחומים נוספים. אבל באותה נשימה היא מוסיפה שהיכולת הזו עלולה גם להגדיל את הסיכון שבני אדם יאבדו שליטה על מערכות הבינה המלאכותית. זו הנקודה שבה ההתלהבות פוגשת את החשש.

את הפוסט חתמו ג'ק קלארק (Jack Clark), אחד ממייסדי החברה, ומרינה פאברו (Marina Favaro), שעומדת בראש מכון המחקר הפנימי של אנטרופיק. לדבריהם, ההשהייה נועדה לאפשר למבנים החברתיים ולמחקר ההתאמה להדביק את הפער מול ההתקדמות הטכנולוגית. התאמה, או Alignment, היא המונח המקצועי לדאגה שהטכנולוגיה תפעל בהתאם לערכים ולכוונות של בני אדם.

"אתם רוצים את האפשרות להרים את הרגל מדוושת הגז וללחוץ על הבלם. כרגע זה כאילו לתעשיית ה-AI יש דוושת גז, אבל אין לה דוושת בלם."

— ג'ק קלארק, בריאיון ל-BBC Newsnight, יוני 2026

החברה מדגישה שכדי שמנגנון כזה יעבוד, הוא חייב להיות גלובלי ומתואם. בלי תיאום, האטה של שחקן אחד פשוט תאפשר לשחקנים הזהירים פחות להשיג אותו, ותגביר את הלחץ על חברות ועל ממשלות שצריכות לקבל החלטות קשות בנושא בטיחות. המנגנון המוצע אמור לאפשר למעבדות לוודא שהמתחרים אכן עצרו או האטו את העבודה, וגם למנוע מצב שבו גורם זדוני מנצל את ההאטה המתואמת כדי לזנק קדימה בחשאי.

לא כולם מסכימים על הדרך

הגישה של אנטרופיק רחוקה מלהיות קונצנזוס. המתחרה OpenAI פרסמה ביום רביעי דוח עם עמדה שונה לחלוטין, שלפיה ממשלות דמוקרטיות, ולא חברות פרטיות שפועלות לבדן, הן שצריכות בסופו של דבר לקבוע את הכללים, מנגנוני ההגנה והאחריות. במילים אחרות, ויכוח על מי בכלל מחזיק את היד על דוושת הבלם.

עמדת אנטרופיק היא שההחלטות על קצב החדשנות לא צריכות להישאר בידי מעבדה אחת, חברה אחת או קבוצת אינטרסים מסוימת. החברה אמרה שמכון המחקר הפנימי שלה מתכוון לחקור את הנושא בשיתוף עם גורמים אחרים ולנקוט פעולות שיסייעו לבנות את התשתית להאטה או השהיה אמינה, בלי לפרט יותר מדי מה זה אומר בפועל.

אזהרה שמגיעה מכיוון אחר

הפוסט של אנטרופיק התפרסם זמן קצר אחרי אזהרה אחרת השבוע, הפעם מצוות חוקרים באוניברסיטת טורונטו. הם הדגימו כיצד אפשר להשתמש בכלי AI כדי ליצור סוג חדש של תולעת תוכנה, שמתאימה את אסטרטגיית הפריצה שלה תוך כדי שהיא מתפשטת ממכשיר למכשיר ומשתלטת על רשת חישוב רחבה.

החוקר הראשי, ניקולא פאפרנו (Nicolas Papernot), הדגיש בריאיון שלא רק המודלים הגדולים והחזקים ביותר מהווים סיכון אבטחתי. הצוות שלו פיתח את התולעת בתנאי מעבדה באמצעות כלי AI בקוד פתוח, מהסוג שקל וזול למפתחי תוכנה לגשת אליו ולשנות אותו. פאפרנו אף יידע את רשויות הסייבר הקנדיות לפני פרסום הדוח.

פאפרנו משתף את המחקר החדש שלו - הגילוי של מחלקה חדשה של איום סייברנטי שנותן לתוקפים עוצמה גדולה יותר

הנקודה שלו נוקבת במיוחד - בעבר, תוקפי סייבר התמקדו ביעדים בעלי ערך גבוה כמו מערכות בנקאות, בתי חולים, רשתות חשמל, מתקני טיפול במים ובתי ספר. כעת, כשעלות התקיפה צנחה, גם המחשב הנייד הישן שנשכח במרתף הופך ליעד. הוא יכול לשמש כנקודת זינוק לתקיפת היעדים החשובים יותר, וכל דבר שמחובר לאינטרנט נמצא בסיכון. פאפרנו קרא לשיתוף פעולה הדוק יותר בין חברות, גופי ממשל וחוקרים אקדמיים כדי לפתח אמצעי נגד.

הקריאה לבלם על רקע מרוץ ההנפקות

יש משהו שלא ניתן להתעלם ממנו בתזמון של הפרסום. הקריאה להאטה מגיעה בדיוק כשאנטרופיק ו-OpenAI נמצאות במרוץ למכירת מניות בבורסה. ההנפקה של אנטרופיק עשויה להעריך אותה בשווי של כמעט טריליון דולר, אחרי שהחברה דיווחה ששוויה הגיע לכ-965 מיליארד דולר בסבב הגיוס האחרון.

הצמיחה של החברה מסחררת. ההכנסות השנתיות שלה חצו את רף 47 מיליארד הדולר במאי, זינוק חד מכ-9 מיליארד דולר בלבד בסוף 2025. כך שהמסר המורכב הוא בעצם זה: חברה שגדלה במהירות חסרת תקדים, ושעומדת לגייס הון עתק מהציבור, היא זו שקוראת לכל התעשייה לבנות מנגנון שיאפשר לעצור.

אפשר לראות בזה צביעות, ואפשר לראות בזה כנות. מי שמכיר מקרוב את קצב ההתקדמות אולי הכי מבין מדוע צריך בלם. השאלה האמיתית היא לא האם הרעיון נכון, אלא האם תעשייה שכל כולה בנויה על תחרות חסרת רחמים מסוגלת בכלל להסכים לעצור יחד. כי בלם שרק שחקן אחד לוחץ עליו הוא לא בלם, הוא רק ויתור על המקום הראשון.