כשהבטיחות הופכת לשאלה של תקציב

כש-Anthropic הכריזה על Claude Gov – סדרת מודלים מותאמת לסוכנויות ביטחוניות בארה”ב – היא לא רק פתחה ערוץ הכנסה חדש. היא פתחה פתח לשאלה עקרונית הרבה יותר: האם אפשר לשמור על עקרונות בטיחות נוקשים – בעולם שבו הדרישות הביטחוניות הולכות וגוברות?

מה זה Claude Gov?

לפי ההכרזה הרשמית, Claude Gov הוא סט מודלים שנבנה “על בסיס משוב ישיר מלקוחות ממשלתיים”, ונועד לפעול בסביבות מסווגות בלבד. Anthropic מדגישה שהמודלים “עברו את אותן בדיקות בטיחות קפדניות” – אבל גם מציינת בפירוש: הם “מתוכננים להתנהג בצורה שונה בהקשרים מסווגים, כמו ניתוח מסמכים ממשלתיים רגישים.”

בין היכולות המוגברות:

• הבנה עמוקה יותר של ז’רגון מודיעיני וביטחוני.

• ניתוח נתוני סייבר מורכבים.

• מיומנות בשפות ודיאלקטים קריטיים.

• תגובה גמישה יותר למידע מסווג.

כלומר, המודל פחות מסרב, פחות עוצר, ומספק יותר גישה. ולא לציבור, אלא לסוכנויות ממשלתיות בלבד.

גם לבטיחות יש גרסה מסווגת

במבט ראשון, זו נשמעת כמו פשרה. אבל כדאי לעצור ולשאול: האם זה בכלל אפשרי לבנות מערכת בטיחות אחת – שתהיה גם אוניברסלית, וגם מתאימה למודיעין צבאי? Anthropic עצמה ניסתה לאורך כל הדרך לעשות בדיוק את זה: היא שמה את הבטיחות בלב המוצר, לא בצידו. פיתחה את מודל Constitutional AI, השקיעה רבות ב־red-teaming, שיתפה מחקרים על distillation, ועל alignment, והתנגדה בגלוי למורטוריום רגולטורי שאוסר על שקיפות.

וזה בדיוק מה שהופך את ההשקה של Claude Gov למעניינת: היא לא מגיעה מחברה שמזלזלת בבטיחות – אלא מחברה שהובילה את התחום. ולמרות זאת – אפילו היא מוצאת את עצמה בונה גרסה אחרת.

מה קורה כשגם הזהירים נשחקים

הבעיה איננה בכך ש-Anthropic בחרה לעבוד עם סוכנויות ביטחוניות. הטכנולוגיה תפותח בכל מקרה – ומי שמסרב לשתף פעולה פשוט נשאר מחוץ למשחק. הבעיה מתחילה כשגם השחקן הזהיר ביותר נדרש לסמן מחדש מה נחשב “בטוח” – לפי הקשר. אם אפילו Anthropic לא מצליחה לשמור על אחידות בבטיחות, מה זה אומר על התעשייה כולה?

כשההצדקה הביטחונית פוגשת את גבול השקיפות

הטיעון הנגדי ברור: יש פעולות שמודל צרכני צריך לסרב להן – אבל עבור אנליסט ביטחוני הן חיוניות. מודל שלא מספק ניתוח של מסמך מודיעיני מסווג, הוא לא “זהיר”, הוא מכשול מבצעי. ואולי, בהקשרים כאלה, בטיחות צרכנית פשוט לא רלוונטית. אבל גם אם זה נכון – השאלה היא מה עושים עם הפער הזה. כי כרגע, הציבור נשאר בחוץ:

• אין הסבר טכני לאיך הותאמו המודלים

• אין פירוט על נהלי בטיחות במצבים מסווגים

• אין דרך להבין מה “מסרבים פחות” באמת אומר בפועל

והשאלה העמוקה עוד יותר: מי מפקח על הבטיחות – כשכל התהליך חסוי מראש?

תעשייה שלמה בתנועה

Anthropic לא לבד. OpenAI, שהחלה במדיניות של איסור שימוש צבאי, עובדת כיום עם קבלני ביטחון. Meta פותחת את Llama לשותפי הגנה. Google מפתחת גרסאות מסווגות של Gemini. וגם Cohere משתפת פעולה עם Palantir – אחת השחקניות המובילות ב-AI ביטחוני.

הקו שהיה פעם ברור – AI אזרחי בלבד – כבר לא קיים. וכשכל השחקנים הגדולים חוצים אותו, כל אחד בדרכו, הסיפור כבר לא על חברה מסוימת – אלא על מערכת שבה אין מקום לבטיחות קבועה.

הסכנה הכי גדולה היא השקט

הבעיה איננה רק מי עובד עם מי – אלא איך זה קורה. Claude Gov לא הוכרז בפוסט בלוג מפורט, אלא בהודעה מרוכזת, עם ניסוחים כלליים. המונח “אותן בדיקות בטיחות” נשמע מבטיח – אבל אין פירוט על אופן השינוי, טיב ההתאמה, או רמת הפיקוח. וזו הנקודה הקריטית: אם אי אפשר להבין מה השתנה – אי אפשר גם לדעת אם הערכים נשמרו.

זו לא החלטה – זה הכרח

אפשר לפרש את הסיפור הזה בשתי דרכים:

1. Anthropic נכנעה ללחץ של חוזים ממשלתיים וויתרה על עקרונות.

2. אפילו החברה המחויבת ביותר לבטיחות נאלצת לעצב גרסה נפרדת – כי זו דרישת השוק.

הראשון נוח יותר להסביר. השני – מדאיג בהרבה. אם זו מגבלה של כל חברה באקוסיסטם – אז אנחנו לא צריכים רגולציה שתפקח על שחקן מסוים, אלא מנגנונים מערכתיים שמציבים סטנדרטים שאי אפשר להנדס מחדש לפי זהות המשתמש.

האם נותרה בכלל דרך לשמור על בטיחות אמיתית?

השאלה איננה אם AI ישמש למטרות ביטחוניות – אלא איך הוא יעשה זאת. ואם כל ממשלה דורשת מודלים מותאמים, ואם כל שחקן עסקי נמדד לפי היכולת לספק גרסה “פחות מסרבת”, אז אין עקרונות – יש התאמות. Claude Gov הוא לא כשל מוסרי – הוא סימן שאלה אסטרטגי: האם בכלל ניתן לבנות בטיחות אמיתית – בעולם שבו הדרישות המבצעיות מגדירות מחדש את כללי המשחק?