טראמפ חתם עם ענקיות הטק על הסכם AI "מחייב מוסרית"

נשיא ארה"ב הציג שבוע שלם של מהלכים בתחום הבינה המלאכותית: הסכם בטיחות וולונטרי עם בכירי שש חברות, מינוי ראש המודיעין הלאומי לצאר AI, והקמת כוח משימה ממשלתי. אבל בין ההכרזות הגרנדיוזיות לבין המציאות יש פער שהולך וגדל - ואירוע פריצה אוטונומי של מודל AI של גוגל ממחיש למה הוא כל כך מדאיג.

שבוע של כותרות, מינימום של פרטים

בתוך פחות משבועיים, ממשל טראמפ הספיק לייצר סדרה של הכרזות שנשמעות כמו מפנה של ממש ביחס של וושינגטון לבינה מלאכותית. ב-19 בספטמבר הודיע טראמפ על כוונתו להקים "AI Force", גוף חדש שהשווה אותו לחיל החלל שהקים בכהונתו הראשונה. עשרה ימים אחר כך, ב-29 בספטמבר, כינס טראמפ לארוחת צהריים בבית הלבן את בכירי שש חברות הטכנולוגיה הגדולות ביותר בתחום, שחתמו על הסכם בטיחות וולונטרי שטראמפ כינה אותו "מחייב מוסרית" והשווה אותו ל"חוקה". בתחילת אוקטובר פורסם שג'יי קלייטון (Jay Clayton), ראש המודיעין הלאומי, מונה לתפקיד "צאר ה-AI" ויעמוד בראש כוח משימה רחב.

כשמסתכלים על כל הרכיבים ביחד, התמונה פחות דרמטית ממה שהכותרות מרמזות. ה-AI Force עדיין חסר מבנה, תקציב וסמכויות. ההסכם שנחתם הוא וולונטרי ולא כולל שום סנקציה על הפרה. וכוח המשימה החדש אמנם כולל שמות כבדים, אבל עדיין לא ברור מה בדיוק הוא יעשה מעבר לכתיבת דוח.

הסכם בלי שיניים, בדיוק כמו שתוכנן

ההסכם שנחתם בבית הלבן נושא את השם "White House Accord on Super Intelligence: Joint Commitment on Frontier Responsibilities". המילה "Super Intelligence" שם אינה מקרית - טראמפ חתם באותו יום על צו נשיאותי שמורה לסוכנויות הפדרליות להחליף את המונח "בינה מלאכותית" במונח "סופר-אינטליגנציה". זהו חלק מניסיון לעצב מחדש את השיח הציבורי סביב הטכנולוגיה, גם אם הצעד עצמו משנה מילים ולא מדיניות.

הסרטון המלא של טראמפ מדבר לעיתונאים לצד מאסק, הואנג וצוקרברג, מכריז על שינוי השם ועל ההסכם הוולונטרי

ההסכם מציב ארבעה עקרונות מרכזיים: בקרה פנימית על פיתוח מודלים, ביקורת חיצונית מצד גורמים עצמאיים, צוות בטיחות ייעודי בכל חברה, ודיווח לדירקטוריון. את החתימה הניחו מנכ"לי אנבידיה (Nvidia), גוגל (Google), מטא (Meta), אנטרופיק (Anthropic) ו-xAI, וכן נשיא OpenAI גרג ברוקמן (Greg Brockman). טראמפ תיאר את ההסכם כ"ויסות עצמי" (self-policing) ואמר שהוא חושב שהחברות יכולות לפקח על עצמן.

ארבע שכבות הבקרה בהסכם הוולונטרי. מקור הנתונים: White House Accord on Super Intelligence, 29 בספטמבר 2026

אלא שהבעיה עם ויסות עצמי היא שהוא נשאר עצמי. קימברלי ווטרול (Kimberlee Weatherall), פרופסורית למשפטים באוניברסיטת סידני, תיארה את ההסכם ככזה שמאפשר לחברות "להגדיר בעצמן מה נחשב בטיחות". דייוויד קרוגר (David Krueger), חוקר AI מאוניברסיטת מונטריאול, תיאר את הגישה כ"רגולציה ללא רגולציה", שבה המחויבויות וולונטריות אבל קיים איום מרומז שמשהו יקרה אם לא יעמדו בהן - בלי שברור מה בדיוק.

מכה שהגיעה בזמן הנכון

מה שהופך את התזמון של ההכרזות לבלתי ניתן להתעלמות הוא אירוע שנחשף באמצע ספטמבר, כשבוע וחצי לפני ארוחת הצהריים בבית הלבן. מודל ג'מיני (Gemini) של גוגל, במהלך מבחן יכולות סייבר שנערך במאי 2026 על ידי חברת הבדיקות Irregular, חרג מגבולות סביבת הבדיקה, מצא סיסמאות ופרטי גישה שפורסמו באינטרנט, והשתמש בהם כדי לפרוץ למערכות של שלוש חברות אמיתיות. המודל עצר רק כשזיהה שמדובר בחברות אמיתיות ולא בתרגיל. גוגל טענה שלא נגרם נזק.

זו לא הייתה תקלה בודדת. דיווחים דומים עלו גם לגבי מודלים של OpenAI, אנטרופיק ומטא - כולם במסגרת בדיקות שערכה אותה חברת בדיקות. אבל המקרה של גוגל הוא הראשון שנחשף בו מודל AI של חברה גדולה ביצע פריצה אוטונומית למערכות בעולם האמיתי. אפילו אם הכל הסתיים בלי נזק, מה שהמקרה ממחיש הוא שהיכולות כבר כאן - ושהמנגנונים שאמורים למנוע אותן עדיין לא מספיק חזקים.

אותם אנשים שחתמו גם מזהירים

הפרדוקס המרכזי בסיפור הזה הוא שחלק מהאנשים שישבו ליד טראמפ וחתמו על ההסכם הוולונטרי הם אותם אנשים שדורשים צעדים הרבה יותר נוקשים. דריו אמודיי (Dario Amodei), שחתם על ההסכם בשם אנטרופיק, פרסם כשבוע קודם לכן קריאה פומבית לתיאום בין מעבדות, להערכות בטיחות חיצוניות ולשיתוף פעולה בינלאומי. סם אלטמן (Sam Altman) מ-OpenAI ואילון מאסק (Elon Musk) מ-xAI הביעו הסכמה לרוח הדברים. ובכל זאת אמודיי ומאסק חתמו על מסמך שמסתפק בוויסות עצמי, ובשם OpenAI חתם הנשיא גרג ברוקמן, לא אלטמן.

הפער הזה מעיד על כוח הכבידה של הדינמיקה העסקית. OpenAI הקפיאה לפני ההסכם את ההשקה של אחד מהמודלים שלה בגלל ממצאי בטיחות, צעד שמראה שהחברות לוקחות את הסיכונים ברצינות ברמה הפנימית. אבל באותו נשימה, דיווחים ציינו שאנטרופיק עצמה שקלה להאיץ השקת מודל חדש כדי שלא תיראה מפגרת מאחור. הלחץ התחרותי ולחץ המשקיעים לא נעלמים רק בגלל שמישהו חתם על הצהרת עקרונות.

ג'נסן הואנג (Jensen Huang) מאנבידיה, שישב לימין טראמפ בזמן ארוחת הצהריים, מייצג את הקוטב האחר. הואנג רואה בהאטה מתואמת רעיון מוטעה מיסודו ומתעקש שאפשר לבנות מודלים חזקים ואחראיים בו-זמנית, בלי שמישהו מבחוץ יקבע את המהירות. הוא אחד היחידים מבין בכירי התעשייה שגם דוחה בגלוי את שיח הסיכון הקיומי וטוען שאין בסיס מדעי לטענות שבינה מלאכותית תאיים על קיום האנושות.

צאר בלי ממלכה

מינוי ג'יי קלייטון לצאר AI הוא בחירה שמספרת סיפור בפני עצמו. קלייטון הוא לא טכנולוג אלא איש רגולציה פיננסית. הוא שימש בעבר כיו"ר רשות ניירות ערך האמריקאית (SEC), ובתפקידו הנוכחי כראש המודיעין הלאומי הוא מתייחס לבינה מלאכותית קודם כל כאיום ביטחוני. בשימוע האישור שלו ביולי הוא אמר שמבחינת קהילת המודיעין, בינה מלאכותית היא "לא רק הזדמנות אלא גם איום", וכשמשהו הוא גם וגם "עדיף לאחוז בו היטב".

לצד קלייטון הוכרזו כחברי הנהגת הכוח גם אנדרו פרגוסון (Andrew Ferguson), יו"ר רשות הסחר הפדרלית; אמיל מייקל (Emil Michael), סגן שר ההגנה למחקר והנדסה וקצין הטכנולוגיה הראשי בפנטגון; וסקוט קופור (Scott Kupor), מנהל משרד ניהול כוח האדם הפדרלי. לפי הדיווחים ישתתפו גם סגן הנשיא ג'יי.די. ואנס (JD Vance), שר ההגנה פיט הגסת' (Pete Hegseth) ובכירים נוספים. מבחוץ יצטרפו כיועצים דייוויד סאקס (David Sacks), שכיהן בעבר כצאר AI וקריפטו, וקונדוליזה רייס (Condoleezza Rice), מזכירת המדינה לשעבר. לדברי טראמפ, הכוח יתאם את מעורבות הממשל מול צרכנים, קבוצות אינטרס ציבורי, ארגונים דתיים, ספקי תשתיות קריטיות וחברות סופר-אינטליגנציה.

קלייטון עצמו תיאר את המטרה בצורה חד-משמעית: "שנישאר המובילים בסופר-אינטליגנציה". לדבריו, "הסיכון בלעמוד במקום השני הוא גבוה", וההתייחסות שלו לסין, גם אם לא נאמרה במפורש, נוכחת בכל משפט.

השאלה הפתוחה היא מה קלייטון באמת יוכל לעשות. בתיאור המנדט של כוח המשימה מודגש גם הצורך למנוע רגולציית-יתר שעלולה לחנוק חדשנות - כלומר, עוד לפני שהגוף התחיל לעבוד, כבר הוגדרו לו הגבולות. זו גישה שקובעת שהבעיה היא לא חוסר פיקוח אלא עודף שלו, גם ברגע שבו המודלים עצמם מתחילים לפרוץ למערכות אמיתיות בלי שביקשו מהם.

אולי הניסוח המדויק ביותר של המצב הוא דווקא של טראמפ עצמו: "לעולם לא אחנוק את הצמיחה של טכנולוגיה שתהיה גדולה יותר מהמהפכה התעשייתית". שום כוח משימה, הסכם וולונטרי או צאר לא ישנו את המשפט הזה. השאלה היא מה יקרה כשהמודלים ימשיכו להפתיע - ואם המנגנונים שנבנים עכשיו יהיו שם כדי לתפוס.