מי באמת שולט בגישה שלכם ל-AI: הצצה לעתיד

דמיינו שאתם מתיישבים לעבוד בבוקר, פותחים את כלי ה-AI שאתם הכי סומכים עליו, ובמקום תשובה מקבלים הודעה קצרה: השירות הושבת. לא בגלל תקלה, ולא בגלל שהחברה שמאחורי הכלי החליטה על כך, אלא בגלל שממשלה בצד השני של העולם החליטה במקומכם. זה פחות או יותר מה שקרה ביום שישי האחרון, וכדאי שנעצור רגע ונחשוב מה זה אומר עלינו ועל העתיד שלנו.

מה בעצם קרה?

כדי להבין כמה הרגע הזה מוזר, צריך לחזור כמה ימים אחורה. ממש לאחרונה פרסמו שתי מעצמות ה-AI הגדולות בעולם שתי הצהרות חזון, ושתיהן עסקו בדיוק באותה שאלה: של מי הכוח הזה.

OpenAI פרסמה מסמך שכותרתו מבטיחה AI "לטובת כולם". הרעיון המרכזי שם פשוט: AI צריך להיות נגיש לכל אדם, עד כדי "AGI אישי לכל אדם בעולם". לפי OpenAI, כוח שמרוכז בידי מעטים, בין שמדובר בכמה חברות, כמה ממשלות או כמה אנשים, הוא מתכון לחברה שברירית, ולכן העתיד הבטוח יותר הוא דווקא זה שבו הכוח מבוזר לכמה שיותר ידיים.

במקביל, דריו אמודיי (Dario Amodei), מנכ"ל אנטרופיק (Anthropic), פרסם מאמר מדיניות ארוך עם מסר שונה לגמרי. לדבריו, AI מתקדם הוא טכנולוגיה אסטרטגית, קרובה יותר בעוצמתה לנשק גרעיני מאשר לאפליקציה רגילה. בדיוק בגלל זה, הוא טוען, לממשלה צריכה להיות סמכות לעצור או לפסול מודל מסוכן, בדיוק כפי שרשות התעופה יכולה לאסור על מטוס לא בטוח להמריא. אבל הוא הוסיף תנאי חשוב: זה חייב לקרות בתהליך שקוף, הוגן וברור, עם הגנות מפני החלטות שרירותיות או פוליטיות.

ואז, ביום שישי ב-5:21 אחר הצהריים (שעון ארה"ב), הגיע המכתב. הממשל האמריקאי, בהסתמך על סמכויות ביטחון לאומי, דרש מאנטרופיק לחסום את שני המודלים החזקים שלה, Fable 5 ו-Mythos 5, מפני כל אדם שאינו אזרח אמריקאי, בכל מקום בעולם. כדי לעמוד בדרישה, החברה פשוט כיבתה את שני המודלים לכל המשתמשים. הסיבה הרשמית: חשש ביטחוני סביב שיטה שמאפשרת לעקוף את מנגנוני ההגנה של Fable 5.

אנטרופיק טוענת מצדה שמדובר בפרצה שולית שכבר הייתה מוכרת, שקיימת באותה מידה גם במודלים אחרים כולל GPT-5.5 של OpenAI, ושהיא משמשת מדי יום דווקא את אנשי ההגנה שמייצרים את הבטיחות. היא אף הוסיפה אזהרה: אם אמת מידה כזאת תיושם על כל התעשייה, היא עלולה להקפיא כמעט לחלוטין את ההשקה של מודלים חדשים.

כשהאידאלים פוגשים את המציאות

שימו לב מה קרה כאן. תוך ימים ספורים עברנו מהצהרות חזון יפות אל מבחן המציאות הראשון שלהן, והמציאות לא הייתה עדינה.

OpenAI דיברה על לפזר את הכוח ולפתוח את ה-AI לכל אדם. המקרה הזה מראה בדיוק את ההפך: גישה של מאות מיליוני אנשים יכולה להיסגר בגלל מכתב אחד, בהחלטה של ממשלה אחת. זה לא ביזור של כוח, זה ריכוז שלו במקום הכי גבוה שאפשר.

אנטרופיק, מצדה, ביקשה בדיוק את הסמכות הזאת: שלממשלה תהיה יכולת לעצור מודל. רק שהיא ביקשה אותה עם בלמים, עם שקיפות ועם ביסוס עובדתי. ואז אותה סמכות הופעלה נגדה, ולפי התיאוריה שלה, בלי שקיפות ובלי ביסוס עובדתי, כלומר בדיוק באופן שהיא הזהירה מפניו. זאת אירוניה כמעט מושלמת: מי שביקש את המתג גילה שברגע שהוא קיים, היד שלוחצת עליו היא לא בהכרח היד שלו, וגם לא בהכרח לפי הכללים שהוא קיווה להם.

ויש כאן נקודה משותפת שקל לפספס. שתי החברות, על אף ההבדלים ביניהן, מסכימות על דבר אחד: מישהו צריך להיות מסוגל להאט או לעצור את ה-AI כשצריך. OpenAI אפילו כתבה שראוי שיקום בעתיד גוף בינלאומי שיוכל להאט פיתוח של מודלים חזקים. השאלה אף פעם לא הייתה אם יהיה מתג, אלא מי יחזיק בו ולפי אילו כללים. השבוע קיבלנו תשובה ראשונה, והיא לא מאוד מרגיעה.

השאלה האמיתית: מי מחליט?

וזה החלק שצריך להדאיג אותנו הרבה יותר מהסיפור של חברה אחת. השבוע ראינו, אולי בפעם הראשונה, איך נראה רגע שבו ממשלה מחליטה מי יכול להשתמש ב-AI מתקדם ומי לא.

ומבחינת צו כזה, כולנו "אזרחים זרים". הצו לא דיבר על אזרחי מדינה מסוימת, אלא על כל מי שאינו אמריקאי, בכל מקום בעולם. כלומר אנחנו. הגישה שלנו לכלים הכי חזקים בעולם לא נמצאת באמת בידיים שלנו, וגם לא בידי החברה שבנתה אותם. היא יכולה להיכבות בן רגע בגלל החלטה ביטחונית במדינה אחרת, ומסיבות שאנחנו אפילו לא בהכרח נדע.

אם זה הכיוון, נפתח כאן פער חדש, והוא לא פער של כסף אלא של גישה. מדינות חזקות וחברות גדולות, אלה שנמצאות בפנים, ימשיכו ליהנות מהכלים החזקים ביותר. ורובנו, אנשים פרטיים, עסקים קטנים ומדינות קטנות, עלולים למצוא את עצמנו תלויים בהחלטות שמתקבלות הרחק מאיתנו, בלי יכולת אמיתית להשפיע עליהן.

אילוסטרציה: היכל הכוח של הבינה המלאכותית

הפרדוקס של הגדרות

יש כאן עוד שכבה, ואותה דווקא חשוב להגיד בקול. ההיגיון מאחורי כל המהלך נשמע אחראי לגמרי: גם הממשלות וגם החברות רוצות גדרות, רוצות לוודא שאנשים רעים, נוכלים, תוקפי סייבר וגורמים עוינים, לא ישתמשו במודלים החזקים כדי לגרום נזק. לכן הן מנסות לסגור, לחסום ולהגביל כמה שאפשר. אמודיי עצמו, באותו מאמר, קורא לחסום את הטכנולוגיה מפני מדינות יריבות ולשמור עליה בתוך מחנה מצומצם של בנות ברית.

הבעיה היא שדווקא כאן, אני חושב, ההיגיון הזה נשבר. דווקא הגורמים שהכי רוצים לעצור הם אלה שימצאו את הדרך לעקוף. מי שבאמת מתכוון לפגוע לא ייעצר בגלל שמודל אחד נחסם. הוא יעבור למודל אחר, ישתמש במודלים בקוד פתוח שכל אחד יכול להוריד ולהריץ על המחשב שלו, או בסופו של דבר יבנה מודל משלו. וברגע שזה קורה, נכנסנו למשחק אחר לגמרי: בלי ניטור, בלי מנגנוני הגנה, בלי שום גורם שמסתכל מהצד.

אילוסטרציה: שער הגישה ל‑AI

במילים אחרות, סגירת הדלת הקדמית בעיקר מציקה למשתמשים הרגילים והחוקיים, בזמן שהשימוש המסוכן פשוט עובר לדלת האחורית, למקום שאף אחד כבר לא רואה. אני לא טוען שאין סיכונים אמיתיים, יש כאלה, וחלקם רציניים. אבל יש הבדל גדול בין פיקוח חכם לבין כיבוי גורף. ולפעמים הדרך הבטוחה יותר היא דווקא לפתוח כמה שיותר: להשאיר את הכלים החזקים באור, בתוך ערוצים גלויים ומפוקחים, במקום לדחוף אותם אל החושך.

מה שחשוב לקחת מכאן

קודם כול, כדאי לזכור שאנחנו לא באמת בשליטה. מישהו אחר קובע למה תהיה לנו גישה ומתי, והגישה הזאת שברירית יותר משנדמה לנו. שנית, זה כנראה לא אירוע חד-פעמי. ככל שהמודלים של אנטרופיק, OpenAI, גוגל ואחרות יתקדמו ויהפכו חזקים יותר, סביר שנראה עוד ועוד רגעים כאלה.

לכן הדבר הכי חכם שאנחנו יכולים לעשות הוא לא להתאהב במודל אחד מסוים, אלא ללמוד את היכולות עצמן: להבין איך לעבוד עם AI באופן כללי, כך שאם כלי אחד ייעלם מחר, נדע לעבור לאחר, ולא להישאר בלי כלום.

ובסוף, זה לא באמת משנה אם Fable 5 יחזור לפעול בעוד יום, בעוד כמה שעות או בכלל. הסערה הספציפית הזאת תירגע, אבל השאלה הגדולה נשארת איתנו: איך ייראה העתיד שלנו כחברה אם זה הכיוון. עולם שבו הכלים החזקים פתוחים לכולם, או עולם שבו מישהו, אי שם, מחליט בכל בוקר מחדש מי בפנים ומי בחוץ. על השאלה הזאת כדאי שנתחיל לחשוב כבר עכשיו, הרבה לפני שהיא תוכרע בשבילנו.