מטוס קרב אוטונומי מונחה בינה מלאכותית – כבר לא מדע בדיוני

בשנים האחרונות בינה מלאכותית נעשתה נושא מרכזי בשיח הציבורי ובתעשיית הטכנולוגיה. אך עכשיו נראה שהיא מתחילה לחדור גם לתחום הצבאי והלוחמה. האירוע האחרון שבו שר ההגנה האמריקאי השתתף בטיסת מבחן של מטוס F-16 המופעל באמצעות בינה מלאכותית, מעלה שאלות רבות לגבי עתיד הלוחמה והמשמעויות האתיות והמעשיות של שילוב AI בשדה הקרב. בשבועות האחרונים כתבנו כאן על השימוש של צבא ארצות הברית בצ׳טבוטים של בינה מלאכותית במשחקי מלחמה ועל פרויקט ‘מייבן’ של משרד ההגנה האמריקאי, והינה אנחנו עדים לנוכחות של ה־AI גם בלוחמה האווירית, או לפחות לכוונות לעשות שימוש בבינה.

טיסת המבחן של ה־F-16 האוטונומי

בטיסת המבחן שנערכה בבסיס חיל האוויר אדוארדס בקליפורניה, השתתף מטוס F-16 המכונה X-62A VISTA, המופעל באמצעות בינה מלאכותית. המטוס ביצע קרב אווירי מול מטוס F-16 רגיל המופעל על ידי טייס אנושי. שני המטוסים טסו במרחק של כ־300 מטרים זה מזה במהירות העולה על 900 קמ”ש תוך כדי ביצוע תמרונים מורכבים ומהירים בניסיון לתפוס את היריב בעמדה פגיעה. שר ההגנה האמריקאי פרנק קנדל, שחווה מהמושב האחורי של המטוס את הטיסה בת השעה, הביע את דעתו כי מערכות נשק מבוססות AI הן בלתי נמנעות ושארצות הברית חייבת לפתח אותן כדי לא להישאר מאחור. לדבריו, לאחר שחזה בביצועי המטוס הוא בטוח ביכולת של מערכות AI להתמודד בשדה הקרב.

צפו במטוס ה-AI האמריקני בפעולה:

האתגרים והחששות משימוש ב־AI לצרכים צבאיים

למרות ההתלהבות של גורמים מסוימים השימוש בבינה מלאכותית במערכות נשק מעורר חששות רבים ברחבי העולם. בכנס בין־לאומי שנערך לאחרונה בווינה בנושא, ובו השתתפו נציגים מ־143 מדינות, הודגש הצורך הדחוף להסדיר את השימוש ב־AI בנשק אוטונומי. שר החוץ האוסטרי אף השווה את המצב לפיתוח פצצת האטום הראשונה וטען שיש לוודא שההחלטה על חיים ומוות תישאר בידי בני אדם ולא תינתן למכונות. שאלות נוספות שהועלו נגעו לאחריות במקרה של כשל במערכת AI – האם היא תיפול על היצרן? על המפקד? או אולי על מפעיל המערכת?

לא רק נשק ממוחשב

בינה מלאכותית משתלבת לא רק בנשק ייעודי אלא גם בפיתוח אסטרטגיות לחימה כוללות. מחקר שנערך לאחרונה מצא כי מודלי שפה מתקדמים עלולים להסלים משחקי מלחמה למצב של עימות גרעיני. כמו כן, מל”טים אוטונומיים כבר פועלים בשטח באוקראינה, ועלו בתקשורת גם דיווחים שונים על שימוש ב־AI לאיתור מטרות אנושיות וזיהוי פנים. חיל האוויר האמריקאי שואף לצי של למעלה מ־1,000 מל”טי קרב מונעי AI עד 2028 וטוען ששום מדינה אחרת לא מחזיקה בטכנולוגיה שכזו – אולי גם בתגובה לחשש מפני סין (אם כי אין ראיות לכך שהם מבצעים ניסויי שטח דומים).

לאן פנינו מועדות? איך ייראו צבאות העולם בשנים הבאות?

המשמעות של שילוב AI בלוחמה מודרנית היא נושא סבוך המצריך בחינה מעמיקה (ואומות העולם בהחלט מבינות את זה) – אין ספק שזהו גבול חדש המחייב חשיבה רבה על משמעויותיו, שהרי בסיפורי מדע בדיוני העוסקים בכך לרוב התוצאות אינן טובות לאף אחד. יש צורך לאזן בין האינטרסים הצבאיים והרצון לשמור על יתרון טכנולוגי ובין הנושאים האתיים והשאלות הנוגעות לחיי אדם ומעמדנו כבני תמותה.

הקונפליקט ברור. מצד אחד, פיתוחי בינה מלאכותית מרשימים ומבטיחים יעילות גבוהה ויכולות מתקדמות בשדה הקרב – שיכולות להוביל לשמירה על חיי הלוחמים וגם לעליונות צבאית על האויב (כל מדינה והזווית שלה). אך מצד שני, מדובר בפיתוח שעלול להוביל למרוץ חימוש, להסלמה לא מבוקרת, גם כאשר הרגולציה והפיקוח בתמונה (בין היתר ההצהרה הפוליטית על שימוש צבאי אחראי בבינה מלאכותית ואוטונומיה של ארצות הברית מפברואר 2023) ומנסים לאזן את זה.