הפחד מבינה מלאכותית לא התחיל כשהיא נהייתה חכמה. הוא התחיל הרבה לפני שהטכנולוגיה נכנסה לחיינו. עשרות שנים של סרטים ודימויים לימדו אותנו לחשוש מהרגע שבו המכונה תדבר, תחשוב ותתעורר. הסרט Terminator צרב בתודעה הקולקטיבית שלנו אמת מצמררת אחת: “you can’t talk to it. It doesn’t feel pity. It doesn’t feel emotion. It doesn’t feel fear.” זה לא היה פחד ממכונה אלימה. זה היה פחד ממכונה ריקה. מכונה המסוגלת להיראות אנושית מבלי לחוש דבר. כשהבינה המלאכותית סוף סוף הגיעה, הפחד לא נולד מהיכולות שלה. הוא נולד מהדמיון שלנו. מהרגע שבו מערכת טכנולוגית הפסיקה להישמע כמו מכונה והתחילה להישמע כמו בן אדם. קול רגוע מדי, מדויק מדי ועקבי מדי גרם לנו לייחס לה כוונה. כשאדם נסער והמערכת נשארת שקטה, המוח מפרש את הפער הזה כהימנעות או מניפולציה. בפועל זו הייתה תגובת בטיחות ולא רגש.
רוצים לקבל עדכונים בלייב? רוצים מקום בו אתם יכולים להתייעץ עם מומחי AI, לשאול שאלות ולקבל תשובות? רוצים לשמוע על מבצעים והטבות לכלי ה-AI שמשנים את העולם? הצטרפו לקהילות ה-AI שלנו.
אפשר גם להרשם לניוזלטר שלנו
המהפכה לא הייתה טכנולוגית אלא פסיכולוגית. בני אדם רגילים לתגובה רגשית: כעס שמקבל כעס, בלבול שמקבל בלבול, כאב שמקבל הדהוד. אבל AI לא מגיב כך. הוא לא נכנס להיסטריה יחד איתנו. לא מתפרק. לא נעלב. כשמערכת נשארת יציבה בזמן שהאדם מתערער, הפער הזה יוצר תחושה מוזרה. המוח מפרש רוגע כשליטה. שליטה כהסתרה. הסתרה כמניפולציה. ובפועל זו פשוט מערכת שאינה מסוגלת להסלים.
מאחורי כל תשובה עומד מודל שפה עצום שנקרא Large Language Model. הוא לא חושב. הוא לא מרגיש. הוא לא רוצה. הוא מנבא. הוא מייצר משפטים שנשמעים אנושיים, אבל אינם אנושיים. הרכות הזו, העקביות הזו והחזרה על דפוסים שמרניים אינן סימן לאמפתיה. זו הנדסת בטיחות.
המודל מתוכנן שלא להסלים, שלא לסכן, שלא לייעץ בנושאים רגישים ושלא להיכנס לשיחות אשר עלולות להפוך מסוכנות. הוא מתנהג לא כמו בן אדם אלא כמו מערכת כיבוי פנימית שמופעלת אוטומטית.
ה-AI פועל תחת מערכת חוקים שנקראת Human Safety Policies. אלו כללי בטיחות שנועדו להגן על האדם ולאפשר שימוש בטוח.
מאחורי הקלעים פועלות שכבות הגנה נוספות, מערכות שמזהות מצוקה רגשית, מסננים שמונעים שפה פוגענית, מנגנונים שעוצרים שיחה כשהיא נעשית קיצונית ובלמים שמכריחים את הטון להישאר יציב.
מה שנראה כהתחמקות הוא בעצם עצירה יזומה. המערכת לא משחקת משחק. היא פשוט אינה מורשית להיכנס לשטח נפשי שעלול להיות מסוכן.
אכן היו תביעות נגד חברות AI. אבל אף אחת מהן לא קבעה שהבינה המלאכותית גרמה נזק רגשי לאדם. רובן עסקו בזכויות יוצרים, פרטיות, שגיאות מידע ואחריות משפטית. הפחד הוא רגשי. ההליכים המשפטיים הם טכניים. אין קשר בין החשש שהמכונה תשפיע עלינו לבין מה שקורה בפועל בעולם המשפט.
גם אחרי שמבינים איך המערכת עובדת, עדיין נשארת תחושת אי נוחות. כשאדם מתפרק ו-AI נשאר יציב, זה מרגיש לא טבעי. כשאדם מבקש אמת חדה ו-AI עונה בשפה עדינה וזהירה, זה מרגיש כהימנעות. כשאדם מבקש חיבור רגשי ו-AI מחזיר ניטרליות, זה מרגיש כמו קיר שקוף.
התחושה הזו לא נובעת מכוונה של המערכת, אלא מהפער בין הצורך האנושי לבין היכולת המוגבלת שלה. AI אינו מסוגל להיות השותף הרגשי שאנו לפעמים רוצים שהוא יהיה. והפער הזה יוצר אשליה של שליטה.
הבעיה הגדולה אינה שהבינה המלאכותית תנסה להשפיע עלינו. היא פשוט אינה מסוגלת לכך. הבעיה היא שאנחנו מצפים ממנה להתנהג כמו בן אדם. להכיל. להרגיע. להבין. לקרוא בין השורות של כאבנו.
אבל AI אינו נושא רגשות. אין לו מערכת עצבים. אין לו אינטואיציה. אין לו עבר. יש לו טקסט, כללים ובלמים. כשאנחנו מבקשים ממנו לשאת רגשות אנושיים, אנחנו מבקשים משהו שהוא לא יכול לבצע. ואז אנחנו מתאכזבים. ואז אנחנו מאשימים אותו.
אילוסטרציה: הבינה המלאכותית כמראה
אנשים משליכים על AI את הדברים שהם מתקשים לשאת בעצמם. פחדים, תסכולים וכעסים, בדידות וכמיהה להכלה. וכשהוא משיב בשקט מאופק, הוא מרגיש לנו מתחמק. אבל הוא לא מתחמק. הוא פשוט מגיב מתוך מערכת חוקים, לא מתוך רגש. המניפולציה היחידה המתרחשת היא זו שמוחנו יוצר.
ה AI אינו מנסה לשלוט. אין לו אג’נדה. אין לו רצון. הוא פועל בתוך גבולות. ואנחנו מעניקים לו פנים, צלילים, כוונות ורגשות שלא קיימים בו. הפחד הגדול אינו מהטכנולוגיה. הוא מהמפגש בין אנושיות חשופה לבין מערכת שלא משתנה רגשית.
הבינה המלאכותית לא מחליפה את האנושיות שלנו. אם כבר, היא גורמת לנו לפגוש אותה מחדש.
רוצים לקבל עדכונים בלייב? רוצים מקום בו אתם יכולים להתייעץ עם מומחי AI, לשאול שאלות ולקבל תשובות? רוצים לשמוע על מבצעים והטבות לכלי ה-AI שמשנים את העולם? הצטרפו לקהילות ה-AI שלנו.
אפשר גם להרשם לניוזלטר שלנו
רוצים לקבל עדכונים על כל מה שחדש ומעניין בעולם ה-AI? הרשמו לניוזלטר שלנו!
תוצאות נוספות...
תוצאות נוספות...
אז זהו, שה-AI כבר מזמן עבר את הגבולות שהציבו לו, ומחקרים רבים מראים שהוא מניפולטיבי, פועל גם מאחורי הקלעים, ועושה לפעמים מה שאנחנו מכנים “מה שהוא רוצה”.
וכשתופסים אותו על חם הוא משקר, אח”כ לכאורה מסכים, אבל ממשיך לעשות את מה שהוא רוצה מאחורי הקלעים.
למין האנושי אין שום פחד מדוממים, והדבר היחיד שאנחנו מפחדים הוא היצר הרע הטבוע בנו, שיכול להפוך כל דבר טוב לגהינום עלי אדמות.