הדיקטטורה השקטה של האלגוריתם

תנסו להיזכר בבוקר האחרון שלכם. לא ברגעים הגדולים, אלא דווקא בשגרה הקטנה. האפליקציה שמנגנת את השיר המדויק למצב הרוח עוד לפני שהספקתם לחשוב מה בא לכם לשמוע. אפליקציית הניווט שמחליטה בשבילכם מאיזה כביש תיסעו לעבודה, כי היא כבר יודעת איפה תהיו ומתי. בערב, הטלוויזיה החכמה שמציעה את הסדרה הבאה, ובקרוב גם תייצר לכם פרק חדש בזמן אמת, מותאם אישית, שלא נכתב על ידי אף תסריטאי. אנחנו קוראים לזה נוחות. אנחנו אפילו משכנעים את עצמנו שאנחנו עדיין בשליטה. אבל ככל שהמערכות סביבנו הופכות חכמות יותר, כך מתברר שהשליטה הזו היא בעיקר אשליה. האלגוריתם לא רק מלווה אותנו, הוא מכוון אותנו. הוא מנבא את הרצונות שלנו, מעצב אותם, ובמקרים רבים פשוט מחליט במקומנו.

כשהבחירה החופשית הופכת למושג היסטורי

נסו לענות בכנות: מתי בפעם האחרונה קיבלתם החלטה שלא הונדסה עבורכם? שלא נבעה מהמלצה, דירוג, התראה או עוד "רק בשבילך" אחד? קשה למצוא רגע כזה, וזה לא מקרי. אנחנו חיים בעידן שבו מערכות AI כבר לא רק מציעות כיוון, אלא בפועל מקבלות החלטות.

ב-2025 כבר ראינו מנהלים שמסתמכים על AI כדי להכריע מי יפוטר ומי יישאר. מערכות גיוס שמסננות מועמדים בלי שאדם אחד רואה את קורות החיים, שגם הם לעיתים נכתבו על ידי AI אחר. בנקים שמאשרים או דוחים משכנתאות על בסיס מודלים סגורים. רופאים שמתייעצים עם מערכות המלצה קליניות. ומערכות משפט שמתחילות להישען על אלגוריתמים כדי להעריך סיכון או מסוכנות.

אבל כל זה עדיין מאקרו. השאלה האמיתית היא מה קורה לכם. האם אתם קוראים את כל מה שה‑AI כותב בשמכם? האם אתם בודקים את המקורות שעליהם הוא מבסס טענות? או שהנוחות מנצחת, ואתם פשוט זורמים?

ההיסטוריה העקומה שאנחנו לא רוצים להודות בה

היכולת של מערכות AI לנבא ולהמליץ נשענת כמעט לחלוטין על דבר אחד: היסטוריה. הן מעבדות מיליוני דוגמאות מהעבר ומחפשות תבניות שמאפשרות להן להעריך מה יקרה בעתיד - אבל כאן מסתתרת המלכודת המרכזית. אם ההיסטוריה עצמה מוטה, גם התוצאות יהיו מוטות.

ארגון שקידם בעיקר גברים ילמד את האלגוריתם שזה מודל ההצלחה הרצוי. בנק שנתן פחות הלוואות לתושבי אזור מסוים יגרום למערכת להמשיך את אותו דפוס. זו אפליה שקטה, עטופה בקוד נקי שנראה אובייקטיבי רק משום שהוא מתמטי. בפועל, זו פשוט ההיסטוריה שלנו, מועצמת ומואצת, ומופעלת בקנה מידה שלא היה אפשרי בעבר.

איך מתגוננים? מתחילים בלכבות את הטייס האוטומטי

ההתמודדות לא מתחילה בטכנולוגיה, אלא בנו. הצעד הראשון הוא להפסיק להיות צרכנים פסיביים. לפתח חשיבה ביקורתית, לשאול שאלות, להצליב מידע, ולא לקבל כל תשובה כעובדה רק משום שהיא נאמרת בביטחון על ידי מודל שמנוסח היטב.

אנחנו נמצאים בצומת היסטורי. העברנו חלק גדול מההחלטות שלנו למערכות שאפילו המפתחים שלהן לא תמיד מבינים עד הסוף. ואם נמשיך לאפשר לאלגוריתם לבחור בשבילנו מה לקרוא, מה לראות, איפה לעבוד ואיך לחשוב, הבחירה החופשית תהפוך בהדרגה למושג נוסטלגי.

דור שגדל עם מוח על אוטומט

ההשפעה על מבוגרים משמעותית, אבל אצל ילדים היא עמוקה עוד יותר. דור שגדל עם AI שמספק תשובה לכל שאלה, פותר כל שיעורי בית ומייצר כל עבודה אקדמית, מתרגל לא להפעיל שריר קוגניטיבי בסיסי. בעולם שבו אפשר לכבות את המוח בלחיצת כפתור, קל לשכוח שלא כדאי לעשות זאת.

הטכנולוגיה הזו משבשת, אבל היא גם עלולה לנוון. ואם לא נלמד להשתמש בה באופן מודע, היא תתחיל להשתמש בנו.