הטעות של Deloitte היא השיעור של כולנו

לפעמים, אירוע אחד קטן חושף סדק גדול במערכת שלמה. Deloitte, אחת מחברות הייעוץ הגדולות בעולם, סיפקה לממשלת אוסטרליה דוח בעלות של 440 אלף דולר – דוח שנועד לבחון תהליכי בקרה פנים-ממשלתיים. אבל כשהמסמך הגיע לשולחנם של אנשי האקדמיה, משהו לא הסתדר. היו בו ציטוטים שלא קיימים, מקורות מומצאים, ואפילו פסק דין שמעולם לא נכתב. החוט המקשר בין כל הטעויות האלה? מערכת בינה מלאכותית בשם GPT-4o, ששולבה בהכנת הדוח מבלי שאיש טרח לבדוק את תוצריה לעומק. Deloitte תיאלץ כעת להשיב חלק מהכסף, אבל הכסף הוא רק הסיפור הקטן. הסיפור הגדול באמת הוא השאלה שמרחפת מעל כולנו – האם המכונה אשמה, או אנחנו?

כולנו משתמשים ב-AI, רק לא כולנו מבינים איך

האמת הלא נוחה היא ש- Deloitte לא לבד. כמעט כל משרד ייעוץ, חברת מדיה או גוף ממשלתי משתמש היום בבינה מלאכותית כדי לחסוך זמן, לשפר תוצרים ולהיראות חכמים יותר. זו כבר לא טכנולוגיה ניסיונית, זו השגרה החדשה של העבודה. אבל כאן בדיוק מתחילה הבעיה. כשהמכונה שנועדה לסייע בכתיבה או ניתוח נתונים הופכת לחלק מתהליך אנושי שאיבד את היכולת להבחין איפה נגמר האדם ומתחיל האלגוריתם – נוצר ואקום מסוכן.

ב- Deloitte, אף אחד לא היה “רע”. פשוט לא היה מישהו אחראי. לא היה מי שיבדוק, מי שיאשר, מי שישאל את השאלה הבסיסית: האם מה שכתוב כאן באמת נכון? וזה כל ההבדל בין תקלה טכנולוגית לתקלה ארגונית. כשאנחנו מפקידים בידי AI משימה מקצועית בלי פיקוח ובקרה, אנחנו כבר לא משתמשים בו ככלי, אנחנו משתמשים בו כתחליף לחשיבה.

מה AI עושה כשהוא לא יודע – ומה זה מלמד עלינו

בינה מלאכותית לא משקרת. היא פשוט ממציאה תשובה כשהיא לא יודעת אם לא אמרנו לה לעצור. אבל בני אדם כן יודעים לעצור. הם יודעים לבדוק, להצליב, לוודא. רק שבמקרה של Deloitte, הם לא עשו את זה. וזה אולי השיעור החשוב ביותר בפרשה כולה:

הכשל לא טמון במודל, אלא באחריות האנושית בעולם שבו הגבולות בין אדם למכונה הולכים ומיטשטשים.

AI הוא לא קסם. הוא מראה. הוא לא הופך ארגונים חכמים יותר, הוא חושף עד כמה הם חכמים באמת. ארגון שאין בו נהלים, בקרה והכשרה, יפיק תוצרים שנראים מושלמים מבחוץ אך ריקים מתוכן מבפנים. הוא ייראה חכם יותר, כשהוא בעצם רק טועה מהר יותר.

Source: Australian Financial Review

המבחן האמיתי של העידן החדש

המהפכה הגנרטיבית לא נמדדת בכמה מהר אנחנו משתמשים בבינה מלאכותית, אלא בכמה חכם, אחראי וזהיר אנחנו עושים את זה. הארגונים שידעו לשלב בין דיוק טכנולוגי לבין אנושיות זהירה, ימצאו את הנוסחה החדשה של אמון. אלה שלא, יגלו שהמכונה לא תחליף אותם – היא פשוט תחשוף כמה קל היה להחליף אותם מלכתחילה.

כי בסוף, לא המכונה נכשלה, אלא האנשים ששכחו לבדוק את מה שהיא יצרה לפני ששלחו את זה הלאה.