אביתר אדרי בראיון בערוץ 10 – אווטארים דיגיטליים: סיכויים וסיכונים

אווטארים דיגיטליים מסייעים לאנשים חולים או משותקים לדבר, לתקשר ואף לחזור לעבודת חייהם (במידה מסוימת). איך הבינה המלאכותית משפיעה על החיים של כולנו ולאן הרכבת הדוהרת הזו לוקחת אותנו? על כל זאת ועוד, דיברתי בראיון בתוכנית הכלכלית “הדבר הבא” עם דני רופ – ראיון שבו צללנו לעומק ההתקדמות הטכנולוגית המדהימה של הבינה המלאכותית, לצד הסכנות והאתגרים שהיא מציבה. מהפכת ה-AI היא כבר לא עתיד רחוק – היא כאן, והיא נוגעת בכל תחומי החיים שלנו.

צפו בראיון המלא

משה נוסבאום שב לשדר בקולו שלו, למרות מחלת ה-ALS

אחד המקרים המרגשים שהוזכרו בתוכנית הוא זה של משה נוסבאום, עיתונאי בכיר שמתמודד עם מחלת ניוון שרירים (צפו בקטע בתחילת הראיון מעלה). בזכות טכנולוגיות חדשניות של בינה מלאכותית, הוא הצליח לחזור למסך ולדבר בקולו המקורי – למרות מגבלותיו הפיזיות. 

משה נוסבאום, כתב הפלילים הוותיק של חדשות 12, מתמודד בשנים האחרונות עם מחלת ה-ALS, מחלה ניוונית קשה וחשוכת מרפא שפגעה בהדרגה ביכולת הדיבור שלו – כלי העבודה המרכזי בעבודתו כעיתונאי. מאז אבחונו בשנת 2022, נוסבאום המשיך לעבוד תוך הפחתת הופעותיו על המסך, אך לאחרונה נעשה שימוש בטכנולוגיית בינה מלאכותית כדי להחזירו לשידור בפורמט חדשני. במהלך הראיון הסברתי כיצד הטכנולוגיה מאחורי הפרויקט הזה פועלת: מדובר באווטארים דיגיטליים שנוצרים באמצעות מודלים של GenAI (בינה מלאכותית יוצרת). על ידי ניתוח הקלטות קוליות ישנות ותיאום שפתיים (lip-sync), ניתן ליצור דמות דיגיטלית שמחקה במדויק את קולו והבעות פניו של אדם, ומאפשרת לו “לדבר” גם כשהוא אינו מסוגל לעשות זאת פיזית.

היום קשה מאוד להבדיל בין אווטאר דיגיטלי ובין אדם אמיתי:

זה בדיוק מה שאני רואה כ”צד היפה” של הבינה המלאכותית – היכולת להחזיר קול למי שאיבדו אותו. נוסבאום שיתף בגילוי לב על השפעת המחלה על חייו האישיים והמקצועיים. הוא סיפר כי תחילה ניסה לטשטש את סימני המחלה, אך עם הזמן בחר להתמודד עמה בפומבי ואף לתרום להעלאת המודעות למחלת ה-ALS. הוא מתאר את עבודתו כ”תרופה” שעוזרת לו להתמודד עם האתגרים שמציבה המחלה.

הצד היפה של הבינה המלאכותית – משותקים חוזרים לתקשר בעזרת בינה מלאכותית

בראיון סיפרתי על מקרה נוסף של אישה מקנדה שאינה מסוגלת לדבר, אך בזכות חיבור אלקטרודה למוחה, מחשבותיה מתורגמות לדיבור. צפו בסרטון הבא, המתאר בקצרה את סיפורה של אן והמחקר בו השתתפה.

אן נולדה בקנדה, ובשנים האחרונות הפכה למוקד התעניינות מרכזי, הודות למחקר פורץ דרך של אוניברסיטת קליפורניה בסן פרנסיסקו (UCSF), בו השתתפה. המחקר עסק בתחום ממשקי מוח-מחשב (Brain-Computer Interface – BCI). לאחר שלקתה בשבץ מוחי, היא נותרה משותקת לחלוטין במשך 18 שנים, מבלי יכולת לדבר או להזיז את גופה. עם זאת, היא שמרה על תפקוד קוגניטיבי מלא ורצון עז לתקשר עם סביבתה. זה הפך אותה למועמדת אידיאלית להשתתף בניסוי פורץ דרך שמטרתו להחזיר לה את היכולת לדבר – באמצעות בינה מלאכותית. צוות חוקרים מ-UCSF פיתח מערכת חדשנית שמשתמשת בשתל מוחי, אלגוריתמים של AI ואווטאר דיגיטלי. כך המערכת עובדת:

1. השתלת אלקטרודות במוח – החוקרים השתילו רשת של 253 אלקטרודות על פני השטח של המוח של אן, באזור האחראי על דיבור ותנועות פנים.
2. פענוח אותות מוחיים – האלקטרודות קולטות את האותות שהמוח של אן שולח לשרירי הדיבור (שפתיים, לשון, לסת וגרון), ומעבירות אותם למערכת מחשוב חיצונית.
3. תהליך זיהוי הפונמות – במקום לזהות מילים שלמות, האלגוריתם לומד לזהות פונמות – יחידות הצליל שמרכיבות מילים. בכך הוא הצליח לשחזר דיבור ברור ומדויק עם מאגר מצומצם יחסית של נתונים.
4. שחזור הקול המקורי של אן – כדי להפוך את החוויה לאותנטית יותר, החוקרים יצרו אלגוריתם לסינתוז קול שהתבסס על הקלטות ישנות של אן. החוקרים מצאו נאום שנשאה בחתונתה לפני כמעט 20 שנה, והצליחו לבנות מודל קול על בסיסו.
5. אווטאר דיגיטלי עם הבעות פנים – החברה Speech Graphics פיתחה מערכת שמסנכרנת את הדיבור של אן עם תנועות פנים דיגיטליות, כמו פתיחת פה, הבעות רגשיות ותנועות שפתיים מדויקות.

השילוב בין אווטאר דיגיטלי שנבנה בדמותה, ובין טכנולוגיות Lip Sync ומודלי AI שמפענחים את אותות המוח שלה, מאפשרים לה לתקשר שוב. מרגש!

הטכנולוגיה הזו שיפרה משמעותית את איכות חייה של אן. כיום, היא מסוגלת “לדבר” בקצב של 80 מילים בדקה – הרבה מעבר ל-14 המילים לדקה שהיו אפשריות עם טכנולוגיות קודמות. אבל ההשפעה חורגת מעבר למקרה הפרטי שלה. המחקר הזה פותח אפשרויות חדשות לאנשים עם מוגבלויות חמורות בתקשורת, כמו נפגעי שבץ, חולי ALS ואנשים עם שיתוק מוחלט. החוקרים מקווים שבעתיד, הטכנולוגיה תהפוך לאלחוטית ולנגישה יותר, כך שכל אדם במצב דומה יוכל להשתמש בה כדי לתקשר באופן טבעי עם סביבתו. אלו דוגמאות מרגשות לאופן שבו AI יכול להעניק לאנשים הזדמנות שנייה לתקשר עם יקיריהם ולעסוק במה שהם אוהבים, למרות האתגרים הבריאותיים.

מצד שני, אם תחשבו על זה לרגע – יש פה מכשיר ש”קורא מחשבות” בצורה כזו או אחרת. לצד הפוטנציאל האדיר לשיפור חייהם של חולים או משותקים, יש פה שאלות רבות שחייבים לשאול: לאן העתיד מוביל אותנו? מה יקרה כשטכנולוגיות מתקדמות יותר יכנסו לשימוש אצל גורמים זדוניים, ארגוני טרור, או אפילו גורמים משטרתיים, צבאיים או גורמי מודיעין. פתאום “משטרת המחשבות” נראית מעט פחות רחוקה. האם החזון הדיסטופי של 1984 עשוי להתגשם, או שאנחנו סתם מגזימים וזה רחוק מאיתנו שנות אור? מה שבטוח – לטכנולוגיות AI, ו-GenAI בפרט, יש פוטנציאל הרס אדיר – לא פחות מאשר הסיכוי לעזור ולעשות טוב.

זיופים ו”החזרת אנשים מן המתים”

לצד האפשרויות המדהימות, הבינה המלאכותית מעלה גם חששות. כיום, ניתן לקחת הקלטות קוליות קיימות ולבנות מודל קול מדויק תוך שניות. המשמעות? כל אחד יכול “לדבר” גם אם מעולם לא אמר את הדברים האלו בפועל. כלים כמו HeyGen או ElevenLabs יכולים לייצר מודלי קול, גם על בסיס הקלטות קצרות ביותר (לא צריך יותר מכמה עשרות שניות של הקלטה נקייה).

האפשרות הזו מעוררת שאלות קשות על זיוף מציאות, הונאות ודיסאינפורמציה. במהלך הראיון דיברנו על תרחישים בהם טכנולוגיות כאלה ישמשו ליצירת תכנים מזויפים, ואפילו לשחזור דמויות היסטוריות או אנשים שכבר אינם חיים – תרחיש שמעלה שאלות אתיות עמוקות. לדוגמה, ביום העצמאות 2023 שוחרר קליפ חדש של עופרה חזה וזהר ארגוב, למרות ששניהם אינם בין החיים.

אמנם הפרויקט נעשה בשותפות עם המשפחות של שני הזמרים, אך הפרויקט מעלה שאלות אתיות אודות “חיים אחרי המוות” של יוצרים, או ליתר דיוק – המשך ה”קריירה” של יוצרים לאחר מותם. זאת לצד הקלות הבלתי נסבלת של יצירת תוכן פיקטיבי שנראה ונשמע אותנטי לחלוטין!

כיום אין חוקים או תקנות ברורות שמסדירות את השימוש בטכנולוגיות הללו. זו אחת הסכנות הגדולות ביותר, כי כשאין רגולציה, הדרך לניצול לרעה קצרה. טכנולוגיה עצמה אינה טובה או רעה – השאלה היא איך משתמשים בה.

מערכת המשפט והמהפכה הטכנולוגית

במהלך הראיון דיברנו גם על תחום אחר שבו הבינה המלאכותית מביאה שינוי מהותי – עולם המשפט. בחברת LetsAI הכשרנו שופטים, נשיאים ועורכי דין רבים לשימוש בכלים מבוססי AI. היתרון? חיסכון עצום בזמן. במקום ששופט יקדיש שעות לחיפוש פסקי דין רלוונטיים, AI יכול לעשות זאת תוך שניות. הוא מסייע בזיהוי מחלוקות משפטיות, בניתוח מסמכים ובהנגשת מידע רלוונטי בצורה מהירה ויעילה. במקום שעורך דין יבזבז שעות, או אפילו ימים, בקריאת טקסטים משפטיים, ה-AI יכול לקצר לו את הליך החיפוש וההצלבה לשניות בודדות. הוא יכול גם לעזור לו לנסח מסמכים משפטיים, חוזים והסכמים, בשניות!

מצד שני, העובדה שהטכנולוגיה קיימת, לא אומרת שאנחנו מוכנים להשתמש בה. זה ששופט יכול להיעזר ב-AI, לא אומר שהוא צריך לעשות את זה! יש פה שיקולים רבים של אבטחה, זליגת מידע, הזיות של המכונה, התעלמות מנתונים או המצאת נתונים. ומעבר לפערים הטכניים, גם פה יש שאלות אתיות מהותיות: האם ה-AI רק מסייע באיתור מידע או שהוא גם מסייע בכתיבה ויצירת ההגות המשפטית? האם ה-AI מסייע גם במתן הכרעות שיפוטיות ו”מפעיל שיקול דעת משפטי”, או שאלו מיומנויות שחייבות להישאר בידיהם של בני האנוש ואנשי המקצוע שהוכשרו לכך? איך הציבור יגיב לשילוב AI במערכת המשפטית? באיזו מידה ה-AI יוטמע בהליכים משפטיים? יש תשובות ופתרונות לכל אחת מהשאלות הללו, אבל כלל לא בטוח שכולם יאהבו אותם. בדיוק בשל כך יש צורך באנשי מקצוע מיומנים שידעו לאפיין את הצרכים וה”כאבים” של כל מערכת או ארגון. שידעו לבצע ניתוח מעמיק ולייצר פתרונות טכנולוגיים, אתיים, רגולטוריים וחברתיים מיטביים. תהליכים כאלה לוקחים הרבה זמן – חודשים ולעיתים גם שנים. כי בסופו של יום, מאחורי הטכנולוגיה עומדים גם אנשים, ולא כל דבר ש’אפשר’ לעשות, ‘צריך’ לעשות. ה’ראוי’ חשוב לא פחות מה’אפשרי’.

אז האם בינה מלאכותית תחליף מחר שופטים או עורכי דין? ברור שהתשובה היא לא. AI יכול להיות כלי עזר משמעותי, אבל הוא לעולם לא יחליף את שיקול הדעת האנושי של שופטים או עורכי דין. עם זאת, הוא משנה את הדרך שבה עובדי מערכת המשפט יכולים להתנהל, ויכול להפוך אותה למהירה ומדויקת יותר. וכך גם בצד של עורכי-דין.

קורס AI לעו”ד ומשפטנים – למימוש ההטבה הזינו את קוד הקופון באתר הקורס.

העתיד: שיתוף פעולה או סכנה קיומית?

אחת השאלות המרכזיות שהועלתה בראיון היא – לאן כל זה הולך? הצגתי שני תרחישים אפשריים:

1. עתיד דיסטופי – שבו הבינה המלאכותית מחליפה את בני האדם וגורמת להשלכות הרסניות. או לחלופין, עתיד בו אנשים משתמשים בבינה מלאכותית כדי לפגוע באנשים אחרים. אנחנו מכירים את הסיפורים שעד לפני כמה שנים היו רק בגדר מדע בדיוני, ולפתע הופכים לתרחיש אפשרי: מלחמת גוג ומגוג, מלחמת עולם שלישית, ארמגון – קץ הציביליזציה האנושית כפי שאנחנו מכירים אותה. או אפילו עתיד פחות חמור – עתיד בו רובוטים ומערכות AI מנשלות המונים מעבודתם – אבטלה גואה, מיליארדי בני אדם ללא יכולת להתפרנס. האם שכר גלובלי (Universal Basic Income – UBI) הוא התשובה? הוא מציע פתרון אפשרי לנישול עובדים, אך יישומו דורש מחשבה מעמיקה ותכנון כלכלי וחברתי רחב היקף!
2. עתיד של שיתוף פעולה – שבו האדם והמכונה עובדים יחד, ומאפשרים לאנשים לשדרג את היכולות שלהם בעזרת AI. או אולי אפילו עתיד שבו טכנולוגיות AI ישתלבו בהתנהלות היומיומית שלנו בצורה אינטגרלית ויוטמעו בבגדים שלנו, או אולי אפילו ישירות בתוך הגוף שלנו. עתיד בו יש “סופר-אדם” עם כל היכולות הביולוגיות שלנו, לצד יכולות מתקדמות של בינה מלאכותית: חישובים מורכבים, ניתוח נתונים, גישה למאגרי מידע, גישה לרשת, חיפוש מהיר, זיכרון אינסופי. עתיד כזה יכול להוות שלב נוסף וחדש באבולוציה האנושית, אבל הוא יכול גם לייצר מעמדות – “אנשי AI” וכל השאר. או אפילו “מדינות AI” וכל השאר. 

אני מאמין שהתרחיש השני הוא הסביר יותר. כמו שהטלפון והלפטופ הפכו להרחבה של היכולות שלנו, כך גם AI יהיה כלי שיעזור לנו להפוך לגרסה טובה יותר של עצמנו – בתנאי שנשתמש בו נכון. איזה מן ה”עתידים” הללו יתגשם? הרבה מזה תלוי בנו ובהחלטות שנקבל בשנים הקרובות.

בעיה נוספת שעליה דיברנו בראיון, היא הירידה בחשיבה עצמאית. כיום אנשים כבר לא טורחים להכין מצגות או לנסח מסמכים – הם פשוט מבקשים מ-ChatGPT לעשות זאת עבורם. זה מעלה חשש שהשימוש הגובר בבינה מלאכותית יגרום לנסיגה אינטלקטואלית ולפגיעה ביכולת החשיבה היצירתית של בני האדם. האם יהיה פה ניוון של יכולות אנושיות? זה בהחלט יכול לקרות? מה אפשר לעשות כדי לצמצם את הסיכון הזה? כתבנו על זה בהרחבה כאן.

אז מה עכשיו?

אין ספק שהבינה המלאכותית משנה את העולם בקצב מהיר מאי פעם. השאלה הגדולה היא איך ננווט את הדרך קדימה, כך שהכלים המדהימים הללו ישרתו אותנו, ולא ישלטו בנו. הדרך הנכונה היא לא לעצור את הקדמה, אלא לפתח רגולציה, להשתמש בטכנולוגיה באחריות ולשלב אותה בחיינו בצורה שתעצים את היכולות שלנו, במקום להחליף אותנו. העתיד של הבינה המלאכותית אינו גזירת גורל – הוא תלוי בנו!