וזה קול המחלוקת: OpenAI וסקרלט ג’והנסון

כשסקרלט ג’והנסון שמעה שהקול החדש של ChatGPT העונה לשם Sky נשמע בדיוק כמו הקול שלה, היא הייתה בטוחה שמישהו שם ב־OpenAI שגה בתאריך והתבלבל עם הראשון באפריל. אך המציאות, כמו שכולנו למדנו על בשרנו, לעיתים קרובות עולה על כל דמיון. מה עושים אם הקול שלך פתאום מתחיל לדבר בשם מכונה, בלי שנתת את אישורך? בכתבה הבאה נצלול לסיפור ההזוי שמשום מה עולה לכותרות וגורם לנו לדבר על סקנדלים במקום על מודלים. סיפור שחושף את הגבולות המטושטשים בין חדשנות טכנולוגית לזכויות אישיות, ומאיר זרקור על אופן קבלת ההחלטות ב־OpenAI.

הקול בראש

בשבועות האחרונים התקשורת לא מפסיקה לדבר על הקול של סקרלט ג’והנסון, השחקנית ההוליוודית המפורסמת; או ליתר דיוק, על הקול ‘Sky’ שנמצא בפלטפורמה של ChatGPT ומזכיר מאוד את הקול של שחקנית העל. שחרור המודל החדש GPT-4o לווה בהדגמות מרשימות שהציגו את יכולותיו המתקדמות הכוללות הבנה ויזואלית של העולם בעזרת יכולת ניתוח תמונה וניתוח וידאו וכן דיבור אנושי שמזכיר מאוד שיחה עם אדם אמיתי ברמת האינטונציות, מנעד הרגשות והתגובות המתבססות על ניתוח מצבו הרגשי של המשתמש (כפי שמבטא צליל קולו והקונטקסט של דבריו). היכולות החדשות מאוד מזכירות דברים שכבר ראינו בעבר, למשל – הבוט האמפטי Evi. עם זאת, הדמיון המפתיע לקולה של ג’והנסון העלה גל של מחלוקות ושאלות אתיות.

המדריכים תמיד חינמיים, אבל אם בא לכם להתמקצע - יש גם קורס AI בינה מלאכותית למנהלים ובכירים

למידע נוסף >>

איך הכול התחיל?

הכול התחיל כאשר OpenAI הציגה את המודל הקולי שלה, Sky, בהשקת GPT-4. הקול של Sky נשמע כל כך דומה לקולה של ג’והנסון, עד שאפילו משפחתה וחבריה הקרובים היו בטוחים שמדובר בה. הסרט ‘היא’ (Her) מ־2013, שבו ג’והנסון גילמה סייענית מבוססת בינה מלאכותית בשם סמנתה, תרם לקישור האוטומטי שנעשה בין הקול של Sky לקולה של השחקנית.

מוזמנים לשפוט בעצמכם – זה טריילר הסרט Her שבו אפשר לשמוע את ההשראה לקול של Sky (כאמור, קולה של ג’והנסון):

ופה אפשר לשמוע את ההצהרה שפרסמה ג’והנסון בעקבות הפרשה, המוקראת בקולה של Sky (שעל פי הטענות מבוסס על קולה של ג’והנסון).

אלטמן ביקש, ג’והנסון סירבה

במהלך החודשים שקדמו להשקה פנה מנכ”ל OpenAI, סם אלטמן, לג’והנסון בניסיון לשכנע אותה להשתתף בפרויקט ולתת את קולה למודל החדש. אלטמן חשב שהקול שלה יגרום לאנשים להרגיש נוח בשיחה עם ChatGPT ועם שאר הפיתוחים הג’נרטיביים של OpenAI, אך לאחר התלבטות ג’והנסון סירבה. יומיים לפני ההשקה נעשתה פנייה נוספת לג’והנסון, אך OpenAI לא המתינו לתשובתה והשיקו את המוצר עם קול שנשמע דומה באופן מפתיע לקול שלה. אגב, יום לפני ההשקה צייץ אלטמן בחשבון ה־X שלו את המילה ‘היא’ (Her), ככל הנראה כמעין טיזר לקול החדש והצפוי (המבוסס על קולה של ג’והנסון או שנוצר בהשראתו כדי להידמות לו עד כמה שאפשר).

הציוץ של אלטמן בחשבון ה־X שלו מ־13.5.24

לאחר שג’והנסון שמעה מהקרובים לה על הדמיון הרב בין הקול החדש לקולה, היא הופתעה ונדהמה. היא פנתה לעורכי דינה בבקשה לקבל הסבר איך השיגו את הקול המדובר. 

ההצהרה של סקרלט ג’והנסון

התגובה של OpenAI לא איחרה להגיע: החברה הסירה את הקול מרשימת המודלים האפשריים לבחירה, ואלטמן הוציא הודעה נוספת ב־20.5.24 שבה נטען שהקול הוא של שחקנית אחרת ששכרו לשם מטרה זו, ולא עיבוד המבוסס על הקול של ג’והנסון (כפי שרצו בתחילה). הוא ציין שבשל התחשבות ברגשותיה של ג’והנסון הם הסירו את הקול. 

ההודעה הרשמית באתר של OpenAI:

A statement from our CEO, Sam Altman, on May 20, 2024: “The voice of Sky is not Scarlett Johansson’s, and it was never intended to resemble hers. We cast the voice actor behind Sky’s voice before any outreach to Ms. Johansson. Out of respect for Ms. Johansson, we have paused using Sky’s voice in our products. We are sorry to Ms. Johansson that we didn’t communicate better.”

בהודעות החברה נכתב שתהליך בחירת הקולות ארך חודשים רבים ובמהלכו נבחנו מעל 400 מועמדים. בסוף התהליך נוצרו 5 קולות. עוד נכתב כי הוקמה ועדה שכללה נציגים מ־OpenAI שדנו עם השחקנים על הטכנולוגיה ועל החזון לשימוש בקולות תוך כדי התחשבות בקריטריונים כמו רקע מגוון של השחקנים, שליטה במספר שפות, קול שמרגיש נצחי, נגיש, משרה אמון, חם, מרתק ובעל צליל עשיר, וכן קול טבעי ונעים להאזנה. אך מה האמת? האם אכן מדובר בקולה של השחקנית ההוליוודית או קולה של שחקנית המנסה להידמות או לחקות את צליל קולה עד כמה שאפשר? האמת פחות חשובה – הכוונה ודרך ההתנהלות חשובים הרבה יותר!

המדריכים תמיד חינמיים, אבל אם בא לכם להתמקצע - יש גם קורס יצירת סרטים עם AI

לפרטים נוספים לחצו כאן >>

הנזק כבר נעשה

הציוץ של אלטמן לא התקבל בעין יפה וגם לא ההצהרות שנכתבו לאחריו. רבים הביעו ספק בנוגע לאמיתות הטענות וטענו שעורכי דינה של ג’והנסון (או אולי עורכי הדין של OpenAI) ייעצו לו להסיר את הקול כדי להימנע מתביעה ומנזק תדמיתי. הפרשה הזו מעלה שאלות אתיות ומשפטיות רבות, בעיקר בנושא זכויות אישיות ושימוש בטכנולוגיות מתקדמות. הבעיה המרכזית היא השימוש בקול המזוהה עם דמות ציבורית ללא הסכמתה. האם אפשר להשתמש בקול של אדם ללא הסכמתו? האם מותר לחקות את קולו של אדם לאחר שהביע חוסר נכונות לכך ואפילו אם מדובר בשחקן או בקריין? השימוש בקול המזוהה עם דמות ציבורית, מעלה שאלות משפטיות ואתיות במיוחד בעידן שבו טכנולוגיות מתקדמות כמו בינה מלאכותית וקלונינג קולי מאפשרות ליצור חיקויים מדויקים.

עוד שאלה שעולה מהפרשה היא איך אפשר להגן על הזכויות האישיות של אנשים בעידן הטכנולוגי המתקדם. האם יש צורך בחקיקה מחמירה יותר שתגן על אנשים מפני שימוש לא הוגן בקולם ובזהותם? ומהי האחריות של חברות טכנולוגיה כלפי הציבור? האם הן מחויבות לפעול בשקיפות מלאה ולהימנע משימוש בטכנולוגיות העלולות לפגוע בפרטיות ובזכויות האישיות של אנשים? הפרשה הזו חושפת בעיות עומק בהתנהלות של OpenAI ובמיוחד של סם אלטמן. חוסר השקיפות של החברה והפניות החוזרות לג’והנסון למרות סירובה מעידים על חוסר התחשבות ברצונותיה ובזכויותיה. התגובה המאוחרת של החברה הגיעה רק לאחר שהפרשה התפוצצה בתקשורת, ומנהליה נאלצו להתמודד עם הביקורת הציבורית. הציוץ העוקצני מרמז על הכוונות ומוסיף עוד סימני שאלה על תהליך בחירת הקול ויצירתו. 

גם במקרה הזה נראה ש־OpenAI בכלל וסם אלטמן בפרט מונעים משיקולים עסקיים בלבד ומתעלמים מהשלכות אתיות. אם אנשים כמו סם אלטמן מרשים לעצמם לפעול בצורה כזו בסוגיה שולית כמו מודלי קול, כיצד אפשר להבטיח שהטכנולוגיה המהפכנית של החברה תשמש לטובת הכלל, תכלול תהליכי פיקוח ובקרה ולא תפגע בזכויות האישיות של אנשים? בזמן ש־OpenAI מנסה להיאבק עם המשבר התקשורתי והביקורת הציבורית, הפרשה הזו היא תזכורת חשובה לכך שעלינו להמשיך לעקוב ולבחון כיצד משתמשים בטכנולוגיות מתקדמות. יש להבטיח שהשימוש בטכנולוגיות אלו יעשה בצורה אתית ומוסרית, ושזכויות הפרט יישמרו בעידן הטכנולוגי המתקדם.