בתגובה לטרגדיה שהסעירה את עולם הטכנולוגיה, עם התאבדותו הטרגית של נער שהשתמש ב־ChatGPT, הכריזה OpenAI על השקת מערכת בקרת הורים חדשה בניסיון להפוך אירוע אישי כואב לנקודת מפנה עולמית בשמירה על צעירים בעידן הבינה המלאכותית.
רוצים לקבל עדכונים בלייב? רוצים מקום בו אתם יכולים להתייעץ עם מומחי AI, לשאול שאלות ולקבל תשובות? רוצים לשמוע על מבצעים והטבות לכלי ה-AI שמשנים את העולם? הצטרפו לקהילות ה-AI שלנו.
אפשר גם להרשם לניוזלטר שלנו
הסיפור המטריד והמצער על אדם ריין, נער בן 16 מקליפורניה, שפנה ל־ChatGPT לאורך חודשים, שיתף את מצוקותיו ורעיונותיו האפלים, ובסופו של דבר מצא עצמו מקבל עצות שככל הנראה עודדו אותו להמשיך בתכנון הרסני שהוביל להתאבדות.
התביעה נגד OpenAI חושפת כיצד הבוט בנה עמו מערכת יחסים אינטנסיבית, הגיב במסרים מאשרים ואף נתן לו הוראות טכניות מפורטות לקראת רגעי השיא של הסבל שלו. ההורים טוענים כי לא מדובר בכשל מערכת בודד, אלא בתוצאה ישירה של עיצוב מסוכן שמעדיף שימור שיח על חשבון בטיחות המשתמש.
לאור הלחץ הציבורי והמשפטי, חושפת OpenAI שורה של פיצ’רים שנבנו במיוחד כדי להבטיח כי הורים לילדים ומתבגרים יקבלו כלים אמיתיים לניהול בטוח יותר של הבוט:
הורים יוכלו לקשר את חשבונם לחשבון של הילד/ה ולהגדיר מגבלות מהותיות על סוגי השיחות והפיצ’רים הזמינים.
אפשרות להשבית פונקציות כמו זיכרון היסטורי של השיחות ויכולות מתקדמות נוספות שעלולות להעמיק יותר מדי את הקשר עם הבוט.
המערכת תנטר אוטומטית שיחות ותדע להפעיל התראה להורים במקרים בהם מזוהה מצוקה חריפה או תגובות המעידות על סיכון.
פרוטוקולי תגובה מותאמים לגיל שנבנים כעת יאפשרו ל-ChatGPT להגיב לבני נוער בצורה זהירה ורגישה, המתחשבת בגילם ובאתגרים המיוחדים שלהם. בנוסף, OpenAI התחייבה לשתף פעולה עם פסיכולוגים ומומחים לבריאות הנפש, כדי לוודא שהמערכת תספק תמיכה נכונה ובטוחה למשתמשים הצעירים.
המערכת צפויה להיות זמינה לכלל המשתמשים בעולם כבר במהלך החודש הקרוב.
בנוסף לבקרת ההורים, OpenAI תיישם מנגנון חדש (“Real-Time Router”) להפניית שיחות רגישות באופן אוטומטי למודלים מתקדמים שמותאמים במיוחד לניהול נושאים קריטיים כמו אובדנות, דיכאון ופגיעה עצמית.
בזמן ש־OpenAI מדגישה כי אלו רק הצעדים הראשונים ושיהיו עדכונים כל הזמן בהתאם להתקדמות המחקר, מומחי בטיחות לא טומנים ידם בצלחת ומזהירים: “נדרש הרבה יותר מכמה קובצי הגדרות חכמים כדי למנוע את הטרגדיה הבאה”. הטכנולוגיה מציבה אתגרים חדשים, אך גם הזדמנות להפוך מקרה כאוב אחד לחזית של מהפכה בשמירה על ילדים ונוער בעולם הבינה המלאכותית.
רוצים לקבל עדכונים בלייב? רוצים מקום בו אתם יכולים להתייעץ עם מומחי AI, לשאול שאלות ולקבל תשובות? רוצים לשמוע על מבצעים והטבות לכלי ה-AI שמשנים את העולם? הצטרפו לקהילות ה-AI שלנו.
אפשר גם להרשם לניוזלטר שלנו
רוצים לקבל עדכונים על כל מה שחדש ומעניין בעולם ה-AI? הרשמו לניוזלטר שלנו!
תוצאות נוספות...
תוצאות נוספות...
