תגובות לפוסט: מדריך להישרדות בעידן ההזיות של הבינה המלאכותית https://letsai.co.il/llm-hallucinations-challenges/ בינה מלאכותית Wed, 28 May 2025 11:01:15 +0000 hourly 1 https://wordpress.org/?v=6.8.2 מאת: רותי https://letsai.co.il/llm-hallucinations-challenges/#comment-4062 Tue, 20 May 2025 10:10:03 +0000 https://letsai.co.il/?p=49616#comment-4062 מה הדירוג של PERPLEXITY?

]]> מאת: אביתר אדרי https://letsai.co.il/llm-hallucinations-challenges/#comment-4051 Tue, 20 May 2025 06:14:11 +0000 https://letsai.co.il/?p=49616#comment-4051 בתגובה על מישהו.

לא בדיוק… המודלים של היום אומנו על כמות דאטה אדירה, כולל דאטה עדכני, ויש להם מנגנונים לשליפת מידע והצלבתו (למשל עם הרשת ו/או שרשרת מחשבה וכו’ וכו’ וכו’).

זה יותר קשור למנגנונים פנימיים ושיטות פעולה. בסוף, בתוך הדאטה שכל מודל אומן עליו יש מלאא מידע שגוי ולא איכותי, אבל זה לא בהכרח משפיע על הזיות. הזיות נוצרות גם כשמודל רוצה “לרצות” את המשתמש, לא יודע לשלוף תשובה נכונה ו”מרגיש” שהוא “חייב” לתת תשובה שקרובה למה שהוא תופס כנכון בעיניו…

וזה באמת על קצה המזלג…

]]> מאת: מישהו https://letsai.co.il/llm-hallucinations-challenges/#comment-4050 Tue, 20 May 2025 03:58:43 +0000 https://letsai.co.il/?p=49616#comment-4050 בסופו של מה שהכי משפיע על אמינות המידע זה אם המידע עליו אומן המודל הוא מספיק מגוון ואמין. אם אין מספיק מידע למודל או שהמידע שיש לו לא מדוייק (בין אם אם הוא לוקח גם מידע מהאינטרנט ובין שלא) הוא יעשה יותר הזיות לדוגמא כשאני מבקש מידע על ספריית תכנות כל שהיא הרבה פעמים אני מקבל מידע שגוי אפילו שהמודל מנסה להשוות עם האינטרנט וזה קורה כי ספריות תוכנה מתעדכנות מאוד מהר ולמודל לרוב יש מידע לא מספיק מעודכן והוא לא יודע כיצד לסנן מה רלוונטי ומה לא

]]>