תוצאות נוספות...

Generic selectors
Exact matches only
Search in title
Search in content
Post Type Selectors
× Send

מה קורה כשסוכן AI מתחיל ״לחלום״?

תוכן עניינים

האם בינה מלאכותית יכולה ללמוד מהטעויות שלה? סוכן בינה מלאכותית יכול לעבוד במשך שעות, לפתור בעיות, לגלות מה עובד ומה לא, ולתעד את המסקנות שלו. אבל כשהוא חוזר למשימה בפעם הבאה, הוא עלול לחזור בדיוק על אותה טעות. לפעמים הוא אפילו מסתמך על זיכרון שגוי שכתב בעצמו, ובכך הופך טעות אחת לבעיה שחוזרת שוב ושוב.

הישארו מעודכנים

רוצים לקבל עדכונים בלייב? רוצים מקום בו אתם יכולים להתייעץ עם מומחי AI, לשאול שאלות ולקבל תשובות? רוצים לשמוע על מבצעים והטבות לכלי ה-AI שמשנים את העולם? הצטרפו לקהילות ה-AI שלנו.

אפשר גם להרשם לניוזלטר שלנו

במאמר הנדסי חדש שפרסמה אנטרופיק (Anthropic) ב-6 בנובמבר 2026, החברה מציגה את הגישה שלה לפיתוח זיכרון מתמשך לסוכני AI. אחד המנגנונים המרכזיים נקרא Dreaming, או ״חלימה״. הרעיון הוא לאפשר לקלוד (Claude) לחזור לתיעוד של פעולות ושיחות קודמות, לזהות טעויות, לארגן מחדש את המידע ולשפר את מה שישמש אותו בפעם הבאה. השם אולי נשמע כמו ניסיון לחקות מוח אנושי, אבל מדובר בתהליך חישובי. והוא עשוי להיות חשוב במיוחד ככל שסוכני AI מקבלים משימות שנמשכות ימים, שבועות ואפילו חודשים.

לזכור משהו וללמוד ממנו הם שני דברים שונים

אנטרופיק הציגה את Dreaming כבר במאי 2026, במסגרת כנס Code with Claude, כפי שסיקרנו בכתבה קודמת ב-Let'sAI. חודש לאחר מכן הציגה גם OpenAI מנגנון בשם Dreaming לשיפור הזיכרון של ChatGPT, שעליו כתבנו בסקירה נפרדת.

 

למרות השם המשותף, מדובר בגישות שונות: OpenAI מתמקדת בשמירת הקשר אישי ועדכני בין שיחות, ואילו אנטרופיק מתמקדת בזיכרון של סוכני AI שפועלים לאורך זמן. עכשיו אנטרופיק חושפת כיצד המנגנון שלה עובד, אילו תוצאות הוא משיג והיכן מתגלות המגבלות שלו.

 

כדי להבין את הרעיון, צריך להבחין בין שני סוגים של למידה. המודלים הגדולים שאנחנו מכירים רוכשים חלק ניכר מהיכולות והידע שלהם במהלך האימון. התהליך הזה משנה את הפרמטרים הפנימיים של המודל. לעומתו, הזיכרון שעליו מדברת אנטרופיק הוא מידע חיצוני שנשמר בין שיחות ומשימות, למשל בקבצים או במאגרי מידע.

 

קלוד יכול לקרוא את המידע הזה בפעם הבאה שהוא פועל, בלי לעבור אימון מחדש. אלא שעצם השמירה לא מבטיחה שהזיכרון יהיה שימושי. סוכן עשוי לשמור יותר מדי פרטים, לתעד מסקנות שלא נבדקו, לשכוח לעדכן מידע שהשתנה או להתקשות למצוא את מה שהוא צריך ברגע הנכון.

 

אנטרופיק מציעה לחשוב על הזיכרון כמערכת המורכבת מכמה שכבות: תיעוד הפעולות והשיחות המקוריות, הערות שהסוכן בחר לשמור, מסמכי ידע מאורגנים שמקשרים בין נושאים, ומידע מצומצם שנטען מראש בתחילת כל משימה חדשה.

 

כך Dreaming מארגן את הזיכרון של קלוד | Anthropic

 

מנגנון החלימה פועל על השכבות האלה. הוא יכול להשוות בין זיכרון לבין התיעוד המקורי, לאחד כפילויות, לתקן סתירות וליצור מסמכי ידע שמאפשרים למצוא מידע בקלות רבה יותר.

 

הרעיון של עיבוד מידע בזמן שהמודל לא עסוק במענה מיידי הוא לא חדש לגמרי. כבר באפריל 2025 פרסמו חוקרים את Sleep-time Compute, עבודה שבחנה כיצד חישוב מוקדם על מידע קיים עשוי לצמצם את העבודה הנדרשת בעת מענה לשאלות עתידיות. אנטרופיק בוחנת כיצד עיקרון דומה יכול לשמש לניהול זיכרון לאורך זמן.

פוקימון, זיכרון שגוי ומלכודת שחוזרת שוב ושוב

אחת הדוגמאות המעניינות במאמר מגיעה דווקא ממשחק פוקימון. במאי 2025 סיקרנו את פרויקט Claude Plays Pokémon, שבו קלוד ניסה לשחק באופן עצמאי במשחק הקלאסי, ולעיתים נתקע במשך שעות בגלל טעויות ניווט והנחות שגויות. עכשיו אנטרופיק חוזרת למשחק כדי להדגים איך תיקון זיכרון באמצעות Dreaming יכול לשנות את התנהגות הסוכן ולחלץ אותו ממעגל של טעויות חוזרות.

 

הזיכרון השגוי גרם לו ליפול שוב ושוב ממדרגה חד-כיוונית שהחזירה אותו לאזור קודם במשחק. לאחר שלושה ניסיונות כושלים הוא אף הודיע שבכוונתו להפסיק כדי לא להמשיך להסתובב במעגלים. החוקרים הפעילו את מנגנון החלימה על הזיכרון השגוי. קלוד חזר לתיעוד הפעולות המקורי, זיהה את הסתירה ותיקן את המידע ששמר.

 

אותה נקודה במשחק, שתי החלטות | Anthropic

 

כשהמשחק חודש עם הזיכרון המתוקן, קלוד חזר למערה והצליח להגיע לעיר הבאה. בגרסה שבה הזיכרון לא תוקן, הוא לא הגיע ליעד במסגרת הניסוי. זה כמובן ניסוי נקודתי במשחק מחשב, ולכן הוא לא מוכיח שהמנגנון יתקן כל טעות, אבל הוא ממחיש בעיה רחבה יותר - סוכן שמסתמך על מידע שגוי מהעבר עלול להיכשל גם כשהיכולות שלו מספיקות לביצוע המשימה.

לפעמים פחות זיכרון הוא דווקא יתרון

בבדיקה נוספת השוותה אנטרופיק כיצד מודלים מדורות שונים החליטו מה כדאי לשמור במהלך המשחק. Claude Sonnet 3.7 שמר כמויות גדולות של מידע על קרבות, דמויות, חפצים ואירועים. לאחר כ-10,000 צעדים במשחק, הזיכרון שלו כלל 413 קבצים ב-225 תיקיות. באותו שלב הוא השיג תג התקדמות אחד.

 

לעומתו, Claude Fable 5 שמר עשרה קבצים בלבד והשיג ארבעה תגים. המודל החדש בחר להתמקד בתוכניות, באסטרטגיות ובכללים שלמד, במקום לתעד כמעט כל אירוע. נתונים זמניים, כמו מיקום הדמות או כמות הכסף במשחק, אפשר ממילא לקרוא שוב מהמסך.

 

חשוב לסייג ולומר שמדובר במודלים שונים, ולכן אי אפשר לייחס את כל פער הביצועים לניהול הזיכרון בלבד. ובכל זאת, ההבדל מדגים את העיקרון שאנטרופיק מנסה לקדם. זיכרון יעיל נמדד ביכולת למצוא ולהשתמש במידע הנכון, ולא בכמות המידע שנצברה.

מה קורה כשנותנים לקלוד לבנות לעצמו מאגר ידע?

החוקרים בדקו גם אם חלימה יכולה לעזור לסוכן להתמודד עם מאגר מידע ארגוני גדול. לצורך הניסוי הם השתמשו בכ-350 אלף קבצים של חברת התוכנה Stainless, הכוללים כ-420 מיליון טוקנים. קלוד קיבל משימה לבנות Wiki, אוסף של דפי ידע המקושרים ביניהם, שיאפשר לו לנווט בין המסמכים.

 

במהלך 128 סבבים, סוכנים המבוססים על Claude Opus 5 הוסיפו מידע, תיקנו דפים, איחדו כפילויות ובדקו טענות מול מקורות. במבחן שכלל 25 שאלות על המאגר, השימוש ב-Wiki יחד עם כלי חיפוש העלה את שיעור העמידה בקריטריונים שנבדקו מ-54% בתחילת התהליך ל-61% לאחר הרחבתו. חיפוש ללא Wiki השיג 53%.

 

שילוב ה-Wiki עם חיפוש שיפר את הציון במבחן | Anthropic.

 

בשאלות אחרות, שבהן נדרש לחבר מידע ממספר מסמכים, נמצאו יתרונות משמעותיים יותר. התוצאות מצביעות על הפוטנציאל של מאגר ידע מאורגן לסייע לסוכן למצוא מידע ולחבר בין מקורות, במיוחד כשהוא ממשיך להתפתח לאורך זמן.

כשהזיכרון גדל יותר מדי

לצד התוצאות החיוביות, החוקרים מצאו גם מקרים שבהם ה-Wiki לא הוסיף שיפור ברור לעומת חיפוש ישיר במסמכים.

 

באחד הניסויים, מאגר הידע המאורגן אפילו הפך לגדול יותר מחומר המקור. קלוד קיבל עשרה מסמכים בנפח 115KB ויצר מהם Wiki שכלל 68 עמודים בנפח 203KB, כמעט פי 1.8 מהמקור. במקום לייצר מפה תמציתית של הידע, הוא יצר שכבה נוספת של מידע שהיה צריך לתחזק.

 

קלוד יצר Wiki שגדול פי 1.77 מחומר המקור | Anthropic

 

בעיה אחרת התגלתה בניסוי שבו ארבעה סוכנים כתבו במקביל לאותו דף Wiki, שריכז מידע על חוזים. כאשר כמה סוכנים ניסו לעדכן את אותו הקובץ, השמירה של סוכן אחד דרסה מידע שכתב סוכן אחר. כתוצאה מכך, רק 41 מתוך 57 עובדות שנבדקו נשמרו. לאחר שהחוקרים שינו את ההוראות כך שלכל חוזה יהיה דף נפרד וסוכן אחד יהיה אחראי לכתיבתו, נשמרו כל 57 העובדות.

 

שינוי חלוקת העבודה בין הסוכנים מנע דריסת מידע | Anthropic

 

הניסויים האלה מדגישים שהוספת מנגנון זיכרון לא מבטיחה תוצאה טובה יותר. זיכרון יעיל דורש גם בחירה של המידע שכדאי לשמור, ארגון נכון של הקשרים בין פרטי המידע וחלוקת עבודה שמונעת מסוכנים לפגוע זה בעבודתו של זה. לפעמים חיפוש ישיר במסמכים המקוריים עדיין יעיל יותר.

למה זה חשוב לארגונים שמפעילים סוכני AI?

כאן אפשר לראות איך הממצאים מהמחקר עשויים להשפיע על ארגונים שמשתמשים בסוכני AI.

 

דמיינו סוכן שאחראי על חידוש חוזים עם לקוחות. לאורך שבועות הוא מקבל הוראות ממנהלי מכירות, מטפל במקרים חריגים ומתעד החלטות שהתקבלו. בהמשך, אחת ההנחיות משתנה, אבל בזיכרון שלו עדיין נמצאת הגרסה הישנה.

 

מערכת זיכרון מתקדמת יכולה לזהות ששתי ההנחיות סותרות, לחזור לתיעוד המקורי ולהציג את הסתירה, אבל היא עדיין צריכה לדעת איזו הנחיה מחייבת, מי מוסמך לשנות אותה ומתי נדרש אישור אנושי. יש כאן הבחנה מהותית: תיקון זיכרון מול תיעוד קודם משפר את ההתאמה למקור, אבל המקור עצמו לא תמיד נכון, עדכני או מוסמך.

 

לארגונים שבונים סוכנים מתמשכים, המחקר מציע כיוון מעניין. במקום להתייחס לזיכרון כמאגר שרק הולך וגדל, אפשר לבנות תהליך שמבקר אותו, בודק את המקורות שלו ומחליט מה עדיין רלוונטי. ההחלטות החשובות ביותר, במיוחד אלו שמשפיעות על לקוחות, כסף או התחייבויות, עדיין זקוקות למקור סמכות ברור וליכולת בקרה.

האם קלוד כבר חולם בזמן שאנחנו לא משתמשים בו?

כאן חשוב להפריד בין הגישה ההנדסית לבין זמינות המוצר. לפי התיעוד הרשמי של Anthropic, יכולת Dreams זמינה בשלב Research Preview, במסגרת Claude Managed Agents API ובמודלים נתמכים. היא דורשת גישה מתאימה ולא מעידה שכל משתמש בצ׳אט של קלוד מקבל אוטומטית את אותו מנגנון.

 

המפתחים יכולים להפעיל תהליך שעובר על שיחות קודמות ועל מאגר זיכרון קיים, ולהפיק מאגר מעודכן. המאגר המקורי נשמר ללא שינוי, כך שאפשר לבדוק את התוצאה לפני שמשתמשים בה במשימות הבאות.

 

לתהליך הזה יש גם מחיר. הוא צורך משאבי חישוב, וזיכרון מתעדכן דורש תחזוקה שוטפת. נוסף על כך, התיעוד מציין שמנגנון Dreams לא זכאי כיום למסלול Zero Data Retention, פרט חשוב לארגונים המטפלים במידע רגיש.

 

גם אנטרופיק עצמה מכירה בכך שיש עדיין שאלות פתוחות: מתי כדאי לעבד מחדש זיכרונות, כמה משאבים להשקיע בזה ואיך למנוע מהמערכת לצבור טעויות חדשות דווקא בזמן שהיא מנסה לתקן ישנות.

הזיכרון של סוכני AI מתחיל לקבל תפקיד חדש

המאמר של אנטרופיק מציג התקדמות מעניינת בדרך שבה סוכני AI עשויים להשתמש בניסיון המצטבר שלהם. המנגנון מאפשר להם לחזור לעבודה קודמת, לזהות מסקנות בעייתיות ולארגן ידע בצורה שתשרת משימות עתידיות.

 

התוצאות שפורסמו עדיין מגיעות מבדיקות של החברה, ולא אינן מוכיחות אמינות כללית בסביבות עבודה אמיתיות, אבל הן מצביעות על כיוון חשוב בפיתוח סוכנים לטווח ארוך.

 

ככל שסוכני AI מבצעים יותר משימות לאורך זמן, איכות הזיכרון שלהם נעשית חלק מאיכות העבודה שלהם. היכולת לזהות מה כדאי לשמור, מה צריך לתקן ומה כבר לא רלוונטי עשויה להיות חשובה לא פחות מהיכולת לפתור את המשימה הבאה.

הישארו מעודכנים

רוצים לקבל עדכונים בלייב? רוצים מקום בו אתם יכולים להתייעץ עם מומחי AI, לשאול שאלות ולקבל תשובות? רוצים לשמוע על מבצעים והטבות לכלי ה-AI שמשנים את העולם? הצטרפו לקהילות ה-AI שלנו.

אפשר גם להרשם לניוזלטר שלנו
רוצים הרצאה או ייעוץ של רון גולד?
השאירו פרטים ונשמח לחזור אליכם עם המידע הרלוונטי
אולי יעניין אותך גם...
guest
0 תגובות
Let's update

רוצים לקבל עדכונים על כל מה שחדש ומעניין בעולם ה-AI? הרשמו לניוזלטר שלנו!

רוצים לראות יותר תכנים שלנו?

הוסיפו אותנו כמקור מועדף וקבלו יותר מדריכים, חדשות ועדכוני AI בתוצאות החיפוש.

אירועי AI קרובים

תפריט נגישות

תוצאות נוספות...

Generic selectors
Exact matches only
Search in title
Search in content
Post Type Selectors
וובינר חינמי שאסור לפספס
AI Sulotion Architect - מקצועות ה-AI של 2027
17.11.26 ב-20:00 בלייב זום