סוכן שמטפל בלידים ושוכח אותם בשיחה הבאה - איך פותרים את זה

סוכן שמטפל בליד בשיחה ראשונה, לומד שהוא מתעניין בתוכנית Enterprise ושהתקציב שלו מוגבל לרבעון הבא - ואז בשיחה השנייה שואל את אותן שאלות בסיסיות מחדש, כאילו מעולם לא דיברו. זו לא בעיה של המודל "לא זוכר טוב" - היא בעיה ארכיטקטונית: כל קריאת API היא stateless, והמודל לא באמת "זוכר" כלום אלא אם משהו שומר את זה בשבילו.

למה זה קורה: כל שיחה מתחילה מאפס

ה-API של Claude לא שומר היסטוריה בין קריאות - כל בקשה כוללת את כל ההקשר הרלוונטי מחדש. אם לא בניתם מנגנון ששומר מה נאמר בשיחה קודמת ומזין אותו חזרה, המודל פשוט לא יודע שהשיחה הזו התקיימה. עבור בוט צ'אט קצר זה פחות קריטי - אבל עבור סוכן לידים שאמור לעקוב אחרי אותו ליד על פני ימים או שבועות, זו בעיה מהותית.

הפתרון: memory tool

לפי Anthropic, Claude API כולל כלי ייעודי לזיכרון (memory_20250818) שמאפשר למודל לכתוב ולקרוא קבצים תחת נתיב /memories בין קריאות נפרדות - הוא מחליט מה שווה לשמור ומתי לעדכן, ואתם מממשים רק את ה"handler" שמריץ בפועל את פעולות הקובץ (view, create, str_replace, insert, delete, rename) על אחסון שאתם שולטים בו - דיסק, מסד נתונים, או אחסון ענן. הכלי עצמו פועל בצד הלקוח: המודל רק מבקש פעולה, והאפליקציה שלכם מבצעת אותה ומחזירה תוצאה.

const tools: Anthropic.Tool[] = [
  { type: "memory_20250818", name: "memory" },
];

const response = await client.messages.create({
  model: "claude-opus-5",
  max_tokens: 2048,
  tools,
  system: "אתה סוכן סינון לידים. שמור הערות על כל ליד תחת /memories/leads/{lead_id}.md: תקציב, ציר זמן, מתחרים שהוזכרו, והתנגדויות עיקריות.",
  messages: [{ role: "user", content: leadMessage }],
});

בשיחה הבאה עם אותו ליד, הסוכן קורא קודם את תיקיית /memories (ה-API מוסיף לו הנחיה אוטומטית לעשות זאת לפני כל דבר אחר), מוצא את הקובץ שהוא עצמו כתב בפעם הקודמת, וממשיך מהנקודה שבה השיחה הפסיקה - לא שואל שוב מה התקציב.

איפה זה שונה מ-RAG רגיל

חשוב להבדיל: RAG (הבאת מידע קיים ממאגר) עוזר למודל לענות על שאלות מתוך מסמכים שכבר קיימים - מדיניות מוצר, תיעוד. memory tool הוא ההפך בכיוון מסוים: המודל עצמו יוצר את המידע לאורך זמן, כמו נציג מכירות שכותב הערות אחרי כל שיחה. עבור סוכן לידים, לרוב צריך את שניהם יחד - RAG למידע על המוצר, memory tool למעקב אחר הליד הספציפי.

איפה זה נשבר

כלי הזיכרון לא מבטיח שהמודל ישמור את הדבר הנכון - אם ההנחיה בפרומפט המערכת מעורפלת, הוא עלול לשמור פרטים שוליים ולפספס עובדה קריטית כמו "הליד ציין מפורשות שהוא מתכנן לקנות עד סוף השנה". שווה להיות ספציפיים בהנחיה לגבי בדיוק אילו שדות חשוב לתעד, ולבדוק מדי פעם ידנית את קבצי הזיכרון שהמודל כתב - לא לסמוך על כך שהוא בהכרח שומר את מה שחשוב לכם עסקית, לא רק את מה שנשמע לו רלוונטי בזמן השיחה.

מקרה קצה: שני נציגים מדברים עם אותו ליד

אם יותר מנציג אחד (או יותר מסוכן AI אחד) עשוי לדבר עם אותו ליד - למשל דרך צ'אט באתר וגם דרך אימייל - שני מופעים נפרדים של הסוכן עלולים לכתוב לאותו קובץ זיכרון במקביל ולדרוס מידע אחד את השני. הפתרון הפרקטי הוא נעילה ברמת קובץ (file lock) בשכבת האחסון שלכם, לא הסתמכות על כך שהמודל "יתחשב" בכתיבה מקבילה - הוא לא יודע שמופע אחר כותב באותו רגע.

דוגמה: מה בפועל נמצא בקובץ הזיכרון

קובץ זיכרון טוב על ליד לא נראה כמו תמלול שיחה, אלא כמו תקציר מובנה: "תקציב: 15,000 דולר לרבעון. ציר זמן: מקווה לסגור עד סוף Q1. מתחרים שהוזכרו: השוואה מול פתרון מתחרה X, ציין שהמחיר שם נמוך יותר אבל התכונות פחות מתאימות. התנגדות עיקרית: חושש מזמן ההטמעה." זה בדיוק ההבדל בין "הסוכן זוכר" לבין "הסוכן שמר משהו שימושי" - קובץ שרק מעתיק את השיחה מילה במילה לא עוזר לשיחה הבאה יותר מאשר לקרוא את התמלול המלא מחדש.

מה לגבי פרטיות ומחיקת מידע

מכיוון שהכלי פועל על אחסון שאתם שולטים בו, אתם אחראים גם למחיקה - אם ליד מבקש שהמידע עליו יימחק, לא מספיק "לבקש מהמודל לשכוח", כי הוא לא זוכר כלום מעבר לקובץ שנמצא באחסון שלכם. צריך תהליך מחיקה בפועל שמסיר את הקובץ מהאחסון, ורצוי גם מדיניות תפוגה - למחוק קבצי זיכרון על לידים שלא היה איתם קשר תקופה ארוכה, גם בלי בקשה מפורשת.

מה לנסות עכשיו

להתחיל עם הנחיה מפורשת בפרומפט המערכת לגבי בדיוק אילו פרטים לשמור על כל ליד - לא להשאיר את זה למודל להחליט לבד. ולבדוק ידנית אחרי כמה שיחות אמיתיות מה בפועל נכתב בקבצי הזיכרון, לפני שסומכים על התהליך בקנה מידה גדול.