דלג לתוכן הראשי
צילום: שאטרסטוק
צילום: שאטרסטוק

בלי לחזור כמו תוכי: כך תנצלו את הזיכרון של כלי ה-AI שלכם

נועם כהן
נועם כהן

היכולת של כלי הבינה המלאכותית לשמור הקשר והעדפות אישיות משיחות קודמות מייתרת הסברים חוזרים וחוסכת זמן עבודה יקר • עם זאת זיכרון המודל אינו תיעוד מוחלט ועלול לקבע טעויות והחלטות שהשתנו או לחשוף מידע אישי וארגוני רגיש • ניהול מסודר בהגדרות, שימוש בסיכומי מעבר ובקרה על שיחות זמניות יבטיחו עבודה מדויקת


כמעט כל מי שעובד עם כלי AI מכיר את הרגע: מסבירים שוב מי אתם ומה עשיתם עד עכשיו, או מגלים שהכלי נשען על החלטה שכבר השתנתה. דמיינו עוזר שמחזיק מחברת עם פרטים שעוזרים לו לעבוד איתכם: במה אתם עוסקים, באיזו שפה אתם מעדיפים תשובות ועל איזה פרויקט אתם עובדים. בשיחה הבאה חלק מההקשר כבר נמצא שם. זה יכול לחסוך הסברים חוזרים, אבל כדאי לדעת מה נכתב במחברת, מה חסר בה ומה כבר השתנה.

צילום: שאטרסטוק

בכלי AI רבים אפשר כיום להיעזר במידע משיחות קודמות. כדאי להבחין בין שלושה דברים: זיכרון שהכלי שומר בין שיחות, ההקשר של השיחה הנוכחית וסיכום עבודה שאתם מביאים בעצמכם. הזיכרון גם אינו תיעוד מלא של כל מה שאמרתם. לכן, כשמתחילים משימה חשובה, כדאי לבדוק שהכלי נשען על ההקשר הנכון.

מה כדאי להשאיר להמשך?

העדפות יציבות הן מקום טוב להתחיל ממנו: השפה שלכם, אופן הצגת התשובה, תחום העיסוק או קהל היעד. לעומת זאת, הצעת מחיר שעוד לא אושרה או מועד שהשתנה הם פרטים שצריך לעדכן ולא לתת להם להפוך בשקט לעובדה קבועה.
אפשר לבקש במפורש לזכור פרט שימושי ואז לבדוק מה נשמר. ב־ChatGPT, למשל, הגדרות הזיכרון נמצאות תחת Personalization (התאמה אישית). שם רואים מה נשמר ומוחקים פרט שכבר לא נכון. גם בקלוד ובג'מיני יש אפשרויות דומות, אבל הן לא זהות בכל חשבון. אל תניחו שאפשרות שראיתם בצילום מסך של מישהו אחר זמינה גם אצלכם.

גם מסך הזיכרון אינו בהכרח תמונה מלאה של כל המקורות שהכלי עשוי להשתמש בהם. כדאי לקרוא אותו, לתקן מידע מיושן ולבדוק במידת האפשר מאין הגיע פרט שהופיע בתשובה.

צילום: שאטרסטוק

איך ממשיכים פרויקט בשיחה חדשה

בפרויקט מתמשך מומלץ לשמור סיכום עבודה קצר, מה שמכונה באנגלית handoff, שמפרט מה המטרה, מה הוחלט, מה עדיין פתוח ואיזה קובץ הוא הגרסה העדכנית. בסוף שיחה אפשר לבקש מהכלי להציע סיכום כזה, לקרוא אותו ולתקן טעויות לפני שממשיכים. את הסיכום שומרים במסמך עבודה נגיש. בשיחה החדשה מצרפים אותו או מדביקים ממנו, בלי להניח שהכלי ימצא אותו לבד.

דוגמה לפתיחה של שיחה חדשה: "אנחנו מתכננים שיפוץ במטבח. סיכמנו על התקציב ועל הקבלן, אבל עוד לא בחרנו ארונות. הקובץ המצורף הוא רשימת ההצעות העדכנית. השווה עכשיו בין שתי ההצעות לארונות ואל תשנה את התקציב". כך ההחלטות נבדלות מהאפשרויות שעוד נשקלות, והכלי מקבל משימה מוגדרת. עדיף סיכום קצר שבדקתם על פני הנחה שהכלי זוכר הכול נכון.

אילוסטרציה | צילום: שאטרסטוק

מה לא כדאי להשאיר במקרה?

לפני שמכניסים מידע רפואי, כספי או חומר של לקוח, עצרו לרגע. בחשבון אישי, שאלו את עצמכם אם הייתם רוצים שהפרט יישמר לאורך זמן. אם לא, הסירו פרטים מזהים או השתמשו בשיחה זמנית. בחשבון עבודה, ודאו שהארגון אישר את הכלי ואת סוג המידע, כי החשבון לבדו אינו מבטיח שכל שימוש מותר. וחשבון אישי שמשמש לעבודה אינו תחליף למדיניות הארגון.

לשיחה שלא רוצים שתוסיף לזיכרון יש בכלים מסוימים מצב זמני. בקלוד למשל, המצב הזה נקרא Incognito בממשק. ב-ChatGPT שיחה זמנית אינה יוצרת זיכרונות חדשים, אבל אם בחרתם בתוכה בהתאמה אישית היא עדיין יכולה להשתמש בזיכרון שכבר נשמר. מצב זמני גם אינו מבטיח מחיקה מיידית משרתי הספק.

לפני שמוחקים…

כשמבקשים להסיר מידע, צריך לבדוק היכן הוא מופיע: בזיכרון שמור, בשיחות, בקבצים או באפליקציה מחוברת. מחיקת שיחה אחת לא מבטיחה שכל העותקים וההקשרים נעלמו. בתיעוד של Microsoft 365 Copilot, למשל, שבו הזיכרון עדיין בתצוגה מקדימה, מחיקת שיחה אינה מוחקת זיכרונות שמורים שנוצרו ממנה. גם מדיניות השמירה שהארגון מגדיר לשיחות אינה חלה על הזיכרון, ולכן מנהלים צריכים לבדוק אותה בנפרד.

הפעולה עצמה פשוטה: עברו לפי ההוראות של השירות, מחקו את הפרט מהזיכרונות השמורים ובדקו גם את המקורות שבהם הוא נמצא. לעתים לוקח זמן עד שהשינוי משתקף.

אפשר להתחיל כבר היום בבדיקה פשוטה. פתחו פרויקט פעיל ובקשו מהכלי לסכם מה הוחלט ומה עוד פתוח. השוו את הסיכום למציאות, תקנו את ההקשר ושמרו סיכום קצר להמשך. ההמלצה שלי היא להתייחס לזיכרון של הכלי כאל עוזר ולא כאל מקור האמת: את ההחלטות שחשוב לכם שיחזיקו מעמד, שמרו גם אצלכם.

נועם כהן הוא מייסד CritiqeIL, חברת ייעוץ והטמעת AI לארגונים בישראל.