לדף הבית / חדשות

סוכן ה-AI של Meta ערבב מידע פרטי של משתמשים: שיעור לכל עסק עם בוט

סוכן AI שמערבב בין שיחות הוא דליפת מידע, לא תקלה. כל מי שמפעיל בוט שירות או מכירות מול לקוחות צריך לבדוק עכשיו דבר אחד: האם לקוח א' יכול אי פעם לראות משהו ששייך ללקוח ב'.

לפי TechCrunch, שמצטט דיווח של Reuters, עובדי Meta כתבו בערוצים פנימיים שהסוכן Muse הציג להם בקשות בנושא טיפול בילדים, הזמנות מוצרים ויתרות בנק שלא היו שלהם. אחד מהם שאל על גאות ושפל וקיבל תשובה שצורפו אליה יתרות החשבונות של מישהו ב-Capital One וב-Charles Schwab. עובדת אחרת קיבלה תזכורת לענות על הודעה ב-Signal, למרות שלדבריה מעולם לא נתנה ל-Muse גישה לאפליקציות אחרות. ב-Meta אומרים שהעובדים בודקים גרסאות שהציבור לא מקבל. הסיבה לא ידועה, וגם לא ברור אם האפליקציה הציבורית מושפעת.

מה זה אומר על הסוכן שלכם

בעסק קטן הסוכן מטפל בפניות ב-WhatsApp, בתורים לקליניקה, בחשבוניות של חנות או בפניות למשרד עורכי דין. דליפות בין לקוחות מגיעות בדרך כלל מזיכרון משותף, ממטמון משותף או ממאגר ידע שמחפשים בו בלי סינון לפי לקוח. בעוזר הזמנות כמו זה שבניתי לרשת סטודיוי כושר, ההפרדה חייבת לשבת בקוד: כל שיחה קשורה למזהה לקוח, והזיכרון ותוצאות החיפוש מסוננים לפי המזהה הזה. כלים מקבלים רק את הגישה שהם באמת צריכים. אל תסמכו על פרומפט שאומר "לעולם אל תחשוף מידע של משתמשים אחרים".

למה זה חשוב: לפני העלייה לאוויר תריצו בדיקה פשוטה עם שני לקוחות פיקטיביים ותנסו לשלוף את הפרטים של אחד מתוך הצ'אט של השני. אם אתם לא יכולים להסביר איך הסוכן שלכם מפריד בין לקוחות, כנראה שהוא לא מפריד.

מקור: TechCrunch