מרפאה או משרד עורכי דין שעובדים עם הגרסה הצרכנית של Gemini, כשהיא מחוברת ל-Gmail ול-Drive, צריכים להניח שמיילים וקבצים של לקוחות עלולים להגיע לעיני בודקים אנושיים של Google. כבו את Connected Apps בכל חשבון שמחזיק חוזים, חשבוניות או מידע על לקוחות, והעבירו את העבודה עם מסמכים לכלים שבהם אתם מחליטים מה נשלף ומי רואה אותו.
לפי סיכום שפורסם ב-GitHub, דף העזרה של Google עודכן, וב-16 באוקטובר נערך גם פוסט בבלוג של Google משנת 2023. הפוסט המקורי הבטיח שתוכן Workspace לא נצפה על ידי בודקים אנושיים. האזהרה של Google עצמה אומרת היום: אל תחברו אפליקציות שמכילות מידע סודי שלא הייתם רוצים שבודק יראה. הכותב גם מראה ש-Gemini שולף מיילים ברקע גם משאלות אגביות, בלי שום תיוג @Gmail. לפעמים הוא לא שולף כלום, לפעמים סיכום, ולפעמים את המייל המלא כולל מספרי חשבון.
מה זה אומר לאוטומציה
הלקח הגדול יותר נוגע לתכנון. כשהמודל מחליט לבד מתי לחפש בתיבת הדואר שלכם, אי אפשר לצפות מה יוצא מהמשרד. בצנרות שאני בונה השליפה מפורשת: הקוד מעביר למודל חוזה אחד או חשבונית אחת, ותו לא. כך ניגשתי לעוזר לניתוח ארכיון משפטי שבניתי, שבו המסמכים לא נוגעים באפליקציית צ'אט צרכנית. אם יש לכם חובת סודיות כלפי לקוחות, קראו את תנאי השימוש בנתונים לפני שאתם מחברים כלי AI למייל או ל-Drive. לאפליקציות צרכניות ולגישה דרך API חלים לעיתים קרובות כללים שונים.
למה זה חשוב: התייחסו לאפליקציות צ'אט צרכניות של AI כמו למרחב ציבורי בכל מה שנוגע למידע של לקוחות. שלחו מסמכים רגישים רק דרך צנרות מוגדרות, שאת תנאי השימוש בנתונים שלהן באמת קראתם.
מקור: Hacker News