לדף הבית / חדשות

פריצה ל-Fireworks AI חשפה תמלילי שיחות של Notion AI דרך ספק צד שלישי

כל מידע עסקי שאתם שולחים לכלי AI עובר דרך שרשרת של ספקים, והפריצה ל-Fireworks AI מראה שהחוליה החלשה בשרשרת קובעת את רמת האבטחה האמיתית שלכם. אם חוזים, חשבוניות או שיחות עם לקוחות עוברים אצלכם דרך שירות AI, תבררו איזה ספק מודלים עומד מאחוריו ומה הוא שומר.

החברה Fireworks AI היא פלטפורמה שמפתחים משתמשים בה כדי להריץ מודלים פתוחים. היא אישרה שתוקפים פרצו לספק הענן שלה, הגיעו למערכת פיתוח ולקחו מידע על חיובים וחלק ממאגרי הנתונים של לקוחות. לפי TechCrunch, אחד הלקוחות שנפגעו הוא Notion. תמלילי שיחות מהפיצ'ר "Insights" של Notion AI נגנבו, ובערך 1% מלקוחות Notion נפגעו. החברה ניתקה את החיבור ל-Fireworks ב-3 בנובמבר. זו התקרית השנייה ב-Fireworks בתוך חודשיים.

מה זה אומר לעסק קטן

מי שעובד עם Notion מעולם לא בחר ב-Fireworks. הוא בחר ב-Notion. ככה זה בדרך כלל: בוט שירות של מרפאה, עוזר לידים של סוכנות או שירות OCR לחשבוניות של חנות פונים למודל דרך תשתית של מישהו אחר. כשאני בונה תהליך על Claude או על מודלים פתוחים, אני ממפה כל תחנה שהמידע עובר בה. איפה שהמשימה מאפשרת, אני מסיר שמות ומספרי תעודת זהות לפני הקריאה למודל. אני גם שומר את לוגי הפרומפטים על השרת של הלקוח, לא אצל הספק. לדברי Fireworks, התוקפים רצו למכור הלאה גישה ל-LLM, ולכן תקרות הוצאה ומפתח API נפרד לכל תהליך חשובים לא פחות מהצפנה. פירטתי על זה יותר בחלק על אבטחת מידע בשאלות הנפוצות. נשארת מגבלה אחת: שום דבר מזה לא מאפשר לבדוק את הענן של הספק, אז אתם עדיין תלויים בנוהלי האבטחה שלו.

למה זה חשוב: בין אם זה משרד עורכי דין או קליניקה, שאלו כל ספק AI מי מעבד את המידע שלכם וכמה זמן הוא נשמר. ואז שלחו למודל רק את השדות שהמשימה באמת צריכה.

מקור: TechCrunch