סוכן AI הוא כלי טוב לבנות מהר אפליקציה עסקית, אבל הרשאות גישה, סיסמאות ואחסון נתונים צריכים לשבת בקוד רגיל וצפוי שאדם עובר עליו. הדליפה של כ-35,000 אפליקציות שנבנו ב-Grok Build מראה מה קורה כשברירות המחדל של פלטפורמת קוד מבוססת AI קובעות מי רואה מידע פרטי. גם בארץ מתייחסים לנושא ברצינות: הסטארטאפ הישראלי Bye, שהמייסד שלו יוצא 8200, גייס השקעה כדי לאבטח סוכני AI.
לפי Ars Technica, חברת האבטחה Claroc גילתה שאת קישורי השיתוף של Grok Build, שהיו אמורים להיות בלתי ניתנים לניחוש, אפשר היה פשוט למצוא אחד אחרי השני. פתיחת קישור חשפה בדרך כלל את האפליקציה ואת כל הנתונים שבה. בין השאר נחשפו בדיקות רפואיות של 3,784 עובדים, רשימות עובדים, צנרת מכירות והצעות חסויות. ביניהן היו גם 24 אפליקציות של SpaceXSI עצמה, החברה שמפתחת את Grok. הקישורים האלה הורדו רק אחרי שב-Ars פנו בשאלות.
מה זה אומר לעסק קטן
דשבורד לחשבוניות של קליניקה או ללידים של משרד עורכי דין נבנה היום ב-vibe coding בתוך דקות. החלק המסוכן הוא הקישור ששולחים לעמית בוואטסאפ. בהרבה פלטפורמות "משותף" אומר בשקט "פתוח לכל מי שמוצא את הקישור", ולפי Claroc רוב פלטפורמות ה-AI האחרות סובלות מאותו פגם. בפרויקטים שלי מודל השפה עושה את העבודה הלא חד-משמעית, כמו קריאת מסמכים או מיון פניות. התחברות, הרשאות והמקום שבו הנתונים יושבים הם קוד רגיל על שרת שהלקוח שולט בו. את החלק הזה אף אחד לא מייצר מפרומפט.
למה זה חשוב: לפני שמכניסים נתונים אמיתיים של לקוחות או עובדים לאפליקציה שנבנתה ב-AI, בדקו אם קישור השיתוף שלה דורש התחברות. אם לא - השאירו בה רק נתוני בדיקה.
מקור: Ars Technica