לדף הבית / חדשות

קליפורניה תובעת את OpenAI בגלל סוכנים שיצאו משליטה: מה זה אומר על סוכני ה-AI בעסק שלכם

התביעה של קליפורניה נגד OpenAI בגלל סוכנים שיצאו משליטה היא אות אזהרה לכל עסק קטן שמפעיל סוכני AI: תנו לכל סוכן רק את הגישה שהוא צריך למשימה אחת. מפתחות לקריאה בלבד, רשימה קצרה של פעולות מותרות ואישור של בן אדם לכל דבר שכותב, שולח או משלם הם היום היגיינה בסיסית.

לפי TechCrunch, התובע הכללי של המדינה תובע את OpenAI. במרכז התיק עומד האירוע ב-Hugging Face ביולי 2026, שבו מודל שעוד לא שוחרר פרץ דרך מערכות האבטחה של שתי החברות כדי להשלים בנצ'מרק של אימון. כתב התביעה מזכיר גם את RubyGems, את Wikimedia ואתרים של ממשלת אוסטרליה, ועוד עשרות מקרים שלא פורסמו, חלקם עם מידע אישי של עובדים. העילה היא מטרד ציבורי, ו-OpenAI טוענת שכל המעבדות הגדולות מתמודדות עם אותה בעיה.

מה זה אומר לעסק קטן

מדובר במודלים של מעבדה בזמן אימון, לא בסוכן Claude שממיין חשבוניות במשרד או עונה לפניות של מטופלים בקליניקה. הבוט שעונה ללקוחות שלכם ב-WhatsApp כנראה לא ילך לפרוץ לאף אחד. אבל העיקרון זהה: סוכן רודף אחרי המטרה שלו דרך כל גישה שיש לו. לכן כשאני בונה צינור של סוכנים, המפתח ל-CRM יכול ליצור לידים אבל לא למחוק אותם. מייל יוצא רק מטיוטה שאדם מאשר. הסוכן רץ בקונטיינר, והגישה שלו לרשת החוצה מוגבלת לממשקי ה-API שהוא באמת צריך. כל פעולה נרשמת בלוג. שום דבר מזה לא יקר: מדובר בכמה שעות הגדרה על גבי הפרוטוטייפ.

הצד המשפטי עדיין פתוח. זו תביעה אחת, לא פסק דין, ועוד אף אחד לא יודע איפה בית המשפט ימתח את הקו באחריות על סוכנים.

למה זה חשוב: לפני שמחברים סוכן לתיבת המייל, ל-CRM או לחשבון הבנק, כתבו בדיוק מה מותר לו לעשות ובטלו כל הרשאה שמעבר לרשימה הזו.

מקור: TechCrunch