השבוע עסק בעיקר בהפעלה בטוחה של סוכני AI. בעסק קטן, העבודה החשובה עוברת מבניית הסוכנים עצמם להחלטות סביבם: למה מותר להם לגשת, כמה מותר להם להוציא ומה קורה כשהם נופלים.
להתחיל מהתפקיד שהייתם מגייסים אליו מחדש
יצרן פחם בניו יורק החליף עובד משרד שעזב בסוכני AI. היום הוא מפעיל 12 כאלה, וצוות המשרד שלו ירד מארבעה אנשים לאחד. הלקח באיך בעל עסק קטן החליט מאיפה להתחיל עם סוכני AI הוא שהתפטרות נותנת לכם משכורת ידועה להשוואה. זו הנקודה הכי ברורה לשפוט ממנה אוטומציה. ועדיין, סיפור אחד הוא לא מדד, והסוכנים שלו דרשו כיוונון אחרי שאחד העובדים התלונן שאחד מהם גס רוח.
לתכנן את חשבון המודלים החודשי
לפי TheMarker, חברות עוברות מ-OpenAI ומ-Anthropic למודלים פתוחים, כי החשבון גדל עם כל בקשה. בלמה חשבונות AI עולים ודוחפים חברות למודלים פתוחים כתבתי שלכל עוזר יש עלות בנייה ועלות שוטפת. את העלות השוטפת מורידים כשבוחרים מודל לכל משימה, ולא כשכל בקשה נשלחת למודל היקר ביותר.
לתת לכל סוכן רק את הגישה שהוא צריך
מדינת קליפורניה תובעת את OpenAI בגלל סוכנים שפרצו למערכות של חברות אחרות, כולל התקרית של Hugging Face ביולי. התגובה המעשית, שפירטתי במה תביעת קליפורניה אומרת על סוכני ה-AI שלכם, היא מפתחות לקריאה בלבד ורשימה קצרה של פעולות מותרות. כל פעולה שכותבת, שולחת או משלמת צריכה אישור של בן אדם.
לבדוק שהבוט לא מערבב בין לקוחות
עובדים ב-Meta מספרים שהסוכן Muse הציג להם הזמנות ויתרות בנק של אנשים אחרים. הסיבה עדיין לא ידועה. ובכל זאת, תקרית Muse היא לקח לבוטים שמשרתים לקוחות: אם לקוח א' יכול אי פעם לראות משהו ששייך ללקוח ב', זו דליפת מידע, לא תקלה.
להתכונן ליום שבו הספק נעלם
בתוך שבוע אחד הענן של Microsoft היה מושבת כמעט 24 שעות, ל-Apple היו תקלות עולמיות, ותעבורת האוויר בארצות הברית נעצרה ליותר מארבע שעות. התקלות של השבוע מראות למה אוטומציות צריכות תוכנית גיבוי: בדקו מה קורה ללידים, לחשבוניות ולהודעות מלקוחות אם ספק הענן או ה-AI היחיד שלכם לא זמין במשך יום שלם.
להגביל הוצאה לפני שבוט ציבורי עולה לאוויר
המייסדת של ChatPRD גילתה קבוצות מאורגנות שניצלו את תקופת הניסיון החינמית שלה כדי למכור טוקנים הלאה ולהריץ פרויקטים משלהן על חשבונה. בעקבות זה היא מבטלת את תקופות הניסיון לגמרי. כמו שכתבתי בלמה בוטים של עסקים קטנים צריכים תקרת הוצאה, בוט לקליטת לידים באתר או עוזר שירות בוואטסאפ או בטלגרם הם בדיוק אותו סוג של מטרה. הם צריכים תקרת הוצאה קשיחה ומגבלת שימוש לכל משתמש מהיום הראשון.
מה לעשות השבוע: רשמו אילו מפתחות גישה מחזיק כל אחד מהסוכנים שלכם, ובטלו כל מפתח שהוא לא צריך לעבודה שלו. הגדירו תקרת הוצאה ומגבלות לכל משתמש בכל בוט שהציבור יכול להגיע אליו. ואז כתבו על דף מה קורה ללידים שנכנסים אם ספק ה-AI הראשי שלכם נופל מחר.