דמי השימוש במודל הופכים לשורה הקטנה ביותר בתקציב של עוזר AI לעסק קטן: המודל החדש של Meta, בשם Muse Ember, עולה בערך 0.37 ש"ח (0.10$) למיליון טוקנים של קלט. ברוב פרויקטי ה-AI בעסקים קטנים, עיקר הכסף הולך היום על בנייה, בדיקות ותחזוקה של התהליך, ועלות המודל לעבודה שגרתית כמו שליפת נתונים וניתוב פניות ממשיכה לרדת.
לפי TechCrunch, המעבדה Meta Superintelligence Lab בנתה את Ember לעבודה החוזרת שסוכנים עושים כל היום: קריאה לכלים, ניתוב, שליפת נתונים וניתוח מסמכים ארוכים. הוא גם קורא צילומי מסך, סריקות ואודיו בלי מודל נפרד. ב-Meta מציגים אותו כזוג למודל הכבד Muse Wonder: "Muse Wonder מתכנן, Muse Ember מטפל בנפח".
מה זה משנה לאוטומציה בעסק קטן
החלוקה עצמה הגיונית, וככה אני כבר בונה סוכנים: מודל חזק כמו Claude כותב את הכללים, ומודל זול מיישם אותם על מאות חשבוניות, פניות לקוחות ב-WhatsApp או קבלות סרוקות. המודל Ember מוזיל את שכבת הנפח הזאת. אבל יש שלוש הסתייגויות. הטענה שהוא "חכם יותר מ-Haiku" מגיעה מגרף של Meta עצמה. בכתבה מופיע רק מחיר הקלט. והמודל סגור, כלומר המידע שלכם עובר ל-API של Meta, וזה פוסל אותו ללקוחות שחייבים להשאיר מסמכים אצלם או על השרתים שלהם, למשל משרד עורכי דין או קליניקה. גם לפני Ember, החשבון על המודל כמעט אף פעם לא היה מה שקובע את מחיר הפרויקט - האינטגרציות ומקרי הקצה הם שקובעים.
למה זה חשוב: לפני שעוברים למודל זול יותר, תריצו אותו על 50-100 מסמכים אמיתיים שלכם ותשוו את הטעויות שלו למה שעובד אצלכם היום. מודל שקורא חשבוניות לא נכון עולה בתיקונים ידניים יותר ממה שהוא חוסך בטוקנים.
מקור: TechCrunch