לדף הבית / חדשות

חשבונות ה-AI מתנפחים, והחברות עוברות למודלים פתוחים: מה זה אומר לעסק קטן

לעוזר AI בעסק קטן יש שתי עלויות: הבנייה, וחשבון חודשי על השימוש במודל שגדל עם כל פנייה. בחירת מודל מתאים לכל משימה, במקום לשלוח הכל למודל היקר ביותר, היא מה ששומר על החשבון השני בשליטה, וגם חברות ישראליות כבר מפחיתות תלות ב-OpenAI וב-Anthropic ועוברות למודלים פתוחים.

לפי TheMarker, מוצרי AI מצליחים שוחקים את הרווחיות של החברות שמוכרות אותם. ככל שיותר לקוחות משתמשים בהם, חשבון ה-API גדל. חברות בישראל ובעולם מצמצמות את התלות במודלים של OpenAI ו-Anthropic ועוברות למודלים פתוחים, גם כדי לחסוך וגם כדי לשלוט במוצר שלהן. אחד המנהלים בתעשייה אומר שהחברות לא רוצות לעצור, והעלויות מתפוצצות לרבות מהן מבפנים.

מה זה אומר לעסק קטן

מרפאה או משרד עורכי דין לא מייצרים מיליוני קריאות כמו מוצר SaaS, אבל אותו היגיון עובד גם בקנה מידה קטן. בתהליך של טיפול בפניות מ-WhatsApp או בחשבוניות, רוב השלבים פשוטים: לסווג הודעה, לשלוף שדות ממסמך, להעביר לאדם הנכון. מודל קטן וזול עושה את זה טוב. על Claude שווה לשלם איפה שנדרשת חשיבה, למשל בבדיקת חוזה או בתשובה מורכבת ללקוח. החלוקה הזאת היא אחד הגורמים שקובעים את עלות הפרויקט שאני מפרק מול כל לקוח. אבל גם מודלים פתוחים עולים כסף: משלמים על אחסון או על ספק, ואת האיכות שלהם בעברית או על סריקות מבולגנות צריך לבדוק על הנתונים שלכם לפני שעוברים.

למה זה חשוב: לפני ההשקה כדאי לשאול כמה העוזר יעלה בחודש בנפח הפניות האמיתי שלכם, ואילו שלבים יכולים לרוץ על מודל זול יותר.

מקור: TheMarker Technation