סקריפט או סוכן AI: גרסה 0.37 של llm שומרת על צד הסקריפטים תחרותי

כדאי להשתמש בסקריפט פשוט עם קריאה ל-LLM כשהמשימה ליניארית והקלטים צפויים; סוכן AI נדרש רק כשצריך שימוש אמיתי בכלים, זיכרון בין צעדים או החלטות מסתעפות. גרסה 0.37 החדשה של llm מאת Simon Willison מחזקת את מסלול הסקריפטים: היא מוסיפה את המודלים gpt-6.1-sol ו-gpt-6.1-terra, פקודה חדשה llm openai endpoint add לממשקים תואמי OpenAI, ומודל ברירת מחדל זול יותר (gpt-6-luna) בחצי מהמחיר של הקודם.

הכלי llm CLI הוא ספריית שורת פקודה ו-Python שמדברת עם הרבה ספקים דרך ממשק אחד. גרסה 0.37 גם מעדכנת את ה-embeddings לטיפול בכמה סוגי תוכן, מה שרלוונטי למודלים כמו Gemini Embedding 2 שמכסים טקסט, שמע, תמונה ווידאו.

מה זה משנה לפייפליינים של עסק קטן

רוב האוטומציות שאני מספק - OCR לחשבוניות של בית מלאכה, סינון פניות למרפאה או לסוכנות, סיכום מסמכים למשרד עורכי דין - הן פייפליינים ליניאריים, לא סוכנים. משימת cron פשוטה יחד עם llm CLI עושה את העבודה של פריימוורק סוכנים כבד בחלק קטן מהעלות והמורכבות, קרוב לאיך שבניתי פייפליין לניתוח מכרזים שסורק מאות עמודים כדי לאתר קנסות סמויים ודד-ליינים. פקודת ההוספה החדשה של endpoint גם הופכת לטריוויאלי להפנות את אותו קוד למודל מקומי כשלקוח צריך שהנתונים יישארו בתוך הארגון שלו.

למה זה חשוב: בחרו בכלי הקטן ביותר שפותר את המשימה - קריאת LLM מתוך סקריפט לפייפליינים ליניאריים, סוכן AI רק כשלוגיקה מסתעפת מצדיקה את המשקל הנוסף.