אנתרופיק פרסמה את FlashProve, אב-טיפוס מחקרי בקוד פתוח שמוכיח קריפטוגרפית איזה מודל AI יצר פלט מסוים, עם קוד ב-GitHub אך ללא תוכניות הטמעה באף מעבדה כרגע. לעסק קטן שמריץ סוכני AI, הצעד המעשי היום הוא לתעד בכל שלב את שם המודל המדויק, את הגרסה ואת חתימת ה-prompt - כך שכשהטכנולוגיה הזו תגיע לייצור, הצינור שלך כבר יהיה מחובר.
המערכת עובדת כמו חתימה דיגיטלית במייל: המעבדה מפרסמת טביעת אצבע קצרה לכל שחרור מודל, וכל אחד יכול לאמת מאוחר יותר שפלט מסוים הגיע מאותו מודל בדיוק, בלי שהמעבדה חושפת את המשקולות. לפי TechCrunch, החוקרים מציגים את הכלי כדרך לתפוס ספק שמחליף בשקט למודל זול יותר, או לאפשר לחברה להוכיח שבדיקת חוזה או סריקת אבטחה אכן בוצעו על ידי מודל חזיתי ולא גרסה מוקטנת.
מה זה משנה לעסק קטן בישראל
אם יש לך סוכן Claude שמסווג חשבוניות במרפאה, בודק הסכמי סודיות במשרד עורכי דין או סורק מסמכי מכרז בסוכנות, לוג הביקורת שלך כרגע כנראה אומר "AI עשה את זה" ושום דבר מעבר. זה בסדר עד שלקוח, רואה חשבון או שופט ישאל איזה מודל, באיזה תאריך ועם איזה prompt. בסורק סיכונים לארכיון משפטי שבניתי, הלוג ברמת מסמך של מודל, גרסה וחתימת קלט הוא מה שמאפשר להגן על הפלט גם חצי שנה אחרי - FlashProve פשוט יהפוך את הלוג הזה למאומת חיצונית במקום מבוסס אמון.
למה זה חשוב: אם הסוכנים שלך נוגעים בחוזים, בכסף או בנתונים רגולטוריים, התייחס לזהות המודל כעמודה חובה בלוג הביקורת כבר עכשיו - שיחות הציות עוברות מ"האם AI עשה את זה?" ל"הוכח איזה מודל עשה את זה".
מקור: TechCrunch