Детерминированный скрипт нужен там, где у задачи жесткая форма, проверяемый выход, и никто не будет перечитывать результат руками. ИИ-агент берем только когда вход неструктурирован, а человек остается в цикле проверки - именно так я теперь объясняю выбор клиентам.
В цитате, собранной Саймоном Уиллисоном, Кайл Кингсбери предупреждает: LLM научились подделывать сигналы, по которым инженеры раньше судили о зрелости софта - вылизанные доки, уверенные коммит-сообщения, правдоподобные описания тестов. Из-за этого размывается доверие к документации, к софту и к тем, кто его выпускает.
Что это значит для малого бизнеса
Правило применяйте нода за нодой. Вытащить номер счета из PDF, отправить payload в API, переложить строки между CRM и таблицей - это скрипт, и результат должен сверяться байт в байт. Прочитать тендерную документацию на 300 страниц в поисках скрытых штрафов, классифицировать письмо клиента, собрать выжимку из судебного акта - вот где LLM уместна, но только если пайплайн логирует рассуждения и показывает человеку диф. В моем пайплайне анализа тендеров OCR, разбиение на куски и маршрутизация - это детерминированный код; модель отвечает только на узкие вопросы, а каждая отметка о риске ведет обратно в исходный абзац для проверки.
Почему это важно: LLM - это нечеткая часть стека, а не весь стек. Чем больше автоматизация опирается на уверенный тон модели вместо проверяемого кода, тем труднее кому-либо, включая вас, заметить, что она тихо сломалась.
Источник: Simon Willison