Обычный скрипт берите там, где формат входа фиксирован, а логика детерминирована. LLM или ИИ-агента - там, где нужно рассуждать по грязным, неструктурированным данным; запуск Qwen 3.8 27B на ноутбуке Саймона Уиллисона показывает, как далеко уехал второй вариант: локальная модель на 17 ГБ справляется с задачами, которые никакими regex и if-else не покрыть.
В разборе Саймона Уиллисона воспроизведен эксперимент из свежей статьи: модели скормили сырые веса маленькой policy-сети и спросили, в какую игру ее обучали играть. Qwen 3.8 27B, запущенный локально через LM Studio, правильно определил игру по одним только числам. Без запуска кода, без инструментов - чистое рассуждение по весам.
Что это меняет для автоматизации малого бизнеса
Полезный сигнал не в том, что ваш ноутбук теперь реверсит нейросети. А в том, что бесплатная модель на 17 ГБ тянет задачи рассуждения, для которых год назад нужен был облачный GPT-4. Для кучи рабочих процессов - классификация счетов, первичная сортировка договоров, маршрутизация тикетов поддержки, постобработка OCR - локального Qwen уже достаточно, а это убирает счета за облачный API и оставляет данные на машине клиента. Критично, когда документы нельзя отправлять в OpenAI по соображениям 152-ФЗ или NDA - например, в пайплайне анализа юридических архивов, который я собирал. Правило простое: детерминированные куски (перемещение файлов, вызовы API, запись в БД) держим в коде, а на локальную LLM отправляем только шаг рассуждения.
Почему это важно: Если вы ждали, когда локальные модели станут пригодными, чтобы заменить платные API в своей автоматизации - для текстовых задач малого бизнеса ждать больше почти нечего.
Источник: Hacker News