Счета за ИИ растут: компании уходят на открытые модели. Что делать малому бизнесу
У любого ИИ-ассистента для малого бизнеса две статьи расходов: разработка и ежемесячный счет за использование модели, который растет с каждым запросом. Выбор модели под каждую задачу, а не отправка всего подряд в самую дорогую, держит этот второй счет под контролем.
Как пишет TheMarker, успешные ИИ-продукты съедают маржу компаний, которые их продают: чем активнее клиенты ими пользуются, тем больше счет за API. Компании в Израиле и за его пределами снижают зависимость от моделей OpenAI и Anthropic и переходят на открытые модели. Причин две: сэкономить и контролировать собственный продукт. По словам одного из руководителей в отрасли, останавливаться компании не хотят, а расходы у многих буквально взрываются изнутри.
Что это значит для малого бизнеса
Магазин, клиника или юрфирма не делают миллионы запросов, как SaaS-продукт, но логика та же, просто в меньшем масштабе. В обработке заявок или входящих счетов и накладных большинство шагов простые: понять, о чем сообщение, вытащить поля из документа, передать нужному сотруднику. С этим хорошо справляется маленькая дешевая модель. За Claude стоит платить там, где нужно рассуждение: проверка договора или непростой ответ клиенту. Такое разделение работы - один из главных факторов стоимости проекта, которые я разбираю. При этом открытые модели тоже не бесплатны: вы платите за сервер или провайдера, а их качество на русском языке и на плохих сканах нужно проверить на своих данных до перехода.
Почему это важно: До запуска спросите, сколько ассистент будет стоить в месяц при вашем реальном объеме запросов и какие шаги можно отдать более дешевой модели.
Источник: TheMarker Technation