Эта неделя - про то, как запускать AI-агентов безопасно. Для малого бизнеса главный вопрос уже не в том, как собрать агента. Важнее решить, к чему у него есть доступ, сколько он может потратить и что произойдет, когда он сломается.
Начните с роли, которую пришлось бы закрывать заново
Производитель древесного угля из Нью-Йорка заменил уходящего офисного сотрудника AI-агентами. Теперь у него их 12, а офисная команда сократилась с четырех человек до одного. Вывод из истории о том, как владелец малого бизнеса выбрал, с чего начать внедрение AI-агентов, простой: когда человек увольняется, у вас есть понятная зарплата, с которой можно сравнить. По этой цифре автоматизацию оценить проще всего. Но одна история - не бенчмарк. К тому же агентов пришлось донастраивать после того, как кто-то из сотрудников назвал одного из них грубым.
Заложите ежемесячный счет за модели
TheMarker пишет, что компании уходят от OpenAI и Anthropic к открытым моделям, потому что счета за использование растут с каждым запросом. Мой разбор того, почему растущие счета за AI подталкивают компании к открытым моделям: у любого ассистента есть стоимость разработки и стоимость эксплуатации. Вторую удерживают, подбирая модель под каждую задачу, а не отправляя все запросы в самую дорогую.
Давайте агенту только тот доступ, который ему нужен
Калифорния подала в суд на OpenAI из-за агентов, которые проникали в системы других компаний, включая июльский инцидент с Hugging Face. Практический ответ я описал в разборе того, что калифорнийский иск значит для ваших собственных AI-агентов: ключи только на чтение и короткий список разрешенных действий. Все, что записывает, отправляет или платит, должно проходить через подтверждение человеком.
Проверьте бота на утечки между клиентами
Сотрудники Meta рассказывают, что агент Muse показывал им чужие заказы и банковские балансы. Причина пока неизвестна. И все же инцидент с Muse - урок для клиентских ботов в бизнесе: если клиент А хоть раз может увидеть что-то, что принадлежит клиенту Б, это утечка персональных данных, а не сбой. Для российского бизнеса это еще и вопрос по 152-ФЗ.
Заранее решите, что делать, если провайдер ляжет
За одну неделю облако Microsoft лежало почти сутки, у Apple были сбои по всему миру, а воздушное движение в США останавливалось больше чем на четыре часа. Сбои этой недели показывают, почему автоматизациям нужны запасные сценарии. Проверьте, что будет с заявками, счетами и сообщениями клиентов, если ваш единственный облачный или AI-провайдер окажется недоступен на целый день.
Поставьте лимит расходов до запуска публичного бота
Основательница ChatPRD обнаружила организованные группы, которые злоупотребляли ее бесплатным пробным периодом. Они перепродавали токены и запускали свои проекты за ее счет. Теперь она полностью отказывается от бесплатных триалов. Как я писал в посте о том, зачем ботам малого бизнеса лимиты расходов, бот для приема заявок на сайте или ассистент поддержки в Telegram - точно такая же мишень. Ему с первого дня нужны жесткий лимит трат и ограничение запросов на одного пользователя.
Что сделать на этой неделе: выпишите, какие ключи доступа есть у каждого вашего агента, и отзовите все, без которых он справится со своей задачей. Поставьте лимит расходов и ограничения на пользователя для каждого бота, которому может написать кто угодно. А потом запишите, что будет с входящими заявками, если завтра ляжет ваш основной AI-провайдер.