Данные, отправленные в AI-сервис, проходят через цепочку подрядчиков, и взлом Fireworks AI показывает: реальную защиту задает самое слабое звено. Если договоры, счета или переписка с клиентами идут через AI-сервис, узнайте, какой провайдер моделей за ним стоит и что он хранит.
Fireworks AI - платформа для запуска открытых моделей. Злоумышленники взломали ее облачного провайдера, добрались до системы разработки и унесли платежные данные и часть клиентских датасетов. По данным TechCrunch, среди пострадавших - Notion: украдены переписки из функции Notion AI "Insights", затронуто около 1% клиентов. Notion отключился от Fireworks 3 ноября, а для Fireworks это второй инцидент за два месяца.
Что это значит для малого бизнеса
Пользователи Notion выбирали Notion, а не Fireworks. Так же устроены бот поддержки, ассистент по заявкам или распознавание чеков: модель работает на чужой инфраструктуре. В пайплайнах на Claude или открытых моделях я расписываю путь данных, где можно - убираю ФИО и номера документов до запроса к модели, а логи промптов держу на сервере клиента. Fireworks говорит, что атакующие хотели перепродавать доступ к LLM, поэтому лимиты расходов и отдельный API-ключ на сценарий важны не меньше шифрования - подробнее в FAQ про безопасность данных. Облако вендора при этом не проверишь, так что от его практик вы все равно зависите.
Почему это важно: спросите каждого AI-подрядчика, кто обрабатывает ваши данные и сколько их хранит. И отправляйте модели только те поля, которые нужны для задачи.
Источник: TechCrunch