ИИ-агент хорошо подходит, чтобы быстро собрать черновик бизнес-приложения, а вот доступы, ключи и хранение данных должны жить в обычном предсказуемом коде, который проверил человек. Утечка примерно 35 000 приложений Grok Build показывает, что бывает, когда кто увидит закрытые данные, решают настройки ИИ-платформы по умолчанию.
Как пишет Ars Technica, компания Claroc, которая занимается безопасностью, выяснила: ссылки для доступа к приложениям Grok Build, которые должны были быть неугадываемыми, можно перебрать. По такой ссылке обычно открывалось само приложение и все его данные. Среди них нашлись медосмотры 3784 работников, списки сотрудников, воронки продаж и конфиденциальные коммерческие предложения. Попали туда и 24 приложения самой SpaceXSI - компании, которая делает Grok. Эти ссылки закрыли только после вопросов от Ars.
Что это значит для малого бизнеса
Собрать через вайбкодинг табличку по счетам или заявкам - дело нескольких минут. Риск в другом - в ссылке, которую вы отправили бухгалтеру или менеджеру. На многих платформах "доступно по ссылке" на деле означает "открыто любому, кто ее найдет", и, по словам Claroc, та же проблема есть у большинства других ИИ-платформ. В моих проектах, например в ассистенте для анализа юридических документов, LLM берет на себя нечеткую работу: читает документы, разбирает и сортирует обращения. А вход, права доступа и место хранения данных - это обычный код на сервере, который контролирует клиент. Эту часть никто не генерирует промптом.
Почему это важно: прежде чем загружать в приложение, собранное ИИ, реальные данные клиентов или сотрудников, проверьте, закрыта ли ссылка на него авторизацией. Если нет - держите там только тестовые данные.
Источник: Ars Technica