Gemini с подключенными Gmail и Drive может показать ваши письма живым рецензентам
Если ваша команда пользуется потребительским Gemini с подключенными Gmail и Drive, исходите из того, что письма и файлы клиентов могут попасть к людям-рецензентам Google. Отключите Connected Apps на всех аккаунтах, где лежат договоры, счета или данные клиентов, а работу с документами переведите в инструменты, где вы сами решаете, что достается модели и кто это видит.
Автор разбора на GitHub ссылается на обновленную справку Google и на правку от 16 октября в блог-посте Google 2023 года. В том посте обещали, что содержимое Workspace люди-рецензенты не видят. Теперь сама Google пишет: не подключайте приложения с конфиденциальной информацией, которую вы не хотели бы показывать рецензенту. Автор также показывает, что Gemini в фоне подтягивает письма даже на бытовые вопросы, без всякого тега @Gmail. Иногда не берет ничего, иногда пересказ, а иногда письмо целиком - вместе с номерами счетов.
Что это значит для автоматизации
Главный урок здесь про архитектуру. Когда модель сама решает, когда лезть в почту, невозможно предсказать, что уйдет наружу - переписка с клиентом клиники, реквизиты контрагента, проект договора. В пайплайнах, которые я собираю, выборка документов явная: код передает модели один конкретный договор или счет, и больше ничего. Так устроен AI-Юрист для анализа юридических архивов - документы там вообще не проходят через потребительские чат-приложения. Прежде чем подключать любой ИИ-инструмент к почте или Drive, прочитайте его условия использования данных: для потребительских приложений и для доступа через API правила часто разные.
Почему это важно: считайте потребительские ИИ-чаты публичным местом для всего, что касается данных клиентов. Чувствительные документы отправляйте только через пайплайны с ограниченным доступом, условия обработки данных в которых вы действительно прочитали.
Источник: Hacker News