Signal начал блокировать встроенных в iOS 27 и Android ИИ-ассистентов, которые пытаются читать его чаты, потому что ИИ-агент внутри операционной системы видит все, что видит на экране ваш сотрудник. Если договоры, счета или персональные данные клиентов ходят через мессенджеры на рабочих телефонах, решите сейчас, на каких устройствах и в каких приложениях ассистенты ОС должны быть выключены.
Как пишет Signal, на iOS 27 приложение будет запрещать скриншоты, а на Android - останавливать захват экрана везде, где удается распознать попытку ассистента его прочитать. В прошлом году то же самое было сделано против Microsoft Recall в Windows. Причина в том, что функции вроде Gemini на Android и Onscreen Awareness у Siri сканируют экран. Дальше эти данные попадают в локальную базу или на удаленный сервер ассистента, и приложение их уже не контролирует.
Что это значит для автоматизации бизнеса
Защита неполная, и Signal сам это признает: macOS не покрыта, а запрет скриншотов не мешает агентам читать файлы, которые уже лежат на устройстве. Для клиники, юрфирмы или агентства, где переписка с клиентами идет в мессенджерах, вывод касается архитектуры. Агент, работающий с клиентскими данными, должен получать их через API с узкими правами - из CRM, почтового ящика или папки с документами, а не подглядывать в экран. В пайплайнах на Claude, которые я собираю, модель получает только те поля, которые нужны для задачи, а логи остаются на сервере клиента. Это один из типичных вопросов о безопасности данных, которые задают до старта проекта.
Почему это важно: встроенные ИИ-ассистенты становятся новым каналом утечки клиентских данных, и разработчики приложений пока не могут полностью его закрыть. Ведите чувствительные разговоры на устройствах с выключенным чтением экрана, а своим агентам давайте данные только через явные и ограниченные интеграции.
Источник: Hacker News