Безопасность LLM и ИИ-агентов
Модель не нужно взламывать, чтобы получить ваши данные. Достаточно, чтобы сотрудник вставил в промпт договор с паспортом или агент сам подтянул карточку клиента из CRM. Разбираем каналы утечки персональных данных в LLM и что с ними делать.
В большинстве компаний «безопасность LLM» начинают с обсуждения промпт-инъекций и взлома модели. Это нужно, но к реальным утечкам персональных данных отношения почти не имеет. Утечка происходит по другому сценарию: человек копирует рабочий текст в чат, агент по пути вызывает инструмент, контекст сохраняется в памяти, а запрос с исходными данными остаётся в логах провайдера. Здесь и нужен контроль — на уровне того, что уходит в модель.
Четыре канала, через которые ПДн попадают в LLM
Если нарисовать путь данных в нейросеть, видны четыре места, где теряется контроль.
- Промпт. Сотрудник копирует в окно чата резюме, договор, выписку. Дальше эти данные живут у провайдера по его правилам, а не по вашим.
- Контекст и вложения. RAG-поиск и загрузка файлов кладут в контекст куски базы знаний, а вместе с ними — реквизиты и фамилии. Модель видит всё, что положили.
- ИИ-агент с инструментами. Агент сам вызывает функции: читает CRM, базу заявок, почту. Каждый вызов подмешивает данные в контекст, и человек этого шага не видит.
- Логи и наблюдаемость. Запросы сохраняются для отладки и мониторинга — часто полностью, часто без срока удаления, часто в стороннем сервисе.
Первые два канала знакомы почти всем. Третий и четвёртый обычно остаются без контроля, потому что «это же внутренняя автоматизация» и «логи — это не данные». Логи — это данные, просто в другом месте.
Что считается персональными данными в промпте
Персональные данные — не только паспорт и СНИЛС. В промпт попадают косвенные идентификаторы, и вместе они описывают человека точнее, чем номер документа. ФИО, телефон, email, адрес, дата рождения, номер договора, должность и город — этого достаточно, чтобы узнать конкретного человека.
Отдельная история — специальные категории. Сведения о здоровье, национальность, политические и религиозные взгляды, судимость: по статье 10 152-ФЗ для них действуют дополнительные требования к обработке. Диагноз в промпте — это уже спецкатегория, даже если фамилию вы убрали. В облачном профиле Mask Gate такие документы не принимаются: срабатывает предохранитель, и вы получаете отказ, а не обработанный файл. Для регулярной работы с ними нужен контур: self-hosted развёртывание.
Почему агенты опаснее чата
Чат ждёт, пока человек нажмёт «отправить». Агент работает сам: вызвал поиск, забрал карточку клиента, отправил письмо, записал в память. Пять шагов — и данные из четырёх систем уже в контексте модели, а человек видел только финальный ответ. Добавьте память агента: то, что попало туда один раз, может всплыть в следующем разговоре через неделю.
Отсюда практическое правило. Права агенту выдавайте по задаче, а не «на всякий случай»: если агенту нужны только суммы заказов, карточки клиентов ему не нужны. Всё, что попадает в контекст, считайте отправленным в модель.
Шлюз и маскирование на пути к модели
Схема, которая работает, выглядит скучно: между вашим кодом или чатом и внешним LLM стоит серверный шлюз. Он проверяет запрос до отправки, находит персональные данные и заменяет их. В облачной версии это /proxy/chat — серверный фильтр, который смотрит данные в обе стороны: что уходит в нейросеть и что возвращается.
Дальше работает одна из четырёх стратегий: заблокировать передачу, заменить значение необратимо, замаскировать обратимо или только пометить. Обратимая маскировка нужна, когда после ответа модели исходные значения надо вернуть: зашифрованная пара «токен–значение» хранится до 30 суток, расшифровать её можете только вы. Если ответ модели должен содержать реальное имя клиента, шлюз подставит его обратно уже на вашей стороне.
Важная деталь про ключи. Если модель подключается по вашей подписке, это модель BYOK: ключ остаётся у вас, а провайдер получает запрос от вашего аккаунта. Технически это тот же канал, поэтому маскирование до отправки всё равно нужно — оно уменьшает то, что уходит наружу, а не только кто платит за токены.
Политика: пять правил до запуска агентов
Инструмент без политики превращается в кнопку «нажми и успокойся». Зафиксируйте правила письменно и сделайте их короткими: длинные регламенты не читают.
- Список того, что нельзя отправлять. Документы с паспортами, СНИЛС и ИНН, медицинские сведения, данные клиентов из выгрузок, ключи и пароли. Список — приложением к политике, а не абзацем в общем тексте.
- Список разрешённых сервисов. Личные аккаунты сотрудников — вне списка. Если нужен внешний LLM, он должен быть корпоративным.
- Что пишем в лог. Факт запроса, категории находок, идентификатор пользователя. Не пишем текст запроса и значения. Это надо проверить не на словах, а по настройке сервиса.
- Кто отвечает за инцидент. Если данные всё же ушли — понятный порядок действий, а не «спросим у ИТ».
- Что считается нарушением. Обход шлюза через личный аккаунт — нарушение, даже если данные были «неважные».
Аудит: что попадает в журнал
Журнал нужен для разбора инцидента и для проверки, что правила работают. В аудит Mask Gate попадают метаданные и HMAC-токены, а не содержимое: по журналу можно увидеть, что сотрудник отправил текст с тремя находками категории «паспорт», но не сам номер. Для DPO это полезнее, чем полный текст: журнал не создаёт вторую копию утечки.
Если ваш агент работает в контуре, журнал — ваш: вы задаёте, что писать и сколько хранить. Про разницу между облаком и контуром — на странице Mask Gate для бизнеса; про API — в документации для разработчиков.
Чего Mask Gate не делает
Не подключается к ChatGPT, DeepSeek, GigaChat или Claude нативными плагинами и не меняет их настройки. Не является DLP-системой: не следит за сотрудниками и не управляет правами доступа. Не выдаёт заключение о соблюдении 152-ФЗ — это техническая мера, а не юридическое заключение. Не ловит пересказ своими словами: если паспорт описан в свободной форме, детектор его не найдёт, и это честное ограничение любого маскировщика.
Зато он делает одну конкретную вещь: до отправки в модель находит в тексте и файле персональные данные и заменяет их по вашей политике. В промпте проще жить с этой механикой, чем надеяться, что все сотрудники прочитали регламент.
Частые вопросы
Безопасность LLM — это защита модели от взлома?
Нет, в компании риск обычно не в самом взломе модели, а в том, что сотрудники и агенты отправляют в модель рабочие данные. Промпты с паспортами, выгрузки клиентов, документы в контексте — всё это уходит внешнему провайдеру. Защищать нужно этот канал, а не только сам сервис.
Можно ли давать ИИ-агенту доступ к базе клиентов?
Можно, но не в открытом виде. Агент работает автономно и сам вызывает инструменты, поэтому данные из базы попадут в его контекст и в запрос к модели. Практичный вариант — отдавать агенту обезличенные или маскированные значения, а исходные хранить у себя и раскрывать только при возврате результата.
Что делать, если сотрудники уже отправляют ПДн в ChatGPT?
Запрет сам по себе не работает: сотрудники обходят его через личные аккаунты. Начните с политики — что можно и нельзя передавать в модель, затем дайте легальный путь: шлюз с маскированием, который проверяет текст до отправки и возвращает исходные значения после ответа.
Mask Gate подключается к ChatGPT или GigaChat напрямую?
Нативной интеграции с конкретными LLM-сервисами нет. Маскирование работает на уровне текста, файла и API, а для потока запросов есть /proxy/chat: шлюз стоит между вашим кодом или чатом и внешним LLM-провайдером. Модель при этом остаётся той, которую вы выбрали.
Заменяет ли маскирование DLP-систему?
Нет. DLP — это класс систем про контроль каналов и действия сотрудников; Mask Gate — маскировщик с шлюзом для LLM. Он не следит за людьми и не заменяет права доступа. Его задача — не дать персональным данным уйти в модель в открытом виде.
Начните с одного текста
Отправьте в кабинет реальный промпт, который уходит в модель, и посмотрите, что в нём найдётся. Дальше — шлюз для регулярного потока запросов. Цены — на странице тарифов.
Смежные темы: гайд «ИИ-агенты и персональные данные», маскирование перед ChatGPT, маскирование перед нейросетью, Mask Gate и DLP.