ИИ-агенты и персональные данные: что нельзя отдавать агенту

Агент отличается от чата одной деталью: он сам решает, что прочитать и куда отправить. Пока вы смотрите на финальный ответ, в контекст уже попали строки из CRM и базы заявок. Этот гайд — про то, какие данные до агента доводить нельзя и как отдать задачу, не отдавая клиентскую базу.

Безопасность LLM

Самый частый вопрос на пилоте звучит так: «У нас же агент работает внутри, что ему сделается?». Внутри работает доступ, а данные всё равно уходят наружу: агент обращается к модели, а модель живёт у провайдера. Так что вопрос не в том, где стоит агент, а в том, что попадает в его контекст.

Почему агент — это не чат с нейросетью

В чате человек сам выбирает, что вставить. У агента есть инструменты: он вызывает поиск, читает таблицы, открывает карточки, отправляет письма. Человек ставит задачу и уходит пить кофе. Дальше несколько шагов происходят без него.

Это не значит, что агентов использовать нельзя. Это значит, что контролировать нужно не только ответ, но и вход: что агент читает, что кладёт в контекст и что уходит в модель.

Что нельзя отдавать агенту открытым текстом

Список короткий, потому что длинные списки не соблюдают. Пять категорий, которые закрывают почти все реальные инциденты.

  1. Документы с реквизитами. Паспорт, СНИЛС, ИНН, банковские карты. Даже если агенту нужна «сумма по договору», номер паспорта в контексте не нужен.
  2. Медицинские сведения. Диагнозы, назначения, результаты анализов — специальная категория по статье 10 152-ФЗ. В облачной версии Mask Gate такие данные не обрабатываются: сервис отказывает. Для регулярной работы с ними нужен контур.
  3. Вся база вместо нужной строки. Агент, которому дали доступ к таблице клиентов, подтянет в контекст больше, чем нужно для задачи.
  4. Ключи, пароли и токены. Если агент логинится в систему по ключу, ключ попадает в промпт. Сервисные доступы должны жить в инструменте, а не в тексте задачи.
  5. Биометрия. Изображения лиц, отпечатки, шаблоны. Обезличить биометрический шаблон обычной заменой значений нельзя, и заявлять обратное нечестно.

Что можно, если обезличить контекст

Обезличивание не делает задачу бессмысленной. Агенту часто достаточно структуры и логики, а конкретное имя или номер — деталь, которая нужна только на последнем шаге.

Задача агентаЧто отдаём в контекстЧто оставляем у себя
Разобрать обращения клиентов по темамТекст обращений без ФИО, телефонов и номеров договоровПривязку темы к клиенту
Собрать сводку по заявкам за неделюКатегории, суммы, статусыИмена сотрудников и клиентов
Подготовить черновик ответаСуть вопроса и обезличенный контекстОбращение к клиенту по имени
Проверить документ перед отправкойДокумент после замены реквизитовИсходный файл

Обратимая маскировка для агента удобна тем, что после ответа можно вернуть исходные значения: агент работает с токенами, а клиент получает письмо с настоящим именем. Пара «токен–значение» хранится зашифрованной до 30 суток, и расшифровать её можете только вы.

Правила настройки агента: пять проверок

  1. Права по задаче. Агенту для отчёта по продажам не нужен доступ к кадровым документам. Каждый лишний инструмент — лишний канал.
  2. Запрос вместо выгрузки. Пусть агент получает нужную строку, а не всю таблицу. Технически это разные риски.
  3. Подтверждение опасных действий. Отправка письма, платёж, удаление записи — только после подтверждения человеком.
  4. Шлюз до модели. Проверка и маскирование текста перед каждым вызовом, а не «мы помним, что там чисто».
  5. Журнал. Фиксировать, какие категории данных отправились и кто запустил задачу. Не текст и не значения — иначе журнал станет второй копией утечки.

Проверьте свой сценарий

Возьмите задачу, которую уже делает агент, и пройдите по ней глазами DPO. Что агент прочитал на первом шаге? Что попало в контекст модели? Что осталось в логах провайдера? Если хотя бы на один вопрос нет ответа, у вас нет контроля над этим агентом, даже если он работает «только внутри».

Техническая часть — на странице безопасности LLM и ИИ-агентов: каналы утечки, шлюз и политика. Про маскирование перед конкретным чат-сервисом — в разделе маскирования перед ChatGPT; про шлюз для регулярного потока — на маскировании перед нейросетью и в документации для разработчиков.

Частые вопросы

Чем ИИ-агент отличается от чата с нейросетью?

Чат ждёт вашего сообщения и отвечает текстом. Агент сам решает, какой инструмент вызвать: прочитать таблицу, найти карточку в CRM, отправить письмо. Данные попадают в контекст без вашего участия, и человек видит только итог.

Какие данные нельзя отдавать агенту?

Паспортные данные, СНИЛС, ИНН, банковские карты, сведения о здоровье, биометрию, ключи и пароли. Если без данных не обойтись, отдавайте агенту обезличенные или маскированные значения, а исходные оставляйте у себя.

Если агент работает только внутри компании, утечки нет?

Нет, потому что агент почти всегда вызывает внешнюю модель. Данные из внутренней системы попадают в контекст и уходят провайдеру модели по его правилам. Внутренний доступ агента не отменяет внешнюю передачу.

С чего начать, если агентов ещё нет?

С инвентаризации: какие агенты уже работают, к каким системам у них доступ и что уходит в модель. Затем — правила по данным и шлюз с маскированием до отправки. Начинать с запрета бессмысленно: сотрудники запускают агентов сами.

Проверить контекст агента

Пропустите через кабинет текст или файл, который агент собирается отправить в модель: сервис покажет находки и отдаст копию без персональных данных. Тарифы — на странице цен.

Открыть кабинет

Смежные темы: безопасность LLM и ИИ-агентов, теневой ИИ, маскирование перед ChatGPT.