ИИ-агенты и персональные данные: что нельзя отдавать агенту
Агент отличается от чата одной деталью: он сам решает, что прочитать и куда отправить. Пока вы смотрите на финальный ответ, в контекст уже попали строки из CRM и базы заявок. Этот гайд — про то, какие данные до агента доводить нельзя и как отдать задачу, не отдавая клиентскую базу.
Самый частый вопрос на пилоте звучит так: «У нас же агент работает внутри, что ему сделается?». Внутри работает доступ, а данные всё равно уходят наружу: агент обращается к модели, а модель живёт у провайдера. Так что вопрос не в том, где стоит агент, а в том, что попадает в его контекст.
Почему агент — это не чат с нейросетью
В чате человек сам выбирает, что вставить. У агента есть инструменты: он вызывает поиск, читает таблицы, открывает карточки, отправляет письма. Человек ставит задачу и уходит пить кофе. Дальше несколько шагов происходят без него.
- Автономность. Агент сам решает, какой инструмент вызвать и с какими параметрами.
- Инструменты. Каждый вызов добавляет в контекст данные из системы: заявку, историю переписки, выгрузку.
- Память. То, что агент запомнил, может использоваться через неделю и в другом разговоре.
- Циклы. Агент может повторять шаги, пока не получит результат, и за десять итераций собрать больше данных, чем планировалось.
Это не значит, что агентов использовать нельзя. Это значит, что контролировать нужно не только ответ, но и вход: что агент читает, что кладёт в контекст и что уходит в модель.
Что нельзя отдавать агенту открытым текстом
Список короткий, потому что длинные списки не соблюдают. Пять категорий, которые закрывают почти все реальные инциденты.
- Документы с реквизитами. Паспорт, СНИЛС, ИНН, банковские карты. Даже если агенту нужна «сумма по договору», номер паспорта в контексте не нужен.
- Медицинские сведения. Диагнозы, назначения, результаты анализов — специальная категория по статье 10 152-ФЗ. В облачной версии Mask Gate такие данные не обрабатываются: сервис отказывает. Для регулярной работы с ними нужен контур.
- Вся база вместо нужной строки. Агент, которому дали доступ к таблице клиентов, подтянет в контекст больше, чем нужно для задачи.
- Ключи, пароли и токены. Если агент логинится в систему по ключу, ключ попадает в промпт. Сервисные доступы должны жить в инструменте, а не в тексте задачи.
- Биометрия. Изображения лиц, отпечатки, шаблоны. Обезличить биометрический шаблон обычной заменой значений нельзя, и заявлять обратное нечестно.
Что можно, если обезличить контекст
Обезличивание не делает задачу бессмысленной. Агенту часто достаточно структуры и логики, а конкретное имя или номер — деталь, которая нужна только на последнем шаге.
| Задача агента | Что отдаём в контекст | Что оставляем у себя |
|---|---|---|
| Разобрать обращения клиентов по темам | Текст обращений без ФИО, телефонов и номеров договоров | Привязку темы к клиенту |
| Собрать сводку по заявкам за неделю | Категории, суммы, статусы | Имена сотрудников и клиентов |
| Подготовить черновик ответа | Суть вопроса и обезличенный контекст | Обращение к клиенту по имени |
| Проверить документ перед отправкой | Документ после замены реквизитов | Исходный файл |
Обратимая маскировка для агента удобна тем, что после ответа можно вернуть исходные значения: агент работает с токенами, а клиент получает письмо с настоящим именем. Пара «токен–значение» хранится зашифрованной до 30 суток, и расшифровать её можете только вы.
Правила настройки агента: пять проверок
- Права по задаче. Агенту для отчёта по продажам не нужен доступ к кадровым документам. Каждый лишний инструмент — лишний канал.
- Запрос вместо выгрузки. Пусть агент получает нужную строку, а не всю таблицу. Технически это разные риски.
- Подтверждение опасных действий. Отправка письма, платёж, удаление записи — только после подтверждения человеком.
- Шлюз до модели. Проверка и маскирование текста перед каждым вызовом, а не «мы помним, что там чисто».
- Журнал. Фиксировать, какие категории данных отправились и кто запустил задачу. Не текст и не значения — иначе журнал станет второй копией утечки.
Проверьте свой сценарий
Возьмите задачу, которую уже делает агент, и пройдите по ней глазами DPO. Что агент прочитал на первом шаге? Что попало в контекст модели? Что осталось в логах провайдера? Если хотя бы на один вопрос нет ответа, у вас нет контроля над этим агентом, даже если он работает «только внутри».
Техническая часть — на странице безопасности LLM и ИИ-агентов: каналы утечки, шлюз и политика. Про маскирование перед конкретным чат-сервисом — в разделе маскирования перед ChatGPT; про шлюз для регулярного потока — на маскировании перед нейросетью и в документации для разработчиков.
Частые вопросы
Чем ИИ-агент отличается от чата с нейросетью?
Чат ждёт вашего сообщения и отвечает текстом. Агент сам решает, какой инструмент вызвать: прочитать таблицу, найти карточку в CRM, отправить письмо. Данные попадают в контекст без вашего участия, и человек видит только итог.
Какие данные нельзя отдавать агенту?
Паспортные данные, СНИЛС, ИНН, банковские карты, сведения о здоровье, биометрию, ключи и пароли. Если без данных не обойтись, отдавайте агенту обезличенные или маскированные значения, а исходные оставляйте у себя.
Если агент работает только внутри компании, утечки нет?
Нет, потому что агент почти всегда вызывает внешнюю модель. Данные из внутренней системы попадают в контекст и уходят провайдеру модели по его правилам. Внутренний доступ агента не отменяет внешнюю передачу.
С чего начать, если агентов ещё нет?
С инвентаризации: какие агенты уже работают, к каким системам у них доступ и что уходит в модель. Затем — правила по данным и шлюз с маскированием до отправки. Начинать с запрета бессмысленно: сотрудники запускают агентов сами.
Проверить контекст агента
Пропустите через кабинет текст или файл, который агент собирается отправить в модель: сервис покажет находки и отдаст копию без персональных данных. Тарифы — на странице цен.
Смежные темы: безопасность LLM и ИИ-агентов, теневой ИИ, маскирование перед ChatGPT.