Безопасность данных в ИИ-системах: как защитить данные клиентов

Если звонки, чаты и запись обрабатывает ИИ, данные клиентов попадают ещё в одну систему. Поэтому безопасность данных в ИИ-системах — это прежде всего понимание того, какие данные куда уходят, у кого к ним есть доступ и сколько они хранятся. В статье разобраны типичные слабые места, главные меры защиты и вопросы, которые стоит задать любому поставщику.

Какие данные клиентов появляются в автоматизированных системах

Пример из практики. Налоговая консультация поручает ИИ-ассистенту принимать звонки в нерабочее время. Уже первый разговор оставляет несколько следов: номер звонящего, запись или расшифровку разговора, краткое резюме с именем и сутью вопроса, запись в CRM и, возможно, SMS с подтверждением встречи. Каждый из этих следов хранится в своём месте и несёт свой риск.

Похожая картина в косметическом салоне, который принимает записи через WhatsApp. Клиентка мимоходом упоминает аллергию на коже. Безобидный запрос на запись превращается в набор данных со сведениями о здоровье, а к таким данным по ст. 9 GDPR (в Германии — DSGVO) применяются более строгие правила. Автоматизированные системы часто собирают больше, чем предполагалось при настройке. Поэтому любая работа над безопасностью начинается с простой инвентаризации.

Самые частые слабые места ИИ-систем

Большинство утечек данных в небольших компаниях происходит не из-за изощрённых атак, а из-за обычной небрежности. У ИИ-систем к этому добавляется несколько новых пунктов.

Слишком широкие права доступа

ИИ-ассистенту нужен доступ к календарю, возможно, к CRM. Если ради удобства подключить его через учётную запись администратора, система сможет читать и менять больше, чем требует её задача. То же касается учётных записей сотрудников на портале поставщика, которые не удалили после ухода человека.

Данные, которые попадают в модель

Некоторые ИИ-сервисы используют введённые данные для развития своих моделей. Для данных клиентов это почти всегда неприемлемо. Пропишите в договоре, что содержание ваших разговоров не используется для обучения, и получите письменное подтверждение.

Манипулятивные запросы

Языковые модели реагируют на текст. Злоумышленник может попробовать хитро составленными сообщениями заставить ассистента выдать внутреннюю информацию или обойти правила. Специалисты называют это prompt injection. Самая действенная защита проста: у ассистента вообще не должно быть доступа к данным, которые ему нельзя раскрывать.

Данные не удаляются

Расшифровки и переписка незаметно копятся. Если не установить сроки удаления, через два года у вас будет большой архив чувствительных разговоров, который никому не нужен, но при инциденте пострадает целиком.

Безопасность данных в ИИ-системах на практике: восемь мер

Ст. 32 GDPR требует соразмерных технических и организационных мер. Для компании малого и среднего бизнеса это означает:

1. Опишите поток данных. На одной странице набросайте, какие данные собирает ассистент, где они хранятся и в какие системы передаются.
2. Собирайте минимум данных. Спрашивайте только то, что нужно для цели. Для записи обычно хватает имени, способа связи и повода.
3. Заключите договор об обработке данных. По ст. 28 GDPR такой договор нужен с каждым подрядчиком, который обрабатывает данные клиентов по вашему поручению, вместе со списком его субподрядчиков.
4. Проверьте, где стоят серверы. Хранение данных в ЕС заметно упрощает правовую сторону. При передаче в третьи страны нужны дополнительные гарантии.
5. Распределите роли и права. У каждого сотрудника своя учётная запись только с нужными правами и двухфакторным входом.
6. Установите сроки удаления. Определите, сколько хранятся расшифровки, переписка и записи, и настройте автоматическое удаление.
7. Задайте правила для чувствительных тем. Ассистент не должен спрашивать о здоровье, банковских реквизитах или номерах документов, а при необходимости передаёт разговор человеку.
8. Продумайте порядок действий при инциденте. Кого оповещать, если что-то пошло не так? Об утечке данных, которая создаёт риск для людей, как правило, нужно сообщить в надзорный орган в течение 72 часов.

Сюда же относится прозрачность перед клиентами. В политике конфиденциальности упомянуто использование ассистента, а сам ассистент в начале разговора представляется как ИИ. Этого требует Регламент ЕС об ИИ (EU AI Act) для систем, которые напрямую общаются с людьми, и клиенты с самого начала понимают, с кем говорят. Подробнее о правовой стороне — в статье GDPR и ИИ-чат-боты.

Вопросы, которые стоит задать любому поставщику ИИ

Безопасность автоматизированной системы во многом зависит от поставщика. Эту таблицу можно сразу использовать на встрече при выборе:

Вопрос	На что обратить внимание
Где хранятся и обрабатываются данные?	Конкретное место в ЕС, в том числе для резервных копий и субподрядчиков
Используется ли содержание разговоров для обучения?	Чёткое договорное обязательство, что нет
Есть ли договор об обработке данных?	Шаблон доступен сразу, со списком субподрядчиков
Как регулируется и журналируется доступ?	Ролевая модель, двухфакторный вход, понятные журналы
Как удалить или выгрузить данные?	Настраиваемые сроки удаления, выгрузка при окончании договора
Чем подтверждается информационная безопасность?	Задокументированные меры, честные сведения о статусе сертификации

Если поставщик уходит от ответа на эти вопросы, это уже ответ. Подробный список есть в нашем чек-листе для выбора поставщика, а почему расположение серверов так важно, объясняет сравнение Хостинг данных в ЕС и США.

Neurobots запускает своих цифровых сотрудников в соответствии с GDPR на серверах во Франкфурте. Сертификация по ISO 27001 готовится. Что означает этот стандарт и как оценивать заявления о нём, читайте в статье Почему ISO 27001 важен при выборе поставщика ИИ.

Где одной техники недостаточно

Надёжный поставщик мало поможет, если пароли висят на стикерах у монитора, а переписку с клиентами пересылают для согласования через личный мессенджер. Проведите для команды короткий инструктаж: какие данные в какую систему вносить, как распознать подозрительное сообщение, кому звонить при инциденте. С февраля 2025 года Регламент ЕС об ИИ также требует, чтобы сотрудники, работающие с ИИ-системами, обладали достаточной ИИ-грамотностью. Короткий задокументированный инструктаж — хорошее начало.

У тех, кто обязан хранить профессиональную тайну, — врачей, адвокатов, налоговых консультантов — добавляется обязанность конфиденциальности. Внешних подрядчиков там нужно дополнительно обязать хранить тайну. Перед запуском попросите свою профессиональную палату или профильного юриста проверить этот вопрос. А если ваш бизнес почти целиком состоит из особо деликатных индивидуальных случаев, имеет смысл использовать ИИ только для организации записи, а все содержательные разговоры оставить людям.

Частые вопросы

ИИ-ассистент менее надёжен, чем сотрудник на телефоне?

В принципе нет. Хорошо настроенный ассистент следует жёстким правилам, спрашивает только то, что предусмотрено, и фиксирует каждое действие. Риск скорее в настройке: слишком широкие права, нет сроков удаления или поставщик без чётких договоров.

Нужно ли сообщать клиентам об использовании ИИ?

Да. Политика конфиденциальности должна описывать обработку данных, а Регламент ЕС об ИИ требует, чтобы люди знали, что говорят с ИИ. На практике достаточно короткого уведомления в начале разговора.

Нужна ли оценка воздействия на защиту данных?

Это зависит от вида и объёма данных. Если в заметном объёме обрабатываются данные о здоровье или другие особо охраняемые сведения, она часто обязательна. Обсудите это с уполномоченным по защите данных до запуска системы.

Кто отвечает, если утечка произошла у поставщика?

Перед клиентами ответственность остаётся на вас как на контролёре данных. Договор об обработке данных определяет, как поставщик обязан вас поддерживать и как ответственность распределяется между вами. Поэтому этот договор стоит внимательно прочитать.

Итог

Безопасность данных в ИИ-системах — не отдельный проект, а аккуратная базовая работа: знать потоки данных, собирать минимум, выдавать узкие права, устанавливать сроки удаления и выбирать поставщика, который ясно отвечает на ваши вопросы. Если закрыть эти пункты до запуска, можно автоматизировать обработку запросов клиентов, не теряя контроля над данными.

Как настроить такого ассистента в особо конфиденциальной среде, показывает страница Цифровой ассистент для адвокатских контор.