ИИ-агенты
Безопасность данных при работе ИИ-агентов
Утечка данных через ИИ – это претензии клиентов, проверки и сорванный запуск. ИИ-агент работает с теми же сведениями, что и ваши сотрудники: заказами, карточками клиентов, внутренними правилами, поэтому до запуска мы вместе решаем, где он размещается и что ему можно открывать. Размещение – облако с серверами в Москве или оборудование вашей компании. ИИ-агент соблюдает права собеседника, каждый его шаг записывается, а обучение идёт на разговорах, очищенных от имён и номеров.
Вопроспринят в каналеплатформаПоискбаза знаний и CRMв платформеВ модельреплики и 2 фрагментателефон скрытОтветсохранён в историижурналОпыт
Тонкости, которые мы закрываем при настройке
Утечка через ИИ почти всегда – это лишний доступ или лишние сведения, а не «хитрая» модель. Поэтому закрываем именно их.
Ситуации
Что защищаем на практике
Три обычных случая из работы контакт-центра и то, как в каждом закрыты лишние сведения.
ИИ-агент видит только того, кто обратился
ИИ-консультант определяет собеседника по номеру или аккаунту в мессенджере и открывает только его заказы и обращения – сведений о других покупателях для этого разговора у него просто нет. Если ответ готовит облачная модель, телефон и адрес прячутся под метками до отправки. Клиенту отвечают сразу, а компания не рискует чужими данными.
- Только свои заказы
- Контакты скрыты от облака
- Сведения о других недоступны
Клиентузнан по номерутелефонОткрытоего заказы и обращениятолько своиДругие клиентынедоступныскрытоВ облакотелефон и адрес – меткискрытоКаждой роли – свои сведения
Оператор получает от ИИ-помощника правила и данные своих клиентов, а закупочные цены, отчёты руководства и сведения других отделов открыты только имеющим права. Сотрудника ИИ-помощник определяет по его входу в систему и работает в тех же рамках. Можно смело давать ИИ-помощника всем сотрудникам – лишнего он никому не покажет.
- Права по ролям
- Закрытые разделы скрыты
- Вход по учётной записи
Операторправила и свои клиентыоткрытоЗакупочные ценытолько руководителямскрытоОтчёты отделаруководителю отделапо ролиВходучётная запись платформыпроверенКаждый ответ можно разобрать по шагам
Клиент оспаривает ответ или служба безопасности проверяет работу ИИ. Журнал показывает, какой был вопрос, какие записи и статьи ИИ открыл и что ответил. Ошибку находят за минуты, проверяющий получает факты, а не пересказ, и вопрос закрывается без долгой переписки.
- Вопрос и ответ
- Открытые сведения
- Шаги по порядку
Вопроскак вернуть товар?записанОткрытостатья и заказ в CRMзаписаноОтветотправлен клиентузаписанДоступслужба безопасностипо ролиКак хранятся записи, кто чем управляет и как собираются согласия, рассказано на странице о безопасности платформы.
Как устроено
Где лежат данные и на чём учится ИИ
Облако
Серверы в Москве, доступ – у вас
Чаты, аудиозаписи и справочные материалы лежат на наших серверах в Москве; кто их видит, решает ваш администратор. Когда правила запрещают обработку за рубежом, ответы готовит модель российского поставщика. Серверы и администраторов держать не нужно, а данные остаются в стране.
- Серверы в России
- Доступ выдаёте вы
- Российская модель по требованию
Платформасерверы в МосквеоблакоМодельроссийская по требованиюна выборВ модельреплики и фрагментыбез телефоновДоступвыдаёт ваш администратору васВаш сервер
Всё внутри компании
Всё ставим у вас: платформу, базу знаний, открытую модель. Для ответов интернет не нужен, и служба безопасности контролирует ИИ-агента наравне с другими внутренними системами. Такой вариант выбирают компании, которым нельзя выпускать данные наружу: банки, клиники, госзаказчики.
- Платформа у вас
- Открытая модель у вас
- Без выхода в интернет
Платформаваш серверу васМодельоткрытая, на видеокартеу васИнтернетдля ответов не нуженбез негоДанныене покидают компаниювнутриОбучение
Обучение на обезличенных разговорах
Прежде чем учить ИИ на реальной переписке и звонках, меняем на метки имена, телефонные номера, адреса и договоры. Эксперт выборочно проверяет, что ничего не осталось, и только после этого разговоры идут в обучение. ИИ учится на вашей настоящей работе, при этом личных данных в обучении нет.
- Метки вместо имён
- Проверка экспертом
- Только очищенные разговоры
Разговоры12 400 отобрановыборкаИмена и телефонызаменены меткамиубраныАдреса и договорызаменены меткамиубраныПроверкавыборочно экспертомпройденаЗапуск
Как настраиваем защиту ИИ-агента
- 01ТребованияИзучаем внутренние правила по защите сведений и список закрытых данных.
- 02РазмещениеРешаем: облако в Москве или серверы компании, модель российская или открытая.
- 03РолиОписываем, что положено видеть клиентам, партнёрам и отделам компании.
- 04ЗапретыЗаписываем, какие темы ИИ обходит и с чем сразу зовёт сотрудника.
- 05ПроверкаТестируем ответы на разных ролях и сверяем журнал с ожидаемым.
- 06КонтрольПосле запуска даём доступ к журналу руководителям и специалистам по безопасности.
Требования
Что нужно от вас
- Правила
- Внутренние требования к обработке сведений
- Роли
- Кто из собеседников что видит
- Размещение
- Серверы облака в Москве или ваше оборудование
- Модель
- Российская облачная или открытая у вас
- Учётные записи
- Вход сотрудников через платформу
- Стоимость
- Настройка – часами техподдержки
Подготовка
Что решить до запуска
Вопросы и ответы
Частые вопросы
Видит ли облачная модель всю нашу базу?
Нет. Ей достаётся лишь то, что говорится сейчас, и пара подходящих фрагментов, а остальное – база, история переписки, данные клиентов – из платформы не выходит. Если нельзя отдавать и это, ставим открытую модель внутри компании.
Где хранятся разговоры клиентов с ИИ?
Рядом с платформой: на серверах CONTACT.WORK в Москве или в вашей инфраструктуре. Доступ к ним выдаётся по ролям, как к обычной переписке.
Шифруются ли данные при передаче?
Шифруются: между платформой, каналами связи и облачной моделью данные идут по защищённым соединениям.
Могут ли сотрудники CONTACT.WORK видеть наши данные?
Только по вашей заявке, например когда нужно разобраться с ошибкой. Каждый такой вход записывается в журнал.
Как долго лежат записи?
Столько, сколько решит заказчик, – по истечении срока записи удаляются.
Что будет с данными после окончания договора?
Удаляем их из облака – по окончании договора или раньше, по вашему запросу.
Учится ли модель на наших разговорах?
Только по вашему заказу. Если вы решите обучать ИИ на своих разговорах, мы берём их после очистки от имён, телефонов и адресов. Без такого заказа разговоры для обучения не используются.
Чья модель после обучения?
Ваша: модель, а также образцы ответов и база знаний остаются у компании, оплатившей обучение.
Можно ли работать совсем без интернета?
Можно, когда вся система вместе с открытой моделью установлена внутри компании: для ответов выход наружу не нужен.
Откуда ИИ-помощник знает, что можно показать сотруднику?
По входу в платформу: ИИ-помощнику доступны только те разделы, что открыты этому сотруднику.
Кто может читать журнал ответов?
Те, кому вы выдадите доступ: обычно руководитель контакт-центра, руководитель отдела контроля качества и сотрудник службы безопасности.
Помогаете ли согласовать запуск со службой безопасности?
Помогаем: описываем схему размещения, пути данных и места хранения в документе для проверяющих.
Что меняется при облачной модели из России?
Обработка запросов идёт у российского поставщика, например GigaChat или YandexGPT, – это нужно, если ваши правила запрещают передачу данных за рубеж.
А как защищена сама платформа?
Для записей, переписки и карточек клиентов действуют роли, журналы и правила хранения платформы.
Сколько стоит настройка защиты?
Настройку ролей, запретов и размещения оплачивают часами техподдержки, а лицензий у платформы нет.
Глоссарий
Термины на этой странице
- Облачное размещение (облако)
- Платформа работает на серверах поставщика, а операторы подключаются через интернет. Подробнее →
- База знаний
- Все ответы, правила и цены в одном месте – для операторов и ИИ. Подробнее →
- CRM – система управления отношениями с клиентами
- Здесь компания хранит клиентов, сделки и всю историю общения. Подробнее →
- Контроль качества обслуживания
- Разговоры и переписку оценивают по чек-листу, чтобы находить ошибки и учить операторов. Подробнее →
Обновлено: