Какие данные нельзя отдавать AI-помощнику на старте

AI-помощник часто внедряют с технического конца: подключают модель, чат, таблицу и начинают проверять ответы. Безопаснее начинать с другого вопроса: какие данные помощнику вообще можно видеть и какие решения он не имеет права принимать.

На первом этапе задача не в максимальной автономности. Нужен ограниченный сценарий, где агент готовит черновик, сводку или карточку, а человек проверяет результат и принимает решение.

Короткое правило для первого запуска

Первому AI-помощнику дают только те материалы, которые не создают критического ущерба при ошибке, утечке или неверной интерпретации. Если данные касаются денег, доступа, здоровья, юридических обязательств, персональных сведений или репутационного конфликта, их нельзя подключать без отдельной схемы безопасности.

Это не значит, что AI нельзя использовать в серьёзных процессах. Это значит, что серьёзный процесс разбирают по слоям: входные данные, права агента, результат, проверка человеком, журнал действий и запреты.

Что нельзя отдавать AI-помощнику сразу

Для первой версии лучше исключить несколько категорий данных и действий.

• пароли, токены, API-ключи и доступы администратора;
• платежные кабинеты, возвраты, скидки и изменение коммерческих условий;
• паспортные данные, медицинские сведения и другие чувствительные персональные данные;
• закрытые клиентские переписки, если нет понятного основания для обработки;
• договоры, претензии и юридически значимые формулировки без проверки специалиста;
• конфликтные диалоги с клиентами, сотрудниками или подрядчиками;
• доступ к массовой отправке сообщений без ручного подтверждения;
• личные файлы владельца бизнеса, которые не нужны для выбранного процесса.

Если один из этих пунктов кажется необходимым, сценарий ещё не готов к запуску. Сначала нужно описать, зачем агенту нужен доступ, что он делает с данными и где человек подтверждает действие.

Права доступа: читать, предлагать, изменять

Безопасность зависит не только от состава данных, но и от того, что агент может с ними делать. На первом запуске полезно разделить права на три уровня.

Для большинства первых сценариев достаточно уровней «читать» и «предлагать». Право изменять рабочую систему лучше добавлять позже, когда ошибки уже видны в журнале и у процесса есть владелец.

Какие данные подходят для безопасного теста

Первая версия AI-помощника может работать на материалах, которые легко проверить и безопасно заменить.

• публичные описания услуг и продуктов;
• регламенты, которые уже используются внутри команды;
• обезличенные примеры заявок и типовых вопросов;
• шаблоны писем, коммерческих предложений и ответов;
• тестовые таблицы без реальных телефонов, оплат и паспортных данных;
• сценарии созвонов, чек-листы и правила квалификации клиента;
• материалы из открытых страниц сайта и публичного Telegram-канала.

Такой набор позволяет проверить качество логики без лишнего риска. Если агент уже на безопасных примерах путается, подключать к нему реальные данные рано.

Режим черновиков вместо автономной отправки

Самый спокойный формат первого запуска - режим черновиков. Агент получает вход, готовит результат и объясняет, на какие правила он опирался. Человек читает, исправляет и только потом отправляет ответ клиенту или вносит изменение в систему.

Такой режим особенно полезен для AI-агента в Telegram. В Telegram удобно ставить задачи голосом и получать быстрые заготовки, но финальную отправку клиенту лучше оставить человеку до тех пор, пока сценарий не станет устойчивым.

Карта доступа перед внедрением

Перед настройкой агента полезно заполнить простую карту. Она нужна не для бюрократии, а для защиты процесса от лишних прав.

Когда агент должен остановиться

Хороший сценарий описывает не только действия агента, но и условия остановки. Это снижает риск уверенных, но неверных ответов.

• не хватает вводных для решения;
• клиент просит скидку, гарантию, возврат или особые условия;
• в сообщении есть жалоба, конфликт или юридическая претензия;
• нужно обработать чувствительные персональные данные;
• результат влияет на оплату, договор, здоровье, безопасность или репутацию;
• агент не может сослаться на правило, документ или понятный источник.

В этих ситуациях правильный ответ агента - передать задачу человеку и кратко объяснить причину остановки.

Журнал ошибок после запуска

Даже аккуратный AI-помощник ошибается. Поэтому первые недели стоит вести простой журнал: вход, ответ агента, правка человека, причина ошибки, новое правило для базы знаний.

Особенно важно фиксировать четыре типа ошибок: агент не нашёл нужное правило, неверно понял вопрос, дал слишком смелое обещание или запросил лишние данные. После 20-30 записей становится понятно, что исправлять в первую очередь.

Если ошибки связаны с доступами, права нужно сузить. Если ошибки повторяются из-за нехватки материалов, сначала обновляют базу знаний. Если агент часто не понимает задачу, значит выбранный процесс пока слишком широкий для автоматизации.

Как связать безопасность с выбором первого процесса

Первый процесс для AI-автоматизации должен быть повторяемым, измеримым и безопасным. Если для работы сразу нужны закрытые доступы и спорные решения, лучше выбрать другой участок.

Практический порядок описан в статье как выбрать первый процесс для AI-автоматизации. Когда границы доступа понятны, следующий вопрос - бюджет внедрения. Его структура разобрана отдельно: сколько стоит внедрение AI-агента. Коммерческая страница находится здесь: AI-агент для эксперта и предпринимателя.

Следующий шаг

Если нужно проверить процесс перед внедрением, начните с карты доступа: вход, результат, источники, запреты и контроль. На тест-драйве AI-директора можно разобрать один участок и понять, что безопасно отдавать агенту в первой версии.

Рабочие заметки о внедрении AI-помощников и Telegram-сценариях выходят в канале @ermolaevbiz. Канал подходит тем, кто хочет сначала увидеть подход без передачи доступов и закрытых данных.