Теневой GenAI: что делать с тем, что уже есть

Хочу рассказать одну историю. В начале 2025 года я проводил стратегическую сессию для руководства одного крупного банка. Среди прочих вопросов обсуждали кибербезопасность в контексте ИИ. Руководитель направления информационной безопасности с уверенностью сказал: «У нас в банке запрещено использовать внешние AI-сервисы в рабочих целях. Политика подписана, сотрудники проинформированы, всё под контролем».

После сессии я попросил его провести один маленький эксперимент. «Зайдите к любому аналитику на его рабочем месте, посмотрите историю в браузере за последнюю неделю. Не для наказания — просто для понимания». Через три дня он позвонил мне и рассказал результаты. Из десяти случайно выбранных аналитиков девять регулярно использовали ChatGPT или Claude через браузер для рабочих задач. Двое из девяти периодически копировали туда фрагменты клиентских данных, чтобы получить более точный ответ. Один — за неделю до эксперимента — вставил в промпт выписку по счёту с именем клиента и суммами операций, чтобы модель помогла сгруппировать транзакции.

Это — теневой GenAI. Не зло, не злонамеренность, не саботаж. Это желание сотрудника делать работу быстрее, и современные AI-инструменты, которые это позволяют, а корпоративная политика, которая запрещает. В такой ситуации политика проигрывает. Всегда.

В этой заметке я хочу рассказать, что я рекомендую делать с теневым GenAI. И сразу скажу: я не за запреты. Я за то, чтобы вместо запретов строить рабочую альтернативу.

Почему запреты не работают

Стандартная реакция службы ИБ на новую технологию — запретить. Это понятная реакция, она соответствует должностным обязанностям ИБ: защищать периметр, контролировать потоки данных, минимизировать риски. Но с теневым GenAI запреты не работают по трём причинам.

Причина первая — невозможно физически запретить. Сотрудник работает на корпоративном ноутбуке, но параллельно у него есть личный смартфон. Заблокировать на ноутбуке ChatGPT — он откроет на телефоне. Заблокировать доменный уровень — он будет пересылать данные через личную почту. Заблокировать личную почту — он будет фотографировать экран и отправлять в Telegram. Это как попытаться запретить сотрудникам думать на работе. Технически возможно, операционно невозможно.

Причина вторая — это медленнее, чем позволяет бизнес. Если аналитик может получить готовый ответ за 30 секунд через ChatGPT, а через корпоративный канал ему надо ждать три дня подтверждения запроса в IT, он всегда выберет ChatGPT. Потому что его KPI — не «соблюдение политики ИБ», а «подготовить отчёт к пятнице». И если выбор между «не соблюсти политику и успеть» и «соблюсти политику и провалить дедлайн», сотрудник всегда выберет первое.

Причина третья — запреты уничтожают продуктивность. Компания, в которой реально исполняется запрет на использование современных AI-инструментов, проигрывает конкурентам, в которой такого запрета нет. Через год-два это становится видимым отставанием, и руководство начинает искать, кто виноват. Угадайте, на кого в первую очередь покажут пальцем. Да, на ИБ. Которая в итоге окажется «в центре проблемы», хотя честно выполняла свою работу.

Что вместо запрета

Правильная стратегия работы с теневым GenAI состоит из трёх компонентов. Я применяю её в каждом банке, с которым работаю, — отдельный блок в моих корпоративных программах посвящён именно этой теме.

Компонент первый — легализация. Вместо «запрещено» нужно «разрешено с ограничениями». Конкретно: сотрудники имеют право использовать внешние AI-сервисы для определённого типа задач. Каких именно — прописано в политике. Обычно это публичные данные, внутренние документы без персональных данных, общие задачи типа редактирования текстов. Это снимает конфликт между «я хочу работать быстрее» и «мне запретили». Сотрудник теперь знает, что часть задач делать можно, и не испытывает соблазна нарушать политику в остальных случаях.

Компонент второй — альтернатива внутри контура. Для задач, в которых нельзя использовать внешние сервисы (работа с клиентскими данными, с регуляторной информацией, с чувствительным контекстом), нужна своя внутренняя альтернатива. Это может быть корпоративный инстанс LLM в закрытом контуре, развёрнутый через платформу типа panteo.ai, или доступ к российским сервисам (GigaChat, YandexGPT) через корпоративный шлюз. Ключевое: альтернатива должна быть не хуже и не сильно медленнее, чем внешний ChatGPT. Иначе сотрудник снова пойдёт в обход.

Компонент третий — обучение и ответственность. Третья часть стратегии — это обучение сотрудников, как правильно работать с AI-инструментами. Не «запрещено всё», а «вот какие риски существуют, вот как их избежать, вот как правильно формулировать промпты без утечки данных, вот какие сервисы разрешены для каких задач». Плюс — личная ответственность сотрудника за нарушения. Не запрет, а осознанная работа.

Что это значит для MRM и комплаенса

Самая сложная часть теневого GenAI — это то, как он влияет на MRM-процедуры банка. Классический Model Risk Management построен на предположении, что все модели в банке — известны, валидированы, контролируются. Теневой GenAI ломает это предположение. Потому что каждое использование ChatGPT сотрудником — это неучтённая модель, которая влияет на принимаемые решения.

Это отдельная большая тема, о которой я подробно пишу в заметке «MRM для GenAI: что не работает и что с этим делать». Если коротко: классический MRM нужно расширить на теневой GenAI через учёт, логирование и периодический аудит того, какие внешние AI-сервисы используются в работе. Это не «полный контроль», это управляемое присутствие.

Что я рекомендую делать

Если вы руководитель риск-функции или информационной безопасности в банке, и вы подозреваете, что теневой GenAI у вас есть (а он есть почти точно), вот что я рекомендую.

Первое — провести честную диагностику. Не «с наказанием», а «для понимания масштаба». Опрос сотрудников в анонимном режиме: кто использует внешние AI-инструменты, для каких задач, насколько часто. Я делал такие опросы в нескольких банках, и каждый раз цифры шокируют руководство.

Второе — сформулировать политику, которая работает. Не «запрещено всё», а «разрешено с ограничениями + альтернатива». Это документ, который я помогаю писать клиентам в рамках своих консалтинговых сессий.

Третье — обучить сотрудников работать правильно. Это часть моих корпоративных программ — отдельный блок по безопасной работе с LLM.

Четвёртое — построить альтернативу в контуре. Развернуть внутренний доступ к LLM через panteo.ai или корпоративный шлюз к российским сервисам.

Что делать прямо сейчас

Если вы хотите обсудить, как работать с теневым GenAI у вас в банке, — первый шаг это 90-минутная Диагностика автономности. За этот час мы сможем оценить масштаб проблемы у вас и выработать первые рекомендации по стратегии работы с ней.

Теневой GenAI не исчезнет сам. Он будет расти по мере роста возможностей AI-инструментов. Вопрос не в том, есть он у вас или нет, а в том, управляете вы им или нет.

Записаться на диагностику →