21 мая директор по продуктам UzCloud Дмитрий Некрасов выступил на конференции «Код ИБ». Его доклад был посвящён актуальной для бизнеса теме: использованию сторонних нейросетей без ведома ИТ-отделов и служб безопасности. Это явление принято называть теневым AI (Shadow AI).
Ниже собраны ключевые тезисы выступления, разбор рисков и практические шаги по созданию безопасной ИТ-архитектуры для работы с искусственным интеллектом.
Теневой AI: симптом продуктового вакуума, а не нарушение
Когда юрист копирует текст договора в личный аккаунт популярной нейросети для быстрой правки, а разработчик отправляет фрагмент кода во внешний ИИ-ассистент, они руководствуются желанием оптимизировать рабочие процессы.
Статистика показывает реальные мотивы сотрудников:
- 90% пользователей отмечают, что искусственный интеллект существенно экономит их рабочее время.
- 68% сотрудников банально не успевают справляться с текущим темпом работы без привлечения автоматизации.
- 85% специалистов используют ИИ, чтобы разгрузить себя от рутины и сосредоточиться на действительно важных задачах.
Теневым AI называют использование внешних инструментов искусственного интеллекта вне утверждённого компанией контура, без маскирования данных и ведения логов. По данным исследований, 57% сотрудников скрывают применение таких сервисов на рабочем месте, а 48% уже загружали на публичные платформы конфиденциальную информацию компании.
Таким образом, теневой ИИ становится очевидным симптомом нехватки удобных внутренних инструментов.
Почему тотальный запрет только усугубляет ситуацию
Первая и самая частая реакция классических служб безопасности: полностью заблокировать доступ к популярным публичным веб-интерфейсам. Однако практика показывает неэффективность жёстких ограничений. Около 90% организаций технически блокируют как минимум одно генеративное ИИ-приложение, но при этом 47% сотрудников всё равно продолжают использовать их на рабочих местах.
В корпоративной среде возникает массовый феномен BYOAI (Bring Your Own AI): скрытое использование личных неуправляемых аккаунтов со смартфонов или личных компьютеров.
Тотальный запрет приносит ложное ощущение безопасности, ведь он снижает видимость проблемы для руководства гораздо быстрее, чем реальное использование технологий. При этом за периметр компании продолжают утекать критически важные данные:
- Исходный программный код;
- Финансовая отчётность и управленческие таблицы;
- Персональные данные клиентов и сотрудников;
- Интеллектуальная собственность и внутренние протоколы встреч.
Целевая архитектура: ИИ-шлюз как инструмент контроля
Вместо попыток остановить прогресс бизнесу выгоднее предложить команде удобную и безопасную альтернативу. Лучшим выбором по соотношению безопасности и скорости интеграции является гибридная схема организации инфраструктуры.
Центральным элементом такой архитектуры выступает ИИ-шлюз (AI Gateway), который выполняет роль единой точки входа и панели управления (Control Plane) для всех запросов.
- Маскирование данных (Data Masking): система автоматически распознаёт конфиденциальные сведения, коммерческую тайну или персональные данные в промпте и маскирует их до того, как запрос уйдёт на внешние серверы.
- Журнал аудита (Audit Logs): все входящие и исходящие запросы логируются, что позволяет ИТ-департаменту проводить аудит безопасности в реальном времени.
- Маршрутизатор запросов (Model Router): шлюз распределяет задачи в зависимости от уровня критичности данных. Обычные текстовые задачи могут уходить во внешние корпоративные модели (например, через защищённые API), а работа с чувствительной информацией или гостайной замыкается на частных локальных моделях (Local LLM), развёрнутых внутри изолированного контура компании.
Такой подход позволяет безболезненно внедрить ИИ в ежедневные бизнес-сценарии. Например, при анализе договоров система автоматически заменяет личные данные контрагентов на маски, а при работе с внутренними базами знаний строго проверяются права доступа сотрудников (ACL), исключая утечку информации внутри самой компании.
Как вернуть контроль над ИИ за 5 шагов
Процесс перевода ИИ-инструментов из тени в управляемое русло состоит из пяти последовательных этапов:
- Видеть: провести технический аудит и чётко понять, какими внешними ИИ-сервисами сотрудники уже пользуются для выполнения задач.
- Разделять: классифицировать корпоративную информацию и разграничить сценарии работы с разными типами данных.
- Блокировать: настроить автоматические правила контроля и защиты (Guardrails) для предотвращения отправки критических данных наружу.
- Заменять: запустить официальный корпоративный доступ к безопасным альтернативам, чтобы у сотрудников не было повода использовать личные аккаунты.
- Оптимизировать: регулярно анализировать метрики использования ИИ, чтобы улучшать бизнес-процессы и контролировать затраты на инфраструктуру.
Чек-лист для экспресс-диагностики компании
Чтобы оценить уровень защищённости вашей инфраструктуры от рисков теневого ИИ, ответьте на четыре простых вопроса:
- Известен ли вам точный список ИИ-инструментов, которые ваши сотрудники используют прямо сейчас?
- Может ли ваша служба безопасности технически отличить использование личного ИИ-аккаунта от корпоративного?
- Существует ли в компании технический контроль за отправкой промптов, а не только регламент в формате PDF?
- Есть ли у команды официальный корпоративный ИИ-инструмент, которым действительно удобно пользоваться?
Если на большинство вопросов вы ответили отрицательно, инфраструктура компании находится в зоне риска. Переход к гибридной схеме и внедрение ИИ-шлюза от UzCloud помогут сохранить коммерческие секреты без принудительного снижения продуктивности сотрудников. Оставить заявку можно на нашем сайте.