Агентный ИИ в бизнесе - не гонитесь за количеством, качество важнее, Елена Кожина ВШЭ
Елена Кожина, заместитель проректора, Директор центра управления проектной деятельности института искусственного интеллекта и цифровых наук, ВШЭ. Форум Data Day 2026 «ИИ + Данные». Организатор — Издательский дом «Регламент».
Агентный ИИ уже быстро переходит в практическое использование, потому что его проще создавать и внедрять, а бизнесу нужны быстрые эффекты, оптимизация процессов и ускорение работы. Однако вместе с этим растет и число инцидентов: агент может ошибаться, действовать не так, как ожидалось, или выходить за рамки допустимого сценария. Главная мысль здесь в том, что скорость внедрения нельзя отделять от управления рисками — ценность технологии появляется только тогда, когда компания умеет держать баланс между эффективностью и безопасностью.
Отдельный акцент сделан на том, что риски возникают не в одной точке, а на всем жизненном цикле агента: на этапе проектирования, внедрения и эксплуатации. На стадии проектирования критична слишком широкая или неконкретная постановка задачи. Если агенту сказать только «ускорь ответы» или «оптимизируй процесс», он может формально выполнить задачу, но ухудшить качество для пользователя. Поэтому важно заранее четко определить, что агенту разрешено, что запрещено, какие сценарии допустимы и где он должен останавливаться.
На этапе проектирования и внедрения отдельно подчеркивается опасность поверхностного подхода. Недостаточно быстро собрать решение и запустить его в работу — нужно заранее продумать, как оно будет использоваться, кто станет конечным пользователем, какие системы доступа понадобятся и какое логирование должно быть включено сразу. Здесь же выделяется принцип минимальной достаточности: доступы должны быть ограничены, а не выдаваться «на всякий случай» максимально широкими. Это касается и интеграций, и набора данных, и прав на чтение или запись.
На этапе внедрения важна проверка решения на соответствие целям заказчика и внутренним требованиям качества. Отмечается, что проверка агентного ИИ не сводится к оценке точности модели. Нужно смотреть шире: как агент действует, какие цепочки вызовов он запускает, какие сценарии выполняет, какие доступы использует и какие последствия его действия могут иметь для системы, клиентов и пользователей. Это принципиально отличает агентный подход от обычной модели или чат-бота.
Еще один важный блок связан с пилотированием и масштабированием. Пилот — это ограниченная среда, а при росте числа пользователей появляются новые сценарии и нестандартные случаи. Поэтому пилот нельзя считать окончательной проверкой: за ним нужно продолжать наблюдать, возможно, дольше держать его под контролем и не переводить в полную эксплуатацию без анализа поведения.
На стадии эксплуатации ключевой риск — изменение поведения агента со временем. Это может происходить из-за смены модели, изменения входных данных или трансформации пользовательских запросов. Агент, созданный для одной задачи, может начать использоваться в другом сценарии, к которому он не был подготовлен. Кроме того, в мультиагентных системах ошибка одного агента может усиливаться и распространяться дальше, если нет контроля над взаимодействием между компонентами.
Сильный практический вывод выступления — компании нужны не просто технологии, а управляемая модель работы с ними. Для этого необходимо назначить ответственного за каждый сценарий, определить, где в контуре обязательно нужен человек, ограничить доступы по принципу минимальной достаточности и ввести полноценное логирование. Логирование здесь рассматривается не как формальность, а как инструмент разбора инцидентов: оно должно позволять понять, какой путь прошел агент, какие решения принимал и где именно произошел сбой.
При внедрении агентного ИИ не стоит ориентироваться только на количество запущенных агентов. Гораздо важнее качество управления ими, зрелость процессов и способность удерживать риски в допустимых пределах. Именно это, а не сама по себе массовость внедрения, делает использование агентного ИИ безопасным и полезным для бизнеса.
