Сбер - интеграция LLM в корпоративные системы: от автоанализа до стандартизации, Андрей Коптелов

Агентные системы, языковые модели, мультимодальные модели, ИИ

Андрей Коптелов, исполнительный директор, Сбер. "Искусственный интеллект и большие данные: от экспериментов к эффекту", конференция TAdviser.

СОХРАНЕНИЕ РОЛИ ПРОЦЕССНОГО МЕНЕДЖМЕНТА В AI-NATIVE СТРУКТУРАХ

При построении архитектуры современной компании, ориентированной на искусственный интеллект, возникает закономерный вопрос о целесообразности классического моделирования процессов. Однако текущий уровень развития технологий не позволяет полностью обесценить роль процессного менеджера. Напротив, в обозримом будущем потребность в четком описании алгоритмов действий останется критически важной для обеспечения предсказуемости и управляемости бизнес-систем.

Существует категория рисков, которые можно количественно оценить и сознательно принять, но есть области, где любые отклонения недопустимы. В частности, вопросы производственной безопасности требуют абсолютной точности исполнения, которую невозможно доверить вероятностным моделям ИИ без жесткого надзора. «Мы должны обеспечить, чтобы процессы некоторые были предотвратимы и обортимы», — подчеркивает, указывая на необходимость сохранения контрольных точек в архитектуре.

Особое внимание следует уделить разграничению между гибким поведением нейросетей и жестким кодом традиционных информационных систем. Сертификация, лицензирование и соответствие регуляторным нормам сегодня применимы только к детерминированным программам. Искусственный интеллект с его «черным ящиком» базы знаний пока не может заменить собой системы, где требуется юридическая гарантия исполнения конкретного алгоритма.

ИНТЕГРАЦИЯ AI-АГЕНТОВ С ТРАДИЦИОННЫМИ ERP И СИСТЕМАМИ ЭДО

Современные корпоративные системы, такие как ERP или электронный документооборот (ЭДО), в экосистеме искусственного интеллекта начинают выполнять роль поставщиков контекста. AI-агент не заменяет эти системы, а взаимодействует с ними для извлечения необходимых данных, которые затем используются для принятия обоснованных решений. Таким образом, формируется гибридная модель управления данными.

Важнейшим аспектом данной интеграции является вопрос контроля над действиями автономных агентов. В Сбере используется специальный коэффициент качества отработки, который позволяет отслеживать точность действий ИИ. Этот показатель постоянно растет по мере дообучения моделей и уточнения промптов, что позволяет постепенно расширять зону ответственности интеллектуальных помощников в рамках корпоративного контура.

Практический пример использования такого подхода виден в сервисе «помощник архитектора». Несмотря на то, что агент имеет доступ ко всем внутренним системам банка и самостоятельно вытаскивает данные, уровень правильных ответов составляет около 83%. Это означает, что каждый пятый запрос все еще требует ручной обработки человеком, что подтверждает тезис о недопустимости «свободного полета» ИИ в критических бизнес-процессах.

ОБЛАСТИ БЕЗОПАСНОГО ВНЕДРЕНИЯ АВТОНОМНЫХ СЕРВИСОВ

Несмотря на общие риски, существуют сегменты бизнеса, где уровень автономности ИИ может быть значительно выше. Одной из таких областей является взаимодействие с клиентами и предоставление консультаций. В этих сценариях риск ошибки ниже, так как пользователь может в любой момент выразить недовольство ответом, нажать кнопку обратной связи или потребовать переключения на оператора-человека.

Существуют и более амбициозные проекты по автоматизации, где доля ручного вмешательства сводится к минимуму. В качестве примера можно привести кейсы с конкурса BPM проект года, где были представлены системы с уровнем автономности до 95%. В таких случаях подавляющее большинство операций обрабатывается автоматически, а на руки специалисту уходит лишь крайне малый процент сложных или нестандартных случаев.

Ключом к успеху в таких проектах является правильный выбор области применения. Если в финансовых расчетах или безопасности требуется жесткий контроль, то в интерфейсных решениях и первичной обработке запросов можно позволить агентам действовать более самостоятельно. Это создает необходимый баланс между эффективностью автоматизации и безопасностью бизнес-операций.

ПРИМЕНЕНИЕ PROCESS MINING И АВТОАНАЛИЗА ПРОЦЕССОВ

Для глубокого анализа эффективности организации используется технология Process Mining, которая позволяет собирать цифровые следы операций и выстраивать на их основе реальный граф процесса. Традиционно работа с такими графами была сопряжена с огромным количеством рутины: аналитику приходилось вручную перебирать сотни факторов, чтобы найти причину сбоя или узкое место в процессе.

Эволюция этого инструмента привела к созданию сервисов автоанализа процессов. Примечательно, что для этих целей часто используются не LLM-модели, а классический машинный поиск (ML), который более эффективно справляется с поиском аномалий и закономерностей в массивах структурированных данных. Такой подход позволяет автоматически генерировать отчеты о «выбросах» и отклонениях в бизнес-процессах.

Вопрос готовности топ-менеджмента к использованию таких инструментов остается открытым, однако потенциал здесь огромен. Возможность самостоятельно формировать вопросы об организации и получать мгновенный анализ на основе данных делает управление более прозрачным. «Мне кажется, за этим будущее», — отмечает, подчеркивая важность наличия четкого бизнес-заказчика для развития подобных систем.

ПРОБЛЕМА ИНФОРМАЦИОННОГО ПЕРЕПОЛНЕНИЯ В ЭПОХУ АГЕНТОВ

С ростом числа AI-агентов в организации возникает новая проблема — лавинообразный рост объема генерируемых результатов. Когда нейросети начинают создавать отчеты, замечания и предложения в промышленных масштабах, человеческий ресурс по их валидации становится дефицитным. Это создает парадокс: автоматизация призвана освободить время, но вместо этого порождает горы данных для проверки.

Особенно остро этот вопрос стоит в юридически значимых операциях и работе с конфиденциальными данными. Каждое решение, принятое агентом, должно быть верифицировано человеком, чтобы избежать правовых рисков. В условиях, когда количество результатов растет экспоненциально, возникает необходимость в создании новых механизмов фильтрации и приоритизации ответов ИИ.

Ситуация осложняется тем, что взаимодействие происходит на уровне «агент — агент». Когда одна система генерирует требования, а другая пытается их обработать, информационный шум может стать настолько сильным, что реальная ценность процесса будет нивелирована. Это требует пересмотра подходов к проектированию взаимодействий внутри цифровой экосистемы компании.

РАЗРАБОТКА СТАНДАРТОВ УПРАВЛЕНИЯ AI-АГЕНТАМИ В СБЕРЕ

Для решения проблем управляемости в Сбере ведется разработка внутреннего стандарта в области AI-агентов. Интересной особенностью является то, что сам процесс написания этого документа осуществляется с помощью набора LLM. Это создает своего рода рекурсивный цикл разработки, где инструменты искусственного интеллекта помогают регламентировать их же использование в корпоративной среде.

В ходе работы над стандартом была выявлена проблема избыточности: нейросеть может выдать сотни замечаний к документу, большинство из которых будут бесполезными или излишними для включения в бэклог разработки. Это наглядно демонстрирует разницу между простым получением ответа и качественным управлением результатом работы модели.

Решением становится глубокая работа с промптами и уточнение задач. «Нужно голову включать и четче ставить задачу», — констатирует. Только через итеративное уточнение запросов можно добиться того, чтобы ИИ выдавал ровно тот объем информации, который необходим для принятия решения, не перегружая при этом исполнителя лишними данными.

СТРАТЕГИЯ СЖАТИЯ И ОПТИМИЗАЦИИ ПОТОКОВ ДАННЫХ

В условиях, когда с обеих сторон коммуникационного канала работают AI-агенты, возникает фундаментальный вопрос о целесообразности такого взаимодействия. Если одна нейросеть генерирует тысячи замечаний, а вторая их фильтрует и обрабатывает, эффективность процесса стремится к нулю из-за огромных затрат вычислительных ресурсов и времени на синхронизацию.

Единственным выходом в данной ситуации является стратегия «сушки» или сжатия информационных потоков. Это означает переход от количественного генерирования вариантов к качественному синтезу смыслов. Необходимо стремиться к тому, чтобы агенты обменивались не массивами данных, а конкретными, верифицированными инсайтами и решениями.

Оптимизация взаимодействия между интеллектуальными системами станет главным вызовом для архитекторов AI-native компаний в ближайшие годы. Задача состоит в том, чтобы создать систему сдержек и противовесов, где ИИ не создает дополнительную нагрузку на бизнес, а действительно упрощает путь от возникновения проблемы до ее окончательного решения.

ПЕРЕХОД ОТ ВЕРОЯТНОСТНЫХ МОДЕЛЕЙ К ДЕТЕРМИНИРОВАННЫМ РЕЗУЛЬТАТАМ

Ключевым барьером при внедрении LLM в критические процессы остается их вероятностная природа. В отличие от традиционного ПО, где один и тот же вход всегда дает один и тот же выход, нейросети могут выдавать разные ответы на один запрос. Это делает их непригодными для использования в качестве единственного инструмента управления в жестко регулируемых отраслях.

Для преодоления этого разрыва необходимо внедрение слоев валидации, которые переводят вероятностный вывод ИИ в формат конкретного действия или решения. Такой подход позволяет использовать креативность и аналитические способности LLM для поиска вариантов, но оставляет финальное утверждение за жестким алгоритмом или человеком-экспертом.

Разработка таких гибридных систем требует нового подхода к тестированию ПО. Теперь недостаточно проверить код на наличие багов; нужно оценивать статистическую вероятность ошибки модели и создавать механизмы автоматического перехвата некорректных ответов, чтобы они не попали в производственную среду.

ВЛИЯНИЕ ИИ НА ТРАНСФОРМАЦИЮ РОЛИ РУКОВОДИТЕЛЯ

Автоматизация анализа данных с помощью Process Mining и ML-сервисов меняет функционал топ-менеджмента. Руководитель перестает быть просто потребителем отчетов, подготовленных аналитиками, и получает возможность напрямую взаимодействовать с данными организации через интеллектуальные интерфейсы.

Однако такая возможность накладывает новую ответственность: руководитель должен уметь правильно формулировать вопросы к системе. Качество управленческих решений теперь напрямую зависит от качества промптов и способности критически оценивать ответы ИИ, отделяя полезные инсайты от галлюцинаций модели.

В будущем ожидается появление систем предиктивного управления, которые будут не просто анализировать прошлые ошибки (как это делает Process Mining), но и предлагать варианты оптимизации процессов в режиме реального времени. Это превратит роль менеджера из контролера в архитектора смыслов и стратега.

ПЕРСПЕКТИВЫ РАЗВИТИЯ КОРПОРАТИВНЫХ AI-ЭКОСИСТЕМ

Будущее корпоративного ИИ лежит в плоскости создания специализированных агентских сетей, где каждый агент обладает узкой компетенцией и четко определенными границами ответственности. Это позволит избежать хаоса в данных и обеспечит более высокую точность выполнения задач за счет специализации моделей.

Важным этапом станет создание единого языка взаимодействия между этими агентами, что позволит им эффективно координировать действия без участия человека на каждом этапе. Однако управление этой сетью все равно должно оставаться в руках процессных менеджеров, которые будут определять общие правила игры и границы допустимых рисков.

В конечном итоге переход к AI-native компании — это не замена людей машинами, а перепроектирование всей структуры организации под новые возможности. Это путь от жестких иерархических процессов к гибким адаптивным системам, где человек выступает в роли главного валидатора и постановщика целей.

Андрей Коптелов из Сбера представил видение развития AI-native компаний, подчеркнув, что внедрение искусственного интеллекта не отменяет необходимость процессного менеджмента, а трансформирует его. Основной акцент сделан на создании гибридных систем, где LLM используются для анализа и генерации контекста, но финальный контроль и юридическая ответственность остаются за человеком и детерминированным программным обеспечением.

В докладе подробно рассмотрены вопросы интеграции AI-агентов с ERP-системами, использование Process Mining для автоанализа процессов и проблемы информационного переполнения при взаимодействии нескольких нейросетей. отметил важность разработки корпоративных стандартов управления агентами и необходимость «сжатия» потоков данных для сохранения эффективности бизнес-коммуникаций.

Заказать съёмку видео
у команды JSON.TV
Написать
Реклама услуг съемки видео

Связанное видео

CNews
"Информационные технологии завтра" CNews Forum 2026
124
0
Ноябрь 2026 г.
CNews
"Информационные технологии завтра" CNews Forum 2026
112
0
Ноябрь 2026 г.
TAdviser.ru
Искусственный интеллект и большие данные: от экспериментов к эффекту
112
0
Ноябрь 2026 г.
TAdviser.ru
Искусственный интеллект и большие данные: от экспериментов к эффекту
94
0
Ноябрь 2026 г.
Агентные системы, языковые модели, мультимодальные модели, ИИ
Смотреть видео
TAdviser.ru
Искусственный интеллект и большие данные: от экспериментов к эффекту
90
0
Ноябрь 2026 г.
TAdviser.ru
Искусственный интеллект и большие данные: от экспериментов к эффекту
99
0
Ноябрь 2026 г.
Агентные системы, языковые модели, мультимодальные модели, ИИ
Смотреть видео
TAdviser.ru
Искусственный интеллект и большие данные: от экспериментов к эффекту
89
0
Ноябрь 2026 г.
TAdviser.ru
Искусственный интеллект и большие данные: от экспериментов к эффекту
92
0
Ноябрь 2026 г.
TAdviser.ru
Искусственный интеллект и большие данные: от экспериментов к эффекту
90
0
Ноябрь 2026 г.
Агентные системы, языковые модели, мультимодальные модели, ИИ
Смотреть видео
TAdviser.ru
Искусственный интеллект и большие данные: от экспериментов к эффекту
94
0
Ноябрь 2026 г.
TAdviser.ru
Искусственный интеллект и большие данные: от экспериментов к эффекту
102
0
Октябрь 2026 г.
TAdviser.ru
Искусственный интеллект и большие данные: от экспериментов к эффекту
93
0
Октябрь 2026 г.
CNews
Форум "Технологии искусственного интеллекта 2026"
98
0
Октябрь 2026 г.
TAdviser.ru
Искусственный интеллект и большие данные: от экспериментов к эффекту
109
0
Октябрь 2026 г.
CNews
Форум "Технологии искусственного интеллекта 2026"
104
0
Октябрь 2026 г.
TAdviser.ru
Искусственный интеллект и большие данные: от экспериментов к эффекту
102
0
Октябрь 2026 г.
Агентные системы, языковые модели, мультимодальные модели, ИИ
Смотреть видео
CNews
Форум "Технологии искусственного интеллекта 2026"
99
0
Октябрь 2026 г.
TAdviser.ru
Искусственный интеллект и большие данные: от экспериментов к эффекту
131
0
Октябрь 2026 г.
CNews
Форум "Технологии искусственного интеллекта 2026"
104
0
Октябрь 2026 г.
TAdviser.ru
Искусственный интеллект и большие данные: от экспериментов к эффекту
105
0
Октябрь 2026 г.
CNews
Форум "Технологии искусственного интеллекта 2026"
101
0
Октябрь 2026 г.
CNews
Форум "Технологии искусственного интеллекта 2026"
108
0
Октябрь 2026 г.
TAdviser.ru
Искусственный интеллект и большие данные: от экспериментов к эффекту
137
0
Октябрь 2026 г.
Смотреть раздел полностью ->