Применение LLM и агентов в бизнесе, гиперперсонализация и доверие к LLM

Дмитрий Маркосьянц, директор по внедрению искусственного интеллекта и эффективности процессов, ОТП Банк.

Конференция CNews «Технологии искусственного интеллекта 2026».

Спикер поднял вопрос о применении гиперперсонализации с использованием больших языковых моделей (LLM). Вопрос примеров успешного использования, или это пока лишь перспектива.

Гиперперсонализация работает хорошо, но для этого необходим так называемый "single customer view" – единый профиль клиента. Необходимо провести эксперимент: загрузить выписку из банка в ChatGPT и посмотреть, как модель проанализирует траты и выделит психологические особенности. Дмитрий также рассказал об успешном опыте использования LLM для анализа переписки в Telegram, предсказывая реакции людей.

Спикер поделился своим опытом: при загрузке данных о заказах в LLM он столкнулся с проблемой галлюцинаций модели при запросе точных цифр.

В данном случае важна не точность цифр, а анализ психотипа. Для работы с табличными данными рекомендуется использовать аналитические инструменты и агентов, а не полагаться на LLM для всего объема данных. Необходимо сужать область применения, четко описывать систему и интерпретировать данные.

Спикер выразил мнение, что дообучение – это путь в никуда, требующий больших затрат. Он считает, что индустрия движется к решению задач промптами. Он указал на необходимость узкопрофильных агентов с жесткой схемой рассуждений (SGR - Guided Reasoning). Дмитрий полагает, что модели развиваются слишком быстро, и дообучение может быть неэффективным из-за быстрых изменений в индустрии. Он отметил, что даже крупные компании, такие как ОТП Банк, не считают целесообразным вкладываться в дообучение, несмотря на то, что это делает Сбербанк.