GenAI трансформация для повышения эффективности бизнеса, GigaB2B

Глеб Кузьмин, коммерческий директор, GigaB2B.

Компания занимается внедрением больших языковых моделей (LLM) в бизнес разных масштабов. Основная задача - привнести практическую пользу от ИИ, а не просто "хайп".

На российском рынке пока мало компаний, реально применяющих LLM в продуктивной среде, несмотря на общее представление о быстром развитии.

GigaChat — больше, чем просто текстовая модель, поддерживаются различные модальности (изображения, код, видео, голосовые сообщения).

Ключ к успеху - комплексный подход, включающий разные модели, экспертизу, on-premise и публичные решения.

Самое главное - начать пользоваться, пробовать и тестировать разные варианты, постепенно наращивая экспертизу внутри компании.

Проблематика и текущая ситуация:

Многие компании только экспериментируют, а не внедряют LLM в реальных бизнес-процессах.

Существует дефицит реальных кейсов использования, в отличие от хайпа вокруг ИИ.

Многие заказчики считают, что рынок уже далеко ушел вперед, что не соответствует действительности.

Функционал и возможности GigaChat:

Модальность: работа с текстом, изображениями, кодом, видео и аудио.

Резонинг (reasoning): анализ рассуждений модели для повышения качества ответов.

Депрессер: глубокое исследование сложных задач с анализом информации из разных источников.

Гибридное использование: сочетание закрытых корпоративных данных и публичных API для масштабирования.

Предоставление инфраструктуры, включая видеокарты, и возможности установки модели в закрытом контуре.

Кейсы и направления внедрения:

Низковисящие фрукты:

Чат-боты с генеративным ИИ для клиентского сервиса, контакт-центров.

Позволяют быстро посчитать экономический эффект.

Масштабируемые кейсы:

Генеративный поиск по базам данных, базам знаний внутри компании.

Увеличивается скорость поиска информации.

Нишевые (высокопотенциальные) кейсы:

Производственные специальности, параметризация номенклатурных справочников, ко-пилоты для инженеров-диагностов.

Требуется высокая точность, кейсы пока находятся в разработке.

Процесс реализации и ключевые аспекты:

Необходим постоянный процесс тестирования и улучшения (Proof of Concept, MVP).

Важное значение имеет информационная безопасность - корпоративные LLM внутри контура.

Три основные вертикали применения:

Клиентский сервис (чат-боты).

Операционная деятельность (HR, юристы, закупки).

Производственная деятельность (интеграция с MES-системами, например, при производстве серной кислоты).

Основные инструменты: генеративный поиск, помощники, чат-боты, поддержка сотрудников.

Отличие генеративных чат-ботов от скриптовых — эмпатичность и большая база знаний.

Внедрение LLM может существенно сократить нагрузку на IT-службы и службу технической поддержки.

Рекомендации и выводы:

Нельзя выбрать только одну модель или технологию, важен комплексный подход.

Необходимо наращивать экспертизу внутри компании, ориентируясь на бизнес-аналитику и выявление задач для оптимизации.

Начать использовать, тестировать и искать оптимальные решения для конкретных задач бизнеса.

Объединение различных решений и моделей – ключ к успеху.

Все персональные данные должны храниться в закрытых контурах.

CNews FORUM 2025: Информационные технологии завтра.

Предcтавители бизнеса, госструктур, ИТ-компаний, а также независимые эксперты и аналитики приняли участие в дискуссии о том, как будет проходить информатизация экономики в ближайшие годы.

Цель мероприятия – предоставить независимую площадку для обсуждения ключевых вопросов и актуальных проблем рынка ИКТ, инновационных технологий, подходов к реализации ИТ-проектов – с участием трех сторон – бизнеса, ИТ-поставщиков и государства.