Как внедрить ИИ-офис без провалов: подходы, архитектуры, проблемы - Гоша Шатиров, К2Тех

Гоша Шатиров, директор по искусственному интеллекту и инновациям, К2Тех.

Конференция CNews «Технологии искусственного интеллекта 2026»

Основные тезисы:

В 2025 году был период экспериментов, а в 2026 году ожидается переход к внедрению GNI.

Компания осознала FOMO-эффект и необходимость ускорения внедрения, при этом столкнувшись с проблемой неэффективности экспериментальных внедрений, что привело к разработке системного подхода.

Основная проблема – отсутствие четкого управления проектами GNI, распределения ресурсов и оценки эффективности.

Ключевые этапы и шаги:

1. Аналитическое исследование:

Выявило отставание российского рынка от мировых тенденций в области GNI.

Подтолкнуло к разработке инструментов для безопасного и эффективного использования GNI.

2. Культурные изменения:

Массовое обучение сотрудников.

Внедрение MVP (Minimum Viable Product).

Запуск "Фабрики гипотез" для генерации идей, что привело к увеличению числа инициатив.

Внутренний акселератор, выявивший неэффективность некоторых решений.

3. Системный подход (2026 год):

Объявлен год трансформации, направленный на фокусировку на GNI.

Разработан совместимый OpenAI протокол для безопасного использования GNI сотрудниками.

Решение проблемы Shadow AI (неконтролируемое использование сотрудниками ИИ).

Внедрение LLM Evaluation платформы для оценки производительности моделей.

Внедрение Guardrails для обеспечения безопасности и предотвращения утечек данных.

Обновление инфраструктуры GPU-кластера для повышения эффективности.

Оптимизация использования GPU-кластера (очереди и разделение задач).

Разработка "И офиса":

Изначально разработан для решения задач: приоритизации инициатив, расчета эффективности и управления проектами.

Решает три ключевые задачи: управление гипотезами, приоритизация и отбор инициатив, управленческий контроль.

Позволяет отслеживать динамику и движение инициатив GNI.

Обеспечивает агрегацию данных по всем проектам.

Применение "И офиса":

Сокращение времени на некоторые задачи до 85% (агрегация).

Увеличение результативности системы с течением времени.

Основные функции:

Создание организации и наполнение ее контентом.

Разбор информации с помощью модели.

Dashboard для мониторинга статуса активностей и представления данных совету директоров.

Работа с гипотезами и экспериментами.

Интеграция с ресурсами (человеческими и оборудованием).

Расчет ROI до уровня токенов и затрат.

API для подключения различных LM-моделей.

Ассистент для запросов и решения задач.

Guardrails:

Разработка собственного решения Guardrails на основе open source.

Проведение тестов на безопасность.

Использование кастомного Guardrails, который логирует информацию и определяет потенциальные сценарии фрода.

Использование человеком для оценки рисков, т.е. human-in-the-loop.

Основные выводы:

GNI меняет бизнес-модели, и важно эффективно управлять этим процессом.

"И офис" предоставляет прозрачность и управляемость для ресурсов, выделяемых на эксперименты и внедрение ИИ.

Инструмент помогает правильно ассоциировать ресурсы и эффективно взаимодействовать с руководством.