Технологии, реалии, вызовы ИИ в промышленности: от машинного обучения до интеллектуальных ИИ-агентов

Финков Марк Валерьевич, технический директор центра внедрения искусственного интеллекта.

VII Санкт-Петербургский Промышленный Конгресс. Организатор ВО «РЕСТЭК».

ИИ развивается очень быстро: говорилось о росте числа параметров в моделях, объёме генерируемого контента и увеличении числа дата-центров; отдельно отмечено, что в России уже идёт активная стандартизация ИИ и действует 143 ГОСТа.

Важно понимать вероятностную природу ИИ: ответы нейросети — это не «истина», а наиболее вероятный вариант, поэтому при построении доверительных систем нельзя воспринимать их решения как однозначно правильные.

Меняется подход к архитектуре систем: нейросети позволяют параметризовать не только поведение, но и структуру, а агентный ИИ ориентирован не на промпты, а на достижение цели через оркестрацию агентов.

Агентные платформы и интеграция — ключевая тема: упоминались открытые фреймворки для разработки агентов, платформа N8 для автоматизации процессов, а также то, что самым болезненным местом сейчас является уровень интеграции/interoperability.

Сильный/общий ИИ пока не существует: это было обозначено как направление будущего, но без готовой практической реализации на текущий момент.

Регулирование и ответственность — центральный риск: обсуждался законопроект о регулировании ИИ в России, возможный к применению с 1 сентября 2027 года, где вводятся роли разработчика, оператора, владельца, пользователя и органа власти; при этом на разработчика пытаются возложить ответственность за решения ИИ.

Главный вывод доклада: перед внедрением ИИ нужно заранее определить, кто несёт ответственность за его решения, иначе в критический момент система может «отключаться» или приводить к убыткам, как в приведённом примере с Tesla и автопилотом