Локальный ИИ в контуре предприятия, как использовать ИИ и языковые модели практично и безопасно
Неверов Станислав Владиславович, системный аналитик, независимый эксперт.
VII Санкт-Петербургский Промышленный Конгресс. Организатор ВО «РЕСТЭК».
Спикер начал с того, что ИИ — это прежде всего статистическая модель, а отношение к нему у специалистов разное: кто-то видит в нём хайп, а кто-то — угрозу замены человека.
При этом ключевая проблема заключается в работе с реальными данными: нельзя бездумно использовать коммерческие и клиентские данные, а в облачных сервисах всегда есть риск утечек и ложного ощущения безопасности.
Далее он подчеркнул, что в компаниях должны быть внутренние правила работы с данными, а сотрудники обязаны понимать, что можно загружать в облако, а что — нет.
В качестве более безопасного подхода было предложено использовать локальные модели и деперсонализацию, чтобы сохранить возможность работы с мощными ИИ-инструментами, не нарушая требования законодательства.
Отдельно было сказано, что результаты модели нельзя принимать на веру: их нужно проверять на простых задачах, а инженер остаётся главным оркестратором процесса.
Также выступающий предупредил об опасности подхода “сделай за меня” и о юридических рисках автоматизации, особенно в сферах с персональными данными .
Затем речь пошла о практическом внедрении: важно начинать с реальной проблемы, а не с желания использовать модную технологию.
Многие ИИ-агенты, по его словам, на деле решают обычные алгоритмические задачи, а главная выгода от ИИ — это ускорение работы.
Локальные решения, такие как Allama, можно запускать даже на обычном ноутбуке, получая автономность и возможность работать без внешнего интернета.
В конце был сделан важный вывод: ИИ — это не чудо и не универсальная таблетка, а инструмент, который нужно применять только там, где он действительно помогает.
Особенно это касается агентных систем: их стоит использовать лишь в тех задачах, где машина действительно должна взаимодействовать с внешней средой и самостоятельно принимать решения
