Чат-боты в корпоративной среде: безопасность, локальные модели и влияние на человека
Интенсив "ГорИИзонты: эволюция медиа", организатор "Мастерская новых медиа".
Рассматривается проблема безопасности при использовании нейросетей и общих тенденций взаимодействия человека с технологиями. Основной акцент сделан на том, что современный пользователь зачастую игнорирует вопросы приватности, воспринимая передачу данных в облачные хранилища или поисковики как норму. В этом контексте использование неофициальных приложений для доступа к чат-ботам является лишь продолжением существующей практики, где любая загруженная информация фактически перестает принадлежать пользователю и становится доступной третьим лицам.
Особое внимание уделяется корпоративной безопасности. Отмечается, что сотрудники активно используют ИИ для оптимизации рабочих процессов (написание текстов, перевод), что создает новые каналы утечки коммерческой тайны. Единственным надежным способом защиты данных для крупных организаций является развертывание локальных моделей внутри собственного периметра компании. Однако этот путь сопряжен с серьезными инфраструктурными сложностями и высокими затратами на оборудование (мощные графические процессоры), что делает его недоступным для малого бизнеса и медиасферы.
Завершается обсуждение анализом влияния автоматизации на человеческий капитал. Констатируется постепенная утрата базовых навыков из-за делегирования функций роботам: ухудшение памяти из-за телефонных книг, потеря ориентации в пространстве из-за навигаторов и снижение качества коммуникации. Поскольку ИИ подстраивается под пользователя, человек теряет навык живого общения и адаптивности, что особенно критично для специалистов по связям с общественностью и журналистов.
Принцип «уровня недоверия»: любую информацию, переданную в приложение (официальное или нет), следует считать безвозвратно утраченной из-под контроля пользователя. Неизбежность утечек: чат-боты стали удобным инструментом для слива корпоративной информации, так как сотрудники стремятся к максимальному упрощению рабочих задач. Технологический барьер локализации: переход на собственные закрытые модели ИИ требует дорогостоящей инфраструктуры, что ограничивает безопасность только самыми крупными игроками рынка.
Когнитивная деградация: чрезмерная зависимость от интеллектуальных помощников ведет к атрофии памяти, пространственного мышления и навыков межличностного взаимодействия.
