ИИ как суперсотрудник: новые вызовы кибербезопасности и стратегии защиты - Евгений Смирнов
Евгений Смирнов, ex Managing AI Director, Sber | ex Head of ML Laboratory Alfa Bank | HR-Brand ambassador | Chief Data Scientist. Интенсив "ГорИИзонты: эволюция медиа", организатор "Мастерская новых медиа".
Концепция «ИИ как суперсотрудника» и риски безопасности Евгений предлагает рассматривать искусственный интеллект не просто как инструмент, а как «суперпродвинутого сотрудника». Эта метафора раскрывает двойственную природу технологии: в руках злоумышленника ИИ становится идеальным исполнителем, способным с предельной скоростью находить и эксплуатировать любые уязвимости. Основной риск заключается в том, что старые ошибки безопасности (слабые пароли, отсутствие двухфакторной аутентификации), которые ранее могли оставаться незамеченными из-за ограниченности человеческих ресурсов атакующих, теперь становятся легкой целью для автоматизированных систем ИИ.
Трансформация социального инжиниринга и человеческий фактор В выступлении отмечается, что механизмы обмана (фишинг) существовали и до появления ИИ — на примере банковских рассылок о «премиях» показано, что люди всегда были уязвимы для простых манипуляций. Однако ИИ выводит социальный инжиниринг на качественно иной уровень. Теперь фальсификация контента может быть настолько совершенной, что обычный человек (даже профессионал в медиасфере) будет неспособен отличить истину от подделки. Это делает «человеческий фактор» критическим слабым звеном, которое более невозможно полагаться на интуицию или опыт.
Технологическая гонка: ИИ против ИИ Спикер постулирует неизбежность создания систем противодействия. Если для создания высококачественного фейка используется «вражеский суперсотрудник» (ИИ), то для его обнаружения и верификации необходим собственный «суперсотрудник» на базе ИИ.
Таким образом, процесс проверки информации превращается в технологическое состязание алгоритмов, где человек перемещается из роли непосредственного проверяющего в роль оператора систем контроля.
Методологический сдвиг: от пользователя к разработчику-тестировщику Ключевым тезисом выступления является необходимость внедрения инженерного подхода к использованию ИИ. Спикер призывает заимствовать практики из области разработки ПО (Software Development), в частности — культуру системного тестирования и написания тестовых сценариев.
Пользователь ИИ должен перестать быть просто потребителем контента и стать «разработчиком» своего процесса, который обязательно включает этап верификации, поиска «багов» и автоматизированной проверки результатов работы нейросети.
Выводы Обесценивание «пассивной безопасности». В эпоху ИИ стратегия «надежды на то, что нас не заметят» перестает работать. Скорость перебора паролей и анализа уязвимостей возрастает экспоненциально, что делает базовую кибергигиену (2FA, сложные пароли) не просто рекомендацией, а обязательным условием выживания любой системы. Кризис когнитивного доверия. Способность человека отличать правду от лжи в цифровом контенте стремится к нулю. Это означает, что верификация должна быть полностью делегирована специализированным ИИ-инструментам контроля, так как человеческий мозг не эволюционировал для борьбы с генеративным контентом такого уровня.
