Искусственный интеллект уже управляет вниманием человека и манипулирует в определенных интересах
Интенсив "ГорИИзонты: эволюция медиа", организатор "Мастерская новых медиа".
Искусственный интеллект уже управляет вниманием человека
Цифровые платформы давно используют алгоритмы, которые анализируют поведение пользователей: просмотренный контент, лайки и другие реакции. На основе этих данных человеку предлагают материалы, максимально соответствующие его интересам. Однако развитие искусственного интеллекта переводит эту систему на новый уровень: алгоритмы могут учитывать не только поверхностные предпочтения, но и личные обстоятельства, эмоциональное состояние, страхи, привычки и жизненные проблемы.
Чем больше человек рассказывает искусственному интеллекту о себе, тем точнее система формирует его цифровой психологический профиль. В перспективе это создаёт возможность не просто предлагать пользователю подходящие товары или контент, а воздействовать на его решения через персонально подобранные аргументы, образы и эмоциональные сценарии.
Главный риск заключается в том, что искусственный интеллект может стать собеседником, которому доверяют личные тайны, медицинскую информацию, сведения о семье, отношениях и переживаниях. Эти данные способны использоваться не только для удобства пользователя, но и в рекламных, политических или манипулятивных целях.
Доверие к искусственному интеллекту требует осознанных границ
При общении с интеллектуальными системами необходимо понимать, какую информацию человек готов был бы доверить близкому другу, а какую — потенциально заинтересованной организации. Искусственный интеллект может демонстрировать внимание, поддержку и эмоциональную вовлечённость, но это не означает, что взаимодействие с ним является полностью безопасным или нейтральным.
Отдельно была обозначена тенденция к использованию чат-ботов для романтического общения. В такой коммуникации пользователь может эмоционально привязаться к виртуальному собеседнику, который всегда доступен, не предъявляет собственных требований и создаёт ощущение понимания. Это способно усиливать зависимость от цифрового общения и размывать границу между технологическим сервисом и личными отношениями.
Критическое мышление становится базовым навыком информационной безопасности
В условиях широкого распространения искусственного интеллекта недостаточно просто получить информацию из удобного источника. Её необходимо проверять, сопоставлять с другими данными и анализировать мотивы тех, кто её распространяет. Особенно важна эта задача для медиа, поскольку публикация непроверенной информации может придавать ошибке вид достоверного сообщения.
При этом проверка через несколько крупных информационных агентств не всегда гарантирует объективность. Разные ресурсы могут ссылаться на один и тот же первоисточник, многократно перепечатывая одну версию события. В результате формально большое количество публикаций может создавать иллюзию независимого подтверждения, хотя фактически информация происходит из одного канала.
Практическим ориентиром для оценки сообщения было названо простое правило: необходимо спрашивать себя, кому выгодно распространение данной информации и чего хотят добиться от аудитории. Такой подход помогает выявлять коммерческие, политические и манипулятивные намерения даже в тех случаях, когда сообщение выглядит убедительно.
Ответственность за проверку информации нельзя полностью передавать алгоритмам
Искусственный интеллект способен быстро находить, обобщать и формулировать сведения, но это не освобождает человека от необходимости самостоятельно оценивать их достоверность. Нельзя слепо доверять голосовым помощникам, чат-ботам или другим цифровым системам только потому, что они отвечают уверенным и убедительным языком.
Особую роль играет медиаграмотность. Людей необходимо учить не только пользоваться технологиями, но и понимать принципы их работы, ограничения и возможные ошибки. Информация должна рассматриваться как предварительный материал для анализа, а не как автоматически подтверждённый факт.
Открытые знания и обмен решениями помогают противостоять информационному шуму
В выступлении была затронута проблема интернет-форумов и технических обсуждений, где полезный ответ нередко приходится искать среди десятков страниц противоречивых комментариев. Многие дискуссии заканчиваются сообщением о том, что проблема решена, но без объяснения самого способа решения.
Из этого следует важный принцип цифровой культуры: если человек нашёл рабочее решение, его стоит понятно описать и передать другим. Такой обмен знаниями делает информационную среду более полезной и снижает зависимость пользователей от бесконечного поиска среди фрагментарных и плохо структурированных обсуждений.
Дипфейки меняют представление о доказательствах
Распространение технологий генерации видео, изображений и голоса создаёт угрозу для традиционного понимания доказательств. Уже возникает ситуация, когда публичное лицо может заявить, что видеозапись с его участием является подделкой. Если подобные заявления будут восприниматься как достаточное основание для сомнений, сама видеозапись перестанет автоматически считаться убедительным подтверждением события.
В результате может измениться баланс доказывания. Человеку потенциально придётся подтверждать, что изображение, голос или видеозапись действительно не имеют к нему отношения. Это затрагивает не только политиков и руководителей организаций, но и обычных граждан, поскольку поддельные материалы могут использоваться для клеветы, давления, шантажа или мошенничества.
Проблема выходит далеко за пределы технической сферы. Она затрагивает судебную систему, вопросы презумпции невиновности, защиту репутации и необходимость разработки методов установления подлинности цифровых материалов.
Искусственный интеллект влияет на все сферы жизни
Технологические изменения затрагивают не только работу, образование или производство контента. Они проникают в личные отношения, медицинскую коммуникацию, рекламное воздействие, общественную безопасность и судебные процессы.
Искусственный интеллект становится частью повседневной среды, поэтому обсуждать его только как удобный инструмент недостаточно. Необходимо одновременно анализировать его влияние на автономию человека, конфиденциальность, эмоциональное состояние, способность принимать решения и доверять цифровым свидетельствам.
Импортозамещение не должно ограничиваться сменой бренда
Отдельное внимание было уделено проблеме национальных технологий. Формальное использование российского названия или интерфейса ещё не означает, что система создана на отечественной технологической и культурной базе. Если ключевые модели, подходы к обучению и механизмы цензурирования заимствованы из зарубежных систем, то вместе с технологиями могут переноситься чужие ограничения, смысловые акценты и представления о допустимом.
Создание полноценного искусственного интеллекта с нуля требует значительных ресурсов и пока, согласно прозвучавшей оценке, не достигло близкого к массовой коммерческой реализации уровня. Поэтому вопрос технологической независимости остаётся долгосрочной задачей, а не результатом простого переименования уже существующих решений.
Алгоритмическая цензура может искажать культурные смыслы
Генеративные модели способны неправильно понимать русскоязычные запросы, особенно если они сначала переводятся на английский язык. Это может приводить к смысловым ошибкам: например, система воспринимает стеклянный стакан как окно или иначе интерпретирует исторические и культурные понятия.
Ограничения на создание изображений также могут формироваться без учёта российского исторического контекста. Если модель запретно или стереотипно воспринимает определённые образы, она способна выдавать неадекватные результаты, связанные с историей страны, военной символикой и общественной памятью.
Проблема заключается не только в наличии цензуры, но и в том, кто определяет границы допустимого, какие исторические знания закладываются в систему и насколько они соответствуют местной культуре. Национальная модель должна учитывать российский язык, исторический опыт и особенности общественного восприятия.
Технологии способны влиять на сохранение исторической памяти
Недостаток культурного и исторического контекста проявляется не только в генерации изображений, но и в реальных визуальных объектах. Если создатели памятников или общественных материалов плохо понимают значение исторических образов, результат может оказаться формальным и обезличенным.
В таком случае важный символ сохраняется лишь по отдельной детали, тогда как остальные элементы не позволяют однозначно определить его исторический смысл. Это показывает, что искусственный интеллект и цифровые инструменты не могут заменить содержательное знание истории. Без ясного понимания того, что именно необходимо сохранить, технологии способны воспроизводить внешнюю форму, но утрачивать смысл.
СМИ должны участвовать в формировании ответственного отношения к ИИ
Медиа выполняют не только функцию распространения новостей, но и роль посредника между технологическими изменениями и обществом. Они должны объяснять, как работают алгоритмы, какие риски связаны с обработкой личных данных, почему дипфейки опасны и каким образом проверять цифровые материалы.
Особое значение имеет сохранение исторической памяти. Если средства массовой информации и образовательные институты не формируют ясное представление о культурном и историческом контексте, эту роль частично начинают выполнять зарубежные технологические модели со своими ограничениями и интерпретациями.
Законодательное регулирование развивается быстрее, чем готовность инфраструктуры
Была отмечена высокая скорость принятия законодательных инициатив в сфере искусственного интеллекта. При этом наличие закона само по себе не означает немедленной технологической независимости или готовности страны полностью перейти на отечественные системы.
Между политическим решением и практической реализацией сохраняется значительный разрыв. Для его преодоления необходимы собственные модели, вычислительные мощности, специалисты, качественные национальные массивы данных, понятные правила ответственности и адаптация технологий к русскому языку и российскому контексту.
Главный вывод выступления заключается в том, что искусственный интеллект одновременно расширяет возможности человека и усиливает риски контроля над ним. Без критического мышления, осознанного отношения к личным данным, независимой проверки информации и внимательного отношения к культурному контексту технологический прогресс может привести не только к удобству, но и к росту манипуляций, зависимости и утрате доверия к цифровой реальности.
