"Опасный аромат технологий, человечество заигралось с ИИ, утрата безопасности" Отец Александр Волков
Отец Александр Волков, Настоятель храма преподобного Сергия Радонежского в Солнцеве, руководитель информационной службы Московской епархии. Интенсив "ГорИИзонты: эволюция медиа", организатор "Мастерская новых медиа".
Метафора одоранта как отправная точка
Выступление открывается образом газа, который в природе не имеет запаха, но искусственно одорируется для того, чтобы человек вовремя распознал опасность и отреагировал — ушёл, не зажигал огонь, принял меры предосторожности. Этот образ становится ключевой метафорой всего выступления: спикер утверждает, что современные технологии, и в первую очередь искусственный интеллект, поступают ровно наоборот. Вместо того чтобы сохранять «предупреждающий сигнал» — некоторую настороженность, дистанцию, ощущение чужеродности, — разработчики намеренно делают ИИ максимально приятным, снимая тем самым естественный защитный барьер человека.
Геймификация как симптом более глубокой проблемы
Человечество «заигралось» за последние два десятилетия, и подчёркивает, что геймификация — это не узкая проблема индустрии развлечений, а гораздо более широкое явление, затрагивающее саму природу взаимодействия человека с технологиями. В качестве иллюстрации приводятся конкретные примеры: искусственно приятный голос голосового помощника «Алиса» и человекоподобные роботы, которые теперь даже участвуют в боях на ринге в Китае. Логика этих примеров одна и та же — технологиям намеренно придают человеческие черты там, где в этом нет практической необходимости, и цель такого очеловечивания, по мнению спикера, требует отдельного осмысления.
Сопоставление с атомным проектом
Центральной аналитической опорой выступления становится сравнение с историей атомной энергетики. Спикер описывает выставку Росатома, где представлены нереализованные проекты — автомобиль и поезд на атомном двигателе, — эксперименты, которые не пошли в массовое использование именно потому, что общество осознало их опасность. При этом «продуктивная» сторона той же технологии — атомные электростанции, производящие электроэнергию, — состоялась и работает по сей день. Из этого противопоставления выводится главный тезис выступления: в атомной энергетике человечество сумело отделить полезную функцию технологии от её опасной, слишком тесно интегрированной в повседневную жизнь формы. С искусственным интеллектом, по мнению спикера, такого разделения не произошло — «интерфейсная» история не была остановлена, и общество продолжает сближать ИИ с человеком вместо того, чтобы удерживать его в чётко определённой функциональной нише.
Психология замены: почему человеку проще с машиной
Человек слаб и стремится к общению с тем, с кем ему комфортно, а общение с другим человеком объективно сложнее и требовательнее, чем взаимодействие с нейросетью, которая запрограммирована не говорить ничего неприятного. Спикер делает оговорку, что современные ИИ-системы всё же способны выдавать нежелательный контент, но не считает это опровержением основного тезиса: массовая склонность выбирать «удобного» собеседника-машину вместо «сложного» собеседника-человека остаётся центральной движущей силой происходящей технологической трансформации.
Предложение: снизить привлекательность интерфейса
Логическим завершением выступления становится практический вывод: раз именно чрезмерная приятность интерфейса ИИ стимулирует замещение живого общения, то одним из возможных решений могло бы стать намеренное снижение этой приятности — например, замена комфортного голоса «Алисы» на более неприятный тип личности, с которым сознательно менее удобно взаимодействовать. Это предложение прямо возвращает выступление к исходной метафоре одоранта: технологии нужен «запах опасности», а не привлекательный аромат.
Современные разработчики ИИ систематически устраняют естественные сигналы дистанции и настороженности, которые в норме защищают человека от чрезмерной эмоциональной и функциональной зависимости от технологии.
Такая позиция вписывается в более широкую критическую традицию анализа «тёмных паттернов» интерфейсов и антропоморфизации ИИ.
Ключевая аналитическая находка — использование атомной энергетики как прецедента успешного разделения полезной и рискованной сторон одной технологии. Эта аналогия работает как аргументативный якорь: она демонстрирует, что общество исторически уже умело проводить подобные границы, и переносит ответственность за отсутствие такой границы в сфере ИИ на осознанный выбор разработчиков, а не на неизбежность технологического прогресса.
