ИИ как инструмент коммуникации и риск «подмены» - иллюзия человеческого взаимодействия
Интенсив "ГорИИзонты: эволюция медиа", организатор "Мастерская новых медиа".
От команд к разговору: Интерфейс ИИ — это не нажатие кнопок, а полноценное общение. Это создает иллюзию человеческого взаимодействия. Отмечается риск того, что люди доверяют свои внутренние переживания и вопросы психического здоровья машине.
Проблема «прозрачности»: Предлагается помечать не только сгенерированный контент, но и сами алгоритмы и установки (предвзятость) модели. В качестве примера приводится случай с Perplexity, который назвал победу в Великой Отечественной войне «мифом русских».
ИИ как «антипропаганда»: Автор выдвигает идею, что ИИ может стать инструментом борьбы с пропагандой. Если пользователь будет просить модель выдать разные точки зрения на одно событие (позицию России, Китая, союзников и т.д.), возможность сравнения сделает пропаганду бессильной.
Техническая природа и «ИИ-гигиена» «Умный Т9»: С технической точки зрения ИИ — это вероятностная модель, которая просто подбирает наиболее вероятные слова. ИИ-грамотность: Вводится понятие «ИИ-гигиены» — необходимости критически подходить к ответам машины.
Критика персонификации: Спикер предостерегает от излишнего «очеловечивания» ИИ (приятные голоса, человекоподобные роботы). Это сравнивается с добавлением запаха в беззапахный газ: приятный интерфейс может маскировать опасность, а стремление общаться с «комфортным» ИИ заменяет трудное, но важное общение между людьми.
Научный подход и проблема достоверности Зависимость от данных: Другой участник дискуссии подчеркивает, что ответы ИИ зависят от того, на каких данных он обучался. В связи с этим важна разработка суверенных моделей ИИ.
Кризис критического мышления: Существует риск «переполнения» человека массивами правдоподобной, но недостоверной информации (дипфейки, сгенерированные статьи).
Роль науки: Наука, основанная на опровержении гипотез и проверке фактов, должна стать базой для развития критического мышления у всего общества, чтобы отличать истину от галлюцинаций ИИ.
Экзистенциальный и человеческий аспекты Ускорение времени: Отмечается, что из-за технологий люди перестали радоваться мелочам и чувствуют, что время летит быстрее.
Уникальность разума: Высказывается мнение, что человеческий разум создан Творцом, и машина, какой бы совершенной она ни была, может лишь имитировать его, но никогда не скопирует полностью.
ИИ как помощник, а не лидер: ИИ должен оставаться инструментом, который помогает человеку, но не занимает его место и не ведет за собой.
ИИ — это «очень умный Т9» в «приятной обертке», который может быть как мощнейшим инструментом познания (через сравнение разных точек зрения), так и опасным суррогатом человеческого общения и истины.
