Дипломные работы студентов с ИИ и отсутствие критического мышления, Вячеслав Лаук-Дубицкий

Вячеслав Лаук-Дубицкий, Продюсер, разработчик компьютерных игр. Интенсив "ГорИИзонты: эволюция медиа", организатор "Мастерская новых медиа".

Одной из ключевых проблем становится чрезмерное доверие к результатам, которые генерируют нейросети. Особенно заметно это проявляется в образовательной среде: студенты нередко воспринимают ответ искусственного интеллекта как заведомо правильный и не пытаются самостоятельно проверить полученную информацию.

На примере проверки дипломных работ показано, что многие студенты не анализируют даже уникальность названия собственной темы, программы или игры. При дополнительной проверке выясняется, что формулировки и идеи уже существуют в интернете или практически полностью совпадают с готовыми материалами. При этом студент может быть уверен, что нейросеть предложила ему оригинальную и сильную идею.

Проблема заключается не только в использовании ИИ, а в отказе от критического мышления. Раньше базовым требованием считалась элементарная проверка: существует ли такая идея, не является ли она заимствованной, насколько самостоятельно выполнена работа. Теперь часть пользователей воспринимает положительную оценку нейросети как достаточное подтверждение качества и оригинальности результата.

В образовательной сфере это приводит к расхождению между ожиданиями студента и реальной оценкой работы. Нейросеть может убедить человека, что его решение оригинально и заслуживает высокой оценки, тогда как проверка показывает обратное. В результате итоговая оценка снижается не из-за самого факта использования ИИ, а из-за отсутствия самостоятельной проверки и осмысления его ответа.

Отдельное направление связано с распространением искусственного интеллекта в сфере мультимедиа. Уже в ближайшей перспективе системы на основе ИИ планируется использовать для оценки фильмов, сценариев, игр и другого контента. Такая оценка может стать значимой при принятии решений о финансировании проектов.

Ожидается, что несколько независимых компаний будут разрабатывать системы оценки медиаконтента. Это означает, что искусственный интеллект постепенно становится не только инструментом создания произведений, но и механизмом, влияющим на то, какие проекты получат поддержку и доступ к финансированию.

Возможное преимущество такой системы — предварительный отбор большого количества контента. С её помощью можно выявлять проекты, которые не соответствуют установленным требованиям или обладают низким художественным и содержательным качеством. Это потенциально может сократить количество слабых фильмов, игр и сценариев, которые получают ресурсы на производство.

Однако автоматизированная оценка создаёт серьёзные риски. Одна из рассматриваемых систем использует специализированную версию нейросети, обученную на словаре духовно-нравственных ценностей и большом количестве критериев. При наличии сотен параметров итоговая оценка может выглядеть объективной и научно обоснованной, хотя на практике возникает возможность по-разному трактовать эти критерии.

Чем больше критериев используется в оценочной модели, тем выше риск непрозрачности. Одну и ту же идею можно представить как соответствующую требованиям или, наоборот, как противоречащую им — в зависимости от того, каким образом сформулированы параметры и как настроена система. Поэтому большое количество критериев само по себе не гарантирует справедливость и точность оценки.

Искусственный интеллект нельзя воспринимать как безусловный источник истины. Его результаты требуют проверки, особенно когда речь идёт об образовании, авторстве, оригинальности и распределении финансовых ресурсов. ИИ может быть полезным инструментом анализа, но окончательные решения должны учитывать человеческую экспертизу, контекст и возможность ошибок самой системы.