×
 Стивен Хокинг предупреждает: роботы опасны

Британские лидеры по разработке искусственного интеллекта подписали обращение, в котором они призывают исследователей по всему миру внимательно изучить вопрос безопасности новых разработок. Подробностями делится портал wired.co.uk.


Открытое письмо призывает организовать независимое исследование, которое оценит «общественную пользу» новых разработок в сфере AI (искусственного интеллекта). Письмо, подписанное Институтом жизни будущего, Стивеном Хокингом и Элоном Маском, а также рядом других ученых со всего мира, отмечает, что до текущего времени разработки оставались в пределах «нейтральных или общественно полезных» начинаний. Однако ввиду стремительного роста популярности таких инженерных экспериментов необходимо убедиться, что созданные системы «устойчивы и надежны». 
«Наши системы искусственного интеллекта должны делать то, что мы хотим, чтобы они делали», – отмечается в письме. Сегодня мы стоим на пороге новой эры, так как роботы выходят из лабораторий в сферу широкого экономического применения.


«Хотя преимущества от использования этих технологий огромны и мы уже близки к победе над болезнями и бедностью, нам необходимо внимательно отнестись к возможным негативным последствиям и рискам», – признают разработчики AI. Обращение выделяет несколько областей для исследований, включая автономные роботизированные устройства и проблемы безопасности персональных данных, возникающие в сфере использования искусственного интеллекта в области видеонаблюдения.


«Сегодня мы сталкиваемся с многочисленными случаями недопонимания реального масштаба этих вопросов», – признал Тони Прескотт, директор центра роботостроения в Шеффилде. Прескотт отмечает, что подписание подобных обращений ведущими технологическими компаниями, такими как Google, – хороший знак, и он стремится к тому, чтобы их подписали в том числе и государства.

 

Автор: Александра Кисель