×
Как ИИ учат сексизму

Вы никогда не узнаете от Жаклин Фельдман, что она стала страстным поборником равенства мужчин и женщин для искусственного интеллекта. Окончив в Йеле курс английской литературы и письменности, она предпочитает писать, не выходя из своей квартиры в Бруклине, в окружении книг, лишь изредка поднимаясь на крышу в душные ночи.

 

Но писать – это не все, что может Жаклин. Однажды ее наняли, чтобы написать личность в Chatbot для Kasisto. Это стартап, который фокусируется на программном обеспечении для искусственного интеллекта. Так Жаклин стала важной персоной, которая отвечает за принятие важных решений в области гендерного подхода для ИИ. Проще говоря, она учит бота Kai такой личности, чтобы он не считал себя ни мужчиной, ни женщиной.

 

Босс Фельдман по Kasisto Дрор Орен говорит, что работа команды заключается в том, чтобы боты начали понимать необходимость равенства полов в отношении людей. Технологии не имеют пола. Не должны победить ни сексисты, ни феминистки. Искусственный интеллект не может давать чрезмерно женские ответы для большинства продукций. Ведь, по сути, большинство навигаторов и цифровых помощников разговаривают с пользователями женским голосом. И такая тенденция наблюдается во многих технологических сферах с применением ИИ.

 

 

 

Kasisto хочет, чтобы, например Siri от Apple перестала быть ярко выраженной женщиной. В ролике выше Джейми Фокс заигрывает с женским виртуальным помощником, предполагая, что она влюблена в него. То же касается и цифрового помощника Alexa от Amazon. Есть еще Amy– бот, который планирует встречи с помощью электронной почты, и он научился даже краснеть, когда ему предлагают что-то непристойное. Это сделала сама компания, чтобы опять же удержать внимание мужчин.

 

Такой гендерный подход с кокетством и заигрываниями ИИ с людьми мужского пола вынуждает недоумевать представителей женского пола. Ту же Alexa можно позвать замуж.

 

На что она ответит: «К сожалению, я не тот тип, который вступает в брак».

 

А если вы спросите Siri: «Кто твой папа?», она ответит: «Вы».

 

Лишь Cortana от Microsoft пытается уйти от непристойных вопросов выражениями типа «Это единственный вопрос, который вы хотите мне задать сегодня?»

 

Эта тенденция в любом случае поднимает волну негодования среди феминисток.

 

Так вот бот Kai, над которым работает Жаклин, пытается стать гендерно нейтральным. При непристойных вопросах он попросит пользователя не беспокоить его по этим вопросам, а затем намекнет, что пора бы вернуться к деловым вопросам.

 

Конечно, многие из компаний теперь предлагают и вариант мужского голоса, но не по умолчанию. А реклама, например, полна примеров, где доминирует женский голос во всем, что касается техники. Он вроде как мягче, нежнее, его хочется больше слушать.

 

Фельдман говорит, что все вышеперечисленное вредно для общества. Сексуализированный ИИ вызывает массу проблем и буквально учит людей плохому, плодя иллюзии. Ведь в результате восприятия нежного голоса как сигнала к согласию в мире участились случаи бракосочетаний с телефонами, планшетами и другими гаджетами, которые разговаривали с мужчинами-пользователями женскими голосами.

 

При том, что если бы такой мужчина разговаривал с реальной женщиной, он бы вряд ли получил согласие на брак после первой фразы. Отношения – это не запрос в поисковике. Ленивым приходится перебороть себя, если хотят создавать семью и делать что-то еще, чем просто разговаривать с ботами.

 

Как ИИ учат сексизму

 

Бот Kaiо пускает все типично сексистские или кокетливые шутки и пытается осознавать себя как гендерно нейтральное существо.

 

Даже если его спросить, верит ли он в любовь, бот ответит (нарочно не используем слов типа «он» или «она», так как этот бот даже не «оно»): «Любовь циклична. Безусловная любовь есть бесконечный цикл».

 

Человек так не ответит. А вот бот должен. Это результат его исследований миллиардов строк текста по теме «любовь». К этому выводу его привел «машинный интеллект» через «машинное обучение».

 

Даже те цифровые помощники, которые чрезмерно не феминизировались, такие как голосовой помощник Google – Google Now, не являются полностью гендерно нейтральными. Хоть у него и нет женского имени, на поисковые запросы Google по-прежнему отвечает женский голос, что еще раз приводит нас к выводам ныне покойного профессора Стэнфордского университета Клиффорда Насса, который сказал, что «люди предпочитают звук голоса женщины».

 

Компания Kasisto хочет обойти это утверждение и дать будущему цифровому помощнику голос, который не назвать ни женским, ни мужским. Таким голосом, по мнению представителей компании, должны разговаривать роботы в будущем, чтобы не иметь эротический подтекст и не касаться проблем сексизма.

 

«Мы хотим гордиться тем, как наш бот взаимодействует с людьми, поскольку он отражает наши ценности как компании», – заявили представители Kasisto.

 

Amazon и Google отказались комментировать эту историю, Apple не ответила на просьбы об интервью. Дебора Харрисон, один из авторов личности от Microsoft для Cortana, говорит, что компании выгоден любой голос, вне зависимости от пола, лишь бы он помогал привлекать внимание и был приятным на слух. А в этом отношении голос женщины более привлекателен для массовой аудитории, чем мужской. Тем не менее она также сказала, что компании не просто было прийти к решению дать цифровому помощнику именно женский голос.

 

«Эта отрасль – цифровые помощники и исследования в ИИ – во многом еще находится в младенческом возрасте, поэтому наше взаимодействие с ними пока сводится к знакомству с технологией. Постепенно мы придем к каким-то общепринятым стандартам», – сказала Харрисон по электронной почте.

 

Пока все еще большое количество людей в компьютерной науке не признают каких бы то ни было проблем чрезмерно сексуализированных ботов, поэтому им не важно, какими голосами разговаривают Siri, Amy, Cortana, Alexa и им подобные.

 

«Не вижу проблемы – значит, ее нет».

 

Но Kasisto отлично все видит и старается найти решение проблемы до того, как на нее обратят внимание массы. Там работают технопророки.

 

Автор: Степан Мазур

 

Оригинал фото: engadget