×
Татьяна Черниговская, ПМЭФ: Те, кого мы обгоняем, не на печке лежат, они тоже бегают, и они искусные бегуны. Догонять не нужно вообще, нужно побежать другой дорогой. Это именно то, что должен делать наш мозг

Герман Греф: Татьяна Владимировна Черниговская, доктор биологических наук, профессор кафедры общего естествознания…



Татьяна Черниговская: Давайте я сама скажу. Это кафедра проблем конвергенции естественных и гуманитарных наук, но и кафедра общего языкознания, поскольку это разные науки.



Герман Греф: Татьяна Владимировна, скажите ещё название факультета, я тоже боюсь ошибиться.



Татьяна Черниговская: Это факультет свободных искусств и наук Санкт-петербургского университета, деканом которого является Алексей Леонидович Кудрин, а я его замещаю на месте.

 

Герман Греф: Интересная фраза, которую сказал Николас – богатство информации и бедность внимания. Это действительно очень- очень важно, но выступил Микал и сказал: биологические системы не могут эволюционировать с такой же скоростью, как машины. Второе. Он говорит: «Вы думаете, я, профессор психологии Стэнфордского университета, так просто умею рассчитывать ваш психологический профиль и с точностью 90 % и выше предсказать ваше следующее поведение? Нет. Это не я, это делают придуманные мною алгоритмы в машине. Машина умеет это делать лучше, чем я. Я боюсь, что я сам буду не нужен, потому что машина это делает лучше, чем я.»

 

И вопрос, Татьяна Владимировна, к вам: после всех этих вещей, услышанных нами здесь сегодня… Николас говорит, надо развивать искусственный интеллект как помощник, но он может быть как помощником, так и противником. И, в конце концов, раз нас, людей, так просто просчитать, а мы сегодня все имеем огромное количество следов или наших аватаров, как их называют. Виртуальный аватар в виртуальной реальности, копия нас цифровых, и мы каждую секунду оставляем следы, мы используем речь, вот сейчас вся наша сессия записывается, мы жестикулируем, употребляем какие-то слова, и машина все больше и больше понимает нас и может предсказать наше поведение. Мы очень предсказуемы. Наша предсказуемость - не говорит ли о нашей неконкурентоспособности, что мы в конце концов проиграем эту конкурентность с машинами и станем просто не нужным элементом? И есть ли свобода воли?



Татьяна Черниговская: Герман Оскарович, какой вы доверчивый! Вам столько всего сказали, и вы прям вот так поверили. Этого ничего нет, я вас сейчас всех расстрою.

 

Во-первых, я хочу сказать, что мы не договаривались, мы не знали, кто и что будет говорить. Меня отчасти обрадовало, отчасти расстроило, что на этой клавиатуре общей, на которой мы играем, целый ряд клавиш, ровно тех, о которых я думала, уже нажаты. Но я попробую как-нибудь выкрутиться. Поскольку я и филолог, и биолог, то имею право кое-что из литературы. Из литературы я скажу вот что: у меня есть два любимых персонажа. Один – это кот Шрёдингера, но он не вполне из литературы, конечно, но всё-таки такой сказочный персонаж. Я думаю, что большинство помнит, что это герой мысленного эксперимента Шрёдингера, который сводился к тому, что кот то ли жив, то ли мёртв, в зависимости от того, смотрят на него или не смотрят.

 

Это очень важный пункт для всей той науки, которой я занимаюсь, потому что вообще, даже если не про ту науку, которой я занимаюсь, а вообще про науку, то ведь она устроена как: вот считается, что учёные - зрители, которые сидят в зале, а здесь находится мир, и вот они извне этого мира за ним наблюдают и всё описывают.

 

Это очень крупная ошибка, потому что зрители находятся там же, где и остальной мир, поэтому они от него зависят прямо. А это значит, что нет каких-то совсем жёстко объективных вещей, то есть они, конечно, есть, я не в идеализм всех тащу, но я хочу сказать, что одни и те же факты будут значить разные вещи в зависимости от того, в какой контекст они помещаются.

 

Переводя на русский язык, это значит, что они зависят от того, кто это смотрит. Алиса, мой второй любимый персонаж, она много чего наговорила. Она и все, кто с ней общались в Зазеркалье и в Стране чудес, не только, конечно, знаменитую вещь насчёт того, что если хочешь хотя бы на месте остаться, ты должен быстро двигаться, ну и масса других вещей. Она наговорила и из квантовой физики, до которой было ещё век примерно жить, и так далее.

 

И третье, кого я вспомню, потому что я увидела здесь вопрос, там было написано:

 

так всего много, как же это все запомнить? Мой ответ простой: не надо запоминать. Просто не надо запоминать, потому что то, что надо запоминать уже помнят компьютеры и суперкомпьютеры. Надо не запоминать, а понимать.

 

И в этой связи вспоминается сказка о Красной шапочке. Если помните, когда Красная шапочка приходит в ожидании увидеть бабушку, а видит там волка, она начинает её расспрашивать, почему она так странно выглядит? Говорит: «Бабушка, для чего тебе такие большие уши?» Бабушка отвечает: «Чтобы слышать тебя». Дурацкий ответ. «А зачем тебе глаза такие большие?» «Чтобы видеть тебя».

 

Так вот, это на тему искусственного интеллекта в его простых формах, а именно, мы сделаем уши, которые будут чудо как хороши, глаза, которые будут чудо, как хороши, нос, который будет распознавать все, вкус… Все это чудно, но уши, глаза, носы, кожа и вся сенсорная система – это не более чем окна и двери в мозг. Мы слушаем ушами, а слышим мозгом. Мы смотрим глазами, а видим мозгом. И так далее. Не хочу ваше время занимать.

 

Поэтому недаром сейчас огромные деньги в мире тратятся на программы, связанные с исследованием мозга. Это то, от чего мы прямо зависим. Мы прямо зависим от того, как соображает наш мозг. Не только для того, чтобы его имитировать в системах искусственного интеллекта. Это и так понятно, но история гораздо проще. Мы вообще должны знать, кто мы такие? Это вот то, о чем вы говорили – на себя-то посмотреть надо - мы кто?

 

С чего вы взяли, что вы решите с использованием больших данных, bigdata, что вы будете предсказывать моё поведение? Моё поведение не предсказывается ни Декартом, ни Аристотелем, ни Архимедом, никем из них. Оно может быть истерическим…

 

И это, кстати говоря, люди... Вот, например, Канеман, нобелевский лауреат по экономике, он психолог, который описывал, как принимаются решения.

 

Решение принимается просто так. А я вот так пойду и всё, не хочу потому что. Как вы собираетесь это предсказать?

 

Я не к тому, чтобы так особенно всех веселить. Я буду немножко залезать, если можно, в то, что уже было сказано. Илья сказал, что газель, нас опередит газель, или ещё даже хуже того, что нас сожрёт на завтрак прямо завтра, газель.

 

Нет, нас не газель сожрёт, нас сожрёт пантера, я вам объясню, почему. Это на тему Алисы.

 

Дело не в том, чтобы быстро бежать, потому что те, кого мы обгоняем, тоже бегут. Понимаете, если мы будем догонять Силиконовую долину или вообще Соединённые штаты, или вообще что угодно, то это безумный шаг. Догонять не нужно вообще, нужно побежать другой дорогой.

 

Поэтому я подумала, может быть, это не пантера, может быть, это какое-то другое животное, но из тех, кого я знаю, она очень быстро, перемещается, но она очень быстро меняет траекторию движения. То есть вот эта удивительная пластичность, с которой она заворачивает, а потом раз – и заворачивает в другую сторону так, что ни один искусственный интеллект не предскажет, куда она завернёт потом…

 

Так вот, наша дорога должна находиться, это совершенно не моя область, но как я её вижу, не в том, чтобы быстрее и быстрее бежать, повторяю, остальные не на печке лежат в это время, они тоже бегают, и они искусные бегуны.

Поэтому нужно искать другие ходы. Это именно то, что делает наш мозг, между прочим.

 

Я недавно стала думать, если б мне удалось до этого додуматься по-настоящему, то возможно это было бы открытие, но я думаю, что не выйдет.

 

Мозг, вероятно, делает ту работу, которую делают Шерлок Холмс и мисс Марпл, а именно: они смотрят, где такое бывает. Это не обязательно из этого - это, из этого - это. Если бы это было так, то тогда, действительно, любое поведение предсказуемо. А нет, я уже видел, что это бывает так. Или я видел совсем другую вещь.

 

И тут я подбираюсь вот к чему. Вот та область, в которой я работаю, называется когнитивная наука, и она конвергентная, мультидисциплинарная, и она включает в себя всех, кто здесь сидит плюс ещё кое-кого, а именно: она включает в себя психологию, лингвистику, нейронауки, искусственный интеллект и, разумеется, философию.

 

Философия нам нужна не для красоты, не для того, что приличный человек должен знать, кто такой Декарт, не для этого. Для того, чтобы хороший философ правильно мыслил, он правильно ставит вопросы. Бесполезно иметь какую угодно дорогую аппаратуру, то есть её очень важно иметь, и на этом вся наука стоит, но если нет того мозга, который понимает, как задать вопрос, и того мозга, который понимает, что делать с этой гигантской кучей данных, которую мы получаем каждую секунду, вот если нет этого мозга, то всё остальное бесполезно.

 

Это я вам клянусь, потому что я с этим каждый божий день сталкиваюсь. Американская гигантская программа Brain – это аббревиатура, кстати, азиатские программы, европейские программы включают в себя лучшие университеты и лучших интеллектуалов из разных областей, кстати, не только из нейронаук, которые занимаются мозгом. И почему никто в этом зале не говорит, никто ни цента не даст просто так. Зачем такие гигантские деньги, как федеральные, так и частные? Зачем?

 

Потому что все понимают, если нам удастся разгадать хоть как-то, хоть в каких-то дозах, я уверяю вас, что на 100 % мы этого никогда не сделаем, но если хоть как-то удастся понять, что здесь (в голове) происходит - это изменит всю нашу цивилизацию, это изменит экономику, коммуникацию, это изменит образование, это изменит всё, поэтому игра стоит свеч.

 

Мы зависим от мозга, как мозг мне покажет, таков мир и есть. Вот в чем неприятность, поэтому я должна ему доверять, а если он лжёт? Я имею в виду, например, что у него, у этого мозга, шизофрения, и я не шучу. Это серьезно. Я работала в психиатрии, я не врач, естественно, я никого не лечила, но я знаю, что для человека, у которого галлюцинации, они являются такой же реальностью, если не большей, как для нас реальный мир. Поэтому студентов я пугаю вопросом, а почему вы считаете, что все это есть? Я не буду продолжать, тяжелая тема…

 

Всё-таки, поэтому я думаю, что не газель, а пантера, это раз, и чрезвычайная роль образования. Я понимаю, как банально это звучит, потому что об этом говорят все всё время, но тем не менее. Сегодня, кстати, я вспомнила, пока в машине ехала, там было сказано, что День защиты детей. Я забыла.

 

Мы какой мир детям подсунули? Вы посмотрите, где мы оказались. Мы все время говорим, что мир изменится. Мир уже изменился. Точка. Мы живём в мире, который кардинально отличается от того мира, который был даже 10 лет назад. Я бы даже сказала, даже пять.

 

То есть мы уже в другом мире. Этот мир, во-первых, как у Алисы, помните, там лавка такая у Алисы была, она какие-то вещи хотела себе купить, и она ищет вещи, на что она ни посмотрит - те вещи тут же перемещаются. Куда ни посмотрит – она не только взять её не может, а даже увидеть её не может. Эта вещь все время меняет место.

 

Таких шедевров в Алисе, если кто давно не читал эту книгу, я очень советую, там полно.

 

Это тот мир, в котором мы оказались, он, во-первых, меняется все время, не на тему газелей, а на тему того, что он быстро эволюционирует, а он все время разный. Он разный в зависимости от того, с какого боку ты на него посмотришь, какая у тебя идеология, какая у тебя научная или жизненная позиция и ещё тысяча факторов. То есть он не одинаковый. Это раз.

 

Он прозрачный, о чем уже сегодня был разговор, все про каждого из нас всем известно. Это неприятно. Ещё одна вещь. Сменились, и тут требуется философ, и я даже не знаю, справимся ли мы с этим вообще, личность все ещё есть? Личность есть? Граждане, с которыми вы коммуницируете, про соцсети я вообще даже слышать не хочу, но даже если просто письмо вам приходит, вы уверены, что это человек? Вы уверены, что это тот самый человек? Вы уверены, что это один человек, а не двести, то есть размыты границы личности, в том числе нашей с вами. Вот меня интересует, я где заканчиваюсь? Мои статьи висят Бог знает где, в облаках куча моих данных, в известных облаках, там масса функций, которые раньше у меня в голове были, теперь у меня в ноутбуке, в планшете, в телефоне и так далее, есть даже термин spread cognition, или distributed mind, то есть распределённой мозг. Как у муравьев, что ли? Вы понимаете, оно разъехалось, этот мир постоянно меняется, более того, мы попали в ситуацию,

 

я новый термин для себя увидела, мир стал нечеловекомерен.

 

Я такого слово никогда не слышала, но вдумайтесь в него. Скорости, с которыми действуют устройства, которые, похоже, чуть ли не миром, как нам было сказано, уже управляют, действуют со скоростями, в которых люди не живут. Это наноскорости.

 

Размеры, в которых происходит современная высокого ранга цивилизация - это размеры, в которых люди не живут, это наноразмеры. Мы попали в мир, с которым мы не знаем, что делать. И в небанальным смысле, что все больше и больше информации, это банально смысл тоже есть.

 

Я, кстати, своих коллег по университету этим пугаю. Мы не можем детей держать в школе 16 лет, всякому понятно, но мы не можем остановиться на Ньютоне, делая вид, что после Ньютона ничего не произошло.

 

Словно говоря, Ньютон. Понимаете? Пока мы разговариваем, штук 30 статей вышло в любой из областей, которые я назвала. Я никогда их не прочту. Что мне с этим делать?

 

Поэтому мы должны что-то такое придумать с образованием, что будет отличаться от всего, чем мы до сих пор занимались. Возможно, нужно детей учить метанавыкам, как учиться, как держать свое внимание, как держать память, справляться с информационными потоками, как не тронуться умом от всего этого. Да, мы попали в серьезную ситуацию.

 

Я вижу один из выходов в том, чем крупные компании, и Сбербанк в том числе, сейчас занимаются. Я вот думаю, почему они приглашают на свои заседания искусствоведов, музыкантов, актёров? Но не для общего же банального просто образования? Хорошо, конечно, чтобы человек знал, кто такой Вивальди, ведь дело не в этом.

 

Но дело в том, что люди искусства владеют другим типом мыслительной деятельности, они делают другие ходы. Это не ходы алгоритмов, это другой ход.

 

Нам очень трудно его подсмотреть, потому что это никогда не эксплицировано. Оно эксплицировано уже в произведении искусства, а что он делал, пока он это делал, мы не знаем. Но мне кажется, что дорога в эту сторону. Поэтому я нам всем желаю мужества справиться с этой ситуацией, а также вспомнить ещё одно полезное произведение, а это именно все мы читали в детстве "Принц и нищий".

 

Помните, они там менялись местами, и к нищему, который оказался на позиции принца, попала королевская печать. Он не знал, что это такое, не знал, что с ней делать, поэтому он ею колол орехи. Хорошее дело – колоть орехи, но она предназначена для другого. Так вот, наш мозг предназначен не для того, чтобы этим мозгом отбивать мячи, что тоже неплохое занятие, а для того, чтобы делать то, ради чего мы созданы. Мы такие уникальные на этой планете. Другие не хуже, кстати, но мы точно сильнее и быстрее. Пока.



Герман Греф: Татьяна Владимировна, спасибо большое. Судя по реакции аудитории, грех было вас перебивать, я бы тоже слушал ещё. Коллеги, мы перебираем по времени, может быть, короткая реакция спикеров, потом голосование и конец. Илья, пожалуйста.



Илья Стребулаев: Спасибо большое. У меня будет очень короткая реакция. Скушает вас на завтрак нежная газель или сожрёт вас на завтрак дикая пантера – от вас останутся в любом случае рожки да ножки, сухой остаток тот же. Но интересно, что я выбрал слово газель не случайно, потому что между газелью и пантерой есть очень большая разница. Пантера достигает необычайно большой скорости, на самом деле, бежит быстрее, чем газель, именно поэтому пантера может съесть газель. Больше 100 км час. Но пантера бегает очень недолго. Если она газель в течение 30 секунд не поймала, то она потом целый день отдыхает.



Татьяна Черниговская: А нам много не надо.



Герман Греф: Нам надо быстро!



Илья Стребулаев: А газели могут бегать очень быстро, но главное очень долго. А это очень важно для выживания.



Герман Греф: Спасибо большое, Илья. Микал, прокомментируете что-нибудь?



Микал Косински: Спасибо за очень интересное обсуждение. Я просто хочу добавить немножко. Я согласен в основном с тем, что вы сказали, я рад, что мы это обсуждаем, но одну вещь хочу сказать. Если вам нужно что-то просто потому что, или вы не сделали что-то просто потому, что вы решили, что это вам не нужно, это не значит, что нет основополагающей причины для этого, и что эту причину не сможет понять компьютер.

 

Я хочу сказать, что если мы, люди, не можем что-то понять, не означает, что искусственный интеллект не сможет этого понять в будущем. Пример. Голубь, который пойдёт в университет, будет учёным голубем, но при этом он никогда не сможет понять мозг человека и поведение человека, но тоже самое и с нами. Так много понятий везде вокруг нас, которые мы не сможем понять, наш человеческий мозг не сможет понять, но это не означает, что никто не сможет это понять, потому что мы, люди, можем создать инструменты, например, искусственный интеллект, который сможет понять эти сложные вещи, которые сейчас нам недоступны. Конечно, это будет серьезная проблема для нас, потому что мозгу, который работает на искусственном интеллекте объяснить всё это, нам, голубям, которые не смогут это понять. 



Татьяна Черниговская: Одну минуту, отвечу только. Когда несколько месяцев назад компьютер обыграл чемпиона по игре в го, то все в ужасе, естественно, были, потому что это уже совсем наступление на нашу территорию, а потом началось вот что: игроки в го, разбирая, как играл компьютер, приходили в восторг от невероятно красивых ходов, которые делал компьютер и которые людям никогда в голову не приходили. Это я подлизываюсь к вам.



Герман Греф: Николас, несколько слов.



Николас Лунблад: Я хочу сказать о том, что нам помог узнать искусственный интеллект. Компьютеры плохо задают вопросы. Мы хорошо задаем вопросы. Нам нужно продолжать задавать эти вопросы, потому что именно в этом мы лучше. Люди лучше в задавании вопросов.