Искусственный интеллект
© Thinkstock


Глава SpaceX и Tesla Motors Илон Маск, основатель Facebook Марк Цукерберг и актёр Эштон Кутчер, исполнивший роль CEO Apple в фильме «Джобс: Империя соблазна», объединились, чтобы инвестировать 40 миллионов долларов в фирму по созданию искусственного интеллекта Vicarious FPC. Комментарий к этой новости дает Денис Тулинов, блогер и популяризатор науки. Он рассказывает о трудностях, сопутствующих разработке ИИ заявленного уровня, и о том, что умение распознавать CAPCHA, которым так гордятся создатели Vicarious, — ещё не показатель его эффективности.

На днях прошла новость, что Элон Маск, Марк Цукерберг и Эштон Кутчер (киноактер) совместно инвестируют $ 40 млн. в искусственный интеллект. Деньги вкладываются в компанию Vicarious, которая разрабатывает софт на основе вычислительных принципов человеческого мозга. В качестве своего кредо компания заявляет: «мы создаем программу, которая думает и учится как человек».

За научную часть там отвечает Dileep George, талантливый математик, ранее работавший у Джеффа Хокинса в Numenta. Лет десять назад Хокинс звездил со своей книгой, главные идеи которой, по-видимому, используются в нынешних попытках создать ИИ по образу и подобию естественного интеллекта. Отмечу, что несмотря на ряд интересных мыслей у Хокинса, я не слышал о громких успехах Numenta за прошедший период.

В различных интервью руководители подтверждают, что их цель – интеллект человеческого типа. Возможно, это правильный ход для привлечения инвестиций, однако сомневаюсь, что такие заявления полезны в долгосрочном плане. Когда в установленные сроки достичь цели не удастся, пострадать может все направление, связанное с моделированием сильного ИИ – убеждать инвесторов станет гораздо труднее.

В настоящий момент Vicarious может похвастаться алгоритмом, умеющим проходить капчу. Авторы не раскрывают код, но подчеркивают, что программа действует подобно ЕИ.



Замечу, однако, при всем уважении, что для решения задачи распознавания символов не обязательно быть человеком. Её способны решить, например, попугаи или моржи. Помимо того, алфавит паттернов, которые нужно заучить, крайне ограничен, что имеет мало общего с условиями реального мира. Рискну предположить, что успехи будут, но сведутся к одному-двум направлениям, связанным с узкими прикладными задачами. С интеллектом общего типа придется сильно помучиться. По этому поводу два соображения.

1. Мы пока не знаем вычислительных принципов ЕИ. Возможно, информации прибавится в результате новых прорывных технологий считывания активности мозга. Ряд методов уже появляется, они позволяют сканировать ансамбли в сотни тысяч нейронов. Но это число необходимо увеличить на порядок, а желательно – на два. Тут следует рассчитывать на проект BRAIN (он был инициирован как раз вследствие безуспешных попыток выяснить основополагающие механизмы).

Пока не получается не только сформулировать т.н. принципы вычислений интеллектуального процесса у ЕИ, но и объяснить даже самые тривиальные, казалось бы, вещи. Например, зачем мозгу сон и сновидения. Это эпифеномен или необходимое условие интеллекта. Или случаи вроде такого: женщина упала с лестницы и обрела талант рисовать. Что произошло с принципами в результате простого механического воздействия? В терминах Н. Талеба это настоящее воплощение антихрупкости! – сильный стресс привел к улучшению работы системы. Обладает ли ИИ такими эффектами (должен ли обладать)? Иными словами, это попытка построить полноценный ИИ по фрагментарным сведениям о ЕИ.

2. Сам подход копировать природу может оказаться неперспективным (ограниченно перспективным). В его основе лежит убеждение, что эволюция выработала эффективные модели, которые можно воплотить в компьютере путем обратного инжиниринга мозга. Проблема может заключаться в том, что софт в данном случае неотделим от харда, и эффективность алгоритмов сильно привязана к свойствам машины, на которой они реализуются. Мозг – это желеобразная масса, которая постоянно видоизменяется; помимо когнитивной деятельности она занимается метаболизмом (в основном) и обслуживанием низкоуровневых задач. С точки зрения программиста происхождение компьютера не должно иметь значения, но природа «писала код» одновременно с созданием «машины». И принципы вырабатывались, исходя из многих критериев, где интеллект был лишь в ряду прочих. Ожидать воспроизвести такой алгоритм на принципиально другой машине и получить результат того же качества, быть может, напрасный труд. Существует и другая стратегия – использовать сильные стороны компьютера (по ср. с мозгом) и прийти к решению с другой стороны. Как, например, делает Google или IBM.

Впрочем, эти соображения давно известны, они не должны восприниматься в качестве довода против финансирования данного направления. Наоборот, оно может оказаться источником важных продвижений в понимании фундаментальных свойств интеллекта в силу того, что объединяет специалистов из CompSci и Neuroscience. Именно поэтому громкие заявления здесь, на мой взгляд, вредят. В России, к слову, этим больше всех грешит Президент Российской Ассоциации нейроинформатики В. Дунин-Барковский, регулярно выдающий смелые прогнозы. Как сейчас помню, два года назад на конгрессе «Глобальное будущее 2045» он бодро сообщил, что его лаборатория посвятит 2013 год анализу различных данных нейронаук, а в 2014 выявит принципы и механизмы работы мозга. Теперь он пишет: «Скорее всего, ждать появления искусственных разумных систем осталось недолго — не больше пяти лет, то есть до конца 2018 года». Ну ok, пять лет мы подождем.

P.S. При обратном инжиниринге обычно предполагается, что базовые принципы вычислений для всех людей общие (иначе нельзя делать глобальные выводы по малой выборке). Это разумно, но нельзя отрицать, что по уровню интеллекта люди все же различаются. Что является уникальным для каждого человека – это картина связей мозга, та самая машина, реализующая универсальные алгоритмы. В качестве примера, мозг Эйнштейна оказался особенным даже по сравнению с мозгом молодых индивидов: его мозолистое тело в целом толще. За счет этого важные участки в обоих полушариях были связаны между собой гораздо лучше среднего.



Поскольку вероятные индивидуальные особенности мозга представляют собой многомерное пространство, учесть их при обратном инжиниринге практически невозможно и не думаю, что такая задача будет ставиться. Это не критично, если цель – интеллект Полиграфа Полиграфовича Шарикова. Если задача амбициознее, тогда детали могут иметь значение.
Обсудить в блоге автора
Ну, не знаю у кого как, но у меня на эту тему соображений не много, а очень много.

В частности, более-менее понятно, зачем нужен сон. Как-нибудь сподоблюсь это написать отдельным постом.

Вообще есть ряд задач, которые НИКОГДА (то есть гарантированно) не будут решены искусственным интеллектом не смотря на то, что их решение естественным - обычное дело. Даже когда проблема ИИ будет решена и в философском и в техническом плане, эти задачи всё равно обречены остаться не решёнными. Например, задача полноценного перевода.

К задаче перевода с языка на язык есть два принципиально разных подхода:
1. Сконвертировать строку символов, написанную на одном языке в строку символов, написанном на другом языке. Эта постановка задачи реализуется автоматическими искусственными переводчиками, а также её применяют начинающие естественные переводчики (когда пишут подстрочник).
2. Понять смысл текста на одном языке, и выразить его на другом языке.

Для получения качественного перевода годится только вариант 2. И, к сожалению (или к счастью?) этот вариант может быть реализован только через живого человека. Просто потому, что для того, чтобы понимать СМЫСЛ коммуникационного сообщения, нужно быть существом, живущим в мире, в котором может иметь место описанная ситуация.

Допустим, нужно перевести на английский такое предложение: "В комнате было совсем нечем дышать, нестерпимо хотелось открыть окно". Ничего особенного. Достаточно "продвинутый" автоматический переводчик, работающий по варианту 1, вполне способен выдать нечто удобоваримое. Но для того, чтобы пройти по варианту 2, нужно быть существом, которое:
а). Бывает в комнатах (а не только в оперативной памяти компьютера).
б). Дышит воздухом.
в). Хотя бы раз в жизни открывало окно.

Если сделать робота-переводчика, который будет способен понимать смысл человеческой речи, то он неизбежно должен будет жить в нашем мире - дышать воздухом, пить пиво с друзьями, любить, бороться за место под Солнцем, играть с котятами и... ну да, ему нужно будет выдать паспорт. А деинсталляцию программы приравнять к убийству. Кто-нибудь за такое возьмётся?