Джеф Хокинс, Сандра Блэйксли Об Интеллекте

Пролог

Эта книга и моя жизнь наполнены двумя моими увлечениями.

В течение 25 лет я был увлечен мобильными компьютерами. В мире высоких технологий Силиконовой Долины я известен как зачинатель двух проектов — Palm Computing и Handspring, и как разработчик множества наладонных компьютеров и сотовых телефонов, таких как PalmPilot и Treo.

Но у меня есть и другое увлечение, которое предшествует моему увлечению компьютерами — и оно мне кажется более важным. Я увлечен изучением мозга. Я хочу понять, как работает мозг, не только с философской точки зрения, не только в общих чертах, а более детально. Мое желание — не только понять, что такое интеллект и как работает мозг, но и как построить машины, которые будут работать так же. Я хочу построить действительно интеллектуальную машину.

Вопрос об интеллекте — последний великий территориальный рубеж науки. Большинство важных научных вопросов затрагивают очень маленькие или очень большие масштабы, или события, происходившие миллиарды лет назад. Но мозг есть у всех. Вы — это ваш мозг. Если вы хотите понять, почему вы чувствуете, как вы осознаете мир, почему вы делаете ошибки, почему вы способны к творчеству, почему вас вдохновляет музыка и живопись, и вообще, что такое быть человеком — тогда вам нужно будет понять, что такое мозг. К тому же, успешная теория интеллекта и функций мозга будет иметь огромное общественное значение, и не только помогать лечить болезни, связанные с мозгом. Мы будем способны построить действительно интеллектуальные машины, хотя они совершенно не обязательно должны быть похожи на роботов и компьютеры из фантастических произведений. Наоборот, интеллектуальные машины будут базироваться на совершенно новых принципах о природе интеллекта. Как таковые, они помогут нам расширить наши знания о мире, помогут нам изучить вселенную, сделать мир лучше. А попутно будет создана огромная индустрия.

К счастью, мы живем в то время, когда проблема понимания интеллекта может быть решена. Наше поколение имеет доступ к горам информации о мозге, собранным за сотни лет, и скорость, с которой мы получаем новые данные, увеличивается. Только в США в области нейронаук работают тысячи ученых. У нас пока нет продуктивных теорий о том, что такое интеллект, или как работает мозг в целом. Большинство нейробиологов не задумывается о целостных теориях мозга, потому что они с головой ушли в эксперименты по сбору дополнительной информации о функционировании подсистем мозга. И хотя легионы программистов пытаются изготовить компьютерный интеллект, их попытки безуспешны. Я уверен, что их попытки останутся безуспешными до тех пор, пока они будут продолжать игнорировать разницу между компьютером и мозгом.

Чем же таким является интеллект, чего такого нет в компьютере, но есть в мозгу? Почему шестилетний ребенок может аккуратно перепрыгнуть с камня на камень через ручей, тогда как самые продвинутые роботы нашего времени — неуклюжие зомби? Почему трехлетний ребенок без проблем осваивает язык, тогда как компьютеры не могут, несмотря на полвека усилий лучших программистов? Почему вы можете отличить кошку от собаки за долю секунды, тогда как суперкомпьютер не может совсем? Это великие тайны, ожидающие ответов. У нас есть множество ключей к их разгадке; чего нам не хватает — это чуть более глубокого понимания.

Вы можете удивиться, почему разработчик компьютеров пишет книгу о мозге. Или с другой стороны, если я увлекаюсь изучением устройства мозга, почему я не сделал карьеру в нейронауке или в области ИИ? Ответ: я пытался несколько раз, но я отверг те способы изучения, которыми пользовались другие до меня. Я верю, что лучший способ решить проблему — использовать более детальную биологию мозга как ограничение и как путеводитель, но продолжая думать об интеллекте как о вычислительной проблеме — где-то между биологией и компьютерами. Многие биологи склонны отвергать или игнорировать идею рассуждать о функциях мозга в вычислительных терминах, а компьютерщики часто не верят, что им нужно знать что-то из биологии. К тому же, мир науки меньше приемлет риск, чем мир бизнеса. В технологическом бизнесе человек, преследующий новую идею с обоснованным подходом, может продвинуть свою карьеру, не смотря на то, что идея может не достигнуть успешного завершения. Многие предприниматели достигли успеха только после более ранних безуспешных попыток. Но в академических кругах несколько лет, потраченных на преследование бесплодной идеи, могут начисто разрушить вашу карьеру. Таким образом, я увлечен двумя идеями в моей жизни, веря, что успех в индустрии должен помочь мне достигнуть успеха в понимании работы мозга. Мне нужны финансы, чтоб заниматься той наукой, какой хочу, мне нужно изучать, как повлиять на мир, как продать новые идеи, до которых я дошел, работая в Силиконовой Долине.

В августе 2002 я основал исследовательский центр, Институт Нейронаук в Редвуде (RNI), занимающийся теорией мозга. В мире есть множество центров, занимающихся нейроисследованиями, но ни один из них не занимается поисками общего теоретического понимания работы неокортекса — части человеческого мозга, ответственной за интеллект. Именно это мы изучаем в RNI. По многим статьям RNI является начинающей компанией. Мы преследуем мечты, которые некоторым людям кажутся недостижимыми, но мы счастливы быть группой замечательных людей, усилия которых начинают приносить плоды.

* * *

Намерения данной книги амбициозны. Она описывает всеобъемлющую теорию того, как работает мозг. В ней описывается, что такое интеллект и как он возникает в вашем мозгу. Представляемая мной теория не является полностью новой. Многие из отдельных идей, которые вы прочтете, уже существовали ранее в той или иной форме, но не согласованно друг с другом. Будьте готовы к этому. Говорят, что новые идеи — это чаще всего старые идеи, переупакованные и переинтерпретированные. Это определенно применимо к предложенной здесь теории, но упаковка и интерпретация могут создать существенное различие между кучей деталей и удовлетворительной теорией. Я надеюсь, что это произведет на вас впечатление, так же как и на других людей. Обычно я слышу такую реакцию: «Это впечатляет, я не мог и подумать об интеллекте таким образом, но после того, как вы мне это описали, я вижу, как это все укладывается вместе». С такими знаниями большинство людей начинают видеть самих себя немного по-другому. Вы начинаете наблюдать ваше собственное поведение, говоря: «я понимаю, что только что произошло в моей голове». Надеюсь, что когда вы прочтете эту книгу, у вас будет новое понимание того, почему вы думаете, что вы думаете и почему вы ведете себя именно так, а не иначе. Я также надеюсь, что некоторые читатели будут настроены на то, чтоб направить свою карьеру на построение интеллектуальных машин, основанных на принципах, изложенных на этих страницах.

Я часто ссылаюсь на эту теорию и на мой подход к изучению интеллекта как на «естественный интеллект», чтоб отличить его от «искусственного интеллекта». Специалисты в области ИИ пытаются запрограммировать компьютеры, чтоб они действовали как люди, не ответив сначала на вопрос, что такое интеллект и что означает понимание. Они оставляют в стороне наиболее важную часть в построении интеллектуальных машин — интеллект! «Естественный интеллект» указывает, что прежде чем построить интеллектуальные машины, мы должны сначала понять, как думает мозг, без чего-либо искусственного. Только потом мы можем спрашивать, как же нам построить интеллектуальные машины.

Книга начинается с рассмотрения того, почему предыдущие попытки в понимании интеллекта и построении интеллектуальных машин были безуспешными. Затем я введу и разовью коренную идею теории, которую я называю модель «память-предсказание». В главе 6 я детально покажу, как физический мозг воплощает модель «память-предсказание» — другими словами, как в действительности работает мозг. Затем мы обсудим социальные и другие следствия теории, которые для многих читателей может оказаться раздражающим разделом. Книга заканчивается обсуждением интеллектуальных машин — как мы можем их построить и на что будет похоже будущее. Я надеюсь, вы найдете это завораживающим. Вот несколько вопросов, которые мы затронем попутно:

Могут ли компьютеры быть интеллектуальными?

Десятилетия ученые в области ИИ заявляли, что компьютеры станут интеллектуальными, когда они станут достаточно мощными. Я так не думаю, и я объясню, почему. Мозг и компьютер занимаются совершенно разными вещами.

Неужели предполагается, что нейронные сети приведут к интеллектуальным машинам?

Конечно мозг — это нейронная сеть, но без понимания того, что делает мозг, простые нейронные сети будут не более успешными в создании интеллектуальных машин, чем компьютерные программы.

Почему так сложно понять, как работает мозг?

Многие ученые говорят, что мозг слишком сложен, и разобраться в нем займет у нас много времени. Я не согласен. Сложность — это всего лишь симптом неразберихи, но не причина. Я утверждаю, что у нас немного интуитивные, но неправильные предположения, которые ведут нас не туда. Вера в то, что интеллект определяется интеллектуальным поведением — это большая ошибка.

Что же такое интеллект, если он не определяется поведением?

Мозг использует громадное количество памяти, чтоб создать модель мира. Все, что вы знаете и изучили, хранится в этой модели. Мозг использует эту модель, основанную на памяти, чтоб осуществлять непрерывное предсказание будущих событий. Способность делать предсказания о будущем — основная проблема интеллекта. Я достаточно глубоко опишу способность мозга к предсказанию; это коренная идея данной книги.

Как работает мозг?

Место интеллекта — в неокортексе. Хотя у интеллекта огромное число возможностей и колоссальная гибкость, неокортекс имеет на удивление регулярную структуру. Различные части неокортекса, ответственные ли за зрение, слух, осязание или языковые способности — все работают по одним и тем же принципам. Ключ к пониманию неокортекса — понять эти общие принципы и, в особенности, их иерархическую структуру. Мы изучим неокортекс с достаточной детализацией, чтоб показать, как его структура вмещает структуру мира. Эта дискуссия будет наиболее технической частью книги, но заинтересованные неспециалисты должны ее понять.

Каковы следствия этой теории?

Эта теория мозга может помочь в объяснении многих вещей, например, почему мы способны к творчеству, почему мы осознаем наши ощущения, почему у нас бывают предубеждения, как мы обучаемся, и почему «старая собака» не способна выучить «новые трюки». Я обсужу несколько таких пунктов. В конце концов эта теория даст нам понимание того, кто мы такие и почему мы делаем то, что делаем.

Можем ли мы построить интеллектуальные машины и что они будут делать?

Да, мы можем и мы сделаем это. Ясно, что в течение нескольких десятилетий возможности таких машин стремительно возрастут и займут интересные направления. Некоторые люди боятся, что машины могут быть опасными для человечества, но я утверждаю обратное. Роботы не обгонят нас. Намного легче будет построить машины, которые превысят наши возможности в физике, математике, чем построить что-то наподобие ходячих говорящих роботов из фантастических произведений. Я исследую те невероятные направления, в которых эти технологии скорее всего пойдут.

Моя цель — объяснить эту теорию интеллекта и работы мозга таким способом, чтоб любой смог понять. Хорошая теория должна быть легкой для осмысления, не затуманенной жаргоном или скомканными рассуждениями. Я начну с базовых вещей и буду добавлять детали по ходу. Что-то будет основано только на логических рассуждениях; что-то — затронет некоторые аспекты устройства мозга. Некоторые из предложенных мною деталей определенно неверны, что нередко бывает в области науки. Уйдет много лет на то, чтоб разработать полноценную теорию, но это не уменьшает ценность коренной идеи.

* * *

Когда много лет назад я начал интересоваться устройством мозга, я пошел в свою личную библиотеку в поисках хорошей книги, которая объяснила бы работу мозга. В юности я приучился доставать великолепные книги, объясняющие большинство интересующих меня вещей. Это были книги по теории относительности, про черные дыры, магию, книги по математике — все, что могло меня интересовать в данный момент. Однако, мои поиски удовлетворительной теории по работе мозга оказались безрезультатными. Я пришел к выводу, что ни у кого нет идей, как действительно работает мозг. Не было даже плохой или недоказанной теории; не было вообще никакой. Это было странно. Например, никто точно не знал, почему вымерли динозавры, но было изобилие теорий, о которых можно было прочитать. Но относительно работы мозга не было ничего похожего. Поначалу я не мог в это поверить. Меня донимало, что мы до сих пор не знаем, как работает этот важный орган. По мере изучения того, что уже было известно, я начал верить, что существует непосредственное объяснение. Мозг не был чем-то волшебным, и мне даже не казалось, что ответы могут быть сложными. Математик Пол Эрдос верил, что простейшие математические доказательства уже существуют в некой «божественной книге», и работа математика заключается в том, чтоб «прочитать эту книгу». Я был убежден, что объяснение интеллекта «где то там». Я готов был попробовать. Я хотел «прочесть книгу».

В течение 25 лет я видел образ той маленькой, простой «книги» о мозге. Это было похоже на приманку, которая манила меня все эти годы. Этот образ оформился в книгу, которую вы держите сейчас в своих руках. Мне никогда не нравилась сложность, ни в науке, ни в технике. Вы можете увидеть это в изделиях, спроектированных мной — часто отмечают простоту их использования. Все гениальное — просто. Таким образом, эта книга предлагает простую и непосредственную теорию интеллекта. Я надеюсь, она вам понравится.

1. Искусственный интеллект

Когдая окончил Корнельский университет в 1979 году в качестве радиоинженера, у меня не было каких-либо грандиозных планов на жизнь. Я начал работать инженером в новом кампусе компании Intel в Портлэнде, штат Орегон. Микрокомпьютерная индустрия только что начиналась, и Intel был ее сердцем. Моя работа состояла в том, чтоб анализировать и устранять проблемы, найденные другими инженерами, работающими с нашей главной продукцией — одноплатными компьютерами (расположение целого компьютера на одной печатной плате только что стало возможным, благодаря изобретению микропроцессора компанией Intel). Я публиковал объявления, должен был путешествовать по командировкам и встречаться с потребителями. Я был молод, и для меня это были веселые деньки, хотя я скучал по своей возлюбленной из колледжа, которая получила работу в Цинцинатти.

Несколько месяцев спустя я встретил нечто изменившее направление моей жизни. Это «нечто» было только что опубликованным сентябрьским выпуском «ScientificAmerican», посвященным полностью мозгу. Это вновь разожгло интересы моей юности относительно мозга. Это было великолепно. Оттуда я узнал об организации, развитии и химических процессах мозга, нейронных механизмах зрения, движения и других функций, а также о биологической основе психических расстройств. Это было одним из лучших выпусков «ScientificAmerican» за все время. Несколько нейрофизиологов, с которыми я общался, сказали мне, что это сыграло значительную роль в выборе их карьеры, так же как и в моей.

Последняя глава, «Раздумья о Мозге», была написана Френсисом Криком, одним из соавторов открытия структуры ДНК, который затем обратил свой талант в направлении изучения мозга. Крик заявил, что назло устойчивому приросту знаний о мозге, до сих пор остается глубокой тайной, как же работает мозг. Ученые обычно не пишут о том, что им неизвестно, но Крика это не беспокоило. Он как мальчик, который сказал «а король то голый!». Согласно Крику, у нейроученых много данных, но нет теории. Его точные слова «чего очевидно не достает — так это идейного каркаса». Для меня это по-джентельменски сказанное «Мы понятия не имеем, как это работает». Это было верно и тогда, и остается верным сейчас.

Слова Крика придали мне силы. Желание моей жизни понять работу мозга и построить интеллектуальную машину было возрождено к жизни. Хотя я только что окончил колледж, я решил поменять карьеру. Я собрался изучить мозг, не только понять, как он работает, но и использовать эти знания как фундамент новых технологий, чтоб построить интеллектуальную машину. Ушло некоторое время, пока эти планы воплотились в действие.

Весной 1980 я переехал в Бостонский офис компании Intel, чтоб воссоединиться со своей будущей женой, которая поступила в ВУЗ. Я занимался обучением пользователей и служащих тому, как проектировать микропроцессорные системы. Но мое рвение было направлено к другой цели: я пытался понять, как же построить теорию мозга. Инженер во мне осознавал, что как только мы поймем, как работает мозг, что мы сможем построить искусственный мозг, из кремния. Я работал на компанию, разработавшую кремниевые чипы памяти и микропроцессор; таким образом, возможно, я мог бы заинтересовать Intel позволить потратить часть моего времени на размышления об интеллекте и о том, как спроектировать мозгоподобные чипы памяти. Я написал письмо председателю Intel, Гордону Муру. Содержимое письма было примерно таким:

Дорогой Доктор Мур,

Я предлагаю организовать исследовательскую группу, занимающуюся изучением работы мозга. Ее можно начать всего с одного участника — с меня — и так далее. Я уверен, что мы можем понять, как он работает. Когда-нибудь это станет большим бизнесом.

Джеф Хокинс

Мур направил меня к главному ученому компании Intel, Теду Хоффу. Я вылетел в Калифорнию на встречу с ним и выложил свои планы по изучению мозга. Хофф был известен по двум вещам. Первая, о которой я был осведомлен — это разработка первого микропроцессора. Вторая, о которой я не знал до этого времени — его работа над теорией нейронных сетей. У Хоффа был опыт в искусственных нейронных сетях и в том, что с ними можно сделать. Я не был готов к этому. Выслушав мои предложения, он сказал, что не верит в то, что в обозримом будущем понять работу мозга, и что для Intel нет смысла поддерживать меня. Хофф был прав, потому что только сейчас, 25 лет спустя, мы только начинаем продвигаться в понимании мозга. В бизнесе время — это все. Однако, тогда я был слегка разочарован.

Я склонился к тому, чтоб с наименьшими потерями достигнуть своей цели. Работа над теорией мозга в Intel могла бы быть наилучшим выходом. Когда эта возможность была отвергнута, я стал искать другую. Я решил обратить внимание на Массачусетский Технологический Институт (MIT), который был известен своими исследованиями в области искусственного интеллекта и был удобно расположен по дороге. Это казалось великолепным совпадением. У меня большой опыт в вычислительной технике — «подходит». У меня желание построить интеллектуальную машину, «подходит». Я хочу сначала изучить мозг, чтоб понять, как он работает… «хмм… с этим проблемы». Эта последняя цель, желание понять работу мозга, было ненужным в глазах ученых из лаборатории искусственного интеллекта MIT.

Это было все равно что ломиться сквозь стену. MIT был родиной искусственного интеллекта. Когда я подал заявление в MIT, он был домом для множества интересных людей, порабощенных идеей запрограммировать компьютер так, чтоб он демонстрировал интеллектуальное поведение. Для этих ученых зрение, язык, роботы и математика были всего лишь вычислительными проблемами. Компьютеры могли бы делать все, что мог бы мозг, и даже больше, зачем же ограничивать мышление биологическими недостатками природных компьютеров? Изучение мозга ограничило бы наше мышление. Они были уверены, что лучше изучать предельные ограничения вычислений, как наиболее выраженные в цифровых вычислительных машинах. Их «Святым Граалем» было желание написать компьютерные программы, которые сначала сравнялись бы, а затем и обогнали человеческие способности. Они выбрали подход «цель оправдывает средства»; их не интересовало, как в работает реальный мозг. Они гордились игнорированием нейробиологии.

Меня поразило, как совершенно неверным способом берутся за проблему. Интуитивно я чувствовал, что ИИ-подход не только будет безуспешным в создании программ, могущих то же, что и человек — он ни за что не объяснит нам, что же такое интеллект. Компьютер и мозг построены на совершенно различных принципах. Первый программируется, второй — самообучается. Первый должен точно и четко работать с любыми данными, второй обладает естественной гибкостью и толерантностью к сбоям. У первого есть центральный процессор, у второго — нет централизованного управления. Список различий можно продолжать и продолжать. Основная причина, по которой я думал, что компьютер не может быть интеллектуальным — это то, что я понимал, как работает компьютер, вплоть до уровня физических процессов в транзисторе, и эти знания давали мне сильное интуитивное ощущение, что компьютер и мозг фундаментально различны. Я не мог этого доказать, но я знал это настолько точно, насколько человек может что-либо интуитивно знать. В конечном счете, я был убежден, что ИИ может привести к полезным изделиям, но он не приведет к построению действительно интеллектуальных машин.

В отличие от этого, я хотел понять реальный интеллект и восприятие, изучить физиологию и анатомию мозга, принять вызов Френсиса Крика и представить миру четко определенную систему взглядов на то, как работает мозг. Я обратил свой взор в особенности на неокортекс — наиболее молодую часть мозга млекопитающих и место локализации интеллекта. После понимания того, как работает неокортекс, мы смогли бы продвинуться в построении интеллектуальных машин, но не раньше.

К несчастью, преподаватели и студенты, которых я встретил в MIT, не разделяли моих интересов. Они не верили, что необходимо изучать реальный мозг, чтоб понять интеллект и построить интеллектуальные машины. Так они мне и сказали. В 1981 году университет отклонил мое заявление.

* * *

Большинство людей сегодня верит, что ИИ-подход жив и здоров, и всего лишь ожидает достаточных компьютерных мощностей, чтоб оправдать свои многочисленные обещания. Когда компьютеры будут обладать достаточным объемом памяти и производительностью, продолжается мысль, программисты ИИ смогут сделать интеллектуальные машины. Я не согласен. ИИ-подход страдает от такого фундаментального недостатка, что он не может адекватно указать, что такое интеллект или что обозначает понимание чего-либо. Краткий взгляд на историю ИИ и на догма, на которых он построен, объяснят, почему это направление сбилось с курса.

ИИ-подход родился с появлением цифровых вычислительных машин. Ключевой фигурой в ИИ-движении был английский математик Алан Тьюринг, один из соавторов идеи компьютера общего назначения. Его великолепной работой стала формальная демонстрация концепции универсальных вычислений: то есть, все компьютеры фундаментально эквивалентны, несмотря на то, как они построены. Как часть своего доказательства, он придумал воображаемую машину из трех основных частей: процессорного блока, бумажной ленты и устройства, которое считывало и записывало метки на ленту, двигая ее взад и вперед. Лента предназначалась для хранения информации, наподобие компьютерных 1 и 0 (это было до изобретения чипов памяти и дисковых накопителей, так что Тьюринг вообразил бумажную ленту для хранения). Блок, который теперь мы называем центральным процессором (CPU), следовал фиксированному набору правил для чтения и изменения информации на ленте. Тьюринг математически доказал, что если вы выберете верный набор правил для процессорного блока и дадите ему бесконечно длинную ленту, он сможет выполнить любые определяемые множества операций во вселенной. Такая одна из многих эквивалентных машин называется Универсальной Машиной Тьюринга. Является ли задачей извлечение квадратного корня, вычисление баллистической траектории, компьютерная игра, рисование изображений или согласование банковской транзакции — в основе нее лежат единицы и нули, и любая Машина Тьюринга может быть запрограммирована, чтоб выполнять ее. Преобразование информации это преобразование информации. Все цифровые компьютеры эквивалентны.

Вывод Тьюринга был бесспорно истинным и феноменально плодотворным. Вся компьютерная революция и все ее продукты базируются на нем. Позже Тьюринг обратился к вопросу как построить интеллектуальную машину. Он чувствовал, что компьютеры могут быть интеллектуальными, но не хотел вдаваться в аргументацию того, возможно это или нет. Он не только не задумывался, сможет ли он формально определить интеллект, он даже не пытался этого сделать. Вместо этого он предложил доказательство существования интеллекта, известный Тест Тьюринга: если сможет обмануть человека-экзаменатора, заставив его думать, что он общается также с человеком, то по определению компьютер интеллектуален. И таким образом, с Тестом Тьюринга в качестве мерила и с Машиной Тьюринга в качестве средства, Тьюринг помог стартовать направлению ИИ. Его центральная догма: мозг всего лишь другой тип компьютера. Не важно, как именно вы проектируете систему искусственного интеллекта, главное сымитировать поведение, подобное человеческому.

Сторонники ИИ увидели параллель между вычислениями и мышлением. Он говорят: — «Смотрите, большинство впечатляющих проявлений человеческого интеллекта несомненно затрагивают манипуляции абстрактными символами — и это именно то, что могут делать также и компьютеры. Что мы делаем, когда говорим или слушаем? Мы манипулируем ментальными символами, называемыми словами, используя хорошо определенные правила грамматики. Что мы делаем, когда играем в шахматы? Мы используем ментальные символы, которые представляют свойства и позиции различных шахматных фигур. Что мы делаем, когда мы смотрим? Мы используем ментальные символы для представления объектов, их положения, их названий и других свойств. Конечно, люди делают все это с помощью мозга, а не компьютера, но Тьюринг показал, что не важно, как вы реализуете манипуляцию символами. Вы можете делать это с помощью системы зубчиков и шестеренок, системы электронных ключей, или с помощью нейронной сети мозга — чем угодно, лишь бы ваше средство могло реализовать функциональный эквивалент Универсальной Машины Тьюринга».

Это предположение было поддержано важным научным документом, опубликованным в 1943 году нейрофизиологом Уорреном Мак-Каллоком и математиком Уолтером Питтсом. Они описали, как нейроны могли бы выполнять цифровые функции, то есть, как нервные клетки предположительно могли бы воспроизводить формальную логику компьютера. Идея заключалась в том, что нейроны могли бы выступать в качестве того, что инженеры называют логическими вентилями. Логические вентили реализуют простейшие логические операции, такие как И, НЕ, ИЛИ. Компьютерные чипы собраны из миллионов логических вентилей, соединенных в определенные сложные контуры. Процессор — это всего лишь набор логических вентилей.

Мак-Каллок и Питтс указали, что нейроны также могли бы быть соединены определенным образом, чтоб выполнять логические функции. Следовательно, нейроны собирают входные сигналы друг с друга и обрабатывают эти сигналы, чтоб решить, следует ли активировать выход, таким образом, предположительно нейроны могли бы быть живыми логическими вентилями. Таким образом, предположили они, мозг мог бы рассматриваться состоящим из И-вентилей, ИЛИ-вентилей и других логических элементов, построенных исключительно из нейронов, в прямой аналогии с соединением цифровых электронных контуров. Не ясно, действительно ли МакКаллок и Питтс верили, что мозг работает именно так, они всего лишь сказали, что так могло бы быть. И, логически рассуждая, такой взгляд на нейроны возможен. Нейроны могут теоретически реализовать цифровые функции. Однако никто не удосужился спросить, как же действительно соединены нейроны в мозгу. Они взяли в качестве доказательства, что несмотря на недостаточность биологических подтверждений, что мозг — всего лишь другой тип компьютера.

Нет ничего хуже, чем ИИ-философия, подкрепленная доминирующей точкой зрения психологии первой половины двадцатого века, называемой бихевиоризмом. Бихевиористы верили, что невозможно узнать, что творится внутри мозга, который они называли неприступным черным ящиком. Но возможно наблюдать и измерять окружение и поведение животного — что оно ощущает и что оно делает, его входы и выходы. Они признавали, что мозг содержит механизмы рефлексов, которые могли бы обуславливать адаптацию поведения животного через поощрения и наказания. Но что либо кроме этого они не считали необходимым изучать в мозге, особенно неопределенные субъективные переживания такие как голод, страх или то, что они значат для понимания чего либо. Излишне говорить, что такая исследовательская философия поблекла во второй половине двадцатого века, но ИИ продолжал гулять возле этого гораздо дольше.

Когда после Второй Мировой Войны электронные цифровые вычислительные машины стали доступны для широкого применения, пионеры ИИ засучили рукава и взялись за программирование. Перевод с языка на язык? Легко! Это всего лишь способ дешифрации. Нам просто надо отобразить каждый символ из Системы А в Систему Б. Зрение? Это тоже кажется легко. Мы уже знаем геометрические теоремы, которые оперируют с поворотами, масштабированием и смещением, и мы легко можем закодировать из в виде компьютерного алгоритма — и полдела сделано! Ученые мужи сделали делали заявления насчет того, как быстро компьютерный интеллект догонит и перегонит интеллект человеческий.

По иронии судьбы, наиболее всего приблизилась к прохождению Теста Тьюринга программа, которая называлась Элиза, прикидывающаяся психоаналитиком и перефразирующая ваши же фразы обратно вам. Например, если кто-то писал «Мой парень и я больше не общаемся», Элиза могла сказать «Расскажи мне о твоем парне» или «Почему ты думаешь, что ты и твой парень больше не общаетесь?». Разработанная в качестве шутки, эта программа действительно обманывала некоторых людей, хотя она была тупой и тривиальной. Более серьезные усилия были приложены к такой программе, как Блочный Мир, эмулирующей комнату с блоками различного цвета и формы. Вы могли задавать Блочному Миру вопросы типа «Есть ли зеленая пирамида на большом красном кубе?» или «Переместить синий куб на маленький красный куб». Программа должна была отвечать на ваши вопросы или пытаться выполнить то, что вы попросили. Она все это эмулировала и она работала. Но она была ограничена своим очень искусственным миром блоков. Программисты не могли обобщить ее, чтоб она делала что-то полезное.

Публика, меж тем, была впечатлена продолжительным потоком кажущихся успехов и новостей об ИИ-технологии. Одной из программ, вызвавшей возбуждение публики, была программа решения математических теорем. Даже начиная с Платона, многошаговые дедуктивные умозаключения виделись вершиной человеческого интеллекта, так что наперво казалось, что ИИ сорвал куш. Но, подобно Блочному Миру, программа оказалась ограниченной. Она могла найти только очень простые теоремы, которые уже были известны. Затем были большие телодвижения насчет «экспертных систем», БД фактов, которые могли отвечать на вопросы, заданные человеком-пользователем. Например, медицинские экспертные системы могли диагностировать болезнь пациента по заданному списку симптомов. Но снова оказалось, что она имеет ограниченное применение и не проявляет чего-либо близкого к обобщенному интеллекту. Компьютеры могли играть в шашки на уровне эксперта и в конечном счете IBM-овский Deep Blue превосходно обыграл Гари Каспарова, мирового чемпиона по шахматам, в его собственной игре. Но эти успехи ушли впустую. Deep Blue выиграла не за счет ума; он выиграл за счет того, что был в миллионы раз быстрее, чем человек. У Deep Blue нет интуиции. Опытный игрок смотрит на позицию на доске и сразу видит, какие варианты игры наиболее выгодны или опасны, тогда как компьютер не имеет врожденного чувства того, что важно, и должен исследовать гораздо больше вариантов. У Deep Blue также нет ощущения истории игры, и он не знал ничего о своем оппоненте. Он играл в шахматы так и не поняв, что такое шахматы, аналогично этому калькулятор выполняет арифметические операции, но понятия не имеет о математике.

Во всех случаях ИИ-программы были хороши только в одной определенной области, для которой они были разработаны. Они не обобщали и не выказывали гибкости, и даже их создатели признавались, что их программы не мыслят подобно человеку. Некоторые ИИ-проблемы, которые изначально казались легкими, не добились прогресса. Даже сегодня ни один компьютер не понимает язык так же хорошо, как может трехлетний ребенок, и не видит даже так, как может мышь.

По истечение многих лет усилий, неосуществленных обещаний и несостоявшихся успехов, ИИ начал блекнуть. Ученые из этой области ушли в другие области исследований. Компании, завязанные на ИИ, оказались неудачными. Вложения стали скудными. Стало казаться невозможным запрограммировать компьютер, чтоб он выполнял даже наиболее базовые задачи восприятия, языка и поведения. Сегодня немногое изменилось. Как я уже сказал ранее, до сих пор есть люди, которые верят, что ИИ-проблемы могут быть решены более быстрыми компьютерами, но большинство ученых думают, что в целом такие попытки ущербны.

Мы не должны порицать пионеров ИИ за их неудачи. Алан Тьюринг был блестящим человеком. Все могли бы сказать, что Машина Тьюринга должна изменить мир — и она сделала это, правда не путем ИИ.

* * *

Мой скептицизм насчет притязаний ИИ был обострен примерно в то самое время, когда я подал заявление в MIT. Джон Серл, влиятельный профессор философии в Калифорнийском Университете в Беркли, в то время говорил, что компьютеры не были и не смогут быть интеллектуальными. Чтоб доказать это, в 1980 году он предложил мысленный эксперимент, называемый Китайской Комнатой. Это было примерно следующее:

Предположим, у вас есть комната с прорезью в одной из стен, и внутри находится англоговорящий человек, сидящий за столом. У него есть большая книга с инструкциями и все карандаши и бумага для черновиков, которые ему как-нибудь могли бы понадобиться. Перелистывая книгу, он видит, что инструкции, написанные на английском языке, указывают ему способы манипулирования, сортировки и сравнения китайских символов. Представим себе, что указания ничего не говорят о значении китайских символов; они только задают, как символы должны быть скопированы, стерты, переупорядочены, перекодированы, и т. д.

Кто-то снаружи просовывает кусочек бумаги через прорезь. На ней написан рассказ и вопросы по этому рассказу, все на китайском. Человек внутри не говорит и не читает ни слова по-китайски, но он берет бумажку и идет работать с книгой. Он трудится и трудится, следуя инструкциям в книге. В некоторых ситуациях инструкции говорят ему записывать символы на клочке бумаги, в других — перемещать и стирать символы. Применяя правило за правилом, записывая и стирая символы, человек работает до тех пор, пока инструкции из книги не скажут ему, что все готово. По окончании, наконец у него есть новая написанная им страница символов, которая без его ведома стала ответами на вопросы. Книга говорит ему передать эту бумагу через прорезь. Он делает это и удивляется, для чего было это утомительное упражнение.

Снаружи человек, говорящий на китайском, читает страницу. Ответы правильные, он замечает — даже проницательные. Если его спросят, исходят ли эти ответы от интеллектуального разума, он определенно скажет «да». Но прав ли он? Кто понял историю? Определенно, это не человек внутри, несведущий в китайском и понятия не имеющий, о чем история. Это не книга, которая просто хорошая книга, спокойно лежащая на письменном столе среди кипы бумаг. Так где же возникло понимание? Сеел говорит, что никакого понимания не возникало, это всего лишь связка бессмысленного листания страниц и черкания карандашом. А теперь чудесное превращение: Китайская Комната — это в точности цифровая вычислительная машина. Человек — это процессор, бездумно выполняющий инструкции, книга — это программа, дающая инструкции процессору, черновики — это память. Таким образом, не важно, как хитро спроектирован компьютер для эмуляции интеллекта путем имитации человекоподобного поведения, у него нет понимания и нет интеллекта. (Серл дает понять, что он не знает, что такое интеллект; он только говорит, чем бы он ни был, компьютер не может иметь этого).

Этот аргумент создал огромную пропасть между философами и апологетами ИИ. Это расплодило сотни статей, а в дополнение — еще больше сарказма и вражды. Защитники ИИ выступили с массой контраргументов Серлу, таких как заявление, что хотя ни один из компонентов комнаты не понимает китайский, комната в целом понимает, или что человек в комнате действительно понимает китайский, но просто не знает этого. Что относительно меня, я думаю, что Серл был прав. Когда я размышлял над аргументом Китайской Комнаты и о том, как работают компьютеры, я не видел понимания ни там ни там. Я был убежден, что нам необходимо понять, что такое «понимание», найти способ формально определить его, что могло бы прояснить является система интеллектуальной или нет, когда она понимает китайский, и когда — нет. Одно лишь ее поведение не сможет нам этого сказать.

Человеку не требуется «делать» что-то, чтоб понять рассказ. Я могу спокойно прочитать рассказ, и хотя нет явного поведения, мое понимание и осмысление наглядны, по крайней мере для меня. С другой стороны, исходя из моего спокойного поведения вы не сможете понять, понял я рассказ или нет, даже если я знаю язык, на котором написан рассказ. Вы могли бы позже спросить меня, чтоб узнать, понял ли я, но мое понимание возникло, когда я читал рассказ, а не когда я отвечал на ваши вопросы. Тезис этой книги в том, что понимание не может быть измерено внешним поведением; как мы увидим в следующих главах, это внутренняя метрика того, как мозг помнит что-либо и использует эти воспоминания для того, чтоб делать предсказания. Китайская Комната, Deep Blue и большинство компьютерных программ не делают ничего похожего на это. Они не понимают, что они делают. Единственный же способ, по которому мы можем судить, является ли компьютер интеллектуальным — это по его выходным данным, или поведению.

Последним аргументом в защиту ИИ является то, что компьютер теоретически мог бы эмулировать целый мозг. Компьютер мог бы смоделировать все нейроны и их соединения, и, если так, то не останется различий между интеллектом мозга и интеллектом, эмулированным на компьютере. Хотя, это может быть практически и невозможно, я с этим согласен. Но исследователи ИИ не эмулируют мозг, и их программы не интеллектуальны. Вы не можете эмулировать мозг без того, чтоб сначала понять, что он делает.

* * *

После того, как я получил отказ и в Intel и в MIT, я не знал, что делать. Когда вы не знаете, как продолжать, часто наилучшей стратегией является ничего не делать, пока ваше мнение не прояснится. Таким образом, я продолжил работу в компьютерной отрасли. Меня удовлетворяло остаться в Бостоне, но в 1982 году моя жена захотела переехать в Калифорнию, так что мы переехали (снова путем наименьшего сопротивления). Я добился назначения в Силиконовой Долине, в проекте, названном Grid Systems. Grid занимался лэптопами, прекрасными машинами, которые стали первыми компьютерами в коллекции Музея Современного Искусства в Нью-Йорке. Работая сначала в маркетинге, а потом инженером, я создал в конце концов высокоуровневый язык программирования GridTask. Он и я становились все более и более важными для успеха Grid; моя карьера пошла в гору.

Я все еще не мог выкинуть из головы мое любопытство насчет мозга и интеллектуальных машин. Я был поглощен желанием изучать мозг. Так я прошел заочные курсы по психологии человека и обучался самостоятельно (никто еще не получал отказа от заочной школы!). После изучения порядочного объема биологии, я решил подать заявление в аспирантуру по биологии и изучать интеллект в биологических науках. Если компьютерные науки не нуждаются в мозговых теоретиках, то может быть мир биологии откроет двери для компьютерщика. Тогда еще не было такой вещи, как теоретическая биология, и в особенности теоретическая нейронаука, так что биофизика показалась наиболее подходящим полем для моих интересов. Я усердно учился, сдал требуемые вступительные экзамены, подготовил резюме, рекомендательные письма, и Вуаля! я был принят на дневное отделение биофизики в Калифорнийский Университет в Беркли.

Я был взволнован. Наконец то я смог приступить к серьезной работе над теорией мозга, или мне так казалось. Я завершил свою работу в Grid без намерений работать снова в компьютерной индустрии. Конечно, это обозначало неопределенный отказ от моей зарплаты. Моя жена уже подумывала что «пора покупать дом и заводить семью», и я к счастью перестал быть кормильцем. Это определенно не было путем наименьшего сопротивления. Но это было наилучшим вариантом, который у меня был, и она поддержала мое решение.

Джон Элленби, исследователь из Grid, затащил меня в свой офис почти перед моим уходом и сказал: — «я знаю, ты не собираешься когда-либо возвращаться в Grid или компьютерную индустрию, но ты никогда не сможешь сказать заранее, что произойдет. Вместо того, чтоб полностью отказываться, почему бы тебе не взять отпуск? В таком случае, если через год или два ты надумаешь вернуться, ты сможешь сохранить зарплату, положение и возможность распоряжаться пакетом акций». Это было прекрасным предложением. Я принял его, но я чувствовал, что оставляю компьютерную индустрию навсегда.

2. Нейронные сети

Когдая поступил в Калифорнийский Университет в Беркли в январе 1986, первым, что я сделал, было собрание истории теорий интеллекта и функций мозга. Я прочел сотни статей анатомов, физиологов, философов, лингвистов, компьютерщиков и психологов. Множество людей из множества областей широко описали мышление и интеллект. В каждой область науки был свой набор журналов и в каждой использовалась своя терминология. Я нашел их описания неподходящими и неполными. Лингвисты говорили об интеллекте в терминах «синтаксис» и «семантика». Для них мозг и интеллект существовали только как язык. Специалисты по зрению ссылались на 2-мерные, 2.5-мерные, 3-хмерные модели. Для них мозг и интеллект существовали только как визуальное распознавание паттернов. Компьютерщики говорили про схемы и фреймы, новые термины, которые они придумали для представления данных. Никто из этих людей не говорил про структуру мозга и про то, как бы в нем укладывалась любая из их теорий. С другой стороны, анатомы и нейрофизиологи широко описали о структуре мозга и о том, как ведут себя нейроны, но они в большинстве своем избегали любых попыток построить крупномасштабную теорию. Было сложно и тщетно пытаться ухватить смысл этих разнообразных подходов и гор экспериментальных данных, сопровождающих их.

Примерно в это же время на сцену вышел новый обещающий подход к интеллекту. Нейронные сети существовали еще с конца 60-х в той или иной форме, но нейронные сети и движение ИИ были конкурентами, и за деньги и за умы агентов, занимающихся вложениями в исследования. Исследователи нейронных сетей существенно игнорировались исследовательскими фондами в течение нескольких лет. Тем не менее, немногие продолжали задумываться о них, и к середине 80-х они окончательно добились места под солнцем. Сложно сказать точно, откуда взялся неожиданный интерес к нейронным сетям, но несомненно одним содействующим фактором стали продолжительные неудачи в искусственном интеллекте. Люди прогнозировали насчет альтернатив к ИИ и нашли одну в искусственных нейронных сетях.

Нейронные сети были подлинным улучшением после ИИ-подхода, потому что их архитектура базируется, хотя и очень слабо, на реальных нейронных сетях. Вместо программирования компьютеров, исследователи нейронных сетей, известные также как коннекционисты, интересовались изучением того, какое поведение может быть продемонстрировано связыванием группы нейронов вместе. Мозг состоит из нейронов; таким образом, мозг — это нейронная сеть. Это факт. Надежда коннекционистов была в том, что эфемерные свойства интеллекта могли бы проясниться изучением того, как нейроны взаимодействуют, и некоторые из проблем, которые не решались с помощью ИИ, могли бы быть решены репликацией соответствующего соединения между популяциями нейронов. Нейронные сети отличаются от компьютера тем, что в них нет процессора, и они не хранят информацию в централизованной памяти. Знания и память сети распределены по ее соединениям — прямо как в реальном мозге.

На первый взгляд, нейронные сети казались наилучшим приложением моих интересов. Но я быстро развеял свои иллюзии в этой области. За это время у меня сформировалось мнение, что три вещи были существенными для понимания мозга. Первым моим критерием было включение времени в функции мозга. Реальный мозг быстро обрабатывает потоки информации. Нет ничего статического в потоках информации, поступающих в мозг и из мозга.

Вторым критерием была важность обратных связей. Нейроанатомы давно осведомлены о том, что мозг насыщен обратными связями. Например, в контуре между неокортексом и нижележащей структурой, называемой таламусом, количество соединений, идущих обратно (в сторону входа) превышает количество идущих в прямом направлении более чем в десять раз! То есть, на каждое волокно, передающее информацию в направлении неокортекса приходится десять волокон, передающих информацию в направлении органов чувств. Обратные связи преобладают также и в большинстве соединений внутри неокортекса. Никто не понял конкретную роль этих обратных связей, но из опубликованных исследований ясно, что они есть везде. Я полагаю, что это должно быть важным.

Третьим критерием было то, что теория или модель мозга должна учитывать физическую архитектуру мозга. Неокортекс не является простой структурой. Как мы увидим далее, он организован как повторяющаяся иерархия. Ни одна нейронная сеть, не обладающая такой структурой, определенно не будет работать как мозг.

Но как только феномен нейронных сетей покинул сцену, ее занял класс очень простых моделей, которые не удовлетворяли ни одному из этих критериев. Большинство нейронных сетей состоят из небольшого количества нейронов, соединенных в три слоя. Паттерн (вход) подается на первый слой. Эти входные нейроны соединены со следующим слоем нейронов, так называемым скрытым слоем. Скрытый слой затем соединяется с последним слоем нейронов, выходным. Соединения между нейронами имеют различный вес, подразумевая, что активность одного нейрона может усиливать активность другого нейрона и ослаблять активность третьего в зависимости от веса соединения. Изменяя эти веса, нейронная сеть обучается отображать входные паттерны на выходные.

Такие простые нейронные сети обрабатывали только статические паттерны, не использовали обратных связей и не были чем-то похожим на мозг. Наиболее общий тип нейронных сетей, называемых сетями «обратного распространения», обучались путем распространения ошибки от выходных слоев обратно к входным. Вы могли бы подумать, что это одна из форм обратной связи, но это не так. Обратное распространение ошибки возникало только во время фазы обучения. Когда нейронная сеть работала в обычном режиме после того, как она была обучена, информация распространялась только в одну сторону. От выходов к входам не было обратных связей. И у этих моделей не было времени. Статический входной паттерн преобразовывался в статический выходной. Затем подставлялся другой входной паттерн. В сети не было какой либо истории или записей о том, что происходило даже чуть раньше. И наконец архитектура этих нейронных сетей была тривиальной по сравнению со сложной и иерархической структурой мозга.

Я думал, что это направление быстро перейдет к более реалистичным сетям, но этого не произошло. Поскольку эти простые нейронные сети были способны на интересные вещи, казалось, что исследования остановятся прямо там на годы. Был найден новый и интересный инструмент, и неожиданно тысячи ученых, инженеров и студентов бросились получать гранты, зарабатывать ученые степени и писать книги о нейронных сетях. Были созданы компании, использующие нейронные сети для предсказания курсов на фондовых рынках, обработки заявок на получение кредитов, проверки подписей и выполнения сотен других приложений по классификации паттернов. Хотя намерения исследователей в этой области могли бы быть более общими, эта область стала доминирующей стараниями людей, которые не были заинтересованы в понимании того, как работает мозг или что такое интеллект. ...