К сожалению, преподаватели и студенты Массачусетсского института не поддержали меня в этих стремлениях. Мне прямо сообщили, что в сфере создания искусственного интеллекта нет места изучению живого мозга. В 1981 году мои документы были отклонены приемной комиссией.

Согласно распространенному мнению, искусственный интеллект давно существует, и единственная загвоздка в том, что современным механизмам не хватает мощности для его эффективной работы. Кибернетики, работающие в сфере искусственного интеллекта, убеждены в том, что смогут создать мыслящий компьютер, увеличив объем его памяти и ресурсов для обработки данных. Но не тут-то было. Ключевой недостаток искусственного интеллекта – отсутствие зоны, отвечающей за понимание. Чтобы понять, на какой стадии произошло отклонение от правильного пути, давайте обратимся к истории создания искусственного интеллекта.

Искусственный интеллект как подход зародился вместе с появлением цифровых компьютеров. Английский математик Алан Тьюринг, которого считают одним из пионеров идеи искусственного интеллекта, утверждал, что, несмотря на различия, все вычислительные машины по сути своей одинаковы. Как часть доказательства он предлагал представить компьютер на основе всего лишь трех составляющих: устройства для обработки данных, бумажной ленты и прибора, выполняющего функции считывания и записи на ленту по мере ее продвижения. Бумажная лента предназначалась для записи данных в двузначной системе исчисления (знаменитые 0 и 1 в современных компьютерных кодах). Замечу, что события происходили задолго до изобретения чипов памяти или дисководов, поэтому для хранения данных Тьюринг предложил использовать бумажную ленту (машина Тьюринга являет собой «предельный» случай компьютера, когда сняты ограничения на размеры памяти, ведь лента бесконечна). Устройство для обработки данных (в наши дни его заменил центральный микропроцессор) подчиняется набору определенных правил по считыванию и редактированию данных на бумажной ленте. Тьюринг математически доказал, что если выбрать верный набор правил для центрального микропроцессора и вставить бесконечно длинную бумажную ленту, то процессор сможет выполнить любой заданный набор операций. Это был один из прототипов вычислительных машин, которые впоследствии получили название универсальные машины Тьюринга. Независимо от постановки задачи – будь то вычисление квадратного корня, траектории полета пули, участия в играх, редактирования визуального изображения, осуществления банковских операций, – все операции кодировались с помощью нуля и единицы. Последнее в свою очередь означало, что любая машина Тьюринга может быть спрограммирована для выполнения таких операций. Информационная обработка – это информационная обработка данных, которая представляет собой информационную обработку данных, т. е. все цифровые компьютеры логически равны друг другу.

Выводы Тьюринга были правильными и исключительно плодотворными. Они положили начало революции вычислительной техники. Затем Тьюринг обратился к теме создания разумных компьютеров. Прежде всего, следовало предложить формальное определения понятия разум, и Тьюринг нашел оригинальный способ проверки наличия интеллекта. Его метод, впоследствии получивший название теста Тьюринга, состоял в следующем: если компьютер сможет обмануть человека, который будет задавать ему различного рода вопросы, так, чтобы последний воспринимал отвечающего не как машину, а как другого человека, тогда компьютер может считаться разумным. Вот таким образом с помощью теста Тьюринга и его оценочных критериев, а также машины Тьюринга как посредника и появились на свет первые ростки истории создания искусственного интеллекта. Основополагающей догмой оставалась следующая: мозг – это просто еще одна разновидность компьютера, а значит, справедливо и обратное: искусственный интеллект должен воспроизводить мышление человека.

Приверженцы теории искусственного интеллекта проводили своего рода параллель между вычислительным процессом и процессом мышления. Они говорили:

В 1943 году в одном из влиятельных научных изданий была опубликована статья нейропсихолога Уоррена Мак-Калоха и математик Уолтера Питтса. Ученые описали механизм осуществления нейронам: цифровых функций, т. е. того, как нервные клетки могут воссоздавать формальную логику, положенную в основу работы компьютеров. Нейроны вполне могут выполнять функцию логических входов/выходов как это принято называть у разработчиков электронно-вычислительной техники. Логические входы служат для выполнения операций «И» «ИЛИ», «НЕ». Микропроцессоры вычислительных машин состоят и: миллионов логических входов, которые связаны между собой в очень четкую и сложную схему. Центральный микропроцессор – это не что иное как совокупность логических входов.

Мак-Калох и Питтс подчеркивали: вполне возможно, что нейроны тоже связываются между собой для выполнения тех или иных логических функций. Вероятно, они получают данные друг от друга, затем обрабатывают их и на основе обработки подают выходящие данные. Это означает, что нейроны являются живыми логическими входами. Таким образом, – продолжали развивать мысль двое ученых, – предположительно мозг по своему строению состоит из "И"-входов, «ИЛИ»-входов. а также других логических элементов, образованных нейронами, что само по себе аналогично структуре схем в цифровой электронной плате. Из публикации ясно, что исследователи лишь предполагали, что мозг так устроен, но не были в этом уверены. Рассуждая логически, описанный выше принцип работы нейронов не выглядит абсурдным. Теоретически нейроны вполне могут выполнять цифровые функции. С другой стороны, ни у Мак-Калоха, ни у Питтса не возник вопрос: а действительно ли нейтроны взаимодействуют между собой именно таким способом? Несмотря на недостаток биологических доказательств, они выдвинули постулат, что мозг является разновидностью компьютера.

Следует отметить, что философия искусственного интеллекта пребывала под значительным влиянием бихевиоризма, наиболее влиятельного направления психологической науки первой половины XX века. Бихевиористы утверждали, что мозг является непознаваемым, и проводили аналогию с черным ящиком. С другой стороны, в исследованиях поведения животных была установлена связь между внешними факторами, влияющими на их поведение, и ответной реакцией. Исходя из этого, бихевиористы утверждали, что мозг включает рефлекторные механизмы, и, для того чтобы побудить животное к определенному типу поведения, нужно использовать методы поощрения и наказания. Если последовательно придерживаться упомянутого подхода, то нет необходимости изучать мозг, в особенности такие беспорядочные субъективные ощущения, как страх или голод, а также функции сознания. По вполне понятным причинам данное направление потеряло популярность во второй половине XX века, в то время как теория искусственного интеллекта продолжала развиваться.

После окончания Второй мировой войны электронные цифровые вычислительные машины получили более широкое применение. Первопроходцы создания искусственного мозга были полны энтузиазма. Научить компьютер переводить с одного языка на другой? Никаких проблем! Это напоминает взлом кода. Единственное, что для этого нужно, – соотнести каждый символ системы А с его аналогом в системе Б. Визуализация? Ни малейших трудностей. Человечеству давно известны теоремы о ротации, изменении масштабов, перемещении в пространстве, а значит, на их основе можно построить компьютерные алгоритмы, т. е. мы на верном пути. Ученые мужи, бьющиеся над созданием искусственного интеллекта, делали громкие заявления о том, как искусственный мозг сначала сравняется по своему потенциалу с человеческим разумом, а со временем и превзойдет его.

По иронии судьбы программисты смогли создать программу, которая была очень близка к тому, чтобы пройти тест Тьюринга. Программа, разработанная Джозефом Вейзенбаумом из Массачусетсского технологического института, называлась «Элиза» и копировала поведение врача-психотерапевта при первичном опросе пациента[3]. Например, если девушка вводит предложение: «Я и мой парень больше не разговариваем», то Элиза спросит: «А расскажи-ка мне побольше о своем парне», или: «Как по-твоему, почему ты и твой парень больше не общаетесь?»

Хоть автор программы заявил, что изобрел пародию на поведение психотерапевта, предназначенную лишь для исследования иллюзии понимания, которая часто возникает в разговоре между людьми. Некоторых «Элиза» приводила в изумление.

Более серьезным достижением были программы, подобные «Фигурному миру» – виртуальной комнате, смоделированной из геометрических фигур разных форм и цветов. Вы можете, например, спросить компьютер: «Стоит ли зеленая пирамида на большом красном кубе?», или же приказать ему: «Положи синий кубик на маленький красный кубик» и т. п. Программа ответит на ваш вопрос или выполнит ваш приказ. Все это было смоделировано и тем не менее работало! Единственным недостатком было то, что работа программы ограничивалась своим собственным мирком геометрических фигур. Программисты не смогли расширить ее функциональность, добившись решения более полезных задач.

Тем временем широкая публика была в полном восторге от кажущихся поразительными успехов в области разработки искусственного интеллекта. Одна из программ, вызвавших особенно бурные отклики, могла доказывать математические теоремы. Со времен Платона пошаговый метод математической дедукции считался венцом человеческого разума, а значит, рукотворный разум наконец-то сорвал джекпот! Однако ликование оказалось преждевременным. Как и в случае «Фигурного мира», прикладные возможности программы были несущественными. Она могла доказывать лишь очень простые теоремы, которые и так были давно известны и доказаны. Затем всеобщий интерес вызвали так называемы экспертные системы. Это были базы данных, которые могли давать ответы на вопросы человека. Например, медицинская экспертная система могла поставить диагноз больному, если в нее предварительно были введены списки возможных симптомов. Но, как и в предыдущем случае, применение экспертных систем было достаточно ограниченным, поскольку они не могли даже приблизиться к функциональной универсальности живого мозга. Компьютеры могли отлично играть в шахматы – всем известен случай, когда компьютер Deep Blue, детище компании IBM, выиграл партию у чемпиона мира по шахматам Гарри Каспарова. Все приведенные примеры не могут свидетельствовать о серьезных успехах в разработке искусственного интеллекта. Компьютер выиграл у чемпиона мира вовсе не потому, что он был умнее своего соперника, а потому, что скорость его реакций в миллионы раз превышает таковую у человека. У компьютера нет интуиции. Профессионал в шахматах смотрит на позиции фигур на доске, и в его уме возникает целостная картина. Он видит потенциально выигрышные и проигрышные зоны, а также предугадывает действия соперника. Компьютер же не обладает такой внутренней интуицией, поэтому вынужден анализировать намного большее количество ходов. Deep Blue не проводил ретроспективный анализ партии, ему ничего не было известно о своем противнике. Компьютер играл в шахматы, ничего в них не смысля, подобно тому, как калькулятор выполняет арифметические действия, не зная математики.

Все попытки создания искусственного интеллекта заканчивались изобретением очередной программы, обеспечивающей выполнение только одной четко определенной функции. Компьютеры так и не научились обобщать или проявлять гибкость. Даже создатели программ отмечали, что их детища не могут мыслить, как человек. Некоторые проблемы искусственного интеллекта поначалу казались простыми, но со временем так и не были найдены способы их решения. Даже сегодня ни один компьютер не может воспринимать речь так же легко, как трехлетний ребенок, или видеть так же хорошо, как, скажем, мышь.

После многолетних усилий, несбыточных надежд и отсутствия какого-то ощутимого прогресса идея искусственного интеллекта потеряла былую привлекательность. Ученые, отдавшие годы жизни исследованиям и разработкам в данной области, сменили сферы научных интересов. Предпринимательские инициативы, основанные на применении мыслящих компьютеров, тоже терпели неудачи. Финансирование подобных проектов значительно сократилось. Складывалось впечатление, что воссоздание таких базовых человеческий функций, как восприятие, речь или осмысленная деятельность, вообще не представляется возможным. Это продолжается и по сей день. Как я уже отмечал, у идеи искусственного интеллекта остались некоторые сторонники, но большинство ученых считает его создание невозможным.

Не стоит возлагать вину за провал на первопроходцев этой теории. Алан Тьюринг был гением, его универсальная машина, без преувеличения, совершила революцию в мире технологий, хотя и не помогла создать искусственный интеллект.

Мой скептицизм в отношении создания искусственного интеллекта соотносится с периодом, когда я подавал документы для поступления в Массачусетсский технологический институт. Джон Сирл, один из наиболее именитых преподавателей философии Калифорнийского университета (Беркли), в свою очередь утверждал, что у компьютера разума нет и быть не может. В доказательство своих взглядов в 1980 году он предложил провести эксперимент, который назвал «Китайской комнатой». Эксперимент состоял в следующем.

Представьте комнату со щелью в стене. За столом в комнате сидит человек, который владеет исключительно английским языком. На столе перед ним лежат карандаши, большой учебник и стопка листов бумаги. Полистав учебник, испытуемый выясняет, что это написанное на английском языке руководство, подробно разъясняющее, как писать, различать и сравнивать китайские иероглифы. Заметьте, что значения иероглифов не приводятся, речь идет лишь о правилах воспроизведения символов.

Другой человек находится вне описанной комнаты. Время от времени он просовывает сквозь щель в стене записки. На них по-китайски написан рассказ и вопросы к нему. Испытуемый, не имеющий никакого представления о китайском языке, по условиям эксперимента должен взять руководство к действию и поработать над полученными записками. Он старается и пыхтит, четко выполняя инструкции из книги. Иногда в инструкциях стоит указание написать определенные символы на листике бумаги, иногда он должен переставить или убрать символы. Шаг за шагом, неуклонно следуя инструкциям, человек пишет одни иероглифы, убирает или переставляет другие, пока не выполнит задание до конца. Так создается целая страница новых символов, которые являются ответами на вопросы, заданные на китайском языке. Разумеется, сам автор страницы этого не осознает. В книге содержится указание отдать исписанный листок бумаги сквозь щель в стене. Участник эксперимента так и делает, недоумевая, в чем же суть столь странного задания.

Полученный от испытуемого лист с иероглифами дают прочитать китайцу, который отмечает, что все ответы – верны, а некоторые из них впечатляют своей глубокомысленностью. Если мы спросим у китайца, считает ли он, что ответы написал разумный человек, который понял прочитанный рассказ, он ответит утвердительно. Как вы думаете, он прав? Кто понял рассказ? Однозначно, не человек, сидящий в комнате, ведь он не знает китайского, а значит, не имеет ни малейшего представления, о чем шла в исходной записке. Так на какой стадии было достигнуто понимание? Ответ Сирла: ни на какой. Все, что происходило в комнате, – это бездумное листание страниц и рисование. А сейчас проведем параллель: «Китайская комната» – это аналог цифрового компьютера, руководство по написанию иероглифов есть не что иное, как «компьютерная программа», соответственно, ее авторы – «программисты». Таким образом, все старания смоделировать искусственный интеллект напрасны. Участник эксперимента, подобно компьютеру, манипулирует символами, но не может придать им какого бы то ни было смысла. Следовательно, заключил Сирл, машина, или физическая система способная выполнять определенные функции, не может стать разумной и действовать осознанно. Сирл отмечал, что он затрудняется дать определение понятию разума, однако полон уверенности, что, независимо от определения, компьютеры разумом не обладают и обладать не могут.

Выводы Сирла спровоцировали войну между философами и сторонниками проблем искусственного интеллекта. Последние выдвигали десятки контраргументов. Вот, например один из них: хотя ни одна из составляющих «Китайской комнаты» не понимала китайского, сама комната как целое понимала язык, т. е. испытуемый понимал китайский язык, сам того не осознавая. Что касается меня самого, то я вполне разделяю точку зрения Сирла и считаю, что в эксперименте под названием «Китайская комната» налицо лишь манипуляция символами, но не истинное понимание. Давайте определим, что же такое «понимание».

Чтобы понять рассказ, человеку достаточно его прочесть. С другой стороны, если я не подам виду, что понял рассказ, то вы не сможете заключить из моего поведения, владею ли я языком, на котором написан рассказ или нет, а также усвоил ли я предложенную информацию Чтобы выяснить это, вы можете задать вопросы. Однако заметьте, что мне придется отвечать на них сейчас, а рассказ-то я понял намного раньше, еще во время чтения. Ключевой тезис моей книги: понимание не поддается оцениванию на основе наблюдения внешних реакций. Из следующих глав вы узнаете, что понимание является внутренней матрицей, которая формируется в мозге при запоминании информации и в дальнейшем используется для построения прогнозов. Компьютер Deep Blue, испытанный в «Китайской комнате», и многочисленные компьютерные программы не способны осознавать выполняемые ими функции. А единственным способом оценки разумности машины является ее «поведение».

И, наконец, последний аргумент в пользу искусственного интеллекта. Теоретически компьютеры могли бы имитировать работу всего живого мозга. Возможно, что когда-то наука дойдет до создания компьютерной модели, имитирующей работу нейронов и взаимодействие между ними. Если бы такое действительно произошло, то человеческий разум и искусственный интеллект можно было бы назвать равноценными. Хотя в реальной жизни вряд ли возможна столь совершенная имитация живого ума, но с теоретической точки зрения она выглядит вполне корректно. Беда в том, что исследователи, занимающиеся созданием искусственного интеллекта, не пытаются имитировать его живой прототип, а программы, которые они создают, по сути своей не могут проявлять разум. Не понимая того, как работает живой мозг, ни один ученый не сможет создать его искусственный аналог.

Получив отказы в компании Intel и Массачусетсском технологическом институте, я пребывал в растерянности. Решив придерживаться одной из моих жизненных стратегий – не зная, как лучше действовать, лучше ничего не менять до тех пор, пока не прояснятся возможные варианты выбора, – я продолжал работать в индустрии информационных технологий. Мне нравился Бостон, но жена настояла на переезде в Калифорнию, что и свершилось в 1982 году (данное событие также вполне соответствовало моему жизненному кредо – всегда избирать путь наименьшего сопротивления). Я нашел работу в Силиконовой долине, в новой компании Grid Systems. Именно в этой фирме был создан первый портативный компьютер – отличное устройство, ставшее первым экспонатом в коллекции Музея современного искусства в Нью-Йорке. Сначала я работал в отделе маркетинга, потом – в инженерном отделе. Я разработал новый язык программирования под названием GridTask, принесший компании большой успех, и моя карьера быстро пошла в гору.

Но, несмотря ни на что, меня все так же преследовала загадка человеческого мозга и идея создания «разумных» компьютеров. Снедаемый желанием изучать живой мозг, я поступил на дистанционный курс «Физиология человека» (к счастью, на дистанционную форму обучения охотно принимают всех желающих). Получив базовые знания по биологии, я решил поступить в аспирантуру и заняться изучением разума с позиций биологической науки. Раз уж мир информационных технологий отверг начинания теоретика, изучающего проблемы мозга, то, возможно, мир биологии будет более гостеприимным в отношении ученого-кибернетика. В то время не существовало такого направления, как теоретическая биология, теоретической нейробиологии не было и в по-мине, и наиболее близкой кругу моих интересов я посчитал биофизику. Я тщательно подготовился, составил резюме, собрал рекомендательные письма, сдал вступительные экзамены, и – о счастье! – поступил в аспирантуру по специальности «Биофизика» в Калифорнийский университет (Беркли).

Я сгорал от нетерпения. «Наконец можно будет вплотную заняться изучением теории разума», – думал я. Работа в Grid Systems осталась позади, и в мои планы не входило возвращение в индустрию информационных технологий, что неминуемо означало ухудшение финансово-го благосостояния. Моя жена как раз созрела для того, чтобы подумать о продолжении рода, и тут я со счастливой миной бросаю свою прежнюю работу и перестаю быть кормильцем семьи. Трудно назвать такое решение путем наименьшего сопротивления, но я избрал свой путь сознательно и считал принятое решение наилучшим. К тому же меня поддержала и жена.

Джон Элленби, основатель Grid Systems, прощаясь со мной, сказал: «Я понимаю, что ты не намерен возвращаться в Grid или в кибернетику вообще, но человек предполагает, а Бог располагает. Вместо того чтобы сжигать все мосты, возьми лучше длительный отпуск за свой счет. И если все же через год-два тебе захочется вернуться в компанию, ты придешь на ту же должность и заработную плату плюс та же доля акций нашей компании». Это был очень благородный жест с его стороны. Я согласился, хотя и предчувствовал, что навсегда покидаю компьютерный бизнес.