Искусственный разум?

Эссе написано в мае 1997 г.

1

В одной из партий Гарри Каспарова с Deep Blue компьютер, вопреки ожиданиям партнера-человека, не тронул легкую для взятия фигуру и через довольно большое количество ходов одержал победу. Каспаров тогда говорил, что почувствовал в действиях машины интеллект (по крайней мере ему так показалось): затаенный замысел в стратегическом ходе.

После победы Deep Blue журналисты не раз спрашивали меня, можно ли вообще подозревать компьютер в обладании интеллектом, на что я всегда отвечал отрицательно. Чтобы, строго говоря, получить некоторую «квинтэссенцию утверждения», то есть, насколько возможно, избавить машину от несущественного для сути, следует ввести понятия РАЗУМА, или РАЗУМНОСТИ, потому что одного «интеллекта» недостаточно. Но почему? Ведь «интеллект» более «безличностный», чем «разум». Артефакт (каким может быть компьютер) мог бы казаться «интеллектуальным», но не обязательно одновременно и «разумным». Прежде всего потому, что и непроизвольно можно вести себя ИНТЕЛЛЕКТУАЛЬНО, но непроизвольно вести себя РАЗУМНО, скорее всего, нельзя, так как импликацией разумности является ее осознание. Правда, социальное поведение насекомых, особенно живущих общественно, таких как пчелы или муравьи, управляется «врожденными инстинктами», однако можно легко признать, что они ближе к «интеллекту», особенно к коллективному, чем к разуму. И ведь неслучайно множество людей бьется над «добыванием интеллекта» из нечеловеческих устройств, тогда как «разум» будто бы никем не планируется и не проектируется. Почему?

2

Это очень трудный вопрос, поскольку речь идет о понятиях, которые имеют «размытое дефиниционное поле», и более того, можно сказать, употребляя современную терминологию, что это термины из группы, называемой «Fazzy Sets». Deep Blue мог произвести на человека-противника такое впечатление, будто в нем «мерцает» искра интеллекта, потому что «он видел дальше», чем противник, то есть был способен предвидеть, какое множество ходов, возможных в рамках шахматных правил, таит в себе будущее. Это существенно: обращение к будущим возможностям ЯВЛЯЕТСЯ одной из составляющих разума, но также может быть всего лишь показателем чисто неразумного инстинкта, который присущ насекомым или другим живым существам (которым мы не можем приписывать разум). Управляемое инстинктом поведение роднит с «интеллектом» прежде всего то, что оно обращено положительным результатом в будущее и обладает чертами ТЕЛЕОЛОГИЧЕСКИМИ. С определенной целью. Понятно, что Deep Blue должен был иметь такого рода целенаправленность (встроенную программистами), иначе он не стремился бы поставить Каспарову мат.

3

Здесь напрашивается следующее замечание. Deep Blue, некоторым образом, был модулем (субагрегатом), созданным технически, как бы вынутым из мозга выдающегося шахматиста-человека. Это, конечно, упрощение, ибо компьютер обладал вычислительной мощностью (200 млн. операций в секунду), коей ни один человек обладать не может, но людям недостающую производительность заменяет интуиция — насколько таинственная, настолько и обманчивая. (И чрезмерно растягивая отступление, в скобках добавлю, что, по мнению 99% самых выдающихся математиков, так называемая великая теорема Ферма не была доказана французским ученым; иначе говоря, интуиция подвела его, когда он написал на полях книги, что нашел доказательство, но не может его изложить за недостатком места.) Короче говоря, интуиция не обязательно бывает точной, и мы по-прежнему не знаем, «как она это делает», так как она действует вне сознания и ведет себя как отличник, который подсказывает правильные ответы товарищу, отвечающему экзаменатору: товарищ повторяет, но то, что он повторяет, ему не обязательно понимать… Разумный же ответ он сам, своей «разумностью», должен понимать. Хотя Deep Blue и весил около полутора тонн, функционально его можно рассматривать как ОДИН модуль — а мозг человека состоит из огромного количества модулей, большинство которых nota bene [Обратите внимание (лат.)] вообще функционально не занято чем-либо, что не происходит в самом организме (в теле) и за его пределами. Большинство модулей мозга служит телу, происходящим в нем процессам. Но только «меньшинство» может активно проявлять «экстерриториальную разумность». Тогда, например, все «экспертные программы», от геологических до медицинских, — это другие модули, а загвоздка в том, что эти вместилища выборочно сформированной информации, по существу актуальной и в этом смысле оптимальной, являются как бы дистиллятами современного состояния наших лучших знаний с одним, но чрезвычайно важным недостатком: они — модули «для себя» и для нашего использования (когда «призываются» для этого), но они «не понимают друг друга», и пока мы не знаем, что сделать, дабы соединить их более или менее аналогично тому, как это происходит в нашем мозгу. Составлять модули мы уже научились, но дать им способность самопроизвольно влиять на себя — еще не умеем, и в этом главная проблема Artificial Intelligence [Искусственный интеллект (англ.)]. Люди, увлеченные AI, как Марвин Мински (Marvin Minsky), по-прежнему уверены, что можно сконструировать искусственный интеллект, — так же как и философы, например, Даниэл Деннет (Daniel Dennet), который, пожалуй, раз сто объяснил («выяснил»), на чем основывается сознание, и «окончательно сорвал маску и решил» загадку сознания. Такие люди живут с ощущением, что от работающего Artificial Intelligence нас отделяет шаг или пара шагов. Однако я опасаюсь, что это не так просто. То, что целостную работу мозга составляет совместная деятельность отдельных модулей, мы сегодня знаем наверняка (если мы вообще что-то знаем наверняка).

4

Вопрос, который следует поставить, звучит так: ЧТО еще мы знаем, а чего не знаем? Так, например, известно, что мы видим то, что является видимым, но это в значительной мере — результат обучения и тренировки. Слепые от рождения, которым посчастливилось обрести зрение, «видят» хаос движущихся цветных пятен и ничего больше. Но и люди, которые никогда никаких изображений не видели, рассматривая самые лучшие фотографии, не в состоянии автоматически преобразовать в мозгу плоскую картинку в трехмерную. А, например, для собаки самый отчетливый и красочный образ на экране телевизора ничего не значит. То есть «обработка» данных есть информационно и функционально особый процесс: уже появляются компьютерные системы, которым можно диктовать на том языке, на который система запрограммирована, и после подготовки она даже может научиться писать или выстукивать произносимый текст как машинистка, что является очень хорошим достижением конструкторов, но и такая система «ничего не понимает». В последнее время появились (параллельно с шахматными матчами компьютеров и людей) очередные попытки разыграть «тест Тьюринга», то есть чтобы компьютер имитировал в разговоре обычного человека. Окончились они жалким поражением: компьютеры как ничего не понимали пятьдесят лет назад, так по-прежнему ничего не понимают.

5

В определенном, но только в определенном, узком смысле, связано это с тем, что а) получившие зрение слепые от рождения (как было сказано выше) ничего не видят и впоследствии, то есть не способны автоматически и внесознательно совершить мозговые операции, свойственные здоровым людям и дающие возможность «видеть»; б) развивающиеся без контактов с нормальной человеческой средой дети где-то после 7-9 лет не в состоянии научиться разговору: они остаются почти немыми и не понимают того, что им говорят; и так далее. Значительная часть мозговых модулей, связанная с жизненными процессами (функциями) организма, в выше названных контактах с окружением не нуждается (мочеиспусканию и испражнению не надо учиться: мы учимся только обстоятельствам и способам, какими это следует делать, потому что в гостиной никто не спускает штаны, чтобы облегчиться). Однако же без обучения, без тренировки мозг не в состоянии достичь нормальной средней способности. Тогда было бы странным ожидать возникновения аналогичных или, по крайней мере, подобных способностей в результате соответствующего программирования компьютера, хотя бы он и весил сто тонн.

6

Повреждение мозгового модуля, отвечающего за цветовое зрение, ведет к тому, что человек сможет по-прежнему прекрасно видеть, но лишь как в черно-белом кино. Это свидетельствует о «наложении» друг на друга работы совместно действующих систем, относящихся к «оптической зоне» коры мозга. И что еще хуже — бывает слепота коры, которая является осознанно подтверждаемой неспособностью видеть, и слепота коры, сопровождаемая «подкорковым зрением»: человек говорит, что ничего не видит, но брошенный ему мяч хватает на лету, — это объясняется тем, что в мозгу существует целая восходящая иерархия, и такой человек одновременно «видит» и «не видит», так как «в нем» видит низшая система, о чем он сам не знает в том смысле, в каком мы не знаем о функционировании почек, несмотря на то что они 24 часа в сутки неустанно работают.

7

Повсеместно известно такое явление, как рассеянность, которое обоснованно или необоснованно приписывается не только пожилым людям, но и ученым, особенно мыслителям, погруженным в медитацию. Такой человек может совершать различные действия автоматически, то есть бессознательно. Они могут, но не должны быть целенаправленными или бессмысленными (например, я кладу грязную рубашку в морозилку вместо стиральной машины). Осознанные post factum, они часто вызывают смех. Рассеянным может быть только существо, наделенное интеллектом! Нет «рассеянных» мух или пчел. Это вытекает из высшей сложности интеллектуальных способностей, но, с другой стороны, нет глупых муравьев или тараканов, а от глупых людей в глазах рябит. Остается надежда, что прежде чем создать искусственный интеллект, нам удастся сконструировать систему, наделенную значительной глупостью, но в этом я не совсем уверен… Nota bene как очередное отступление от темы, добавлю, что считаю себя достаточно умным человеком, не обремененным талантом шахматиста, но правила этой игры я, конечно, знаю. «Рассеянность» просто основана на том, что определенное, обычно известное и часто совершаемое действие выполняется автоматически, бессознательно, и, кроме того, его эффективное, то есть реальное исполнение НЕ заносится как свершившийся факт ни во временную, ни в постоянную память. Есть доказательства, что и такое действие может оставить след и быть зафиксировано при особом усилии памяти и/или под влиянием «помощи», например, гипнотизера, при этом человек осознает, что действие было совершено. (Гипнотизер nota bene совсем не обязателен: может быть, достаточно свидетельства постороннего наблюдателя.)

8

С виду все вышеизложенное выглядит болтовней, потому что, по существу, указывает, насколько далеко отстоит разум от интеллекта, но сегодня их и машинное моделирование по-прежнему разделяет пропасть. Я лично считаю, что это переходное состояние. Невозможно то, что запрещают точные науки. Они, однако, искусственного разума не запрещают.

9

Мне кажется, — но я не в состоянии подкрепить свои слова никаким веским аргументом или хотя бы его тенью, — что в конце концов будет возможна реализация ИСКУССТВЕННОГО ИНТЕЛЛЕКТА, а не ИСКУССТВЕННОГО РАЗУМА. Я думаю так, потому что интеллект мне кажется более БЕЗЛИЧНЫМ, то есть лишенным признаков индивидуальности, чем РАЗУМ. Едва ли не первым математиком, который сумел результативно и соответствующим образом использовать компьютер в творческой работе, был Станислав Улам (Stanisіaw Ulam). (Не знаю, была ли издана на польском языке его книга на эту тему: я читал ее по-русски.) Так вот, эмоциональной жизни компьютер лишен полностью, но работе математика это не мешает. Добавлю, что выдающийся немецкий психолог Дитрих Дшрнер (Dietrich Dљrner) больше года тому назад описывал свою компьютерную программу, которая должна была быть эмоциосозидательной, «эффективно аффективной», но его выводы не убедили меня, и что еще хуже — нигде в научной прессе я не нашел ни слова о таком достижении. Вещью известной и не исключительной является то, что самые разнообразные, то есть совершаемые в далеких друг от друга областях творческой мысли достижения, были некоторым образом «подсказаны» сознанию внесознанием, которое можно было бы отождествлять с результатами действия интуиции. Не будучи ученым, в своей писательской области могу сказать только следующее: некоторые мои романы не были в их целостной фабуле написаны мной в том смысле, чтобы я что-то планировал, осмыслял, схематизировал или хотя бы предвидел, что, собственно, получится. Тогда откуда «ЭТО» взялось? Ответить напрямую, с полной уверенностью, что было так и так, я не могу, поскольку сам не знаю, и здесь я отдан исключительно домыслам (предположениям), что то, что «писалось», вытекало извне сознания и, конечно же, переходило в поле сознания, потому что я писал не в гипнотическом состоянии, но «совершенно обычно» видя, что пишу, и вместе с тем не имея понятия, «что будет», «что произойдет», то есть что я напишу еще. И таким образом (только весьма относительным), можно признать сознание главенствующим в умственном труде. Nota bene компьютер в ЭТОМ вопросе не отличается от работающего мозга ТАК, как prima facie [На первый взгляд (лат.)] могло бы показаться, потому что и он, выполняя приказы (команды) программы, не сумел бы «заранее» напечатать, какой будет финал работы: «что из этой программы» (моделирующей, например) получится. Таким образом, между ним и нами появляются функциональные «точки соприкосновения», и то, что именно так бывает, вселяет в меня некоторый оптимизм (касательно AI) относительно будущего. Правда, может оказаться, что до «искусственно разума» дорога еще длинная. Что опять-таки связано с моим замечанием, что интеллект интеллектом, а людей глупых по статистике больше, чем интеллектуальных, а разумных — совсем немного…

Инфотерроризм

Эссе написано в июне 1997 г.

1

В последнем номере журнала «Foreign Affairs» за прошлый год опубликована статья Уолтера Лаквера (Walter Laquer) «Терроризм постмодерна». Автор предварил представление этого новейшего вида терроризма кратким перечислением его исторических разновидностей. Например, он писал об аcсесcинах 1, чьей задачей было уничтожение крестоносцев. В Польше XIX века во времена восстаний были «стилетники». Мне не важна здесь мотивация поступков террористов. Достаточно типичным является деление террористов на тех, кто преследует скорее политические, чем разрушительные цели, и на «настоящих» террористов-профессионалов. К последним в наше время относятся Фракция Красной Армии, Sinn Fein, баскская ЕТА, арабский Hamas и множество других групп, не столь известных или почти совсем «угасших», как итальянские или французские («Prima Linea», «Action Directe»). Цели группировок, менее или более (Фракция Красной Армии) связно сформулированные, в основном недостижимы путем покушений на убийства, в наше время обычно направленные на «кого попало», то есть на каких-нибудь прохожих, пассажиров метро (в Японии), поезда или автобуса, а не (как в царские времена) на важных политических персон (включая и самого царя). Чисто политические мотивы, имеющие место в таких террористических движениях, как Sinn Fein или Hamas, достаточно легко «отстают» от смертоносной практики, когда речь идет о добывании средств для борьбы (ограбление банков, хищение оружия, например, а также выброс на рынок наркотиков — такие операции позволяют получить много денег). При этом факторы этической природы на всех «фронтах» движения сильно и противоречиво извращаются: если НЕТ НИКАКИХ ОГРАНИЧЕНИЙ, то нет и поводов, по которым движение, имеющее в зародыше цель достичь какого-то «изменения к лучшему», привести к «победе более совершенного строя, чем существующий сейчас», должно отказываться от похищений, шантажа, нарушения обещаний и клятв, ибо если «все средства, ведущие к хорошим целям, хороши», ничто не может удержать от таких действий, которые повсеместно считаются преступными. В общем-то, ни Лаквер, ни я здесь не собираемся касаться «этической» стороны терроризма, хотя из других источников известно, что практически все воюющие стороны злоупотребляют термином «терроризм». Немцы называли аковцев 2 бандитами, но для поляка тождественность аковца герою подпольного сопротивления кажется очевидной, а приравнивание бандиту просто шокирует, как клевета.

2

В любом случае, известно и понятно, что терроризм во все времена использует такие средства, которые имеются в распоряжении для нетеррористических целей. Поэтому в игре участвуют бомбы, взрывные устройства, управляемые на расстоянии (по радио) или с часовым механизмом (замедленного действия), а также террористы-фанатики, готовые умирать со своим взрывоопасным грузом, как японские камикадзе.

3

Страсть к разрушению и уничтожению может приводить к результатам, противоречащим изначальным причинам действий. Убийство врачей и медсестер, проводящих аборты, — это не единственный, но типичный пример внутренней противоречивости, когда убивают, чтобы противостоять убийству. Однако в этих заметках мне бы хотелось обратиться к возникающему только сейчас виду терроризма, который не является «силовым», так как его главным оружием считается информация в ее технологически уже существующем и поэтому доступном виде. Конкретное действие, поле для которого представляют сети связи, вирусы, «многоуровневые программы» компьютеров, сами компьютеры, а также различные виды информации, способно пользу от передачи и преобразования информации превратить в мусор. О так называемых «логических бомбах» (logic bomb) как кумулятивных информационных снарядах (а скорее, о взрывообразно уничтожающих информацию) уже говорится, но об их применении — пока молчат. Хотя известно, что не только частные банки, но и FED, то есть Федеральный резервный банк (Federal Reserve) Соединенных Штатов Америки, не спешат с оглашением каких-либо потерь, связанных с операциями хакеров-террористов, проникающих через «защитные экраны» и «кодовые фильтры», потому что публикации о подобных грабежах могли бы слишком обеспокоить людей, по-прежнему верящих в банковских цепных псов.

4

Здесь уже границы между «просто терроризмом», мотивированным, поддерживаемым политически или идеологически, и терроризмом, который может приобретать характер «криптомилитаристский», «скрытно-военный» и межгосударственный, постепенно стираются. Сюда же относятся и различные пограничные области деятельности. Известно, что некоторые государства направляли большое количество качественно сделанных фальшивых бумажных денег в другие государства с намерением вызвать инфляцию и экономический кризис. Это, правда, происходило и происходит помимо сетей, но и это является особой формой информационной фальсификации, потому что банкнота тоже представляет собой определенный тип информации: обладающей покупательской силой.

5

К теме инфотерроризма относится и разрастающийся шпионаж. Здесь речь идет о взламывании и расшифровке кодов, которыми могут пользоваться третьи государства в своем общении: эту сферу тайной деятельности мы уже прошли, хорошим примером здесь является немецкая Enigma. Кроме того, у тайных работ появляются шансы на новые результаты, которые могут нанести предполагаемому противнику или хотя бы промышленному конкуренту самые большие потери. Если информационному управлению должен быть подвергнут коллектив изобретателей, неважно чего — ракет или автомобилей, или танков и оборудования к ним, самолетов или оружия, даже компьютеров, то негласное и тайное вторжение в его «информационный мозг», отвечающий за проектирование и производство, желательно вести по всем направлениям. Речь может идти или о перехвате рабочих данных, или об изменениях, которые трудно обнаружить и проверить таким образом, чтобы в готовом продукте сразу была видна «ахиллесова пята», место преднамеренного изменения, которое может дать о себе знать сразу или даже спустя годы по специально поданному сигналу.

Также возможен перехват информации, например ее просматривание без внесения каких-либо фальсификаций, только чтобы узнать, чем (как) управляет вторая (третья) сторона. Кроме того, возможно такое изменение информации, что адресат получит ее фальсифицированной. Между прочим, сама эта концепция не нова. Еще в пятидесятые годы «Newsweek» опубликовал фотографию карты СССР с наложенной на нее красными линиями фотометрической сеткой; из фото было видно, что, пытаясь (довольно наивно) обмануть американцев, желая свести на нет их методы наводки на большие, стратегически важные советские объекты, географы СССР создали карту всей страны с передвинутыми по сравнению с реальными координатами, горными массивами и городами…

Особая область возможных информационных вторжений располагается уже за границами земного шара, над атмосферой, там, где обращаются орбитальные корабли разного калибра. Зная соответствующие коды, противник может этими кораблями маневрировать по своему усмотрению и даже устроить катастрофу космического корабля или его падение на Землю в нужном месте.

Чем больше — говоря в общем — увеличивается область информационных атак дальнего радиуса действия и чем больше эти атаки специализируются, тем больше вреда можно нанести, профессионально вторгаясь в поток информационных и управляющих сигналов. Поэтому умело проводимой хирургической операции на другом полушарии Земли можно придать характер убийства (смертоносный). Можно также запускать ракеты, если их старт зависит исключительно от системы кодов, которыми управляют на расстоянии, но не имеющих контроля и опеки со стороны человека.