«Он думает, что…»

21-го августа 1974 года на шестнадцатой полосе «Литературной газеты» появилась миниатюра А. Жукова, имеющая непосредственное отношение к тому, о чем тут пойдет речь. Поэтому приведем ее полностью.

Мучения героя миниатюры по-человечески понятны. Знать мнение своего начальника – мечта многих поколений подчиненных. Еще во времена Римской империи был в ходу принцип Ipse dixit, который по-русски звучит весьма внушительно: «Сам сказал!». Но как узнать, что же Сам сказал? Нельзя же просто так спросить Самого. Выход из этого положения – моделирование предполагаемого мнения начальства. Основа такого моделирования – рефлексивные рассуждения.

При рефлексивном рассуждении мы как бы становимся не собой, а моделируемым персонажем, проводим рассуждение за него, глядим на мир и ситуацию его глазами. Для того, чтобы это было возможно, надо знать ту систему посылок и критериев, которые моделируемое лицо использует. Если таких знаний недостаточно или их нет, то существует лишь один выход: считать, что Он и Я одинаковы. Другими словами, считать, что Он обладает такими же посылками и критериями, как и Я, а его знания не больше моих.

Если внимательно прочитать эту юмореску, то можно заметить, что рефлексивные рассуждения очень напоминают вложенные друг в друга матрешки. Рекурсивный процесс вложения можно продолжать бесконечно, становясь попеременно на место моделируемого персонажа и свое. С этим вложением связано понятие ранга рефлексии, введенного в научный оборот В.А. Лефевром, впервые описавшим модель рефлексивных рассуждений. Понятие ранга рефлексии удобно проиллюстрировать на примере, использованном ранее тем же Лефевром.

Рис. 37.

На рис. 37 показана ситуация погони. Персонаж X пытается удрать от персонажа Y. Зная, что Y бегает быстрее его, X решает воспользоваться рефлексивным рассуждением, считая, что Y к нему не способен. Он вбегает в пещеру, показанную на рисунке, и при наличии двух коридоров А и В выбирает коридор В. Почему он это делает? Схема его рассуждений такова. Коридор А более приспособлен для передвижения, в нем можно бежать, а в узком коридоре В придется пробираться почти ползком. Другими словами, АВ, где знаком обозначено, что коридор А предпочтительнее В. И персонаж Y об этом тоже знает. Но поскольку Y не умеет рефлективно рассуждать (это соответствует тому, что Y обладает нулевым рангом рефлексии), то схема рассуждений Y будет иметь следующий вид:

X и я знаем, что АВ, следовательно, Х_А и, следовательно, Y_A.

Здесь Х_A и Y_A обозначают соответственно то, что X и Y выбирают движение по коридору А. Но для X такая ситуация никуда не годится. Не слишком умный, но быстроногий Y его догонит либо в пещере, либо после выхода из нее через выход А. Именно поэтому X прибегает к рефлексивному рассуждению. Оно выглядит следующим образом:

Y думает, что АВ, следовательно, Y_A и, следовательно, Х_B. Пусть теперь Y попробует догнать X, ведь выход В расположен совсем в другом месте, чем выход А! В этом рассуждении персонаж X продемонстрировал наличие первого ранга рефлексии. Прежде чем принять решение, он провел рассуждение за Y, предположив, что его знания таковы, что он обладает нулевым рангом рефлексии.

Но верно ли это предположение? Ведь X мог и просчитаться, не подозревать, что У сам обладает первым рангом рефлексии. В этом случае Y не бросается сразу в коридор А потому, что АВ, а также прибегает к рефлексивному рассуждению вида

X думает, что АВ и Y_A, следовательно, X_B и, следовательно, Y_B.

В этом случае X проиграет.

А что будет, если X обладает вторым рангом рефлексии? В этом случае он предполагает, что Y способен к рефлексивным рассуждениям первого ранга. В этих условиях рассуждение X может выглядеть следующим образом:

Y думает, что X думает, что AB и, следовательно, Х_B и, следовательно, Y_B, отсюда Х_А.

И если X правильно оценил возможности Y, то он ушел от погони. Но если X провел рефлексивное рассуждение на уровне второго ранга рефлексии, а Y обладал лишь нулевым рангом, то X попался. Он «перемудрил сам себя», посчитав, что Y обладает способностями рассуждать, которые тому и не снились.

Ситуация, очень похожая на этот последний случай, послужила основанием для рассказа «Ограбление произойдет в полночь», принадлежащего известному советскому писателю-фантасту И. Варшавскому. В нем описана следующая забавная ситуация. Полицейское управление получает в свое распоряжение мощный компьютер с пакетом программ, позволяющих прогнозировать возможные преступления. Проанализировав все случаи ограбления банков за последние пятьдесят лет, ЭВМ выдает прогноз, что сегодня произойдет ограбление Национального банка и сделает это известная банда папаши Сколетти. Машина даже рассчитывает оптимальный вариант ограбления, сулящий банде наибольший успех.

Все было бы хорошо, но у банды Сколетти тоже есть ЭВМ – родная сестра машины, стоящей в полицейском управлении, а программисты, работающие у бандитов, конечно, знают об ЭВМ, приобретенной полицией. И, конечно, они легко могут просчитать действия полиции при оптимальном варианте ограбления. Поэтому если их уровень рефлексии выше нулевого, то бандиты воспользуются не оптимальным вариантом, а тем, который наименее от него отличается.

Так начинается дуэль двух ЭВМ, которые постепенно наращивают ранги рефлексии своих рассуждений. Процесс этот, как мы уже говорили, бесконечен. ЭВМ рассчитывают и отвергают один вариант за другим, не останавливаясь окончательно ни на одном из них, предполагая, что противники уже рассчитали эти варианты. Дуэль кончается неожиданно. Шефу полиции сообщают, что десять минут назад Национальный банк ограблен. На испуганный вопрос программиста полицейского управления: «Неужели Сколетти?..», – шеф полиции яростно отвечает: «Думаю, что Сколетти целиком доверился такому же болвану, как вы. Нет, судя по всему, это дело рук Вонючки Симса. Я знаю его манеру действовать в одиночку, угрожая кольтом образца 1912 года и консервной банкой, насаженной на ручку от мясорубки».

Вонючка Симс не был способен к рефлексивным рассуждениям и выиграл на этом.

Рефлексивные рассуждения тесно связаны с некоторым классом игр, в которых игроки при выборе своих действий могут опираться на соображения о поведении других игроков. Простейшей из таких игр является игра, получившая название «Дилемма заключенного». Эта игра задается матрицей с определенными отношениями между выигрышами игроков при выборе ими одной из двух доступных им альтернатив. Например, матрица может иметь следующий вид:

В этой матрице А₁ и А₂ обозначают два действия, которые может выбрать первый игрок, a B₁ и B₂ – действия второго игрока. На пересечении строк и столбцов написаны пары чисел, которые определяют выигрыши и проигрыши соответственно первого и второго игроков, когда они произведут одновременно свои альтернативные выборы.

Обычно для интерпретации этих выборов рассказывают следующую криминальную историю. Полиция задержала двух человек, которые полицейским показались подозрительными. Во всяком случае, они явно смахивали на бродяг, а в стране, где это происходит, за бродяжничество полагается наказание – год тюремного заключения. Но у полицейского комиссара есть основания подозревать в них не просто бродяг. Похоже, что они – давно разыскиваемые преступники, на совести которых немало краж. Но как установить истину?

Комиссар выбирает следующую тактику. Он сажает подозреваемых в разные камеры и не дает им общаться между собой. При допросе каждому из них он объясняет, что если допрашиваемый сознается в совершении краж, то все наказание (шесть лет тюрьмы) понесет нераскаявшийся преступник, а сознавшийся будет полностью освобожден от наказания. Если же оба преступника сознаются одновременно, то каждому из них придется отсидеть по три года.

Перед подозреваемыми возникает дилемма: сознаваться или не сознаваться? Если бы они могли договориться между собой, то, конечно, надо было бы упорно отрицать свое участие в кражах. Год тюрьмы не такой уж большой срок, и они вскоре были бы на свободе. Но договориться им не дают. И все время каждого мучает мысль: что если сообщник сознается? Тогда придется сидеть шесть лет, а он будет гулять на свободе.

Итак, перед каждым из игроков две стратегии: сознаться (в матрице игры этому соответствуют альтернативы А₁ и В₁) или не сознаваться (альтернативы A₂ и В₂). Как поведут себя люди в такой ситуации? Как они должны рассуждать?

Если у наших бродяг нулевой ранг рефлексии, то каждый из них способен рассуждать только на основе тех чисел, которые находятся в матрице игры. А это значит, что каждый из них руководствуется лишь собственными интересами. В таких условиях они мгновенно «раскалываются», признаются в совершенных кражах и получают по три года тюрьмы.

Если один из бродяг обладает первым рангом рефлексии, то он сначала подумает о своем компаньоне, встанет на его место, примет его посылки и критерии (в данной задаче эти посылки и критерии одинаковы у обоих игроков). Если имеются основания считать, что компаньон человек недалекий, не способный к рефлексии, то ясно, что он сознается при первой же возможности, ибо рассуждает по схеме

В этих условиях надо немедленно сознаваться, ибо три года тюрьмы все-таки лучше, чем шесть.

Если же компаньон умен, то хорошо бы знать, какой ранг он припишет своему сотоварищу. Если нулевой, то ситуация ясна – пары (А₁, В₁) не избежать и надо немедленно сознаваться. Если же он посчитает, что сотоварищ имеет первый ранг рефлексии, то он сделает правильный выбор: сознаваться не нужно. Хотя, если он будет выбирать B₂, то почему бы не выбрать A₁? И быть на свободе, оставив сидеть его в тюрьме. Такое рассуждение соответствует уже второму рангу рефлексии. Но ведь и компаньон может оказаться таким, что у него будет тоже второй ранг рефлексии. Что тогда?..

Оставим бродяг мучиться над их неразрешимой дилеммой, а комиссара полиции ждать, когда они «созреют». Вернемся к тем схемам рефлексивных рассуждений, которые мы привели.

Для того чтобы понять, как реализуются рассуждения с различными рангами рефлексии, введем специальный оператор x(y(z)), смысл которого заключается в словах «х думает, что у думает z». С помощью этого оператора можно записывать схемы рефлексивных рассуждений. Например, запись

соответствует следующему рассуждению: «x думает, что у думает, что х думает d, поэтому х делает h». Ясно, что ранг рефлексии х равен двум, а относительно у он предполагает, что его ранг рефлексии равен единице. В большинстве задач, связанных с рефлексивными рассуждениями, по-видимому, можно обойтись лишь двумя типами рангов рефлексии: четным и нечетным. Более тонкое исследование рефлексивных рассуждений читатель может найти в литературе, указанной в комментарии к этому разделу.

Текст и рассуждение

В конце второй главы мы говорили о малоизвестных науках – герменевтике, экзегетике и гомилетике. Одним из достижений этих наук является четкое понимание того, что та или иная аргументация во многом зависит от формы текста и восстановления условий его возникновения. Примером аргументаций такого рода могут служить удивительно тонкие и остроумные соображения, используемые специалистами в области литературоведения или истории. Анализируя, например, роман М.А. Булгакова «Мастер и Маргарита» литературоведы смогли разгадать многое, что скрывается между строк этого произведения. Коровьев-Фагот оказывается носителем средневековой ереси альбигойцев, учение известного украинского мыслителя Г. Сковороды – лейтмотивом многих высказываний героев романа. А фамилия Берлиоз свидетельствует о глубинном противопоставлении всего замысла романа Булгакова замыслу «Фантастической симфонии» известного французского композитора. Такая работа требует обширных знаний об эпохе и личности писателя, умения воспринимать текст произведения как бы в нескольких измерениях.

Тексты обладают одной удивительной способностью. Если они передают живую речь, то невольно изменяют ее, трансформируют в ту или иную сторону, приглаживают, лишают тех компонентов, имевшихся в живой речи (интонация, сопровождающие жесты, мимика), которые во многом определяли характер живой речи. Эта особенность текстов не раз создавала трудности, когда стенографирование или запись показаний подозреваемых превращала в текст протокола их живую речь. Если судьи после этого знакомились с делом лишь по письменным текстам, то их суждения могли быть весьма далекими от истины. В почти документальном романе французского писателя Ж. Перро «Красный пуловер» рассказывается о судебном процессе над Ранусси, казненным в 1976 году по подозрению в убийстве ребенка. Не подвергая полному сомнению обстоятельства дела и судебного расследования, автор романа специально отмечает особенности протокола. От имени адвоката подсудимого он говорит:

Приведенная пространная выдержка из романа Ж. Перро еще раз подтверждает существование кардинальных различий в рассуждениях, основанных на безликих текстах и реализуемых в процессе живого общения оппонентов. Учитывая, что основным режимом взаимодействия интеллектуальных систем с пользователем является режим непосредственного диалога, было бы чрезвычайно важно учесть в моделях общения и рассуждений особенности непосредственной коммуникации. В частности, была бы чрезвычайно полезна замена текстовых сообщений через терминалы интеллектуальных систем, которые пока доминируют в общении человека с компьютерами, речевыми сообщениями с одновременным вводом в искусственную систему всего внеречевого окружения, сопровождающего устную речь. Но пока это дело будущего.

«Верую, ибо абсурдно!»

Это упоминавшееся уже изречение стало афоризмом. Тертуллиан использовал его, отказываясь от попытки объяснения догмата о троичной природе бога. Три ипостаси христианского бога не сводимы друг к другу, но тождественны между собой. В рамках формальной логики это приводит к нарушению ее основных законов и не дает возможности логически объяснить суть троичности бога. Тертуллиан в этих условиях поступил так, как поступает большинство людей при невозможности дать чему-либо логическое объяснение. Логика в этот момент отступает, и на первый план выступает либо ни на чем не основанное объяснение непонятного явления, либо вера в его истинность.

В первой главе мы говорили об асимметрии полушарий головного мозга, о различных принципах рассуждений, характерных для них. До сих пор мы рассматривали лишь левосторонние механизмы рассуждений, опирающиеся на некоторые логические в той или иной степени формализованные системы, на идею рационального рассуждения. Именно таким рассуждениям обучают в рамках европейской культуры. Но возможно обучение и иным способам постижения закономерностей окружающего нас мира. К сожалению, эти способы, характерные для правосторонних механизмов человека, слишком долго окутывала мистика, они вольно или невольно противопоставлялись «научным» методам постижения мира. При этом, однако, забывалось, что величайшие научные открытия часто происходили «сами по себе», в состоянии озарения, оказывались увиденными как бы внутренним зрением. Творческие способности человека всегда связывали с этими особыми состояниями его психики, когда поэтов посещает вдохновенье, а новая музыка начинает звучать для композитора столь явственно и законченно, что остается лишь записать ее.

Можно ли обучить человека переходу в эти состояния и постижению истин этим особым путем? Опыт, накопленный в последнее время и опирающийся на давнюю традицию ряда восточных школ, позволяет ответить на этот вопрос положительно. Основой такого обучения является всемерное развитие схем выводов по аналогии и ассоциации. И чем дальше друг от друга эти аналогии или ассоциации, тем более успешным будет обучение. С этой точки зрения схемы рассуждений по аналогии, которые мы описали в четвертой главе, еще слишком логичны и жестки. […][10]

…что выходят окнами на улицу, а приходят, когда на них никто не смотрит, с другой стороны, лишь бы не выйти из себя вовсе». Льюис Кэррол в своих произведениях ошеломляет читателей каскадом парадоксов и алогизмов. Э. Ионеску – создатель театра абсурда, вкладывает в уста своих персонажей такие высказывания, как «Мне больше нравится птица в поле, чем песок в тачке» или «Если звонят, то у двери иногда кто-то есть, а иногда никого нет». В шедшей на протяжении двадцати лет серии фильмов с участием братьев Маркосов все время участвует некто Чико, который характеризуется одним из персонажей следующим образом: «Он выглядит идиотом, говорит как идиот, но пусть вас это не вводит в заблуждение – он в самом деле идиот».

В области нетрадиционных, «нелогичных» рассуждений, теория делает только робкие первые шаги, а интеллектуальные системы еще пребывают в полном неведении о таком способе решения проблем.

КРАТКОЕ ЗАКЛЮЧЕНИЕ

Из того, что написано в этой книге, можно сделать следующие выводы, связанные с моделированием человеческих рассуждений в интеллектуальных системах.

1. Пока хорошо удается моделировать те рассуждения, которые носят достоверный характер и осуществляются в рамках некоторой формальной системы.

2. Достигнут определенный успех в области моделирования разного вида правдоподобных рассуждений.

3. Активно развиваются методы вывода, основанные на знаниях.

4. На начальной стадии находятся наши представления о тех системах рассуждений, которые связаны с системами ценностей и целей, присущих человеку. Интеллектуальные системы будущего, если мы ждем от них поведения и умения, подобных человеческим, не смогут без этого обойтись. А значит, моделирование рассуждений – открытое поле для исследований, свидетельствующее о молодости и перспективности этого научного направления, входящего в сферу исследований, называемых искусственным интеллектом.

И последнее: метафора левого и правого, проходящая через текст этой книги, по-видимому, имеет фундаментальный смысл. Во всяком случае, исследования в области истории культуры, проведенные в последние годы, свидетельствуют именно об этом. Дальнейшие исследования могут раскрыть некоторые тайны механизма человеческих рассуждений.

КОММЕНТАРИЙ