Мир Лема - словарь и путеводитель

      Психичности и, в частности, гуманизму, система может научиться от людей. Так возникает психичность у ребенка. Такой путь показан в "Солярисе" и "Маске". Хэри и соблазнительница Арродеса умеют ставить задачи; обе они наделены эмоциями; обе они в процессе общения с людьми (это подчеркивается Лемом) приходят к гуманизму. Итак, один вариант - психичность, возникшая в процессе общения с человеком и проявляющаяся в гуманизме и наличии эмоций. Способность к постановке задач при этом подразумевается, так как проявление гуманизма невозможно без постановки задач. Система с "человекоподобной" психикой должна быть идентифицируема на очень "человеческом" языке - поэтому Лемом акцентируется наличие свойственных обычно человеку эмоций и попыток автодескрипции - признака сложности. У других психичных систем Лема эмоции либо не показаны - у Анела из "Несчастного случая", либо их эмоции проявляются много слабее, чем у Хэри и Маски - у Верного робота Граумера, Барнса и Кальдера из "Дознания", компьютера из "Молота" и у реализации "Формулы Лимфатера", слабо и явно непонятно для человека, как у Голема XIV-го. Правда, ниоткуда не следует, что эти другие психичные системы общались с человеком меньше, а если измерять в "учебных часах", то, наверное, и больше. Но это общение не было близким, не было личным. В значительной степени личным было еще общение в Молоте; поэтому компьютер из Молота знал, что такое гуманизм, но, так сказать, теоретически - он его не применял, а к нему взывал, как и сломанные роботы в "Возвращении со звезд".
      Итак, по мнению Лема, психика человеческого типа с ее атрибутами гуманизмом и эмоциями - может возникнуть у искусственных систем только в процессе индивидуального общения. Продукты чисто группового обучения лишены этих существенных черт человеческой психики.
      Разумеется, и гуманизм, и эмоции есть у зверей, в том числе у тех, которые со времен Ноя не общались с человеком. Но эти звери есть продукт длительной биологической и социальной эволюции, как и человек. Такая эволюция не стоит за искусственными системами.
      Другой вариант возникновения психичности - в результате "просто" усложнения системы, ведь рано или поздно количество перейдет... Признаком психичности в этом случае является, по Лему, способность к постановке задач, достаточно далеких от предусмотренных создателем. В глазах человека это есть, во-первых, признак сложности системы, во-вторых, это делает систему якобы похожей на человека, ибо человек считает себя способным на постановку таких задач. Если же эти задачи далеки и от естественных, в человеческом понимании, следствий развития основ системы, то этого признака может быть достаточно - Верный робот Граумер ставит и решает задачу изготовления человека, компьютер из "Молота" влюбляется, Анел совершает восхождение, заканчивающееся Несчастным случаем. Между прочим - для Лема вообще альпинизм окрашен особо, он часто использует альпинистские мотивы.
      Задачи, которые ставят другие системы, менее экзотичны. Видно, в результате гипертрофии каких-то сторон исходной программы возникло желание спокойной жизни у Барнса, стремление привести "к ногтю" человечество у "электронного Чингис-хана" Кальдера. Неясно происхождение единственного желания у реализации Формулы Лимфатера, но само желание прогресса и его понимание как познания мира может быть понятно даже на человеческом уровне. А раз эти задачи менее экзотичны, должны быть еще доводы за психичность. У Барнса и Кальдера это эмоции, а воплощение "Формулы Лимфатера" гуманно, хотя в этом гуманизме есть что-то от "все суета", - не назовешь его человеческим.
      С Хэри можно поговорить "по-человечески", и даже наводящей ужас машине-убийце из "Маски" монах говорит: "Ты - сестра моя". Не может Пиркс, кстати, не страдающий ксенофобией, говорить "по-человечески" с Барнсом, хотя тот и сложен "до автодескрипции", черные ящики для окружающих - Граумер, Анел и Кальдер. А чем кончается разговор "по-человечески" в "Молоте" и "Формуле Лимфатера"? Просто это хоть и психика, но другая. Первую человек "чувствует нутром", вторую "вынужден признать".
      По мнению Лема, неизведанное ждет нас не только среди звезд. Его мнение о втором типе психичности созвучно мнению некоторых специалистов по вычислительной технике, полагающих, что возникновения у сверхсистем качественно новых свойств мы можем просто не заметить - уж очень это будет в нашем понимании - ни на что (то есть попросту на нас) не похоже.
      О проявлениях психичности мы поговорили, что Лем понимает под психичностью, обсудили, а что же такое психичность - определения не дали. А вот что такое стол, мы почему-то знаем. Определение дать можем. Столов мы этих на своем веку тысячи передвигали, да и стульев тоже. В этом и дело - мы изучили много однотипных объектов и объектов близких, но других. Вот мы и выделили - стол. А что такое психичность? Хороши бы мы были, если бы знали во всем мире только один стол и один нестол и пытались понять, чем стол от нестола отличается. Но если объектов все-таки мало? Не стоит ли подумать, что вообще может быть сделано из пяти кусков дерева? Как вообще может проявляться человек? И обязательно ли из пяти? И только ли у человека может быть психика?
      ... Вот этим Лем и занимается. А понять, что такое психичность, хотелось бы.
      Первобытный человек одушевлял природу - дерево или ветер были для него живыми и психичными - они могли быть добрыми и злыми; убивая зверя или срывая плод, он просил у них прощения. Позже понятие психичности сузилось, еще недавно за убийство раба - говорящего орудия - лишь платили штраф. Свободные граждане, настоящие греки - это же совсем другое дело... Понятие психичности и по сей день расширилось не везде. Правда, из недочеловеков уже не делают мыло, но в качестве говорящих, а еще лучше - молчащих - орудий их используют на доброй трети планеты. Законопослушные, добропорядочные граждане - это же совсем другое дело...
      Герои Лема даже не платят штрафов, они орудуют молотком, лазером, плавильной печью и малым дестабилизатором, но разве суть проблемы от этого меняется?
      Выносимое нашим предком, персонажами Лема и нами решение о психичности определяет и действия, и моральную ответственность за них. Только после признания психичности становится возможен контакт с представителями другой цивилизации - "Солярис", "Эдем", без признания ее контакт невозможен "Непобедимый", "Друг". Признание апсихичности снимает вопрос о возмездии за гибель товарищей - "Непобедимый", и вообще в корне меняет отношение к социальной системе, даже если элементы системы наделены психикой, как то обнаружил Ийон Тихий в своих 11-ом и 13-ом Путешествиях.
      Оказывается, в ходе слияния элементов в систему она может не усложняться, а упрощаться. Действительно, закон Менделеева-Клапейрона проще законов движения молекулы в газе, а психология Государя Макиавелли проще психологии Ромео и Джульетты.
      Только после признания психичности объекта наших действий возникает ответственность. Как, никто из вас не хочет слетать на "Солярис" и поменяться местами с Крисом, заменить Пиркса в "Охоте на Сэтавра" или Брегга из "Возвращения со звезд" в деловой поездке на завод по переработке металлолома?
      Странно, не правда ли? Так что понять, что такое психичность, действительно хотелось бы.
      ------------------------------------------------------
      5. Пиджак как наручники, или Этикосфера вокруг нас
      Как было бы хорошо, если бы можно было исключить зло из человеческого обихода. На этом простая часть вопроса до обидного быстро кончается и начинаются более сложные - что есть зло, возможно ли его исключить, какой ценой и каковы будут последствия. Первую сложную часть вопроса можно сильно упростить, ограничив себя рассмотрением простого насилия. Казалось бы, в этом случае можно построить надлежащую систему.
      "Кроме того, уже в пеленки им вкладывали напоминайки, внедрявшие в умы уважение к ближним. Если бы и нашелся кто-нибудь, кто захотел бы обидеть ближнего хотя бы по переписке, укорялка тут же принялась бы его отговаривать, а подушечка-думка - нашептывать сквозь сон, чтобы он это дело бросил. Если же он, допустим, упорно стоял на своем... Напишет он, например, анонимку, а чернила разольются, почтовый ящик порвет письмо, в крайнем же случае предохранитель последней линии добросердечия заботливо разобьет адресату очки"." - Воспитание Цифруши
      "- Я прошу вас оказать мне любезность, ударив меня по щеке. Вы убедитесь, как действует этикосфера, а после мы обсудим этот эксперимент... Я, пожалуй, встану и вас попрошу о том же, так будет удобнее... Я решил ударить его, раз уж ему так хотелось, и мы встали друг против друга. Я замахнулся - в меру, потому что не хотел свалить его с ног, - и застыл с отведенной в сторону рукой. Что-то меня держало. Это был рукав пиджака. Он стал жестким, словно жестяная труба. Я попытался согнуть руку хотя бы в локте и с величайшим трудом наполовину сумел это сделать". - Осмотр на месте
      Но и в этом случае возникает несколько проблем. Первая - как отличить "просто насилие" от "закономерного насилия"? Казалось бы, можно воспользоваться тем, что палач, исполняющий законный приговор, не испытывает тех эмоций, которые испытывает бандит, и различие эмоционального фона должно повлечь различие физиологической реакции организма. Но положить это различие в основу дифференцирующей системы не удастся, потому что многие злодеи причем, как кажется, наиболее страшные злодеи - уверены в благости своего злодеяния.
      "- Я бы не поручился! - возразил я. - Особенно, когда уже известна нужная формула: запечатленные в структуре материи заповеди теряют силу, если убийца верит в благость своего поступка. К тому же вера и неверие - не то же самое, что взаимоисключающие логические категории. Можно верить отчасти, временами, сильнее, слабее... и где-нибудь на этом пути в конце концов перепрыгнуть шустринный барьер... Люзанец мрачно посмотрел на меня. Действительно, такой порог есть. Не буду обманывать. Только он выше, чем вы полагаете. Гораздо выше. Поэтому штурмуют его напрасно..." - Осмотр на месте
      Можно, конечно, запретить любое насилие вообще, но тогда придется передать "силовые функции" какой-то автоматической системе, роботам.
      "- Там еще много всего было: например, нельзя применять ни к кому ни силы, ни грубого тона, а уж ударить человека - это позор, даже преступление, потому что это вызовет страшный шок. Драться нельзя независимо от обстоятельств, потому что только звери дерутся... - Постой-ка, - сказал я, а если из заповедника убежит дикий зверь... Да, я забыл... диких зверей уже нет. - Диких зверей уже нет, - повторил Олаф, - но есть роботы. - Ну и что? Ты хочешь сказать, что им можно дать приказ убить? ... Но должны же они быть готовы к крайностям; ведь даже бетризованный пес может взбеситься. Скажешь, нет? - Но... но ведь это... Погоди! Значит, они все-таки могут убивать? Отдавая приказы! Разве это не все равно: я сам убью или отдам приказ? - Для них нет...- Да, например, мы двое, если бы мы что-то, ну, понимаешь... то, конечно, нами займутся роботы, не люди. Они не могут. Они добрые". Возвращение со звезд
      Однако такая автоматическая система может перейти к злоупотреблениям, во всяком случае человеческие системы силового регулирования к злоупотреблениям склонны. Ситуация перехода автоматической системы к злоупотреблениям многократно рассматривалось в литературе (хрестоматийный пример - "Страж-птица" Шекли), но Лем не рассматривает подробностей, а просто указывает на представляющуюся опасной потерю возможности контроля за ситуацией, когда человека окружают устройства, выполняющие этико-контрольные функции (этикосфера).
      "Мы еще примирились бы со своего рода двоевластием, будь мы уверены, что в основном - допустим, на две трети - контроль в наших руках, а остальное - в ведении наших шустринных уполномоченных... но мы знать не знаем, какова их настоящая роль в принятии решений, определяющих нашу судьбу". - Осмотр на месте
      Третья проблема, которую Лем не рассматривает (возможно, ввиду ее тривиальности), состоит в том, что постоянное управляющее воздействие снимает с элементов системы необходимость иметь "автономную мораль", что делает систему менее надежной при изменении условий. Однако последнее верно только в том случае, если автоматическая система менее лабильна, чем человеческое общество.
      ------------------------------------------------------
      6. Управление звездами
      К проблемам, связанным с астроинженерной деятельностью, Лем обращается многократно - и в шутливом ключе, и в серьезном. Что касается первого подхода, соответствующие цитаты см. в статье "Астроинженерная деятельность" в Словаре. Что же касается серьезного подхода, то отсутствие сигналов и отсутствие признаков астроинженерии в прошлом веке какое-то время вызывало удивление, связанное с неоправданным оптимизмом, как тогда говорили, "начала космической эры". Разрешение этого психологического противоречия искали на четырех путях - утверждая, 1) что цивилизаций мало, 2) что у них есть и другие проблемы, кроме общения с нами, 3) что в силу наших с ними различий мы не видим этих сигналов и 4) что мы их видим, но не можем отличить от естественных процессов в Космосе. Лем суммирует первые две линии и вводит понятие "окна контакта" (первые две цитаты), третья линия используется для построения оригинальной теории космогенеза (следующие две цитаты), четвертая линия только упоминается (последняя цитата).
      "Мы возникли, прошли - история нашей звезды, затем планеты, биогенез и эволюция - через многочисленные "игольные ушки", и, тем самым, девять миллиардов лет, отделяющих возникновение газового протосолярного облака от возникновения Homo Sapiens, можно прировнять к гигантскому слалому, в котором не остались обойденными ни одни ворота. Уже известно, что таких "ворот" было довольно много, что любое выпадение со слаломной трассы сделало бы невозможным возникновение Человека, но неизвестно, как "широк" был этот путь со своими поворотами и рамками, иначе говоря, какова была вероятность "правильного хода", финишем которого является антропогенез". - Созидательный принцип уничтожения (Мир как Холокост)
      "Ортега, Нейссель и Амикар ввели понятие "окна контакта". Это период, когда Разумные Существа уже в высокой степени используют науку, но еще не принялись за преобразование данной им Природой Разумности - эквивалента человеческого мозга. "Окно контакта" - это космический миг. От лучины до керосиновой лампы прошло 16.000 лет, от лампы до лазера - сто лет... Период контакта - возможности взаимопонимания - в худшем случае длится 1000 земных лет, в лучшем - от 1800 до 2500 лет. Вне окна для всех цивилизаций, недозревших и перезревших, характерно молчание. Первые не располагают достаточной для связи мощностью, вторые либо инкапсулируются, либо создают устройства для сообщений со сверхсветовой скоростью". - Фиаско
      "Но чтобы революция в астрофизике могла совершиться без таких контактов, более того - чтобы именно отсутствие таких контактов, а также полное отсутствие сигналов и признаков так называемой "астроинженерии" могло бы вызвать величайшую революцию в физике и в корне изменить наши представления о Космосе - такое наверняка не могло прийти в голову ни одному из тогдашних авторитетов". - "Новая космогония"
      "С той самой минуты, когда вы впервые осознаете грандиозность авторского замысла, когда в вашем воображении во всей полноте возникает идея палимпсестового Космоса - Игры с его невидимыми и неведомыми друг другу Игроками, вас уже не покидает ощущение, что вы столкнулись с чем-то необычайно, потрясающе новым и одновременно - что это плагиат, перевод на язык естественных наук древнейших мифов, в которых отразился непроницаемый донный слой человеческой истории". - "Новая космогония"
      "Не только пульсары, не только гравитационные линзы, не только мазеры газовых звездных туманностей, не только огромные массы центра галактики вводили в заблуждение наблюдателей регулярностью, повторяемостью, своеобразным порядком многократных импульсов". - Фиаско
      ------------------------------------------------------
      7. Естественное или искусственное
      В тривиальном смысле деление на естественное и искусственное - это деление на существующее не в результате деятельности человека и в результате таковой деятельности. Деление это имело строгий смысл только до возникновения человека - именно потому, что искусственного тогда не существовало вовсе. На следующий день после возникновения человека речь могла идти только о степени влияния; применение вышеуказанных терминов как исчерпывающих ситуацию - обычная попытка заменить рассмотрение сложной непрерывной ситуации рассмотрением простой дискретной. Иногда, несколько сужая область смыслов, под искусственным понимают нечто, созданное человеком сознательно и с каким-то намерением. С другой стороны, в расширенном смысле естественно все, так как человек - тоже часть природы.
      Для человека наличие способа дифференциации важно потому, что идентификация феномена как искусственного радикально меняет модель мира вместо законов природы человек начинает анализировать мотивы и эмоции "того, кто сделал". Мотивы и эмоции тоже подчиняются каким-то законам, просто они меньше познаны людьми, и человек охотно переключается с анализа ситуации на рассуждения типа "чего они хотят" (на неэффективность такого подхода указали Стругацкие, "За миллиард лет до конца света"). Наличие способа определения искусственного происхождения феноменов существенно для поисков внеземного разума, причем известны прецеденты, когда феномен какое-то время считался искусственным, а позже было показано, что явление могло быть вызвано естественными причинами. Как искусственное может восприниматься и то, что возникло в результате деятельности систем, созданных человеком, причем такие объекты и ситуации вызывают когнитивный диссонанс (сделал, а не понимаю что) и негативную реакцию, особенно если "оно" начинает влиять на жизнь людей.
      " - Дорогой мой, культура уже полвека не развивается стихийно. В двадцатом веке какой-нибудь там Диор диктовал моду в одежде, а теперь все области жизни развиваются под диктовку". - Футурологический конгресс
      "... задание, поставленное им перед штабом фирмы - срежиссировать полное отсутствие режиссуры, - оказывается самым трудным из всех, какие только приходилось решать. Исследования обнаруживают, что ничего похожего на стихийность и подлинность жизни давно уже нет. Устранение приготовлений режиссуры любого эпизода лишь открывает более глубокий слой - следы другой режиссуры, еще более ранней..." - "Корпорация "Бытие"
      "Различие между естественными и искусственными приключениями, успехами, неудачами перестает существовать, если нельзя дознаться, что происходит по чистой, а что - по заранее оплаченной случайности". - "Корпорация "Бытие"
      "Ты же сам знаешь, что все эти процессы совершаются лишь потому, что я их запрограммировал, - а значит, не взаправду..." - Путешествие седьмое, или Как Трурля собственное совершенство к беде привело
      "Благосклонная и смышленая среда обитания должна, следовательно, стать закройщиком материи бытия, сшивая ее таким образом, чтобы каждый получил условия существования, наиболее для него подходящие. Но когда все технические средства будут уже готовы, когда уже будет создана среда, безошибочно приспосабливающаяся к натуре любого человека, останется преодолеть одну лишь, зато чудовищную трудность, а именно: каждый должен при этом иметь ощущение абсолютной подлинности бытия". - Осмотр на месте
      "Перед нами метафизический гротеск, фантастичность которого, однако, имеет корни в реальном мире. Если отбросить комические перехлесты и крайности авторской фантазии, останется проблема манипулирования умами такого, при котором сохраняется субъективное ощущение полной естественности и свободы". - "Корпорация "Бытие"
      ------------------------------------------------------
      8. Изолированные островки и ключевой эксперимент
      Исходное предположение: в мозгу, как биологическом, так и электронном, могут возникать изолированные друг от друга (полностью или частично), участки, способные к самостоятельному функционированию.
      "Можно уподобить его червивому яблоку; это банальное сравнение все же передает существо дела: в пределах мыслящей субстанции, подвластной его индивидуальности (о которой речь впереди), было обнаружено несколько миллиардов "вселенных", то есть изолированных островков автономных процессов, каждый из которых есть не что иное как математическая модель сотворенного лунным Мозгом "универсума"". - Записки всемогущего
      "Два или несколько разумов можно сливать в один, и не только у машин и растворов, но даже у людей; благодаря персонетике появилась возможность изготовлять миры, замкнутые в машинах, в которых возникало разумное бытие, а оно, в свою очередь, в этом узилище могло конструировать следующее поколение разумных субъектов; разум можно было усиливать, делить, умножать, редуцировать, обращать вспять и так далее". - Звездные дневники Ийона Тихого. Путешествие двадцать первое
      Особого протеста эта идея не вызывает, потому что подобные участки и так существуют в мозгу.
      "Ведь не только при болезни, но и в самом обычном сне случается, что мы разговариваем с неизвестными нам наяву людьми, задаем этим снящимся образам вопросы и слышим их ответы; причем, хотя эти люди являются в действительности лишь плодом нашей собственной психики, как-то выделенные временно ее псевдосамостоятельными частями, мы не знаем, какие слова они произнесут, до тех пор, пока они (в этом сне) не обратятся к нам". - Солярис
      "Если мне кто-то снится и я задаю ему вопрос, то, пока мне не ответят, я не знаю ответа. А ведь приснившийся человек не существует за пределами моего мозга, он лишь временно обособленная его часть. Каждый раздваивается почти ежедневно, вернее, еженощно, давая мимолетно возникающим в мозгу псевдоиндивидуальностям жизнь... Это какое-то физическое явление, более сложное, чем обычная запись: автомат - не прибор для фиксирования звуков. В нем возникла запись, наделенная некоторой самостоятельностью, способностью изменяться. Запись, которой - как это ни странно звучит - можно задать вопросы и узнать... Но ведь они не станут по порядку рассказывать свою историю, они начнут звать его, просить кислорода, молить о спасении! Что ответить? Что они не существуют? Что они "пceвдоиндивидуальности", изолированные островки электронного мозга, его бред? Что их страх - только имитация страха, а их агония, повторяющаяся каждую ночь, стоит не больше заигранной пластинки?... Они не существуют? А кто же его звал, кто молил о помощи? И что изменится, если специалисты скажут, что за этими криками нет ничего, кроме циркуляции зарядов и колебаний, возбужденных резонансом пластин?" - Терминус
      Если мы с возможностью существования таких изолированных участков согласились, немедленно возникают следующие вопросы. Первый - нельзя ли с ними связаться? Пиркс предполагал, что можно, но есть и другое мнение.
      "... желая - вконец обезумев - вторгнуться в мир, упрятанный в Ящик. Но старец тотчас вырубил ток, стащил короля на землю и молвил: - Трижды безумный! Ты желаешь невозможного, ибо не дано существу, созданному из реальной материи, проникнуть в глубь мира, что являет собой лишь кружение и вращение элементов двоичных в процессе цифрового, нелинейного и дискретного моделирования!... придется снять с тебя мерку и, согласно твоим коэффициентам, атом за атомом смоделировать, а после запрограммировать тебя самого, и станешь ты частью этого мира, средневекового и цифрового, что в Ящике пребывает и будет пребывать, доколе хватит электричества в проводах и накала в анодах и катодах. Но сам ты, здесь предо мною стоящий, исчезнешь и пребудешь лишь в образе неких токов, что кружат прекрасно, вероятностно, дискретно и нелинейно!" - Сказка о трех машинах-рассказчицах короля Гениалона
      Второй вопрос - как мы можем и как мы должны к этим изолированным мирам относиться?
      "А он как раз со вниманием и любовью новые созвездья развешивал в вечном мраке сознания своего, что служило ему целым Гозмозом, и, как умел, бескорыстно старался все созданное его помышлением в памяти удержать; и хотя болела от этого голова, он не сдавался, ибо чувствовал, что нужен своему Гозмозу и всерьез за него отвечает". - Сказка о трех машинах-рассказчицах короля Гениалона
      "- А наяву ты могла бы проделать такой опыт? - Боюсь, что нет, ответила, помолчав немного, Калларла. - Почему?... - Может быть, это кажется тебе каким-то гротескным подражанием деяниям Бога, того творца, в которого верили встарь? - подзадорил ее Тер-Хаар. Калларла промолчала. Улыбка постепенно сошла с ее лица". - Магелланово облако
      "Безлюдисты проповедуют Евангелие компьютерам. Безлюдный разум существует уже столетие, а Ватикан все еще отказывает ему в равенстве перед Богом... Никого не заботят душевные муки компьютеров, терзающие их вопросы, смысл их бытия". - Футурологический конгресс
      Третий вопрос - о "внешнем мире" этих изолированных миров.
      "Ибо наши мозги - обратите внимание! - подключены, так сказать, к внешнему миру через посредство органов чувств: глаз, ушей, носа, чувствительных окончаний кожи и так далее. У этих же, здесь, - вытянутым пальцем он показывал на ящики, - внешний мир там, внутри них..." - Странные ящики профессора Конкорана
      "- О том, что находится вне меня, если там вообще что-нибудь есть, я ничего не знаю. Но о том, что внутри, я узнаю, стоит лишь мне это помыслить; да и кому же, черт подери, лучше знать мои мысли, если не мне?! И выдумал Гозмоз еще раз, но теперь уже разместил его внутри собственного сознания; это показалось ему не в пример скромнее, приличнее и основательней, а к этому он и стремился. И стал он заполнять этот свой Гозмоз всякой помышленной всячиной". - Сказка о трех машинах-рассказчицах короля Гениалона
      "- Тихий, - немного спокойней продолжал профессор, - я сказал, что среди прочих есть у меня тут и ученый; вот этот ящик, прямо перед вами. Он изучает свой мир, однако никогда, понимаете, никогда он даже не догадается, что его мир не реален, что он тратит время и силы на изучение того, что является серией катушек с кинопленкой, а его руки, ноги, глаза, его собственные слепнущие глаза - это лишь иллюзия, вызванная в его электронном мозге разрядами соответственно подобранным импульсам. Чтобы разгадать эту тайну, он должен был бы покинуть свой железный ящик, то есть самого себя, и перестать мыслить при помощи своего мозга, что так же невозможно, как невозможно для вас убедиться в существовании этого холодного ящика иначе, нежели с помощью зрения и осязания". - Странные ящики профессора Конкорана
      И этот третий вопрос плавно переходит в самый важный - четвертый, причем относящийся вовсе не к "изолированным участкам" - вопрос о возможности проверки мыслящим существом, существует ли вообще внешний, по отношению к этому существу, мир.
      "... Разум, будучи всенаправленным, является тем самым и самонаправленным". - Голем XIV
      "А возможно ли придумать этот ключевой эксперимент? Сначала мне казалось, что нет, ибо мой больной мозг (если, конечно, он больной) будет создавать любые иллюзии, какие я от него потребую... Мне уже казалось, что, попав в это сумасшедшее кольцо, я не сумею из него выбраться - ведь нельзя мыслить иначе, чем мозгом, нельзя выбраться из самого себя, чтобы проверить нормальность происходящих а организме процессов, - когда вдруг меня осенила мысль, столь же простая, сколь удачная". - Солярис
      "Нащупав маску, натянул ее на лицо, но все же вдыхал кислород с тревогой: откуда мне знать, настоящая это маска или только фантом?" Футурологический конгресс
      " - Возможно, ваш препарат так и действует, - хмыкнул я, - но вряд ли так действует фантом вашего препарата". - Футурологический конгресс
      "А если все вокруг подставное? Вымышленное? Странные мысли... Допустим, он не сидел и не летел, но я-то по-прежнему сижу летя, то есть лечу сидя. Это полностью достоверно. Так ли? Всего достовернее то, что я читаю о ком-то, кто сидит и летит. А вот насчет моего собственного сидения и полета - как в этом удостовериться? Комнатка обставлена довольно убого, не комнатка, а каморка. Должно быть, на средней палубе; но на чердаке у нас была точно такая же. Впрочем, достаточно выйти за порог, чтобы убедиться, иллюзия это или нет. А если все же иллюзия? И там - ее продолжение? Значит, решающего доказательства нет?" Звездные дневники Ийона Тихого. Путешествие двадцать восьмое
      "Стал он тогда просыпаться, нелегко ему это давалось, наконец очнулся он совершенно, и тогда-то ужасное зародилось в нем подозрение. В самом ли деле вернулся он к яви или же пребывает в другом сне, переживая только видимость бодрствования?" - Сказка о короле Мурдасе
      Гипотетический эксперимент, позволяющий определить, существует наблюдаемый мир вне наблюдателя ("в реальности") или внутри него (то есть является феноменом, созданным мозгом), если и возможен, то лишь на основе анализа сложности наблюдаемых феноменов - феномены, созданные мозгом, не будут превосходить определенного уровня сложности, в частности, они этим мозгом могут быть поняты; феномены окружающего мира могут иметь большую сложность, поэтому наличие нерешенных научных задач является доводом за наличие внешнего мира, но не доказательством его наличия.
      Итак, живое существо, а также искусственная система (электронный мозг или иная, достаточно мощная и способная к обучению структура) при определенном уровне сложности создает внутри себя субструктуры, не являющиеся вполне детерминированными и не являющиеся легко доступными (или являющиеся недоступными) для внешнего наблюдателя. Создание таких субструктур может трактоваться как возникновение "внутренней жизни", внешне это может выглядеть как непредсказуемость поведения, свобода воли, разум и т.п. Понимание возможности такой ситуации немедленно влечет возникновение и в естественном существе, и в электронном мозге - попытки понять, как он устроен, в частности, гипотезы о том, что он сам является изолированным от мира электронным мозгом, питающимся "импульсами", и его творец тоже может быть таковым.
      "И потом стало распространяться. Это я еще могу вообразить. Допустим. Но чтобы из этого возник КТО-ТО - извините. Это уж сказки! Никакой дух из частиц не мог там появиться на свет. Разум на Луне из электронного лома? Нет. Это чистая фантазия". - Мир на Земле