Современная электронная библиотека ModernLib.Net

Мгновение.

ModernLib.Net / Лем. Станислав / Мгновение. - Чтение (стр. 5)
Автор: Лем. Станислав
Жанр:

 

 


Для программистов настоящим препятствием по-прежнему являются будто бы простые действия, выполняемые каждым человеком без усилий. Устройства, которые могут пыль как-то убрать в комнате с минимумом приносимого ущерба, по-прежнему являются непропорционально дорогими. В общем говоря, ситуация такова, что роботы или псевдороботы овладели только отдельными, сугубо специализированными функциями. Они могут выполнять рекомендации или приказы, но этого недостаточно для удовлетворения амбиций проектировщиков. Они ведут речь о роботах, которые, возможно, совершенно не подобны на человека, но проявляют такую самостоятельность в действиях, которая следует из решения как волевого акта. С этим же проблема потому, что мы по-прежнему не знаем, какие неврологические механизмы мозга отвечают за акт воли. Поэтому программисты занимаются созданием таких программных систем, которые имитируют наличие поведенчески воспринимаемого сознания. Таким образом появилось направление, которое должно не столько пройти, сколько обойти тест Тьюринга.
      Я уверен, что как количество, так и качество этих программ, обычно ориентированных на очередные поколения параллельно работающих компьютеров, а также на смешанные соединения псевдонейронных сетей, будет достигать все большего уровня точности и тем самым будет все лучше имитировать присутствие обладающего умом сознания, которое многими людьми будет восприниматься как индивид или как воплощенная в машине индивидуальность. В определенном смысле это будет обман людей как собеседников или сотрудников машины, так как настоящим, присущим личности, сознательным интеллектом, называемым психической жизнью, подоные имитаторы еще обладать не будут. Следует уяснить себе, что эта дорога ведет к нагромождению трудностей, которые в «Големе» я назвал hill climbing toposophical theory . Речь идет о вступлении на территорию, пока недоступную для механических пришельцев, территорию, находящуюся в наших черепах. Невозможен какой-то неожиданный скачок от устройства, полностью подчиненного людям, пусть даже иногда и оказывающего сопротивление, которое мы скорее склонны называть ослиным упрямством, и которое хорошо известно пользователям зависающих компьютеров. Прогрессирующая компактность (сжатие) информационных носителей, которые будут все более совершенными эквивалентами твердых дисков, не может обеспечить абсолютную безошибочность. Одна логическая ошибка на миллиард элементарных вычислений - это доказанный предел безошибочности самых быстрых машин, обладающих наибольшей вычислительной мощностью. Не вдаваясь в подробности, скажу только, что за растущую, даже постепенно, быстроту операций надо платить появлением ошибок; быстрота операций, перевалившая за биллион логических шагов, начинает душить логически измеримую, ранее признаваемую совершенной, безошибочность системы.
      Наш мозг наш является, как сказал фон Нейманн, совершенной системой, созданной из несовершенных нейронных элементов. Это еще и потому, что к каждому понятию, закодированному в человеческой памяти, ведет множество разнообразных дорог. Например, если я не могу вспомнить, как называется всем известная птица с красиво выгнутой шеей, то я мог бы выбрать из памяти правильное название (лебедь) или начинать припоминать обороты типа «лебединая песня», или даже балет «Лебединое озеро». А к находящимся в памяти компьютера «энграммам» обычно ведет одна дорога, поэтому ее блокировка ведет к полной «амнезии» компьютера. Подобных проблем, противостоять которым может только значительный охват сетями элементов памяти, будет множество. Тем более, что у самих людей есть трудности с припоминанием названий, таких как фамилии, потому что количество их пересечений со всем запасом нашей языковой идиоматики, вообще говоря, скромное. Надо также понимать, что от так называемого information retrieval до псевдоинтеллектуальной независимости еще очень далеко.
      Пока можно было бы выразить проблему такой фразой: распознавание сымитированной активности искусственного интеллекта будет зависеть как от точности работы машинного имитатора, так и от критических способностей настоящего человеческого интеллекта в контактах, носящих характер n-мерной игры. Если правда, что количество возможных шахматных партий составляет 10100, то количество возможных вариантов разговора человека с искусственным интеллектом и сосчитать невозможно, потому что каждый человек среднего интеллекта способен составлять и понимать семантически и синтаксически правильные предложения, которым его никто до этого времени не обучал. Когда машины покажут, и покажут ли вообще, такое лингвистическое совершенство, мы не знаем, и поэтому не стоит слишком доверять как негативным, так и позитивным заявлениям резвящихся на этом поле философов. Не какие-то крупнокалиберные, выдвигаемые на поле боя аргументы за и против, будут в далеком будущем позволять делать вывод о возникновении или крахе искусственной разумности. Без множества мечтаний, попыток, катастроф не было бы авиации. Без неустанных штурмов не может появиться искусственный интеллект. Решение этого спора я считаю преждевременным.
 
       Примечание переводчика:
       1 - В свое время Станислав Лем выполнил обширное тематическое исследование литературных произведений разных авторов, опубликованное в двухтомнике «Фантастика и футурология» (1970 г., на русском языке не издавался), в котором роботам посвящена глава «Роботы и люди» (см. ).
       2 - В строгом смысле (лат.).
       3 - Теория топософского (от греческих topos - место и sophia - мудрость) восхождения (англ.). Речь идет о дополнении к фантастическом эссе «Голем XIV»: «Лекция XLII: О себе» (1981 г., на русском языке не опубликовано).
       4 - Информационный поиск (англ.).
      Проблемы роботов можно рассматривать в трех направлениях в соответствии с вопросами: можно ли будет их конструировать, и если да, то ради каких целей это будет осуществляться, а также какие сходства и различия они будут демонстрировать по сравнению с человеком. Присутствие в фантастике этой темы равно положительному ответу на первый вопрос; что касается двух остальных, то ответы, получаемые из литературы, отличаются очень большим разнообразием, которое, однако, в совокупности (после детального рассмотрения) с точки зрения пророчеств имеет никчемное качество, если вообще какое-либо.
      Перечислим основные сюжеты этого сектора Science Fiction:
       1) Интеллектроника(разум, механизированный при помощи цифрового устройства, не человекоподобного). Здесь фантазия поработала не особенно много. Вот несколько типичных тем:
      Гигантский компьютер, управляющий государством или всем миром («безлюдная электрократия») - можно найти в произведениях Ван Вогта ( Van Vogt), Азимова ( Isaak Asimov), Лейбера ( Fritz Leiber) и многих других. У Ван Вогта машина осуществляет периодическое психологическое тестирование граждан, у Азимова - прежде всего управляет экономикой. В моем рассказе «Друг» большой компьютер, укрывая от людей свои намерения, стремится к овладению миром. Такой же сюжет можно встретить, например, в повести « Gigant-Hirn» немецкого писателя Хаузера ( H. Hauser). На «низших уровнях» власти цифровые машины выступают чаще, например, как вспомогательные приспособления в уголовном розыске (например, в новелле « The Organleggers» Нивена ( Larry Niven) компьютер, а не детектив, сравнивает фотографии, чтобы выявить преступников), как машинная память в службе планетарного или космического поиска и т.д.
      Большой компьютер-стратег (например, как Dinahв уже упомянутой новелле; идея «тайного сговора» двух цифровых антагонистических стратегов также была достаточно хорошо отражена в литературе).
       2) Роботы(человекоподобные механические устройства) и андроиды(очень похожие на людей манекены).
      Роботы, которые воспринимаются людьми как рабы.
      Андроиды, выполняющие функции работников по дому, «садовников», а также - няньки и телохранители.
      Роботы, опекающие людей для их же блага, например, обманывающие их, что будто бы война, давно завершенная, продолжается еще на поверхности земли, и запрещающие людям покинуть убежища: если бы это им разрешили, люди возобновили бы войну заново (так у Ф.Дика ( Philip Dick)).
      Роботы отчаявшиеся и беспомощные, оплакивающие человечество, погибшее в войне: тема достаточно часто встречающаяся (например, у Брайана Олдисса ( Brian Aldiss) в « But Who Can Replace a Man?» или в « Orphans of the Void» Пола Андерсона ( Poul Anderson), где бедняжки упоминаются даже в названии).
      Роботы, ведущие между собой войны, ибо это забавляет их хозяев (например, у Д.Банча ( David Bunch)).
      Роботы, по инерции продолжающие воевать, хотя это уже потеряло смысл в связи с гибелью человечества.
      Роботы, убегающие от людей, чтобы основать собственные государства (этот сюжет я выдумал, но как гротесковый).
      Роботы, которые доработали собственную «метафизику», провозгласив свое превосходство над людьми (например, у Азимова в томе « I, Robot» есть такая новелла, однако творец онтологии роботов выглядит там несколько дефективным).
      Роботы, которые во время работы, особенно в опасной, трудной ситуации, ошибаются по непонятным причинам; обычно речь идет о техническом дефекте.
      Роботы, впадающие в бешенство, все уничтожающие, и даже убивающие людей (например, в « Fondly Fahrenheit» А.Бестера ( Alfred Bester)), и не по причине какой-то «имманентной злобы», а только по причине аварии, порчи или потому, что поставленное им задание было невыполнимым; это опять по той причине, что попали они в ситуацию, которую конструктор не предусмотрел (такой лейтмотив появляется и в моем рассказе «Охота на Сэтавра» : горный робот в результате «сотрясения мозга» начинает действовать деструктивно и его нужно уничтожить).
      Роботы неземные, т.е. происходящие с других планет, построенные не людьми (например, в « The City and the Stars» А.Кларка ( Artur C. Clarke), а также в повести « Vor» Дж.Блиша ( James Blish)); в этой последней речь идет об особенном роботе, так как он является не только металлическим чудовищем, с внутренностями из звездного огня, но при этом и мучающимся существом, желающим смерти (то есть робот - самоубийца, который убить себя не может, потому что имеет соответствующую защиту, и поэтому обращается к людям с просьбой, чтобы его уничтожили); «неземные роботы» выступают также в качестве стражи на космических кораблях и летающих тарелках, охраняя в этих случаях похищенных на их борт людей; иногда человеку удается такого робота перехитрить.
      Роботы, выполняющие типично человеческую работу, например, редактирующие произведения Science Fiction(тема несколько раз был использована в юмористических вариантах), пишущие повести (например, в « Silver Eggheads» Фрица Лейбера); функции вспомогательного персонала (например, кассиров, официантов, гостиничных администраторов) в выполняются самими роботами.
      Роботы настолько мудрые, что логически доходят до существования Господа Бога, таков «святой робот» в новелле « The Quest for St. Aquinas» Э.Бучера ( Anthony Boucher); там же появляется «robass», механизированное соответствие ослицы Ваалама, который вводит в искушение благочестивого Фому.
      Роботы, лишающие свободы одних людей по командам других, готовящие им специальные муки (это - в новеллах Д.Банча, в вымышленной им стране Moderan).
      Робот-компьютер такой, как Доминатор - электронный надзиратель на космическом корабле - в новелле Дж.Шмитца ( James H.Schmitz) « The End of the Line»; герой сумел, однако, победить это устройство и совершил побег вглубь Галактики, а доброжелательный автор подсовывает ему прекрасную девицу, которая была спутницей звездного экипажа и, наверное, станет Евой новой ветви человечества.
      К теме роботов я причислил бы новеллы с «двойной инверсией», в которых (так у Азимова, например, в « Sucker Bait», а также в « But, I Don’t Think» Рэндалла Гарретта ( Randall Garrett)) человек выполняет функции компьютера (обладает феноменальной памятью у Азимова, является феноменом молниеносных ассоциаций как « guesser» у Гарретта: способности цифровой машины переносятся в мозг людей).
      Микроробот-советник, например, размещаемый в ухе «миниатюрный умишко» - сюжет, псевдореалистически представленный Ф.Л.Уоллесом ( F.L.Wallace) в « Delay in Transit» (путешественник на чужой планете может победить противников только благодаря подсказкам электросоветника, называемого Dimanche; то же самое, как шутка, у меня в новелле «Друг Автоматея» из «Сказок роботов» ; у меня, впрочем, микроробот является другом макроробота).
      То ли робот, то ли компьютер другой цивилизации, который удерживает ее в подчинении, подвергая ее гипнотическим воздействиям (например, « Wailing Wall» Роджера Ди ( Roger Dee)).
      Роботы со сменными мозгами и, благодаря этому, способностями (так у Клиффорда Саймака ( Clifford Simak) в новелле « Installment Plant»: «встраивая» роботу новый тип мозга, превращают его из механика в хирурга, из хирурга в антрополога и т.д.).
      Робот, власть над которым от людей получают какие-то «Другие»; так, например, в моем романе «Непобедимый» (из-за этого Циклоп выступает против людей).
      Роботы, борющиеся друг с другом или с людьми; борьба эта имеет спортивный характер.
      Старые, немощные роботы, которые должны уже идти на лом, но кому-то их очень жаль; жалеющей особой может быть, например, почтенная старая гувернантка или малый ребенок; тема эта появляется и в моем романе «Возвращение со звезд».
      Роботы или андроиды - гибриды, т.е. имеющие части человеческого тела или мозга; в новелле «Join Now» Роберта Шекли ( Robert Sheckley) выясняется, что невозможно скопировать «душу», и каждого человека делят на три части: одна часть остается человеку, а остальными двумя «одушевляют» двух роботов; эта идея основывается на фрейдовской ( Sigmunt Freud) триаде (« Superego» - « Ego» - « Id»): на планету с тяжелыми условиями жизни, какой является Венера, посылают робота, оснащенного « Id», потому что оно является той обезьяной, которая грубо бодрствует в нашем подсознании; такой робот называется Durrier Chassis. В другой версии человеческий мозг (покалеченного космонавта, ребенка) внедряется в управляющее устройство ракеты и называется в таком случае «трансплантант»; еще в одной версии - так у Деймона Найта ( Damon Knight) в « Ask Me Anything» - на безвоздушной планете, в военных школах, воспитываются автоматы для сражений, у которых мозги и биологические части детей размещаются в бронированных коконах-протезах (речь идет о формах, «скомпонованных» из робота, андроида и человека).
      Роботы, специально созданные для определенного задания (например, в новелле « The Stutterer» Мерлисса ( R.R.Merliss)), после выполнения которого они должны идти на лом, но, понятное дело, им этого очень не хочется.
      Роботы бастующие (не знаю такой истории, что странно - должна быть!).
      Роботы, появление которых является панацеей для решения всех общественных проблем (например, у Дж. Уильямсона ( Jack Williamson), а также у К.Саймака).
      Итак, исчерпав весь алфавит, останавливаемся перед морем незатронутых вариантов. Читатель, благодаря представленной выше информации, может сориентироваться, почему я не приступаю к классифицирующей систематизации: это было бы чрезмерно утомительно…
 
       Примечание переводчика:
       1 - Написан в 1958 г.
       2 - Написан в 1963 г., входит в цикл «Рассказы о пилоте Пирксе».
       3 - Предсказатель (англ.).
       4 - Сборник рассказов «Сказки роботов» впервые был издан в 1964 г. Входит в программу обязательного изучения в польской школе. Кроме него, роботам полностью посвящен цикл «Кибериада», рассказы которого были написаны в 1963-1976 гг.

Макрок

       Макрок- это придуманный мною неологизм, кратко передающий идею, которую освещал Роджер Пенроуз (Roger Penrose). Этот ученый, достаточно дерзко выйдя за пределы известной ему теоретической физики, выдвинул гипотезу, что своими умственными способностями человек, якобы, обязан не подлежащей подсчету работе мозга, опирающейся на квантовые эффекты. Макрок означает макроскопический объект квантовый. Предположение о неисчислимости и квантовости человеческого мозга, выдвинутое Пенроузом, не опирается на какие-либо эмпирические факты, и большинством ученых оно было воспринято очень скептически.
      Пенроуз занимает ведущее положение в физике, однако, как говорят критики, это не дает ему права на подобные предположения. Я вспоминаю об этом потому, что наше сознание - это белое пятно в сфере познания, и сейчас не менее загадочное, чем сто или пятьсот лет назад. Упрощая, можно поделить всех, кто (в прошлом или настоящем) занимался разгадыванием психологии человека, особо выделяя сознание, интеллект, разум, проницательность или же сообразительность, на тех, кто давал толковые разъяснения вышеприведенных человеческих качеств, и на тех, кто считал, что мы никогда не найдем ключи ко всему собранию этих тайн. В последнее время довольно много говорили о новейших результатах исследования мозга Эйнштейна, отличающегося значительными размерами теменных (париетальных) долей. Однако нет оснований утверждать, что гениальность Эйнштейна была следствием лишь этой исключительной макроскопической особенности его мозга.
      В настоящее время, после успешного клонирования овцы, после обнаружения принципиальной способности материнских клеток (stem cells), как тотипотентных, к клонированию как целого организма, так и его фрагментов, открылся простор для интенсивного и не всегда оправданного гипотезотворчества. Поскольку невозможно, взяв крылообразующие гены от самых больших птиц, передать нашему потомству умение летать, то эта придуманная проблема, будучи неосуществимой, не дает оснований для биоэтического анализа. Поэтому мы не рассуждаем, стоит ли переделать людей в ангелов, ибо это невозможно. Вся тяжесть моральных решений с сфере биоэтики ложится на нас, когда у давнишних фантазий появляется шанс осуществиться. Клонирование, уже опробованное к различным видам полезных растений и домашних животных, по отношению к человеческому роду находит одновременно категорических противников и энтузиастов-сторонников. В результате этого даются разные ответы на вопрос, можно ли клонировать людей: можно клонировать непосредственно или можно, по крайней мере, начать создание различных банков человеческих органов. Наряду с этой основной проблемой появляется множество сопутствующих и не менее важных, например животрепещущий вопрос: можно ли использовать сперму умершего мужчины для оплодотворения его жены, точнее вдовы, если она выражает такое желание.
      Здесь также уже стало явным лобовое столкновение ответа «можно» с «ни за что на свете». Одни считают, что людей нельзя лишить права оплодотворения, делающего возможным посмертное размножение, но и лагерь противников не ограничивается исключительно представителями различных религий.
      Очередной проблемой является допустимая граница автоэволюционного улучшения человека или, хотя бы, улучшения наследственности человека. Некоторые выступают против всяческих генетических усовершенствований, ссылаясь, например, на то, что раз уж композитор Гендель (Haendel) был эпилептиком, то нельзя удалять даже гены, развитие которых ведет к эпилепсии. Эту беседу надо начать со следующего сравнения: буквенным алфавитом пользуются все европейцы, латинским алфавитом пользовался как Шекспир, так и какой-нибудь графоман. Однако из того факта, что из букв можно составлять как гипотезы уровня Коперника, так и всякие глупости и нелепости, не может следовать утверждение о равнозначности и равноценности всего, что удается сложить из букв. Уже объявлено о близком завершении расшифровки всего человеческого генома, однако распознавание миллиардов нуклеотидов, определяющих нашу наследственность, не приведет сразу к пониманию того, как весь этот биохимический букварь определяет возникновение физических и психических черт у человеческих эмбрионов. Дорога, которую мы должны пройти для распознавания диапазона действия и вида функций генов, будет очень длинной. Известно, что два генома, состоящие из тождественных нуклеотидов, не дают одинаковых эффектов развития, поскольку важную, а порой решающую роль играет расположение нуклеотида или их групп в хромосомной нити. Люди часто бывают простаками и глупцами, но всем присуща удивительная сложность устройства, обязанная антропогенетической эволюции. Правду говоря, задачи, стоящие перед инженерами или композиторами будущих геномов, деятельность которых я в одной из своих статей назвал «плодотворящей работой», не только будут подвергаться этическим оценкам и запретам, но также будут необыкновенно сложными с научно-технической стороны.
      Мы находимся в начале трудного, опасного и прекрасного пути. Если бы даже оказалось, что бесчисленное множество нуклеотидов, сформировавшихся в поколениях людей за многие века, в своем развитии может приносить только вред, если бы, следовательно, удаление таких генов означало бы, прежде всего, улучшение качества наследственных черт, то такая польза была бы, скорее, благородным, но скромным вступлением к дальнейшим исследованиям. На цветных обложках журналов уже появляются портреты прекрасных самцов и чарующих самок нашего вида, словно уроки антропологической оптимизации уже получены и усвоены. Но это совсем не так. Действительно, стаи писак, не особенно считающихся с ответственностью за провозглашенные идеи, засыпают нас множеством голословных обещаний. Так, например, должно начаться «производство» феноменальных атлетов, артистов, математических гениев, одаренных уже в утробе матери или даже в так называемом утераторе, который должен быть искусственной маткой со всей массой магических достоинств и способностей. До определенной степени родители уже сейчас могут задать пол своих потомков. Задолго до начала эры клонирования стали возникать банки спермы таких выдающихся личностей, как лауреаты Нобелевской премии. Это было неимоверно рискованно. Одну из трудностей, возникающих перед композиторами наследственных черт, легко продемонстрировать на следующем примере. Если после перетасовки и раздачи колоды карт они вдруг лягут так, что каждый из игроков в бридж будет иметь на руках только одну масть, то после розыгрыша партии и новой перетасовки карт ни на какие следы «наследования» одной масти рассчитывать нельзя. Подобное происходит с человеческими генотипами. Как известно, в семье Баха, в восходящих линиях, было довольно много органистов, и какие-то гены подверглись кумуляции, плодом которой оказался знаменитый композитор. Однако, с другой стороны, нам ничего не известно о том, чтобы родители или предки Альберта Эйнштейна отличались особыми способностями, которые могли бы передаться создателю теории относительности. Тщательные статистические исследования на большом материале нескольких человеческих поколений не дали однозначных результатов, поскольку не каждый одаренный особыми способностями человек признавался окружением таковым. Мой отец во Львове выписывал книги лауреатов Нобелевской премии по литературе, но вначале шведские академики Нобелевской премией награждали преимущественно шведов. Так, например, о шведском писателе по фамилии Хейденстам (Heidenstam) сегодня никто не помнит. Таким образом, мы не располагаем никакой однозначной шкалой измерения особо достойных признания психических или же физических черт человека или, иначе говоря, если нет возможности приложить к людям некую однозначную мерку, то нельзя, следовательно, браться за рассуждения, считать ли лучшим ребенком будущего покорителя высочайших горных вершин или, скорее, известного дирижера или сатирика. Естественный разброс, существующий в человеческом генофонде, оценить трудно, поэтому классическая дилемма «nature or nurture», то есть врожденные черты против приобретенных, все еще остается в силе.
      Как правило, к сожалению, в наиболее выраженной форме наследуются доминирующие гены с высокой вредностью, вплоть до смертельных, например ген, вызывающий муковисцидоз, приводящий к смерти в молодом возрасте. Мы знаем также, что отдельные аллели, также как их группы, могут приводить к возникновению качеств полезных и одновременно вредных. Известно и то, что гениальность не наследуется иначе, как только через культурное влияние. В психобиологии есть множество примеров людей, известных в науке или искусстве, интеллект потомства которых был ниже среднего или оно вообще отличалось психическими отклонениями. Эта область очень запутана и поэтому следовало бы пожелать себе, чтобы будущее законодательство разрешало кандидатам в родители лишь такое хирургическое генетическое вмешательство, которое сможет удалять только вредные фрагменты генома.
      Во всех вышеприведенных рассуждениях я даже не коснулся основной проблемы, а именно - эволюционной, разветвленной, запутанной дороги, которой прошли в течение нескольких миллионов лет Приматы (Primates), чтобы стабилизироваться в виде Homo sapiens sapiens. Вымерших видов было очень много, но и в отношении только одного, близкого нам, неандертальца преобладали и не исчезли до сегодняшнего дня противоречивые взгляды. Однако в последнее время приоритетной стала версия, согласно которой неандерталец, наделенный мозгом большим, чем наш, сосуществовал с человеком разумным (sapiens) в течение, по меньшей мере, нескольких десятков тысяч лет, исследования же костных частиц черепов неандертальцев наводят на мысль, что это прачеловек, который уже занимался искусством и овладел даром речи. Версия, провозглашающая, что якобы наши предки истребили неандертальскую ветвь, уступает мнению, что homo neandertalensis скрестился с нашими предками каких-то сто тысяч лет назад.
      Вышеприведенный вывод очень важен, ибо позволяет констатировать все еще нетвердость нашего знания о прошлом прачеловеческого рода, и следовательно то, что мы сумели бы сегодня сказать о человеке будущего, который овладеет собственной эволюцией, еще менее заслуживает доверия. Всяческие восхитительные и устрашающие "если бы" - преждевременный результат авторов безответственных сенсаций. Фактом является то, что человек как вид сможет не только овладеть собой, но сможет и формировать себя. А какие это даст плоды, покажет только наступающее столетие.

Интеллект, разум, мудрость

      Смысловые диапазоны вышеприведенных понятий весьма существенно различаются. В моем понимании наиболее безличностным является интеллект, и потому именно его пытаются сконструировать все те, кто считает это возможным. Учитывая, что изменения, обусловленные течением времени, делают наши достижения относительными, я не намерен, как говорил Шекспир, проходить между остриями шпаг фехтовальщиков, поскольку считаю себя, согласно его вокабулярия, существом посредственным. Дело в том, что в вопросе искусственного интеллекта и метаматематики я являюсь не платоником, а скорее натуралистом. Это означает, что для конструирования годятся предметы исключительно конструируемые, то есть такие, как великое творение, называемое математикой, так и данное нам качество, называемое интеллектом. Мне кажется, что эмоциональная составляющая в понятии разума значительно больше, чем в случае с интеллектом, и поэтому полностью безличностный или даже внеличностный разум, очевидно, реализовать будет труднее. В книге «Голем XIV» из этой дилеммы мне удалось выпутаться таким образом, что машина, являющаяся воплощением человекоподобного интеллекта, может также создавать себе различные индивидуальные резервы. Что касается мудрости, ей должна быть присуща намного большая доза надежной доброжелательности, означающей моральные ценности, гибкое постоянство мнений и суждений.
      Я прочел множество трудов и книг, абсолютизирующих возможность создания внечеловеческого интеллекта, но и не меньшее число неплохо мотивированных обоснований, в которых авторы пытаются доказать читателям, что эта концепция не может быть и никогда не будет реализована. Поистине трудно возвыситься над массой столь противоречивых и столь компетентно доказываемых мнений. Следует быть скромным, что означает, что мы находимся на дороге недалеко от нейронных сетей и уже знаем, что поставленная метазадача оказывается тем трудней для осуществления, чем дальше по этой дороге мы продвигаемся. Вместе с тем мы знаем, что здесь речь идет о чрезвычайно сложной конструкции, считающейся наиболее сложной во всей Вселенной и потому, когда говорится об искусственном интеллекте, следует благоразумно ограничиться парой простых образных метафор. Было время, не столь уж давнее, когда утверждение невозможности покорения человеком высочайшей вершины Гималаев без использования кислородных аппаратов считалось неоспоримым. Всего лишь через несколько лет после этого столь радикального суждения Эверест не только был покорен, но к сегодняшнему дню на него уже многократно взбирались без кислородной поддержки. Мы также знаем, что это не организм человека оказался способным на протяжении нескольких лет измениться до такой степени, что гималайские восхождения стали общедоступными, а упорство в достижении поставленных высоких целей смогло дать хорошие результаты. Я рассказываю о чем-то, чего мы хорошо не понимаем, так же как не понимаем, почему злокачественные новообразования, не только возникшие в одном месте человеческого организма, но и такие, которые дали уже множественные метастазы, в разных случаях и у различных людей имеют абсолютно неожиданный финал. Бывает, что врач встречает бывшего пациента, согласно всем медицинским показаниям считавшегося скорым покойником, прогуливающимся по парку в прекрасном здравии. Почему одним удается ускользнуть из-под лопаты гробовщика, а другим - нет, остается загадкой, о которой, по правде говоря, медицина предпочитает вспоминать не слишком часто.
      Третий образ, относящийся к вопросу о возможности конструирования искусственного интеллекта, также касается медицины, но является, по крайней мере, более понятным. В настоящее время уже практикуются хирургические операции, требующие столь изощренной деликатности, что руки лучших хирургов не могут с ними справиться. Тогда человека заменяет соответствующий робот, управляемый программой и двигающий хирургическими инструментами.

  • Страницы:
    1, 2, 3, 4, 5, 6