Дизайн вещей будущего

Окружая себя все большим количеством «умных» устройств, мы меняем нашу жизнь не только к лучшему, но и к худшему. Когда они работают нормально – это хорошо, но когда они дают сбой или превращают работоспособных творческих людей в прислужников, занятых исключительно заботой о них, их обслуживанием и ремонтом, ничего хорошего в этом нет. Так не должно быть, но так есть. Неужели уже поздно что-то изменить? Неужели мы ничего не можем сделать?

Нашествие «умных» машин

Есть надежда, что уже недалек тот день, когда человеческий мозг и вычислительные машины будут взаимодействовать весьма тесно, и мыслительные способности этого партнерства превзойдут все, на что способен человеческий ум.

Дж. Ликлайдер, «Симбиоз человека и компьютера» (1960)

В 1950-х психолог Джозеф Ликлайдер попытался определить, каким образом люди и машины могли бы установить гармоничные, или, как он говорил, «симбиотические», отношения, чтобы в результате этого партнерства повысилось качество нашей жизни. Что такое гармоничный симбиоз людей и техники? Для этого необходимо естественное, непринужденное взаимодействие на уровне подсознания, чтобы контакт с обеих сторон происходил сам собой, без каких-либо усилий, и в результате человек и машина, совместно решая задачу, сливались бы в единое целое.

В нашей жизни существует немало примеров «естественного взаимодействия». Возьмем четыре примера, демонстрирующих разные формы таких взаимоотношений: между людьми и традиционными орудиями труда, между лошадью и всадником, между водителем и автомобилем, между человеком и «рекомендательным» сервисом, предлагающим ему книги, музыку или фильмы.

Искусный мастер взаимодействует с орудием своего труда так же, как музыкант со своим инструментом. Для художника или скульптора, краснодеревщика или музыканта инструмент – это продолжение руки. Кажется, что они не пользуются инструментом, а работают непосредственно с материалом – холстом и красками, камнем, деревом, звуками. Чувство материала, то гладкого и звонкого, то неподатливого и шершавого, обеспечивает обратную связь. Это взаимодействие непростое, но приятное. Правда, такого рода «симбиотические» отношения возможны лишь тогда, когда человек хорошо знает свое дело и инструменты у него хорошие. В этих случаях взаимодействие становится плодотворным, приятным и эффективным.

Возьмем искусного наездника. Он понимает коня, а конь понимает всадника. И каждый из них передает другому информацию о том, что им предстоит. Лошадь общается с наездником с помощью языка тела, аллюра, готовности продолжать скачку и общей линии поведения. Она может быть настороженной, капризной, пугливой или, напротив, энергичной, живой и игривой. Всадник тоже общается с лошадью посредством языка тела, посадки, того, как он давит коленями, ступнями или шпорами на ее бока, команд, которые он отдает, натягивая или отпуская поводья. Конь отлично понимает, кто на нем сидит – опытный наездник, чувствующий себя непринужденно, или напряженный, не уверенный в себе новичок. Это еще один позитивный пример взаимодействия. Он особенно интересен тем, что в данном случае речь идет о двух системах – всаднике и коне, которые наделены чувствами, интеллектом, способны воспринимать окружающий мир и сообщать друг другу результаты этого восприятия.

Третий пример похож на предыдущий, однако речь здесь идет о взаимодействии разумного существа со сложным, но неразумным механизмом. В идеале – это тонкая взаимосвязь между тем, как водитель ощущает машину и дорогу, и тем, как он действует.

Я думаю об этом, сидя рядом с сыном, ведущим мою немецкую спортивную машину по гоночному треку, который мы арендовали на несколько часов. Мы приближаемся к резкому повороту, сын плавно тормозит, перемещая вес машины на нос, а затем поворачивает руль, переводя машину в состояние управляемого заноса. Завершив поворот, он возвращает руль в прежнее положение и увеличивает скорость, перемещая вес машины на задние колеса, и мы снова несемся по прямой, наслаждаясь приятным ощущением полного контроля над ситуацией. Это доставляет удовольствие всем участникам процесса: мне, сыну и автомобилю.

Четвертый пример, с рекомендательными сервисами, сильно отличается от первых трех: здесь все происходит медленнее, не так изящно и носит более интеллектуальный характер. Тем не менее это прекрасная иллюстрация позитивного взаимодействия между людьми и сложными системами, прежде всего потому, что последние не управляют нами, а предлагают, и мы вольны принять или отклонить их рекомендации. Эти системы устроены по-разному, но все они рекомендуют различные изделия или виды деятельности, которые могут нам понравиться: анализируют то, что мы уже выбирали, ищут похожие вещи в своих базах данных и изучают предпочтения других людей, чьи интересы, как им кажется, напоминают наши. А поскольку эти рекомендации даются ненавязчиво (вы знакомитесь с ними и следуете им исключительно по собственному желанию), они могут быть полезны. Скажем, если вы ищете книгу в Интернете, возможность прочесть отрывки из текста, оглавление, указатель и рецензии помогает вам решить, стоит ли ее покупать.

На некоторых сайтах вам даже объяснят, откуда взялись те или иные рекомендации, и предложат скорректировать методику выбора. В научных лабораториях мне приходилось сталкиваться с рекомендательными системами, которые следят за вашей деятельностью, и, когда вы что-то читаете или пишете, они рекомендуют вам статьи, похожие по содержанию на то, что выведено на экран вашего компьютера. Эффективность этих систем обусловлена несколькими причинами. Во-первых, они предлагают вам нечто ценное, их рекомендации часто актуальны и полезны. Во-вторых, сами рекомендации даются ненавязчиво, они не отвлекают вас от основного занятия и остаются доступными до тех пор, пока вы не пожелаете с ними ознакомиться. Не все подобные системы столь же эффективны, некоторые своей навязчивостью нарушают неприкосновенность вашей частной жизни. Но если они сделаны хорошо, то убедительно доказывают, что «умные» системы способны сделать наше взаимодействие с машинами полезным и приятным.

Когда я езжу верхом, это занятие не доставляет удовольствия ни мне, ни лошади. Для непринужденного, спокойного взаимодействия с ней нужно немалое умение, которого у меня нет. Я плохо представляю себе, что делаю, и лошадь понимает это не хуже меня. Точно так же, наблюдая с пассажирского места, как неумелый и не уверенный в себе водитель борется с собственной машиной, я не чувствую себя в безопасности. Симбиоз – отличная идея, ведь речь идет о взаимовыгодном сотрудничестве. Но в некоторых случаях, в частности в первых трех из приведенных мной примеров, оно требует немалых усилий, подготовки и навыков. В других случаях, таких как четвертый пример, специальных навыков и обучения не требуется, но разработчики должны всегда помнить об уместности того или иного способа социального взаимодействия.

Когда я разместил на своем сайте первый вариант этой главы, мне пришло письмо от группы ученых, изучающих возможность применения принципов взаимодействия лошади и всадника в системах управления автомобилями и самолетами. Они называют эту концепцию «метафорой Л», где Л обозначает лошадь. Чтобы понять, как могут быть созданы такие системы, усилия объединили специалисты из исследовательского центра НАСА в Лэнгли (штат Вирджиния) и ученые из Института транспортной системной техники Германского центра авиации и космонавтики (DLR) в Брауншвейге. Я специально побывал в Брауншвейге, чтобы поближе познакомиться с их работой (это потрясающие исследования, подробнее я расскажу о них в главе 3). Всадник регулирует степень контроля над ситуацией, делегируемого коню: отпустив поводья, он позволяет ему действовать самостоятельно, а натянув их, берет управление на себя. Искусные наездники постоянно ведут переговоры со своими лошадьми, приспосабливая степень своего контроля к конкретным обстоятельствам. Американские и немецкие ученые пытаются внедрить этот подход в сферу взаимодействия между человеком и машиной – причем это касается не только автомобилей, но также домов и бытовой техники.

Симбиоз в том смысле, который полвека назад вкладывал в это понятие Ликлайдер, означает гармоничное и эффективное объединение двух компонентов – человеческого и механического, с тем чтобы возникающее в результате сотрудничество превосходило возможности каждого из них по отдельности. Нам необходимо понять, как достичь оптимального взаимодействия, как сделать его настолько естественным, чтобы оно не требовало ни усилий, ни особых навыков.

Что означает взаимодействие водителя и автомобиля, построенное по тому же принципу, что и взаимодействие умелого наездника и лошади? Что будет, если машина встает на дыбы или начинает артачиться, оказавшись слишком близко к впереди идущему автомобилю или сочтя, что скорость движения слишком высока? А если она движется плавно и ровно в ответ на правильные команды, но медленно и неохотно реагирует на неправильные? Можно ли сконструировать автомобиль, который будет физически реагировать на ситуацию, сообщая таким образом водителю об опасности?

А как насчет вашего дома? «Норовистое» жилище – что это такое? Порой мой пылесос или плита начинают бунтовать. Я хочу, чтобы они делали одно, а они хотят делать что-то другое. Но дом! Сегодня инженеры уже готовятся превратить ваше жилище в автоматизированное существо, постоянно заботящееся о вашем благе, удовлетворяющее все ваши потребности и желания еще до того, как эти желания и потребности у вас возникли. Многие фирмы жаждут заняться оборудованием и управлением этими «умными» домами, которые меняют освещение в зависимости от своих представлений о вашем настроении, выбирают и включают для вас музыку, перемещают изображение с одного телеэкрана на другой, если вы бродите по дому. Эти системы так интеллектуальны, что возникает вопрос: сможем ли мы найти с ними контакт? Если вы хотите научиться ездить верхом, вам нужна практика, а еще лучше – обучение на специальных курсах. Так что же, нам теперь придется упражняться в обращении с собственным домом, идти на курсы, чтобы научиться ладить с собственной бытовой техникой?

Что, если мы сможем придумать способ органичного взаимодействия между людьми и машинами? Пригодится нам для этого опыт взаимодействия умелого наездника с конем? Возможно. Мы должны найти поведенческие соответствия, возникающие в отношениях всадника с лошадью и водителя с автомобилем. Как машина проявляет нервозность? Что означает лошадиный норов применительно к машине? Если лошадь выражает свои эмоции, шарахаясь назад или напрягая шею, как в аналогичной ситуации должен вести себя автомобиль? Что, если он внезапно встанет на задние колеса и начнет раскачиваться из стороны в сторону?

В научных лабораториях уже работают над аналогами сигналов, которые наездник посылает лошади. Ученые из исследовательских подразделений автомобильных компаний ставят эксперименты, измеряя уровни волнения и внимания, и минимум у одной модели автомобиля, уже поступившей в продажу, на рулевой колонке есть телекамера, которая следит за водителем, определяя, насколько он сосредоточен. Если машина приходит к выводу, что водитель отвлекся и столкновение неминуемо, она автоматически включает тормоза.

Аналогичным образом разрабатываются «умные» дома, которые наблюдают за своими обитателями, оценивают их настроение и эмоциональное состояние, чтобы выбрать подходящие температуру, освещение и фоновую музыку. В исследовательском центре одного европейского университета группе испытуемых было предложено сыграть в напряженную видеоигру, а затем отдохнуть в специальной комнате с удобными креслами, красивой мебелью и мягким освещением, помогающим расслабиться. Я побывал в этой комнате, там действительно можно расслабиться и отдохнуть. Цель эксперимента – понять, как создать жилую среду, соответствующую эмоциональному состоянию человека. Может ли дом, определив, что хозяева находятся в состоянии стресса, автоматически его снять? Или, напротив, привести своих вялых обитателей в бодрое состояние духа, включив яркий свет, веселую музыку, изменив цветовую гамму?

Машинам легче думать, чем действовать; они воспринимают логику, но лишены эмоций

«Следуй за мной», – говорит Манфред Макикс, герой книги Чарльза Стросса «Акселерандо», только что купленному чемодану. Так и происходит. Манфред поворачивается и уходит, а «новый чемодан катится за ним».

Многие из нас выросли на фантастических романах, фильмах и телесериалах о всемогущих роботах и гигантских компьютерах. Порой они неуклюжи (вспомним Си Трипио из «Звездных войн»), порой всеведущи (как компьютер ЭАЛ из «Космической одиссеи»), а порой неотличимы от людей (непонятно, кто же такой Рик Декард, герой «Бегущего по лезвию», – человек или репликант). Реальность, однако, сильно отличается от фантастики. Роботы ХХI века не способны на осмысленное общение с людьми, более того – они и ходить-то умеют плохо, не говоря уж о способности обращаться с реальными предметами. В результате большая часть «умных» машин – особенно бытовых, которые должны быть недорогими, надежными и простыми в обращении, – предназначена для выполнения элементарных функций, вроде приготовления кофе, стирки, мытья посуды, регулирования освещения и отопления, кондиционирования воздуха, уборки дома и стрижки газонов.

Если поставлена конкретная задача и ничего неожиданного не происходит, «умные» машины способны действовать логично и осмысленно. Они измеряют температуру и уровень влажности, количество жидкости, вес одежды или пищи и определяют, высохло ли белье и готова ли еда. Последние модели стиральных машин способны даже распознавать, из каких тканей сделано белье, каков его вес и степень загрязнения, и выбирать соответствующие настройки.

Автоматизированные пылесосы (в том числе, моющие) прекрасно работают, если поверхность относительно гладкая и на их пути не встречается препятствий, но чемодан, следующий за хозяином, как в «Акселерандо», по-прежнему остается за пределами возможностей обычной бытовой техники. Хотя создать нечто подобное вполне возможно, ведь здесь не требуется реального взаимодействия с людьми – ни общения, ни специальных мер безопасности. Чемодан должен просто катиться за владельцем. На случай, если кто-то попытается его украсть, чемодан можно запрограммировать так, чтобы он реагировал на опасность громким воем. У Стросса чемодан еще и распознает «отпечатки пальцев хозяина – в оцифрованном виде и по фенотипическим признакам», украсть его можно, а вот открыть нельзя.

Но способен ли такой чемодан реально передвигаться по многолюдным городским улицам? Ведь у него, в отличие от нас, нет ног. Он не сможет обходить препятствия или перешагивать через них, спускаться и подниматься по лестницам, переходить с дороги на тротуар и – со своими колесами – окажется в положении инвалида: ему придется искать специальные съезды на уличных перекрестках, а внутри зданий пользоваться пандусами и лифтами. Даже людям в инвалидных колясках зачастую нелегко преодолеть эти препятствия, а уж самодвижущемуся чемодану придется куда труднее. Кроме того, передвижение по улицам, скорее всего, ляжет непосильной нагрузкой на его системы обработки визуальных данных. Способность чемодана не упускать из виду хозяина, огибать препятствия, находить путь, пригодный для передвижения на колесах, избегая столкновения с автомобилями, велосипедистами и пешеходами, резко снизится.

Существуют интересные расхождения в том, что люди и машины считают легким и сложным. В том, что касается мышления, некогда считавшегося привилегией человека, машины достигли наибольшего прогресса, особенно если речь идет о логике и внимании к деталям. А вот физические действия – когда надо стоять, ходить, прыгать, избегать препятствий – сравнительно легко даются людям, но для машин они сложны, а то и непосильны. Наконец, важнейшую роль в поведении людей и животных играют эмоции. Они помогают нам понять, что хорошо, а что плохо, что опасно, а что нет, и служат мощным коммуникативным средством для передачи друг другу чувств и убеждений, реакций и намерений. У машин же существуют лишь примитивные эмоции.

Несмотря на эти ограничения, многие ученые по-прежнему пытаются воплотить в жизнь мечту об «умных» машинах, способных эффективно общаться с людьми. Ученые по природе оптимисты, им необходимо верить, что их работа важнее всего на свете, и более того, что они уже близки к прорыву исторического масштаба. В результате в СМИ появляются статьи такого содержания:

По словам ученых, роботы скоро смогут выполнять для людей ряд важных задач – от ухода за детьми до вождения автомобиля за престарелых граждан. В субботу на ежегодное заседание Американской ассоциации развития науки собрались ведущие специалисты страны в области робототехники, чтобы рассказать о последних исследованиях в этой области и о нашей будущей жизни в окружении роботов…

Например, у вас будет милый плюшевый мишка, обучающий детей испанскому или французскому языку, машина, которая сама отвезет вас на работу, пока вы будете дремать на сиденье, есть или готовить доклад на PowerPoint; динозаврик размером с чихуахуа, понимающий, когда нужно приласкаться и поиграть с вами, а когда оставить вас в покое; компьютер, меняющий положение экрана в зависимости от вашей позы, выполняемой работы или настроения; робот-мажордом, встречающий ваших гостей, представляющий их друг другу на случай, если вы забыли, кого как зовут, развлекающий собравшихся музыкой и анекдотами, разносящий закуски и напитки.

Достижениям в создании «умной» среды обитания посвящено немало научных конференций. Приведу текст одного из приглашений на такое мероприятие:

Симпозиум по проблемам создания эмоциональной «умной» среды обитания (Ньюкасл-на-Тайне, Великобритания).

Бытовой искусственный интеллект – новая популярная сфера исследований, нацеленных на создание «умной» среды обитания, чутко, гибко и активно реагирующей на присутствие и действия человека, обеспечивая услуги, которые обитатели этой среды запрашивают или которые могут им понадобиться.

Искусственный интеллект все больше проникает в наш быт. Многие привычные приборы, такие как телевизоры, кухонное оборудование или системы центрального отопления, уже оснащаются встроенными компьютерами, которые будут объединены в интегрированные сети… Датчики биологической активности позволят системе распознавать присутствие и состояние пользователей, а также определять их потребности с целью улучшения бытовых условий и повышения реального благополучия людей.

Верите ли вы в то, что ваш дом лучше знает, что вам нужно? Хотите ли вы, чтобы ваша кухня консультировалась с вашими напольными весами, или чтобы ваш унитаз автоматически исследовал вашу мочу, а затем сообщал результаты вашему лечащему врачу? И как, собственно, кухня узнает, что именно вы ели? Как она поймет, что масло, яйца или сливки, которые вы вынули из холодильника, предназначены для вас, а не для других обитателей дома, гостей или, скажем, школьного проекта?

Еще недавно надзор за вашим питанием был невозможен, но сегодня уже появились крохотные, едва видимые датчики, которые можно прикреплять к чему угодно – к одежде, товарам, продуктам, даже к людям и домашним животным – и отслеживать все, что с ними происходит. Их называют радиочастотными идентификационными метками (RFID). Им не нужны батарейки: метки получают энергию от считывателя, посылающего запрос об их назначении, идентификационном номере и других сведениях о человеке или объекте, которые в них заложены. Если все продукты снабжены такими метками, «умный» дом может проследить за вашим питанием. Наличие RFID-меток, а также телекамер, микрофонов и других сенсорных устройств равносильно приказам: «Ешь брокколи», «Не трогай масло», «Делай зарядку». Властная кухня? Это еще мягко сказано!

«Как научить бытовые приборы понимать, что вам нужно?» – таким вопросом задалась группа исследователей из Медиа-лаборатории Массачусетского технологического института. Они создали кухню, напичканную сенсорами, телекамерами и датчиками давления в полу, которые позволяют определить, где в тот или иной момент стоит человек. Благодаря этой системе разработчики пришли к следующему выводу: если человек открыл холодильник, а затем оказался перед микроволновой печью, он/она с высокой степенью вероятности разогревает пищу. Свое детище они назвали «здравомыслящей кухней» (KitchenSense). Вот ее описание:

KitchenSense – это экспериментальная платформа для изучения кухонного пространства, снабженная множеством датчиков и подключенная к сети, где для упрощения контрольных интерфейсов и расширения зоны взаимодействия используется логика здравого смысла (CommonSence). С помощью сети датчиков система интерпретирует намерения людей, чтобы создать надежную базу для безопасной, эффективной и эстетичной деятельности. Анализ совокупной информации, поступающей с датчиков, в сочетании со знаниями о повседневной жизни человека позволяет централизованной «открытой» системе (OpenMind) создать общий контекст для работы различных устройств.

Если человек открыл дверцу холодильника, а затем прошел к микроволновой печи, он «с высокой степенью вероятности» собирается разогреть пищу. В переводе с изысканного научного жаргона на простой язык получается обычная догадка. Конечно, чрезвычайно высокоумная, но все же догадка. Этот пример отражает самую суть дела: «система», то есть компьютеры, управляющие «умной» кухней, ничего не знает наверняка. Она попросту строит догадки – догадки, подтвержденные некими статистическими данными, в основе которых лежат наблюдения и интуиция разработчиков. Но системе не дано знать, каковы реальные намерения человека.

Объективности ради отметим, что статистические закономерности бывают полезны. В данном случае кухня ничего не делает, она скорее готовится к действию, предлагая набор вероятных вариантов, и, если один из них совпадает с вашими намерениями, вам останется только нажать на кнопку. Если же система не угадала, вы можете ее проигнорировать – насколько вообще можно игнорировать дом, постоянно проецирующий разные предложения на кухонный стол, стены и пол.

Работа системы основана на «здравом смысле», но в действительности здравым смыслом эта кухня не обладает. Все ее «здравомыслие» заложено программистами, и уровень его невысок, поскольку знать, что происходит на самом деле, она не может.

А если вы решите сделать что-то такое, что «умный» дом сочтет вредным или просто неправильным? «Нет, – скажет он, – так готовить нельзя. Если вы поступите именно так, я не отвечаю за результат. Вот, загляните в эту поваренную книгу. Видите? Не заставляйте меня говорить: „Я же вас предупреждал“». Этот сценарий смахивает на фильм Стивена Спилберга «Особое мнение» по одноименному рассказу великого фантаста Филипа Дика. Его герой Джон Андертон, убегая от правительственных агентов, пробирается через многолюдный торговый центр. Рекламные дисплеи узнают его, окликают по имени и соблазняют заманчивыми скидками – только для него. Дисплей, рекламирующий автомобили, призывает: «Это не просто машина, мистер Андертон! Это обитель, призванная утешить и успокоить израненную душу». Реклама турагентства искушает: «Устал, Джон Андертон? Нуждаешься в отдыхе? Мы организуем тебе поездку в Арубу!» Эй, дисплеи, человек спасается от полиции, он вряд ли остановится, чтобы купить какую-нибудь тряпку.

«Особое мнение» – художественный фильм, но показанные в нем технологии были придуманы умными, творческими людьми, которые стремились к максимальному правдоподобию. Активные рекламные дисплеи скоро станут реальностью. В ряде городов билборды распознают владельцев автомобиля MINI Cooper по RFID-меткам. Его реклама безобидна – водителю показывают слоганы, в выборе которых он лично участвовал. Но лиха беда начало. Сегодня для распространения рекламы нужны радиометки, но это лишь временная уловка. Ученые уже работают над тем, чтобы телекамеры, наблюдающие за людьми и автомобилями, распознавали их по лицу и осанке, а их машины – по модели, году выпуска, цвету и номерному знаку. Так в Лондоне отслеживают машины, въезжающие в центр города. Так спецслужбы смогут следить за подозреваемыми в терроризме. Так рекламные агентства будут выискивать потенциальных клиентов. Станут ли дисплеи в магазинах предлагать завсегдатаям специальные скидки? Будут ли ресторанные меню автоматически выводить на экран ваши любимые блюда? Сначала мы читаем об этом в научно-фантастическом рассказе, потом видим в кино, а затем – на городских улицах. Так что ищите активную рекламу в соседнем магазине… Впрочем, можете не трудиться – она сама вас найдет.

Общение с машинами: мы и они – два разных вида

Я представляю себе: на дворе ночь, но мне не спится. Тихо, чтобы не разбудить жену, я встаю с постели. Раз уж одолела бессонница, лучше не тратить время впустую, а поработать. Но мой дом, уловив движение, радостно желает мне доброго утра, включает свет и радиоприемник, настроенный на программу новостей. Жена, естественно, просыпается и ворчит: «Зачем ты разбудил меня так рано?!»

Как мне объяснить «умному» дому, что его действия, абсолютно правильные в одной ситуации, в другой могут оказаться совершенно неуместными? Должен ли я программировать его на определенное время суток? Нет, не годится: порой нам с женой приходится вставать среди ночи, например чтобы успеть на утренний самолет или позвонить коллеге из Индии. Чтобы правильно реагировать, дом должен понимать контекст, мотивы моих действий. Я намеренно встал так рано? Следует ли будить мою жену? Хочу ли я, чтобы он включил радио и кофеварку? Чтобы понять причины моего пробуждения, дом должен знать мои намерения, а для этого требуется коммуникация такого уровня, который недостижим ни сегодня, ни в обозримом будущем. Пока что «умными» машинами по-прежнему должны управлять люди. В худшем случае это может приводить к конфликтам, в лучшем – человеку и машине удается создать эффективный симбиотический союз. Заметим, что своим «умом» машины обязаны людям.

Инженеры скажут, что все новые технологии поначалу бывают сырыми, но потом они совершенствуются и становятся надежными и безопасными. В этом есть своя правда. Было время, когда паровые двигатели локомотивов и пароходов взрывались, а теперь этого практически не случается. В начале развития авиации катастрофы происходили часто, а теперь очень редко. Помните проблему Джима с круиз-контролем, который увеличил скорость не там, где надо? Уверен, что в будущих моделях автомобилей таких ситуаций удастся избежать, соединив управление скоростным режимом с навигационной системой, либо создав устройства, с помощью которых шоссе само сможет информировать машину о разрешенной скорости (тогда превысить ее станет невозможно). Не исключено даже, что машины научатся самостоятельно определять безопасную скорость в зависимости от состояния дорожного полотна, количества поворотов, погодных условий, наличия на шоссе другого транспорта или людей.

Я инженер. Я верю, что наука и техника способны сделать нашу жизнь богаче и приятнее. Но пока мы идем не туда. Сегодня мы имеем дело с новым поколением «умных» и самостоятельных машин, которые в состоянии реально заменить нас во многих ситуациях. Они могут существенно облегчить нашу жизнь, сделать ее более приятной и безопасной. А могут начать действовать нам на нервы, мешать и даже подвергнуть опасности. Мы впервые имеем дело с машинами, которые пытаются с нами общаться.

Фундаментальные проблемы, возникшие в сфере технологий, невозможно преодолеть, действуя прежними методами. Здесь нужен более взвешенный, надежный и гуманитарный подход. Нужна не автоматизация, а совершенствование.

Глава 2. Психология людей и машин

Сегодня в нашей жизни вполне реальны три таких сценария:

– Набрать высоту! Набрать высоту! – громко предупреждает самолет, если считает, что самолет летит слишком низко.

– Би-би, – сигналит автомобиль, пытаясь привлечь внимание водителя. Одновременно он выпрямляет спинки сидений, туже затягивает ремни безопасности и готовится включить тормоза. Машина наблюдает за шофером с помощью встроенной видеокамеры и, если тот отвлекся от дороги, автоматически тормозит.

– Динь-динь, – это посудомоечная машина сообщает, что посуда помыта, даже если дело происходит в три часа утра и ее звонок способен разве что разбудить вас.

А вот три возможных сценария из недалекого будущего:

– Нет, – говорит холодильник, – яйца тебе есть нельзя, пока ты не похудеешь и у тебя не снизится уровень холестерина. Весы сообщили мне, что тебе надо сбросить еще три кило, а клиника продолжает упрекать меня за избыток холестерина у тебя в организме. Сам знаешь, все это делается для твоего же блага.

– Я только что проверил твое расписание в смартфоне, – говорит автомобиль, когда ты садишься в него после работы. – У тебя есть свободное время, поэтому я запрограммировал маршрут не по трассе, а по дороге с живописными видами и поворотами, которую ты так любишь. И кстати, чтоб было веселее в пути, я подобрал твои любимые мелодии.

– Слушай, – говорит дом, пока ты утром собираешься на работу, – куда ты спешишь? Мусор я выбросил, мог бы, кстати, и спасибо сказать. И хорошо бы нам поговорить насчет этого симпатичного регулятора – помнишь, я показывал тебе его на фото? С ним я буду работать куда эффективнее, и, между прочим, у дома Джона он уже есть.

Некоторые машины упрямы, другие темпераментны, одни деликатны, другие грубоваты. Мы часто наделяем машины человеческими чертами, и порой эти характеристики весьма точны, хотя мы употребляем их в переносном смысле. Однако новые типы «интеллектуальных» механизмов вполне самостоятельны: они сами делают выводы и принимают решения. Чтобы действовать, им уже не требуются санкции людей. Так наши метафоры обретают буквальный смысл, превращаясь в конкретные параметры.