Дизайн вещей будущего

Три моих первых примера взяты из реальной жизни. Системы предупреждения действительно кричат «Набрать высоту» (обычно женским голосом). Как минимум одна автомобильная компания уже заявила, что выпускает машину, оснащенную системой видеонаблюдения за водителем. Если он не следит за дорогой, а радиолокационное устройство сообщает о возможности столкновения, автомобиль подает сигнал тревоги – пусть не голосом (по крайней мере, пока), но гудками и вибрацией. Если водитель по-прежнему не реагирует, система включает тормоза и готовится к аварии. Что же касается посудомоечной машины, то она уже не раз будила меня среди ночи своими звонками.

Мы хорошо осведомлены об устройстве автоматизированных систем, но куда меньше знаем о том, как они взаимодействуют с людьми, хотя эта проблема изучается уже несколько десятков лет. Однако эти исследования касаются промышленности или армии, где люди постоянно работают с машинами. А как насчет простого человека, не имеющего специальной подготовки и пользующегося тем или иным прибором от случая к случаю? Об этом мы почти ничего не знаем, но именно такие ситуации заботят меня больше всего – когда обычные, неподготовленные люди, вроде нас с вами, пользуются бытовой техникой, аудио– и видеоаппаратурой, автомобилями.

Как простому человеку научиться обращаться с «умными» машинами нового поколения? Увы – постепенно, методом проб и ошибок, постоянно портя себе нервы. Конструкторы, похоже, убеждены в том, будто их создания столь умны и совершенны, что и учиться ничему не надо. Достаточно просто сказать им, что нужно сделать, и не мешать. Конечно, у приборов всегда есть инструкция, порой весьма объемная, но в ней ничего не объясняется, и к тому же она, как правило, очень невразумительная. В большинстве инструкций ничего не говорится о том, как работает сам механизм. Вместо этого приборам даются магические названия, броские, но лишенные смысла, скажем «Умный бытовой сенсор», как будто завлекательное название равносильно объяснению.

В научных кругах этот подход называют «автомагизационным» (автоматика плюс магия). Производители хотят, чтобы мы верили в магию и полагались на нее. И даже если прибор работает без сбоев, ты испытываешь некоторый дискомфорт, потому что не знаешь, как он действует и почему. Но реальные проблемы начинаются, если что-то идет не так: ведь мы просто не понимаем, что надо делать. Мы оказываемся наедине с ужасами промежуточного состояния. С одной стороны, мир научной фантастики, населенный умными, самостоятельными, идеально функционирующими роботами, еще не стал реальностью. С другой – мы все дальше уходим от мира ручного управления, где нет автоматизации, где люди сами приводят в действие устройство, которое выполняет их задание.

«Мы просто облегчаем вам жизнь, – внушают мне производители. – Мы делаем ее более безопасной, здоровой и приятной. Что в этом плохого?» Да, мы были бы счастливы, если бы эти «умные» приборы работали идеально. Будь они стопроцентно надежны, нам действительно незачем было бы знать, как они устроены, «автомагизация» нас вполне бы удовлетворила. Но, оказавшись в промежуточном мире автоматизированной техники, которую мы не понимаем, которая работает не так, как мы хотим, не выполняет порученное, мы явно не чувствуем, что наша жизнь стала легче и приятнее.

Краткое введение в психологию людей и машин

История «умных» машин начинается с попыток создания механических автоматов, в частности заводных устройств и шахматных машин. Из первых шахматных автоматов самым удачным был «Турок» Вольфганга фон Кемпелена, торжественно представленный европейским монархам в 1769 году. Впоследствии выяснилось, что это был обман – «автоматом» управлял спрятанный внутри опытный шахматист. Но сам факт удавшейся мистификации свидетельствует о том, что люди были готовы поверить в возможность создания разумных механизмов. Настоящий же бум в разработке «умных» машин начался в середине ХХ века, после появления теории управления, сервосистем, кибернетики, информатики и теории автоматизации. Одновременно шло ускоренное развитие электроники и компьютерной техники, чья мощность удваивалась примерно раз в два года. И сегодня, через сорок с лишним лет, эти системы в миллион раз мощнее первых гигантских «искусственных мозгов». А теперь подумайте, что случится через двадцать лет, когда машины будут в тысячу раз мощнее нынешних, или через сорок лет, когда их мощность возрастет в миллион раз.

Первые попытки создания искусственного интеллекта (ИИ) тоже относятся к середине прошлого века. При создании «умных» устройств ученые попытались руководствоваться не холодной, жесткой математической логикой, а пластичным мышлением, близким к человеческому, которое основано не на точных алгоритмах, а на здравом смысле, гибкой логике, вероятностях, качественных критериях и эмпирических правилах. В результате сегодняшние системы с искусственным интеллектом (СИИ) способны видеть и распознавать предметы, понимать устную и письменную речь, говорить, перемещаться в пространстве и решать сложные задачи.

Пожалуй, наиболее успешно в повседневной жизни ИИ применяется в компьютерных играх – для создания «мыслящих» персонажей, играющих против людей, этих сообразительных, но несносных героев, которые, словно нарочно, делают все, чтобы вывести из себя создателей-игроков. ИИ так же успешно применяется для борьбы с банковскими махинациями, мошенничеством с кредитными картами и другой подозрительной деятельностью. В автомобильном оборудовании ИИ применяется в системах торможения, обеспечения устойчивости, круиз-контроля, автоматической парковки и др. В быту простейшие системы, обладающие ИИ, управляют стиральными машинами: они определяют тип белья, степень его загрязнения и соответствующим образом корректируют настройки. СИИ в микроволновых печах распознают, готова ли пища. Простые устройства в цифровых фотоаппаратах и видеокамерах помогают контролировать фокус и экспозицию, умеют распознавать лица и следить за ними, чтобы даже в движении обеспечивать нужную резкость и четкость изображения. Со временем возможности и надежность СИИ будут увеличиваться, а стоимость – снижаться, их будут использовать в самой разной технике, а не только в дорогих моделях. Вспомним, что мощность компьютеров каждые двадцать лет повышается в тысячу раз, а каждые сорок лет – в миллион раз.

По своему устройству машины, конечно, сильно отличаются от живых существ. Ведь они в основном состоят из деталей с прямыми линиями, правильными углами или дугами, а в биологии царит гибкость: ткани, связки, мышцы. Мозг живого существа работает за счет мощных параллельных вычислительных механизмов, химических и электрических, и посредством перехода в устойчивые состояния. Мозг машины, точнее – ее система обработки информации, действует гораздо быстрее биологических нейронов, но параллелизма у ее систем гораздо меньше. Человеческий мозг крепок, надежен и креативен, он отлично распознает образы. Мы, люди, обладаем способностью к творчеству, воображением и отлично адаптируемся к меняющимся обстоятельствам. Мы выявляем сходство между событиями и с помощью метафорического расширения идей создаем новые области знаний. Более того, человеческая память, хоть она и ненадежна, умеет находить связи и сходство между предметами, которые машина попросту не сочтет похожими. Наконец, человек обладает мощным здравомыслием, а у машин здравый смысл вообще отсутствует.

Эволюция технологий сильно отличается от эволюции биологических видов. В том, что касается механических систем, она полностью зависит от конструктора, изучающего существующие устройства и вносящего в них изменения. Многовековая история развития машин отчасти обусловлена тем, что наши технические знания, способность к изобретательству и конструированию техники постоянно совершенствуются за счет развития науки, изменения потребностей человека и самой среды его обитания.

Однако между эволюцией человека и «умных» самостоятельных машин существует одна интересная параллель. И люди, и машины должны эффективно, надежно и безопасно функционировать в реальном мире. Таким образом, сам мир предъявляет одинаковые требования ко всем созданиям: животным, людям и механизмам. У животных и людей выработались сложные системы восприятия и поведения, эмоциональные и когнитивные. Машинам нужны аналогичные системы, чтобы постигать окружающий мир и действовать соответствующим образом. Им нужно думать и принимать решения, решать проблемы и делать выводы. А еще им требуется нечто вроде человеческих эмоций, конечно не точное подобие, но машинный аналог, чтобы противостоять внешним угрозам и опасностям, пользоваться предоставляющимися возможностями, предвидеть последствия своих действий, осмыслять то, что уже произошло, и думать о том, что может произойти, то есть извлекать уроки и совершенствоваться. Это относится ко всем автономным системам, наделенным интеллектом, – животным, людям и машинам.

Появление нового организма: гибрид машины и человека

Долгое время ученые полагали, что трехуровневое описание мозга во многих отношениях полезно, пусть даже оно резко упрощает его эволюцию, биологию и функционирование. Это описание основано на теории «триединого мозга», выдвинутой Полом Маклином. Уровни определяются переходом от нижних областей мозга (его стволовой части) к верхним (коре и лобной доле), что отражает как историю эволюции мозга, так и усложнение его функций по обработке информации. В книге «Эмоциональный дизайн» я еще больше упростил это определение, чтобы его могли использовать конструкторы и инженеры. Представим себе три уровня обработки информации в мозгу:

– инстинктивный (висцеральный): самый простой, на этом уровне обработка информации происходит автоматически, неосознанно и определяется нашими биологическими особенностями;

– поведенческий: это сфера приобретенных навыков, но процесс тоже в основном идет неосознанно. На этом уровне запускается и контролируется значительная часть наших действий. Одна из важных функций – управление ожиданиями результатов наших действий;

– рефлексивный: это «сознательная» часть мозга, в которой заложены наше «я» и наши представления о самих себе, здесь происходит анализ прошлого и рождаются образы будущего, которого мы ждем или боимся.

Рис. 2.1. Машина + водитель = новый гибридный организм. Скульптура Марты Тома

«Р-р-разбег». Фото автора. Боуден-парк, Пало-Альто (Калифорния)

Если бы мы сумели заложить в машины наши эмоциональные состояния, это было бы для них очень полезно. Так же, как для нас полезны некоторые свойства машин: быстрота реакции, позволяющая избежать опасностей и несчастных случаев, безопасность для окружающих, мощные способности к обучению, позволяющие улучшать результаты и повышать эффективность. Кое-что мы уже можем наблюдать. Закрывающиеся двери лифтов распахиваются, если на пути возникает препятствие (как правило, зазевавшийся человек). Пылесосы-роботы избегают крутых спусков: страх перед падением заложен в их программы. В данном случае речь идет об автоматической, «инстинктивной» реакции – о страхе, который в человеке заложен биологически, а в машине – ее создателем. Но на рефлексию и эмоции, основанные на собственном позитивном или негативном опыте, машины пока не способны. Когда-нибудь это случится, и тогда их прогностические способности и способности к обучению станут еще выше.

Будущее окружающих нас вещей принадлежит тем, которые наделены знаниями, интеллектом, понимают, где их место и кому они принадлежат, способны обмениваться информацией с другими объектами и окружающей средой. Будущее машин целиком и полностью связано с их мобильностью, способностью физически управлять средой, сознательно взаимодействовать с другими машинами и людьми.

Из технологий будущего наибольший интерес представляют те, что смогут установить с нами симбиотические отношения: «машина + человек». Можно ли назвать связку «автомобиль + водитель» симбиозом в том же смысле, что и связку «конь + всадник»? В конце концов взаимодействие автомобиля и водителя означает разделение уровней обработки информации: машина берет на себя «инстинктивную» часть, человек – «рефлексивную», а «поведенческая» часть у них общая, как у коня и всадника.

Подобно лошади, обладающей достаточным уровнем интеллекта, чтобы взять на себя «инстинктивные» аспекты движения (избегать опасных мест, корректировать скорость в соответствии с качеством дороги, обходить препятствия), современные автомобили могут чувствовать опасность, контролировать собственную устойчивость, тормоза, скорость. Лошади усваивают сложные поведенческие режимы, позволяющие двигаться по сильно пересеченной местности, перепрыгивать через препятствия, менять при необходимости аллюр и держать нужную дистанцию. Современный автомобиль тоже действует на поведенческом уровне: меняет скорость, держится в своей полосе, тормозит при возникновении опасности и контролирует другие аспекты движения.

Связку «конь + всадник» можно рассматривать как симбиотическую систему: конь обеспечивает инстинктивный уровень восприятия, а всадник – рефлексивный. При этом на поведенческом уровне они действуют совместно. То же самое можно сказать и о связке «автомобиль + водитель»: последний отвечает за рефлексивный уровень, а машина постепенно берет на себя инстинктивный. Кроме того, и на поведенческом уровне у них много общего. Отметим также, что и конь, и «умная» машина пытаются контролировать ситуацию на рефлексивном уровне.

Рис. 2.2. «Конь + всадник» и «автомобиль + водитель» как симбиотические системы

Рефлексия не всегда удел наездника или водителя. К примеру, лошадь может замедлить аллюр или решить вернуться домой. Либо, вместо того чтобы слушаться наездника, попытается его сбросить или просто будет игнорировать его команды. Нетрудно представить, что когда-нибудь машина сама будет выбирать маршрут или вдруг съедет на обочину, решив, что ей пора заправиться или водителю надо отдохнуть или перекусить. Не исключено также, что она может отреагировать на сообщения, поступающие от придорожных коммерческих заведений.

«Машина + водитель» – сложная система, наделенная чувствами и разумом. В начале ХХ века, когда автомобили только входили в нашу жизнь, водитель отвечал за все уровни обработки информации – инстинктивный, поведенческий и рефлексивный. Однако по мере развития техники в машину закладывалось все больше «инстинктивных» элементов: она брала на себя корректировку работы двигателя, впрыск топлива и управление. С появлением антиблокировочных тормозных устройств, систем обеспечения устойчивости, круиз-контроля, а теперь и системы предупреждения о выходе за пределы полосы движения автомобиль все больше отвечает за «поведенческие» аспекты вождения. Таким образом, современные машины действуют на «инстинктивном» уровне, водитель – на «рефлексивном», и оба они – на «поведенческом».

Автомобиль ХХI века становится все более «рефлексивным», в связке «машина + водитель» он постепенно берет на себя и те аспекты, которые связаны с осмыслением ситуации. Так, рефлексия несомненно присутствует в адаптивной системе круиз-контроля, постоянно оценивающей расстояние между автомобилем и другими машинами, в навигационной системе, следящей за тем, насколько точно водитель выполняет ее инструкции, и во всех прочих устройствах, наблюдающих за поведением водителя. Когда эти системы обнаруживают проблему, они либо подают человеку сигнал, чтобы он изменил свои действия, либо, по возможности, корректируют их сами. Но если машина решит, что это необходимо, она полностью возьмет управление на себя.

Придет время, когда водители машинам вообще будут не нужны. Люди превратятся в пассажиров, они смогут болтать, читать и даже дремать, пока автомобиль везет их к месту назначения. А если человеку нравится водить? Что ж, для таких любителей будут устроены специальные полигоны, где они смогут сесть за руль – подобно тому, как сегодня существуют особые места для верховой езды. Когда такие времена наступят – а это, как мне кажется, произойдет уже в ХХI веке, – система «автомобиль + водитель» уйдет в прошлое. Вместо нее, как и прежде, будут автомобили и будут люди, только автомобиль станет по-настоящему разумной, самостоятельной машиной, по крайней мере в том, что касается перевозки людей. И отвечать он будет не только за навигацию и управление, но и за комфорт и хорошее настроение пассажиров, обеспечивая нужное освещение и температуру, развлекая их, угощая едой и напитками.

Смогут ли пассажиры вести осмысленные разговоры со своими машинами? В прошлом склонность людей наделять неодушевленные предметы убеждениями, эмоциями и другими личностными качествами подвергалась критике как проявление антропоморфизма. По мере роста когнитивных и эмоциональных возможностей машин возникает ощущение, что мы не так уж не правы в своем антропоморфизме. Такой подход может оказаться абсолютно уместным.

Различия в целях, действиях и восприятии

Люди обладают множеством уникальных способностей, воспроизвести которые в машинах невозможно, по крайней мере сегодня. Автоматизируя и наделяя интеллектом технику, которой мы пользуемся, мы должны смиренно признать существование некоторых проблем и возможность будущих неудач. Необходимо также понимать, что в действиях людей и машин существуют гигантские различия.

Многие устройства, которыми мы пользуемся в повседневной жизни, снабжены «интеллектуальными системами». У нас есть «умные» стиральные и посудомоечные машины, роботы-пылесосы, автомобили, компьютеры, телефоны и компьютерные игры. Можно ли назвать эти системы подлинно разумными? Нет, они способны реагировать, но их разум заключен в головах у конструкторов, которые пытаются учесть все возможные ситуации и заложить в систему соответствующие действия. Иными словами, конструкторы пытаются прочесть наши мысли, оценить весь спектр возможных обстоятельств и то, как в этих обстоятельствах будет действовать человек. В целом создаваемые ими «реактивные» системы ценны и полезны, но они часто дают сбой.

Почему? Потому что эти системы, как правило, не могут напрямую оценить предмет нашего интереса: они способны лишь анализировать данные, полученные от сенсоров. Человек обладает развитой сенсорно-двигательной системой, позволяющей постоянно оценивать состояние окружающего мира и собственного организма. У нас есть сотни миллионов специализированных нервных клеток, реагирующих на свет и звук, прикосновение и вкус, равновесие и температуру, давление и боль, а также рецепторы, определяющие состояние мышц и положение тела. Кроме того, у нас выработались сложные представления об окружающем мире и наших действиях, а также определенные ожидания, основанные на длительном опыте взаимодействия с ним. У машин нет ничего, даже отдаленно напоминающего эти способности.

Их сенсоры не просто ограничены в своих возможностях – они реагируют не на то, на что реагируют наши органы чувств. Физическое ощущение и психологическое восприятие – вещи разные. Машины могут распознавать ультрафиолетовые и инфракрасные частоты, радиоволны, а мы – нет. Они способны слышать звуковые частоты, недоступные человеческому восприятию. И еще многое другое. Мы, люди, обладаем гибкими мышцами и ловкими пальцами. Машины уступают нам в гибкости, зато они гораздо сильнее.

Наконец, цели людей резко отличаются от целей машин. Более того, многие люди считают, что у машин вообще не может быть целей. Однако по мере совершенствования машины смогут все лучше оценивать ситуацию и действовать сообразно целям, которых они хотят достичь. Что же касается чувств и эмоций, которые играют главную роль в нашем мировосприятии и поведении, то машины ими не обладают. И даже если они когда-нибудь обзаведутся элементарными эмоциями, эти эмоции будут мало похожи на человеческие.

Общая основа: главное ограничение во взаимодействии людей и машин

Алан и Барбара изначально обладают некоторой совокупностью знаний, убеждений и предположений, которые, по их мнению, являются общими. Это я и называю их общей основой… Под общей основой они понимают то, что происходило в ходе бесед, в которых они оба участвовали, включая и нынешнюю. Чем больше времени Алан и Барбара проводят вместе, тем больше становится эта общая основа… Они уже не могут согласовывать свои действия, не обращаясь к ней.

Герберт Кларк, «Использование языка»

Для общения и переговоров требуется то, что лингвисты называют «общей основой»: единая понятийная база, на которой строится взаимодействие. В приведенной выше цитате из работы психолингвиста Герберта Кларка у выдуманной автором пары – Алана и Барбары – общая основа присутствует в любых совместных действиях. Когда взаимодействуют люди, принадлежащие к одной и той же культурной и социальной группе, общность взглядов и опыта обеспечивает быстроту и эффективность их взаимодействия. Вы когда-нибудь подслушивали чужие разговоры? Я часто это делаю, гуляя по паркам или бродя по гипермаркетам, – из чисто научного интереса, разумеется. При этом меня неизменно поражает бессодержательность этих разговоров, даже если люди что-то увлеченно обсуждают. Типичный отрывок из такого разговора может звучать так:

Алан: Знаешь?

Барбара: Ага.

Вполне вероятно, что для Алана и Барбары этот обмен репликами вполне содержателен и исполнен глубокого смысла. Но нам с вами этого не понять, поскольку мы не знаем, что имеется в виду. Их общая основа для нас недоступна.

Отсутствие общей основы – главная причина нашей неспособности общаться с машинами. Ведь у людей и машин так мало общего. У человека с человеком и у машины с машиной все обстоит иначе, такие пары взаимодействуют эффективно. Люди могут делиться информацией друг с другом. Машины могут делиться информацией с машинами. А вот люди с машинами – нет.

Вероятно, вас удивит, что я говорю о наличии у машин общей основы, но это связано с тем, что инженеры-конструкторы прилагают большие усилия, чтобы их создания могли делиться базовой информацией, необходимой для эффективной совместной работы. Когда две машины начинают взаимодействовать, запускается стандартная процедура согласования общей информации, состояния и даже синтаксической структуры взаимодействия. На жаргоне специалистов по технике связи это называется «рукопожатие». Это представляется настолько важным, что инженерное сообщество создало разветвленную систему международных комиссий для выработки единых общемировых стандартов, гарантирующих идентичность допущений и базовых знаний у «общающихся» друг с другом машин. Стандарты согласовать непросто, поскольку для этого нужно провести сложные переговоры между компаниями-конкурентами, а также решить вопросы технического, юридического, политического характера. Однако игра стоит свеч, ведь результатом станут общий язык, протоколы и базовые знания, необходимые для создания общей основы и, соответственно, эффективного общения машин.

Конец бесплатного ознакомительного фрагмента.