Айзексон Уолтер
Инноваторы
 

Глава 12

Бессмертная Ада

 

 

Ада Лавлейс могла бы собой гордиться. Невозможно угадать, что думал человек, умерший более 150 лет назад, но несложно себе представить, как Ада хвастает своей интуицией в письме другу. И хвастает справедливо, ведь она верно предположила, что калькуляторы станут мастерами на все руки — компьютерами, которые одинаково хорошо управляются с числами, музыкой и текстами, а также могут “составлять любого рода последовательности из символов общего характера”.

Подобные машины появились в 1950-х годах, а в последующие 30 лет были разработаны две революционные технологии, которые изменили нашу жизнь: микросхемы позволили уменьшить компьютеры до размеров персональных, а сети с коммутацией пакетов объединили их в единую среду. Благодаря союзу интернета и компьютеров буйным цветом зацвели социальные сети и цифровое искусство, сформировались разнообразные сообщества, стало проще делиться контентом. Реализовалась идея Ады создать “научное искусство”, которое опиралось бы на творчество и технологии подобно тому, как ткацкий станок Жаккарда использует нити для изготовления ткани.

У Ады был бы еще один повод заслуженно гордиться собой. Она была права (по крайней мере, до настоящего момента) насчет такого спорного вопроса, как искусственный интеллект. Она утверждала, что ни один даже самый мощный компьютер не сможет по-настоящему думать. Через сто лет после ее смерти Алан Тьюринг назвал это “возражениями Ады Лавлейс” и постарался их опровергнуть. Согласно его определению разумной машины, она должна уметь ответить на ряд вопросов так, чтобы человек не заподозрил, что его собеседник — компьютер. Тьюринг верил, что через несколько десятилетий машины научатся нас обманывать, однако с тех пор прошло более 60 лет, и пока ни одна система так и не прошла довольно простой и в чем-то даже глупый тест Тьюринга. И уж тем более ни один компьютер не смог покорить планку, заданную Адой, и сгенерировать собственную мысль.

Идея написать роман о докторе Франкенштейне пришла Мэри Шелли, когда она отдыхала вместе с отцом Ады, лордом Байроном. С момента публикации этой книги человечеству не давала покоя идея о по-настоящему мыслящем искусственном разуме. Сюжет романа был многократно использован в научной фантастике. Например, Стэнли Кубрик снял фильм “2001 год: Космическая одиссея”, где одним из персонажей был чрезмерно умный зловещий компьютер HAL с вкрадчивым голосом. Он мастерски имитировал человеческое поведение: общался, логически рассуждал, распознавал лица, ценил красоту, выражал эмоции и, конечно же, играл в шахматы. Однако астронавты обнаружили ошибку в работе HAL и решили его отключить. Прознавший об их планах HAL убивает всех людей, кроме одного, но оставшийся в живых герой все-таки добирается до когнитивных систем компьютера и отключает их одну за одной. Постепенно уходя в небытие, HAL напевает песню Daisy Bell — так Кубрик отдал дань уважения первой мелодии, исполненной машиной (в 1961 году ее “спел” компьютер IBM 704 в лаборатории Bell Labs).

Поклонники идеи искусственного разума нередко обещали и даже пугали, что со дня на день появятся компьютеры вроде HAL и пророчества Ады не сбудутся. С такими настроениями прошла Дартмутская конференция по вопросам искусственного интеллекта, где этот термин и был придуман. Участники съезда, проведенного в 1956 году Джоном Маккарти и Марвином Мински, предрекали, что лет через двадцать эта область шагнет вперед. Этого не случилось. Каждое десятилетие новая волна специалистов прогнозировала, что искусственный разум появится в следующие 20 лет. Однако мираж оставался миражом — заветная цель продолжала маячить на горизонте “на расстоянии” 20 лет.

Незадолго до своей смерти (а умер он в 1957 году) Джон фон Нейман также пытался разгадать тайну искусственного интеллекта. Он участвовал в разработке архитектуры цифрового компьютера и благодаря этому осознал, что человеческое мышление устроено принципиально иначе. Цифровые компьютеры оперируют конкретными объектами, тогда как наш мозг, насколько нам известно, обрабатывает непрерывную череду возможностей, то есть частично является аналоговой системой. Иными словами, наш мыслительный процесс включает в себя обильный поток импульсов и аналоговых волн, посылаемых нервной системой, благодаря чему наше сознание не бинарно: помимо ответов “да” и “нет”, в нашем арсенале имеются “может быть”, “вероятно” и прочие расплывчатые варианты, а иногда мы можем замяться и попросту смолчать. Фон Нейман предположил, что для создания искусственного разума нам придется уйти от чисто цифрового подхода к комбинированному: объединить цифровой и аналоговый методы. Он писал, что “логика должна будет мутировать и заключить союз с неврологией”, то есть, грубо говоря, компьютерам предстояло имитировать работу человеческого мозга1.

Одна из первых попыток это реализовать была предпринята в 1958 году, когда преподаватель Корнелльского университета Фрэнк Розенблатт при помощи математики создал искусственную нейросеть “Перцептрон”, приближенную к человеческой. В теории она могла распознавать образы, используя статистический метод. Пресса встала на уши, когда министерство ВМС, финансировавшее “Перцептрон”, устроило презентацию. Впоследствии похожую шумиху будут разводить вокруг многих заявлений о создании искусственного интеллекта. Газета The New York Times восхищенно сообщала, что “в ВМС запустили прототип компьютера, который в будущем сможет ходить, говорить, видеть, писать, воспроизводить себя и осознавать свое существование”. The New Yorker восторгался в унисон: “«Перцептрон»… как ясно из названия, способен рождать новые мысли. Нас вызывает на дуэль первый серьезный конкурент человеческому интеллекту”2.

Прошло без малого 60 лет, а “Перцептрон” до сих пор не создан3. На протяжении этого времени практически каждый год появлялись полные энтузиазма статьи о пришествии очередного чуда из чудес, которое может копировать и даже превзойти человеческий разум. И каждый второй автор воспевал новую технологию почти теми же фразами, какими пресса прославляла “Перцептрон” в 1958 году.

Споры об искусственном интеллекте немного оживлялись дважды, по крайней мере в массовой прессе: в 1997 году, когда чемпион мира Гарри Каспаров проиграл шахматный матч компьютеру Deep Blue компании IBM, и в 2011 году, когда компьютер Watson, оснащенный вопросно-ответной системой искусственного разума, выиграл в телеигре Jeopardy![117] у чемпионов Брэда Раттера и Кена Дженнингса. По мнению гендиректора IBM Джинни Рометти, эти события затронули все сообщество4, однако она первой признала, что настоящим прорывом в области они не стали. Deep Blue выиграл шахматный матч, что называется, “грубой силой”, методом полного перебора, потому что он за секунду мог просчитать 200 миллионов позиций и сравнить их с 700 тысячами предыдущих игр гроссмейстеров. Многие из нас согласятся, что вычислительные подвиги Deep Blue сильно отличаются от того, что принято называть мышлением. “Deep Blue «умен» так же, как любой заводной будильник, — комментировал игру Каспаров. — Но не то чтобы мне было легче от мысли, что я проиграл будильнику стоимостью 10 миллионов долларов”5.

Компьютер Watson выиграл в Jeopardy! точно так же, за счет своей вычислительной мощи. В его память размером четыре терабайта загрузили 200 миллионов страниц информации — вся “Википедия” занимает 0,2 % этого объема. За одну секунду Watson мог просмотреть миллион книг, а также неплохо распознавал разговорный английский. Однако вряд ли зрители той игры стали бы утверждать, что Watson способен пройти тест Тьюринга. В IBM действительно опасались, что редакторы передачи постараются сбить компьютер с толку, превратят игру в эмпирический тест, поэтому было оговорено, что будут задаваться только вопросы из невышедших выпусков телевикторины. При этом компьютер все равно ошибался там, где человек не запутался бы. Например, один вопрос касался “анатомической особенности” гимнаста-олимпийца Джорджа Эйсера. Watson ответил вопросом “Что такое нога?”, а соль была в том, что у атлета не было одной ноги. Дэвид Феруччи, руководитель проекта Watson в IBM, так это объяснил: “Наш компьютер не распознал нужное значение слова «особенность». Человек без ноги для него так же обычен, как любой другой человек”6.

Джон Серль, преподаватель философии в Беркли и автор эксперимента “Китайская комната”, опровергающего эффективность теста Тьюринга, ерничал, что Watson — лишь тень искусственного интеллекта. “Watson не понимал ни вопросов, ни ответов, не знал, где он был прав и где ошибался, да и вообще не осознавал, что играл и выиграл. IBM не смогли научить свой компьютер понимать, да и не смогли бы. Вместо этого их компьютер мог только симулировать понимание”7, — глумился Серль.

Даже в IBM были с этим согласны. Правда, они и не планировали наделять Watson интеллектом. Глава IBM Research Джон И. Келли III так прокомментировал победы Deep Blue и Watson: “Современные компьютеры — гениальные идиоты. Они могут хранить огромные объемы данных и выполнять невероятное количество операций в секунду — ни один человек с ними не сравнится. Но как только речь заходит об умениях другого рода, например о понимании, обучаемости, адаптации и взаимодействии, тут компьютерам до людей очень далеко”8.

Истории с Deep Blue и Watson ясно дали понять, что человечество не приближается к созданию искусственного интеллекта, а скорее наоборот. “Парадокс, но последние «достижения» компьютеров указали на слабые места в информатике и концепции искусственного разума, — отмечает профессор Томазо Поджио, руководитель Центра изучения человеческого мозга, интеллекта и техники при МТИ. — Мы до сих пор не знаем, как взаимосвязаны мозг и интеллект, а также как создать машины, которые могли бы сравниться с человеком по уровню интеллекта”9.

Дуглас Хофштадтер, преподаватель Университета Индианы, описал симбиоз искусства и науки в книге “Гедель, Эшер, Бах”, которая неожиданно стала бестселлером 1979 года. Он утверждал, что для создания искусственного разума необходимо понять, как работает человеческое воображение. Однако в 1990-е его идеи были практически забыты: в то время для обработки огромных массивов данных было экономически выгоднее использовать вычислительную мощность компьютеров — так решались сложные задачи, так Deep Blue играл в шахматы10.

Такой подход имел своеобразные последствия: компьютеры могли решать сложнейшие задачи (просчитывать миллиарды шахматных позиций или находить данные в сотнях источников размером с “Википедию”), при этом проваливались на элементарных для человека вопросах. Спросите у Google: “Какова глубина Красного моря?” — и моментально получите точное число: 2211 метров. Даже ваш друг-всезнайка правильно не ответил бы. А простейшее “Может ли крокодил играть в баскетбол?” поставит Google в тупик, тогда как любой ребенок над таким вопросом только посмеется11.

В лаборатории компании Applied Minds неподалеку от Лос-Анджелеса можно понаблюдать, как робота программируют перемещаться в пространстве, но быстро становится понятно, что ему трудно сориентироваться в незнакомом помещении, взять мелок и написать свое имя. В Nuance Communications рядом с Бостоном разрабатываются передовые способы распознавания речи, на которых основана работа Siri[118] и других подобных систем. Однако каждый “общавшийся” c Siri приходит к выводу, что полноценный разговор с компьютером пока что возможен только в фантастическом фильме, а не в реальности. Лаборатория информатики и искусственного интеллекта при МТИ преуспела в области распознавания образов: их компьютеры “понимают”, что на картинках изображены девочка с кружкой, мальчик у фонтана или кот, лакающий сливки, но машинам не по силу сделать элементарное обобщение и установить, что все три объекта производят одно и то же действие — пьют. На Манхэттене, в одном из управлений полиции Нью-Йорка, компьютеры анализируют тысячи записей с камер наблюдения — это часть уникальной системы комплексного слежения — Domain Awareness System. При этом система вряд ли сможет точно распознать в толпе лицо вашей матери.

Все перечисленные задачи объединяет одно: их решил бы и четырехлетний ребенок. Стивен Пинкер, ученый-когнитивист из Гарварда, подвел итог тридцати пяти годам исследований в области искусственного разума: “Сложные задачи решить просто, а простые — тяжело”12. Футуролог Ханс Моравек и другие исследователи отмечают, что причина данного парадокса в том, что для распознавания речи и образов требуются невероятные вычислительные ресурсы.

За полвека до Моравека фон Нейман высказывал похожие идеи о том, что химическая активность мозга, основанная на углероде, принципиально отличается от работы кремниевых микросхем и бинарной логики компьютеров. Биологические процессы — не компьютерные вычисления. Человеческий мозг не просто сочетает аналоговые и цифровые методы, его строение скорее напоминает распределенную вычислительную сеть вроде интернета, чем централизованную систему ЭВМ. Центральный процессор компьютера выполняет команды значительно быстрее, чем возбуждаются нейроны человека. “Однако наш мозг с лихвой это компенсирует, поскольку все его нейроны и синапсы активны одновременно, а у компьютера обычно только один или несколько процессоров”, — отмечают Стюарт Расселл и Питер Норвиг, авторы самого современного издания об искусственном интеллекте13.

Так почему же мы не можем создать компьютер, который повторит работу человеческого мозга? По мнению Билла Гейтса, в конечном счете геном человека будет расшифрован и мы поймем, как природа создает интеллект в углеродной среде. “Это как обратное проектирование: мы изучаем чей-то готовый продукт, чтобы решить задачу”14. Это будет нелегко. Ученые 40 лет составляли схему нейросети круглого червя длиной один миллиметр, у которого 302 нейрона и 8 тысяч синапсов[119]. В человеческом мозге около 86 миллиардов нейронов и около 150 триллионов синапсов15.

В конце 2013 года газета The New York Times опубликовала статью об инновационной технологии, которая “перевернет цифровой мир с ног на голову” и “позволит создать следующее поколение систем искусственного интеллекта, которые смогут выполнять обычные для человека действия: видеть, говорить, слушать, ориентироваться в пространстве, использовать и контролировать различные системы и предметы”. Это описание перекликается с тем, что пресса писала о “Перцептроне” в 1958 году: “сможет ходить, говорить, видеть, писать, воспроизводить себя и осознавать свое существование”. Стратегия ученых осталась прежней: попробовать воссоздать нейросеть человеческого мозга. Как разъясняли в The Times, “новый подход учитывает строение нервной системы живого существа, а также как нейроны реагируют на раздражители и контактируют друг с другом для анализа информации”16. Компании IBM и Qualcomm заявили о своих планах по созданию нейроморфного микропроцессора, который бы имитировал деятельность настоящего мозга. В это же время европейские исследователи из проекта “Человеческий мозг” обнародовали свою разработку — нейроморфный микрочип, то есть “кремниевую пластину длиной двадцать сантиметров, на которой было размещено 50 миллионов искусственных синапсов и 200 тысяч моделей нейронов”17.

Последние достижения в сфере искусственного разума, возможно, действительно означают, что через несколько десятилетий компьютеры научатся думать по-настоящему. Как пишет Тим Бернерс-Ли, “мы часто заглядываем в список вещей, которые машины не умеют делать: играть в шахматы, водить автомобиль, переводить с одного языка на другой, а затем приходится вычеркивать пункт за пунктом из этого списка, потому что мы научили машины этим вещам. Когда-нибудь этот список закончится”18.

Фон Нейман предполагал, что в результате такого развития технологий может наступить сингулярность, то есть момент, когда компьютеры не просто превзойдут интеллект человека, а научатся сами создавать машины со “сверхинтеллектом”, и люди окажутся бесполезными. Термин “сингулярность” популяризовали футуролог Рэй Курцвейл и писатель-фантаст Вернор Виндж, который предсказал ее наступление в 2030 году19.

С другой стороны, эти последние разработки могут вновь оказаться слабым отблеском исчезающего миража, как это уже было в 1950-е годы, когда СМИ восторженно встречали чудо, которого так и не произошло. Искусственный разум может появиться и через несколько поколений людей, и даже через несколько веков. Но оставим эту дискуссию футурологам. Все зависит и от того, что мы будем считать сознанием. А об этом пусть дискутируют философы и теологи.

У всей этой истории возможен еще один вариант развития — тот, который бы понравился Аде Лавлейс и который основан на полувековом развитии компьютеров в направлении, заданном Вэниваром Бушем, Джозефом Ликлайдером и Дагом Энгельбартом.

Симбиоз человека и компьютера: “Watson, идите сюда”

“Аналитическая машина не претендует на то, чтобы создать что-либо, — писала Ада Лавлейс. — Она может выполнять все задачи, какие мы можем научить ее решать”. Она также предполагала, что машины не заменят людей, а станут их помощниками, и в этот союз люди будут привносить новые идеи и творческие решения.

У идеи создания искусственного разума появилась альтернатива: заключить союз между компьютерами и людьми, который обеспечит усиление нашего интеллекта. Стратегия объединения технических и человеческих возможностей, создание своего рода симбиоза, оказалась более плодотворной, чем попытки научить машины думать самостоятельно.

В работе “Симбиоз человека и компьютера” 1960 года Ликлайдер наметил путь развития данной идеи: “Компьютер и наш мозг будут работать как единое целое, благодаря этому человек сможет думать, как никогда прежде, и анализировать данные, как не может ни одна известная нам ЭВМ”20. Ликлайдер намеревался использовать систему мемекс, описанную в статье Буша “Как мы можем мыслить”, а также собственные разработки для системы противовоздушной обороны SAGE, в которой предусматривалось тесное взаимодействие машин и человека.

В 1968 году Энгельбарт обернул идею Буша — Ликлайдера в удобную оболочку: представил миру свою oNLine System с дружественным графическим интерфейсом, мышью и возможностью работы по сети. Его манифест “Усиление человеческого интеллекта” вторил идеям Ликлайдера. По мнению Энгельбарта, главной задачей ученых должно стать создание “интегрированной среды, где бы догадка, метод проб и ошибок, понимание контекста сосуществовали бы… с производительными машинами”. Поэт Ричард Бротиган в стихотворении “И все под присмотром автоматов благодати и любви” более образно выразил эту же мечту “о киберлугах, // где люди, звери, компьютеры // живут вместе // в программо-гармонии”.

Команды разработчиков Deep Blue и Watson не стали себя ограничивать концепцией искусственного разума и также взяли на вооружение идею о симбиозе. Глава IBM Research Джон Келли высказался в духе Ликлайдера: “Задача не в том, чтобы имитировать работу нашего мозга или заменить человека думающей машиной. В эпоху развития когнитивных технологий люди и компьютеры могут сотрудничать, используя свои сильные стороны для получения лучших результатов”21.

После проигрыша компьютеру Deep Blue Гарри Каспарову пришла в голову идея, которая станет воплощением эффективного союза человека и машины. Хотя речь шла о шахматах, игре с четко прописанными правилами, Каспаров заметил, что “компьютеры сильны в том, что человеку дается тяжело, и наоборот”. В результате он провел эксперимент: сыграл не против компьютера, а вместе с компьютером против другой такой же пары. “Мы могли концентрироваться на выборе стратегии и тратить меньше времени на подсчеты, — вспоминает Каспаров. — При таком раскладе наша способность находить неожиданные решения становилась во главу угла”. Так родился союз, предугаданный Ликлайдером.

В 2005 году был проведен турнир, где шахматисты играли в командах с компьютерами, которые они выбирали сами. Вызов приняли многие гроссмейстеры, однако победил не сильнейший из них и не лучшая из машин. Победило сотрудничество. По словам Каспарова, “самые мощные компьютеры проигрывали тандему «человек — машина»: этот союз становился несокрушимым благодаря точным расчетам компьютера и стратегической хитрости человека”. Главный приз турнира получил не шахматный гений, и не самая современная машина, и даже не команда из таких фаворитов, а два игрока-любителя из Америки, которые мастерски анализировали позиции из предыдущих игр при помощи трех компьютеров. Каспаров уверен, что именно умелая организация процесса позволила двум простым шахматистам выиграть у великих гроссмейстеров и мощнейших компьютеров22.

Другими словами, будущее, возможно, построят люди, которые способны работать с компьютерами в одной команде и делать это эффективно.

В IBM запустили похожую программу: их Watson, до этого игравший в Jeopardy! стал сотрудничать с людьми, а не пытаться обыграть их. В одном из таких проектов Watson помогал онкологам составлять план лечения больных. “В Jeopardy! человек и машина находились по разные стороны баррикад, — рассказывает Джон Келли из IBM. — Теперь они объединили усилия для борьбы с раком и претендуют на результаты, которых поодиночке никогда бы не добились”23. В память компьютера загрузили более двух миллионов страниц медицинских журналов и 600 тысяч медицинских заключений, а также предоставили ему доступ к 1,5 миллиона историй болезней. Врач вбивал в систему базовую информацию о больном и его симптомы и получал список рекомендаций, отсортированных по степени надежности24.

Через некоторое время в IBM поняли, что для успеха проекта необходимо сделать из Watson более приятного собеседника. Дэвид Маккуини, вице-президент по разработке программного обеспечения в IBM Research, помнит, как на первых порах некоторые доктора негодовали, что им, дипломированным специалистам, приходится выслушивать приказы категоричного компьютера. В результате в стиль общения Watson добавили нотку скромности: “Данная информация будет вам полезна с вероятностью в N процентов; это остается на ваше усмотрение”. Доктора были довольны: “Как будто общаешься с компетентным коллегой”, — говорили они. Маккуини и его команда постарались объединить уникальные способности человека (в частности, интуицию) и машины (например, грандиозный объем памяти). “Складывается союз невероятной силы, в который каждая сторона привносит то, чего не может предложить другая”25, — комментирует Маккуини.

Успехи Watson в этом проекте заинтересовали Джинни Рометти, которая в прошлом работала в проектах по созданию искусственного интеллекта, а в начале 2012 года заняла пост гендиректора IBM. Ее впечатлило, как ловко компьютер ассистировал докторам: “Это ярко иллюстрировало, что машины могут помогать человеку, а не заменять его собой. Я абсолютно уверена, что так и должно быть”26. На базе Watson Рометти даже открыла новое подразделение IBM, которое получило стартовый миллиард долларов и офис на Силикон-элли недалеко от Гринич-Виллидж на Манхэттене. Оно должно было коммерциализировать “когнитивные вычисления”, то есть компьютерные системы, которые сами учились дополнять возможности человеческого мозга и вести анализ данных на более высоком уровне. Рометти не хотела ничего технического в названии подразделения, и ему дали лаконичное имя Watson — так она почтила память Томаса Уотсона-старшего, основателя IBM, который руководил компанией более 40 лет. Помимо этого, многим на ум могли прийти два художественных персонажа: напарник Шерлока Холмса доктор Джон “элементарно” Ватсон и ассистент Александра Грейама Белла Томас “идите сюда, я хочу вас видеть” Уотсон[120]. Так IBM рассчитывала создать образ дружелюбного компьютера, помощника человека, антипода зловещей машины HAL из фильма Кубрика.

Watson предвозвестил наступление “третьей волны” информатики, во время которой была размыта граница между искусственным и “усиленным” интеллектом. “Первое поколение машин могло только считать и выдавать результат”, — рассказывает Рометти. Здесь можно вспомнить, что компания IBM началась с перфокарт и табуляторов Германа Холлерита, при помощи которых обрабатывали данные во время переписи населения США в 1890 году. “Фон Нейман создал архитектуру второго поколения машин, их необходимо было программировать. Еще со времен Ады Лавлейс люди составляли алгоритмы, шаг за шагом описывающие, как вычислительной машине нужно выполнять ту или иную задачу. Объемы данных увеличивались со скоростью света, поэтому нам пришлось создать третье поколение компьютеров, эти машины учатся сами”27.

Однако появление обучаемых компьютеров не означает, что человечеству пора отправиться на задворки истории, на повестке дня все еще сотрудничество машин и людей. Среди прочих с Watson работал специалист по раку груди Ларри Нортон из онкологического центра Мемориал Слоана — Кеттеринга в Нью-Йорке, который уверен, что медицина и компьютерные технологии будут развиваться параллельно: “Это будет коэволюция, мы поможем друг другу”28.

“Соразвитие” или “коэволюция”29 — так Дуглас Энгельбарт называл процесс совместного развития машин и людей, который может привести к интересным последствиям: как бы быстро ни прогрессировали компьютеры, искусственный разум, возможно, никогда не сможет превзойти совокупный интеллект тандема “человек — машина”.

Давайте на секунду представим, что компьютеры преуспели в имитации человеческого мышления и теперь умело притворяются, будто и в самом деле распознают образы и речь, обладают эмоциями, желаниями и нравственными принципами, умеют творить и ценят красоту, ставят перед собой цели. Возможно, такой компьютер смог бы пройти тест Тьюринга. Или даже тест Ады (обозначим его так), то есть проверку на способность генерировать собственные мысли и выходить за рамки того, на что их запрограммировали.

Однако прежде чем признать победу искусственного интеллекта над интеллектом “усиленным”, необходимо будет провести один финальный тест — назовем его тестом Ликлайдера. В нем не учитывается, насколько качественно машина скопировала наши мыслительные процессы, а проверяется, в каких условиях она будет эффективнее работать: в гордом одиночестве или в паре с человеком. Другими словами, не будет ли компьютер сильно проигрывать союзу разумного существа и машины.

Если компьютер-одиночка сдаст бой, симбиоз “человек — машина” выйдет триумфатором. Но кто сказал, что искусственный разум — священный Грааль информатики? Человечество может потратить ресурсы на улучшение взаимодействия между нами и компьютерами, чтобы максимально эффективно использовать лучшие качества каждой из сторон.

Сделанные выводы

Как и любое историческое повествование, наша хроника развития инноваций, определивших цифровую эпоху, — это хитросплетение множества ниточек. Какие же уроки можно извлечь из этого рассказа, не считая уже упомянутый симбиоз людей и машин?

Первый и главный вывод: творчество — дело коллективное. Намного чаще инновация рождается в результате эффективного сотрудничества, а не прозрений гениев-одиночек. Это правило на все времена. Научная революция, эпоха Просвещения, промышленная революция — в каждый из этих периодов существовали способы работать сообща и обмениваться идеями, однако в эпоху цифровых технологий у человечества появилось еще больше инструментов для сотрудничества. Все новаторы в сфере сетевых и компьютерных технологий обладали выдающимся умом, но без своих коллег они многого не достигли бы. Подобно Роберту Нойсу, лучшие из них больше напоминали приходских священников, а не одиноких проповедников; певчих в хоре, а не солистов.

Взять, к примеру, “Твиттер”: его создала команда людей, умевших как критиковать, так и слушать друг друга. Ник Билтон из газеты The New York Times писал, как один из авторов сервиса Джек Дорси, давая интервью различным СМИ, стал слишком много заслуг приписывать себе. Тогда другой сооснователь “Твиттера”, серийный предприниматель Эван Уильямс, ранее создавший сервис The Blogger, попросил Джека немного охладить свой пыл. Дорси возразил, что это он создал “Твиттер”, на что Уильямс ответил: “Нет, не ты создал «Твиттер». И не я. И не Биз [Стоун, третий соавтор]. В интернете люди ничего не изобретают, они только развивают уже существующие идеи”30.

Эта история иллюстрирует еще одну мысль: цифровая эпоха, возможно, и пропитана духом революции, но корнями она уходит в достижения предыдущих поколений. Важно прислушиваться не только к современникам, но и к предшественникам. Лучшие новаторы видели направление развития технологий и с умом принимали эстафету. Стив Джобс развил идеи Алана Кея, которые тот позаимствовал у Дага Энгельбарта, а тот шел по стопам Джозефа Ликлайдера и Вэнивара Буша. Говард Эйкен из Гарварда собирал свой первый компьютер под впечатлением от разностной машины Чарльза Бэббиджа, более того, он попросил всех своих подчиненных прочитать “Примечания” Ады Лавлейс.

Зачастую самыми эффективными были команды, состоявшие из специалистов из самых разных областей. Классический пример — лаборатория Bell Labs, среди сотрудников которой были физики-теоретики и экспериментаторы, материаловеды, инженеры, несколько бизнесменов и даже ремонтники телефонных линий со смазкой под ногтями. Как композиторы часто работали бок о бок с либреттистами, так и Уолтер Брэттен, физик-экспериментатор, делил рабочее место с Джоном Бардином, физиком-теоретиком, чтобы можно было днем и ночью бомбить друг друга вопросами о вариантах применения кремния, — так был создан первый транзистор.

История цифровых технологий учит нас еще одной мудрости: личное общение благоприятно сказывается на работе команды, хотя интернет и позволяет нам все делать удаленно. Как показывает опыт Bell Labs, виртуальное присутствие не имеет того же эффекта, что реальное взаимодействие. Основатели Intel обустроили просторное помещение для собраний, где все сотрудники, начиная с Роберта Нойса, скрещивали друг с другом шпаги. Эта модель прижилась во многих компаниях Силиконовой долины, а предсказания, что все мы будем работать дистанционно, сбылись лишь частично. Когда Марисса Майер заняла кресло гендиректора Yahoo! первым делом она призвала сотрудников работать в офисе, а не дома, подчеркнув, что “люди более открыты и креативны, когда работают вместе”. Проектируя новый головной офис Pixar, Стив Джобс долго ломал голову над планировкой атриума. Он даже продумал, как расположить туалеты так, чтобы сотрудники встречались в коридорах непрогнозируемым образом. Одним из последних проектов Джобса был план новой штаб-квартиры Apple, где кольца из открытых рабочих пространств должны были располагаться вокруг внутреннего двора.

На протяжении истории самые эффективные команды складывались из людей, чьи умения дополняли друг друга. Взять, к примеру, отцов-основателей США: среди них был образец нравственности Джордж Вашингтон, блестящие умы Томас Джефферсон и Джеймс Мэдисон, проницательные энтузиасты Сэмюел и Джон Адамс и рассудительный миротворец Бенджамин Франклин. Схожим образом среди основоположников ARPANET можно было встретить провидцев вроде Ликлайдера, выдающихся инженеров вроде Ларри Робертса, разбиравшихся в людях и политике менеджеров вроде Боба Тейлора и отличных командных игроков, таких как Стив Крокер и Винт Серф.

Следующий секрет успешной коллективной работы — необходимо объединять в команды мечтателей с их революционными идеями и менеджеров, которые могут претворить эти фантазии в жизнь. Ведь идеи без реализации — просто галлюцинации31. Роберт Нойс и Гордон Мур не могли похвастаться коммерческой жилкой, поэтому первым сотрудником их новой компании Intel стал Энди Гроув, который знал, как правильно организовать рабочий процесс, мотивировать людей и достичь поставленных целей.

Без помощи прагматиков мечтатели часто остаются на периферии истории, и их потом упоминают лишь в примечаниях. Например, за право называться изобретателем цифрового компьютера уже давно борются Джон Атанасов, работавший в одиночку профессор из Айовы, и группа изобретателей из Университета Пенсильвании, возглавляемая Джоном Мокли и Преспером Эккертом. В этой книге я больше склоняюсь на сторону последних, потому что их компьютер ENIAC включался и даже мог решить серию задач — ради этого трудились десятки инженеров и техников плюс команда женщин-программистов. При этом машина Атанасова так толком и не заработала: у ученого не было помощников, которые бы довели до ума его тостер для перфокарт. В итоге его творение пылилось в подвале, пока его не выбросили как старую бесполезную железку.

ARPANET и интернет также появились благодаря слаженной работе многих людей. Решения по всем вопросам принимались коллективно: один студент-энтузиаст рассылал всем “запросы на отзыв” (Requests for Comments)[121]. В результате была создана похожая на паутину сеть с коммутацией пакетов, состоявшая из равнозначных узлов; центрального управления у сети не было. Каждый из узлов мог самостоятельно размещать и распространять некий контент и обходить попытки его контролировать. Таким образом коллективными усилиями была создана сеть для упрощения коллективной работы — творцы оставили свои хромосомы в ДНК интернета.

Всемирная паутина упростила жизнь не только слаженным рабочим группам, но и позволила сотрудничать незнакомым друг с другом людям. Это, пожалуй, самая революционная технология эпохи. Координировать свои действия умели еще древние персы и ассирийцы, для этого у них были налажены почтовые системы. Однако только с появлением интернета стало так просто собрать и систематизировать мнения и знания тысяч и миллионов незнакомых людей. В результате появились такие плоды совокупной народной мудрости, как ранжирование сайтов в поисковике Google, статьи “Википедии”, веб-браузер Firefox и программное обеспечение GNU/Linux.

В эпоху цифровых технологий рабочие группы создавались тремя способами. Во-первых, по распоряжению правительства. Например, государство координировало и финансировало создание первых компьютеров (Colossus, ENIAC) и сетей (ARPANET), что отвечало настроениям того времени. В 1950-е годы при президенте Эйзенхауэре запускали проекты, которые могли принести благо обществу, например космическую программу или строительство дорог федерального значения. Нередко к работе подключались университеты и частные подрядчики, и так работал треугольник правительство — наука — промышленность, который Вэнивар Буш и другие разработчики считали очень эффективной структурой. Разборчивые бюрократы (это не всегда оксюморон), такие как Ликлайдер, Тейлор и Робертс, отслеживали перспективные проекты и обеспечивали их финансирование.

Другой способ собрать команду специалистов — частная инициатива. Появлялись исследовательские лаборатории при крупных компаниях, такие как Bell Labs и Xerox PARC, или же новые негосударственные компании, например Texas Instruments и Intel, Atari и Google, Microsoft и Apple. Работа этих компаний была ориентирована на прибыль — необходимо было платить сотрудникам и привлекать инвесторов, что подразумевало патентование разработок компании и защиту ее интеллектуальной собственности. Компьютерные теоретики и программисты обычно с презрением относились к такому собственническому подходу. Однако нельзя не признать, что коммерческие организации, продававшие свои изобретения, внесли ощутимый вклад в развитие таких инновационных технологий, как транзисторы, микросхемы, компьютеры, телефоны и прочие устройства, а также веб-сервисы.

Помимо государства и частных компаний, существовала еще одна сила, способная подстегнуть коллективное взаимодействие: энтузиасты своего дела, которые бескорыстно делились идеями и иными способами вкладывались в общее дело. Гарвардский профессор Йохай Бенклер обозначил этот феномен как “социальное производство”32. После запуска интернета намного больше людей стало работать на добровольных началах, благодаря чему появились “Википедия”, некоторые веб-сервисы, бесплатное и свободное программное обеспечение, Нпример, операционная система GNU / Linux, пакет программ OpenOffice и веб-браузер Firefox. По словам технического журналиста Стивена Джонсона, открытая архитектура позволяет эффективно развивать существующие идеи: например, Бернерс-Ли построил сеть веб-сайтов и сервисов в интернете33. Люди присоединяются к подобным проектам не ради финансовой прибыли, их могут привлекать другие преимущества или чувство удовлетворения.

Вопросы патентования технологий часто становились камнем преткновения между корпорациями и последователями движения за свободное ПО, поскольку последние придерживались принципов, которые были заложены еще в “Клубе технического моделирования железных дорог”при МТИ и “Домашнем компьютерном клубе”. Вспомнить хотя бы Стива Возняка. На собраниях “Домашнего компьютерного клуба” он показывал всем свои компьютерные микросхемы, а затем раздавал их чертежи, чтобы желающие могли использовать или улучшить его изобретения. Однако его приятель Стив Джобс тоже стал посещать собрания клуба и настоял, чтобы Возняк перестал раздавать свои изобретения бесплатно, а сам собирал и продавал их. Так родилась компания Apple, которая последующие 40 лет будет патентовать абсолютно всю свою продукцию и получать от этого невероятную прибыль. Без обоих Стивов цифровые технологии не вышли бы на столь высокий уровень, ведь инновации наиболее динамично развиваются в атмосфере конкуренции между бесплатной и коммерческой продукцией.

Иногда люди становятся на ту или иную сторону по идеологическим соображениям. Кому-то кажется важным участие государства, кто-то превозносит частную инициативу, кто-то романтизирует бескорыстных энтузиастов. Во время президентских выборов 2012 года в Америке развернулась жаркая дискуссия вокруг фразы Барака Обамы, адресованной бизнесменам: “Не вы это построили”. Его раскритиковали за нападки на частный сектор, хотя Обама имел в виду, что каждая коммерческая компания в стране чем-то обязана государству и энтузиастам: “Вы достигли успеха не без чьей-то помощи. У вас есть учитель, указавший вам путь. Кто-то разработал потрясающий план «Американская система»[122], который позволил вам преуспеть, а кто-то финансировал строительство дорог и мостов”. Возможно, Обама выбрал не самый изящный способ разрушить образ социалиста, придуманный СМИ, однако он осветил ту сторону современной экономики, которая касается и IT: сочетать разные типы производства и финансирования всегда эффективнее, чем зацикливаться на одном из них.

Все эти мысли не новы. Британское правительство поддерживало исследования Бэббиджа, потому что было заинтересовано в технологиях, способных усилить экономику империи и доминирующее положение страны в мире. Ученый в свою очередь черпал идеи у предпринимателей, в частности использовал перфокарты, которые изобрели ткачи для своих автоматических станков. Бэббидж и его друзья основали несколько клубов единомышленников, среди них — Британская ассоциация развития науки, которую с очень большой натяжкой, но можно назвать предшественником “Домашнего компьютерного клуба”, поскольку ее члены, достопочтенные джентльмены, тоже верили в свободный обмен идеями и пользу коллективной работы.

Во главе самых успешных IT-компаний стояли прирожденные лидеры, которые осознавали важность коллективного настроя, а также четко представляли себе путь развития компании. Часто мы противопоставляем дальновидных стратегов и тех, кто умеет вдохновлять и стимулировать сотрудников людей, но забываем, что лучшие руководители могут сочетать в себе и то и другое. Хорошим примером служит Роберт Нойс, который долгое время возглавлял Intel вместе с Гордоном Муром. Партнеры отлично понимали, как будет развиваться рынок полупроводников, а также были готовы к дискуссиям и не считали зазорным ошибаться. Даже такие вспыльчивые и раздражительные люди, как Стив Джобс и Билл Гейтс, умели объединять сотрудников в эффективные команды и заражать их верностью компании.

Но и выдающиеся специалисты не могли ничего добиться, если не умели работать в команде. Так распалась компания Shockley Semiconductor. Верно и обратное: любому сплоченному коллективу нужен неравнодушный и настойчивый лидер. После изобретения транзистора лаборатория Bell Labs зашла в тупик, как и компания Apple после увольнения Джобса в 1985 году.

В этой книге рассказывается о многих успешных инноваторах и предпринимателях. Их объединяет одна общая черта: одержимость качеством продукта. Они одинаково глубоко разбирались как в технической стороне дела, так и в вопросах дизайна, а вот маркетинг, продажи и финансы часто не были их сильной стороной. Когда во главе компании оказывались коммерчески ориентированные люди, нередко там угасал поток новых идей и решений. Это отмечал и Джобс: “Когда у руля торгаши, никто не слушает тех, кто беспокоится о продукте, и они просто увольняются”. Ему вторит Ларри Пейдж: “Лучшие руководители знают и технические, и дизайнерские тонкости”34.

Мы можем извлечь еще один урок из истории цифровых технологий. Правда, он стар как мир, точнее, как Аристотель: “Человек есть общественное животное”. Только так и можно объяснить появление любительского диапазона радиосвязи и любительских радио, а также их потомков — сервисов вроде WhatsApp и “Твиттера”. Для каких бы целей ни создавалась технология, практически всегда ее использовали для общения и социализации — для создания сообществ и социальных сетей, для эффективного сотрудничества. Даже персональный компьютер, задуманный как инструмент для личного развития, в итоге оказался окружен модемами и онлайн-сервисами, что привело к рождению Facebook, Flickr и Foursquare.

В отличие от людей машины не социальны: у них не появляется желание завести друзей или страничку в Facebook. Когда Алан Тьюринг предсказал, что компьютеры научатся имитировать человеческое поведение, его оппоненты возразили, что машинам всегда будут чужды эмоции и чувства. Чтобы порадовать Тьюринга, можно было бы изобрести машину, которая бы симулировала симпатию, дружбу и даже любовь, как люди иногда и делают. Однако Тьюринг одним из первых заметил бы подвох.

Во второй части цитаты Аристотеля говорится, что человек вне общества является “либо зверем, либо богом”. И хотя компьютеры существуют вне социума, к ним данная цитата не применима, поскольку у программ нет личности, намерений и желаний. Они — пластилин в наших руках, что бы там ни утверждали создатели искусственного интеллекта и социологи интернета

Завет Ады: поэтическая наука

Настало время сделать вывод. Он возвращает нас к идеям Ады Лавлейс, которая утверждала, что в симбиоз “человек — машина” люди привносят самое важное — творческую составляющую. История цифровых технологий ярко иллюстрирует эту идею — от Буша и Ликлайдера к Энгельбарту и Джобсу, а также от SAGE к Google, Wikipedia и Watson. И так будет до тех пор, пока человек не перестанет быть существом творящим. Джон Келли, глава IBM Research, уверен, что “машины будут отвечать за логику и аналитику, а за людьми останутся здравый смысл, интуиция, сопереживание, нравственные ориентиры и умение творить”35.

В эпоху когнитивной информатики человек не станет бесполезным звеном, поскольку мы способны мыслить нестандартно, а это недоступно алгоритмам практически по определению. Человек обладает воображением, которое, по словам Ады, “складывает факты, идеи и понятия в бесконечное количество новых, постоянно меняющихся сочетаний”. Мы любим придавать информации форму и находим в этом красоту, например, слова мы сливаем в тексты. Мы не только общественные существа, но еще и рассказчики.

Человек творит, опираясь на ценности, эстетический вкус, эмоции, самосознание и нравственность. Всему этому нас учат гуманитарные науки и искусства, и поэтому они должны быть такой же важной частью образования, как естественные дисциплины, инженерные науки и математика. Если люди хотят сохранить за собой роль художника и творца в тандеме “человек — машина”, то нам необходимо постоянно подпитывать свои внутренние источники фантазии, оригинальности и человечности. Это наша сильная и самая ценная сторона.

Свои презентации продукции Apple Стив Джобс обычно заканчивал слайдом с дорожными знаками, изображающими пересечение гуманитарных наук и технологий. На своей последней презентации iPad 2 в 2011 году, стоя перед экраном, на который проецировалось это изображение, он сказал: “Одних технологий недостаточно — в самой ДНК Apple заложен союз технологий с искусством и гуманитарными науками. И это дает такие плоды, что душа поет”. Именно поэтому Стив Джобс стал самым креативным новатором нашего времени.

Однако эта ода гуманитарным наукам — лишь одна сторона медали. Верно и обратное: гуманитариям и людям творчества следует найти красоту в математике и физике, как сделала Ада Лавлейс. В противном случае они будут лишь со стороны наблюдать за развитием цифрового искусства, попросту сдадут свои позиции инженерам.

Нередко гуманитарии и творческие личности, которые ликовали, что университеты признали значимость их области знаний, без стыда сознаются, что ничего не смыслят в физике с математикой, а иногда и шутят на эту тему. Они превозносят важность изучения латыни, но понятия не имеют, как написать алгоритм или как отличить язык BASIC от C++, Python или Pascal. Путать пьесы “Гамлет” и “Макбет” для них признак ограниченности, при этом сами они затруднятся назвать различия между геном и хромосомой, транзистором и конденсатором или интегральным и дифференциальным уравнением. Эти понятия могут казаться сложными, но “Гамлет” тоже сложен. И, как и “Гамлет”, они по-своему красивы. Изящное математическое уравнение — это тоже гимн великолепию нашей Вселенной.

Чарльз Перси Сноу был прав, необходимо уважать “обе культуры”: как техническую, так и гуманитарную. При этом особенно важно понимать, где и как они пересекаются. Технологическая революция состоялась благодаря людям, умевшим объединить эти две области, как сделала Ада Лавлейс. Отец передал ей увлечение поэзией, а мать — математикой, и впоследствии Ада сложила собственную мозаику — “поэтическую науку”. Ее отец был на стороне луддитов, ломавших ткацкие станки, но Аду восхищало, как перфокарты программируют станок и определяют узор будущей ткани. Она предвидела, что союз технологий и искусств материализуется в компьютерах.

Следующим этапом цифровой революции станет углубление диалога между IT и творческими сферами: СМИ, модой, музыкой, развлекательными и образовательными ресурсами, искусством и литературой. До настоящего момента мы по большей части заворачивали старые конфеты в новые фантики: создавали цифровые варианты книг, газет и журналов, авторских колонок, песен, телешоу и кино. Однако новые платформы, сервисы и социальные сети постоянно расширяют границы индивидуального и коллективного творчества. В ролевых и интерактивных играх применяются технологии дополненной реальности и совместного повествования. Тесное взаимодействие технологий и искусств позволит нам получить принципиально новые медиаформаты и средства самовыражения.

Создать подобные инновации по силам только тем, кто может объединить прекрасное и инженерное, гуманитарное и техническое, поэзию и машины, то есть духовным наследникам Ады Лавлейс, творцам, которые смогут получить максимум от союза искусства и науки, бунтарям, которые открыты новому и удивительному и потому найдут красоту во всем.

 

 

Благодарности

Я хотел бы выразить благодарность людям, которые дали мне интервью и поделились со мной тем, что знали: Бобу Альбрехту, Марку Андриссену, Тиму Бернерсу-Ли, Стюарту Бранду, Дэну Бриклину, Ларри Бриллианту, Джону Сили Брауну, Нолану Бушнеллу, Стиву Возняку, Биллу Гейтсу, Элу Гору, Энди Гроуву, Биллу Джою, Бобу Кану, Джин Кейс, Стиву Кейсу, Уэсу Кларку, Стиву Крокеру, Алану Кею, Джиму Кимси, Леонарду Клейнроку, Трэйси Ликлайдер, Лизе Луп, Дэвиду Маккуини, Гордону Муру, Джону Негропонте, Ларри Пейджу, Говарду Рейнгольду, Ларри Робертсу, Артуру Року, Вирджинии Рометти, Бену Роузену, Стиву Расселу, Винту Серфу, Бобу Тейлору, Полу Терреллу, Эвану Уильямсу, Джимми Уэйлсу, Ли Фельзенштейну, Бобу Фрэнкстону, Джастину Холлу, Эрику Шмидту и Элу Элкорну. Я также хотел бы поблагодарить людей, которые давали мне полезные советы в процессе написания книги, а именно: Кена Алетту, Ларри Коэна, Дэвида Дербса, Джона Дорра, Джона Холлара, Джона Маркофа, Линду Ресник, Джо Зеффа и Майкла Морица.

Рахул Мехта из Университета Чикаго и Дэнни З. Уилсон из Гарварда просмотрели черновик книги, чтобы выявить неточности в математической и технической частях; конечно, позднее я все равно ухитрился добавить в текст несколько ошибок, но за это не следует винить моих редакторов. Я отдельно благодарен Строубу Тэлботту, который прочитал черновик книги и обстоятельно его прокомментировал. То же самое он делал с каждой моей книгой, начиная с “Мудрецов” 1986 года, и я храню все его подробные замечания как доказательство его мудрости и великодушия.

Работая над этой книгой, я захотел попробовать новый подход: привлечь к редактуре интернет-пользователей. В итоге я учел их предложения и замечания при написании многих глав. Это не новое явление. Лондонское королевское общество было создано в 1660 году для того, чтобы ученые могли рецензировать работы друг друга, и с этой же целью Бенджамин Франклин основал Американское философское общество. У нас в журнале Time было принято рассылать черновики статей по всем отделам, и полученные “замечания и правки” оказывались очень полезными. Раньше я посылал отрывки своих работ десяткам своих знакомых, а при помощи интернета я получил комментарии от тысяч незнакомых мне людей.

Мне показалось это уместным, поскольку одной из причин появления интернета было желание упростить сотрудничество. Однажды ночью, когда я как раз писал об этом, я осознал, что должен попробовать использовать интернет по его первоначальному назначению. Я надеялся, что это поможет мне с книгой и позволит лучше понять, как современные интернет-инструменты облегчают людям совместную работу (по сравнению со временами Usenet и электронных досок объявлений).

Свой эксперимент я проводил на многих сайтах. Лучше всего себя показал сервис Medium, созданный Эвом Уильямсом, одним из героев этой книги. Я опубликовал отрывки своего черновика в Сети, и за первую неделю один из них прочитало 18 200 человек, что примерно на 18 170 редакторов больше, чем у меня когда-либо было. Многие пользователи писали комментарии, сотни людей слали мне электронные письма. В результате я внес в текст немало изменений и дополнений, в том числе написал целый новый раздел (про Дэна Бриклина и VisiCalc). Я хотел бы поблагодарить сотни участников моего интернет-проекта, которые помогли мне отредактировать книгу, с некоторыми из них я даже познакомился. (Кстати говоря, я надеюсь, что вскоре появится гибрид электронной книги и вики-сайта, новое слово в истории мультимедиа, где автор и онлайн-сообщество смогут совместно работать над текстами.)

Также я хотел бы поблагодарить Алису Мэйхью и Аманду Урбан, которые более тридцати лет являются моими редактором и агентом, а также команду издательства Simon &Schuster: Кэролин Рейди, Джонатана Карпа, Джонатана Кокса, Джулию Проссер, Джеки Сиу, Ирэн Керади, Джудит Гувер, Рут Ли-Муи и Джонатана Эванса. Я также благодарен сотрудникам Института Аспена, помогавшим мне, в особенности Пэт Зиндулке и Ли Битоунис. Также мне очень повезло, что черновик моей книги охотно читают и комментируют представители трех поколений моей семьи: мой отец Ирвин (инженер-электрик), мой брат Ли (компьютерный консультант) и моя дочь Бетси (технический писатель, именно она впервые рассказала мне об Аде Лавлейс). И больше всего я благодарен своей жене Кэти, самому мудрому моему читателю и самому любящему человеку из всех, кого я когда-либо встречал.

 

На Оглавление