2017-11-01
559Shadows of the Mind A Search for the Missing Science of Consciousness
ROGER PENROSE
Rouse Ball Professor of Mathematics University of Oxford
OXFORD UNIVERSITY PRESS
New York Oxford
Перевод с английского А. Р. Логунова и Н. А. Зубченко
Пенроуз Р. Тени разума: в поисках науки о сознании. - Москва-Ижевск: Институт компьютерных исследований, 2005. - 688 с.
Книга знаменитого физика о современных подходах к изучению деятельности мозга, мыслительных процессов и пр. Излагаются основы математического аппарата - от классической теории (теорема Гёделя) до последних достижений, связанных с квантовыми вычислениями. Книга состоит из двух частей: в первой части обсуждается тезис о невычислимости сознания, во второй части рассматриваются вопросы физики и биологии, необходимые для понимания функционирования реального мозга.
Для широкого круга читателей, интересующихся наукой.
Данный перевод книги "Тени разума", оригинальное издание которой было выпущено в 1994 году на английском языке, публикуется с разрешения Oxford University Press.
http://rcd.ru http://ics.org.ru
ОГЛАВЛЕНИЕ
|
|
|
Предисловие 10
Благодарности 14
Читателю 17
Пролог 20
Часть I. ПОЧЕМУ ДЛЯ ПОНИМАНИЯ РАЗУМА НЕОБХОДИМА НОВАЯ ФИЗИКА?
Невычислимость сознательного мышления
ГЛАВА 1. Сознание и вычисление 27
1.1. Разум и наука 27
1.2. Спасут ли роботы этот безумный мир? 29
1.3. Вычисление и сознательное мышление 34
1.4. Физикализм и ментализм 41
1.5. Вычисление: нисходящие и восходящие процедуры 42
1.6. Противоречит ли точка зрения тезису Черча-Тьюринга? 47
1.7. Хаос..48
1.8. Аналоговые вычисления ….52
1.9. Невычислительные процессы..56
1.10. Завтрашний день …66
1.11. Обладают ли компьютеры правами и несут ли ответственность?.69
1.12. "Осознание", "понимание", "сознание", "интеллект" 71
1.13. Доказательство Джона Серла 77
1.14. Некоторые проблемы вычислительной модели... 78
1.15. Свидетельствуют ли ограниченные возможности сегодняшнего ИИ
в пользу?..........................................................................................................82
1. 16. Доказательство на основании теоремы Гёделя... 88
1.17. Платонизм или мистицизм? 90
1.18. Почему именно математическое понимание?.... 92
1.19. Какое отношение имеет теорема Гёделя к "бытовым" действиям? 95
1.20. Мысленная визуализация и виртуальная реальность 101
1.21. Является ли невычислимым математическое воображение? 104
ГЛАВА 2. Гёделевское доказательство 111
2.1. Теорема Гёделя и машины Тьюринга 111
2.2. Вычисления ………… 114
2.3. Незавершающиеся вычисления 116
2.4. Как убедиться в невозможности завершить вычисление?.................... 117
2.5. Семейства вычислений; следствие Гёделя -Тьюринга ……………123
2.6. Возможные формальные возражения против ………………...129
2.7. Некоторые более глубокие математические соображения.. 147
|
|
|
2.8. Условие -непротиворечивости 151
2.9. Формальные системы и алгоритмическое доказательство 154
2.10. Возможные формальные возражения против (продолжение) 158
Приложение А: Геделизирующая машина Тьюринга.. 193
ГЛАВА 3. О невычислимости в математическом мышлении 206
3.1. Гёдель и Тьюринг 206
3.2. Способен ли необоснованный алгоритм познаваемым образом моделировать математическое понимание? 211
3.3. Способен ли познаваемый алгоритм непознаваемым образом моделировать математическое понимание? 214
3.4. Не действуют ли математики, сами того не осознавая, в соответствии с необоснованным алгоритмом? 224
3.5. Может ли алгоритм быть непознаваемым? 230
3.6. Естественный отбор или промысел Господень?... 234
3.7. Алгоритм или алгоритмы? 236
3.8. Эзотерические математики не от мира сего как результат
естественного отбора 238
3.9. Алгоритмы обучения 243
3.10. Может ли окружение вносить неалгоритмический
внешний фактор? 246
3.11. Как обучаются роботы? 249
3.12. Способен ли робот на "твердые математические
убеждения"? 253
3.13. Механизмы математического поведения робота..257
3.14. Фундаментальное противоречие 261
3.15. Способы устранения фундаментального противоречия 264
3.16. Необходимо ли роботу верить в механизмы М?...266
3.17. Робот ошибается и робот "имеет в виду"? 270
3.18. Введение случайности: ансамбли всех возможных
роботов 273
3.19. Исключение ошибочных -утверждений 275
3.20. Возможность ограничиться конечным числом
утверждений 279
3.21. Окончателен ли приговор? 284
3.22. Спасет ли вычислительную модель разума хаос?..286
3.23. Reductio ad absurdum - воображаемый диалог.. 288
3.24. Не парадоксальны ли наши рассуждения? 304
3.25. Сложность в математических доказательствах... 309
3.26. Разрыв вычислительных петель 313
3.27. Вычислительная математика: процедуры нисходящие или восходящие? 319
3.28. Заключение 322
Часть II. НОВАЯ ФИЗИКА, НЕОБХОДИМАЯ ДЛЯ ПОНИМАНИЯ РАЗУМА В поисках невычислительной физики разума
ГЛАВА 4. Есть ли в классической физике место разуму? 339
4.1. Разум и физические законы 339
4.2. Вычислимость и хаос в современной физике.... 342
4.3. Сознание: новая физика или "эмергентный феномен"? 344
4.4. Эйнштейнов наклон 345
4.5. Вычисления и физика 360
ГЛАВА 5. Структура квантового мира 373
5.1. Квантовая теория: головоломки и парадоксы.... 373
5.2. Задача Элитцура - Вайдмана об испытании бомб. 376
5.3. Магические додекаэдры 378
5.4. Z-загадки ЭПР-типа: экспериментальный статус. 386
5.5. Фундамент квантовой теории: исторический экскурс 391
5.6. Основные правила квантовой теории........ 402
5.7. Унитарная эволюция U. 405
5.8. Редукция R вектора состояния 410
5.9. Решение задачи Элитцура - Вайдмана об испытании бомб 417
5.10. Квантовая теория спина. Сфера Римана 421
5.11. Местонахождение частицы и ее количество движения 431
5.12. Гильбертово пространство 433
5.13. Описание редукции R в терминах гильбертова пространства 439
5.14. Коммутирующие измерения 444
5.15. Квантовомеханическое "И" 445
5.16. Ортогональность произведений состояний 448
5.17. Квантовая сцепленность 450
5.18. Объяснение загадки магических додекаэдров....458
Приложение В: Нераскрашиваемость додекаэдра.... 467
Приложение С: Ортогональность общих спиновых со
стояний 468
ГЛАВА 6. Квантовая теория и реальность 474
6.1. Является ли R реальным процессом? 474
6.2. О множественности миров 479
6.3. Не принимая вектор всерьез 482
6.4. Матрица плотности 488
6.5. Матрицы плотности для ЭПР-пар 496
6.6. FAPP-объяснение процедуры R 499
6.7. FAPP-объяснение правила квадратов модулей... 506
6.8. О редукции вектора состояния посредством сознания 508
6.9. А теперь попробуем принять действительно всерьез 510
6.10. Гравитационная редукция вектора состояния....515
6.11. Абсолютные единицы 519
6.12. Новый критерий 521
ГЛАВА 7. Квантовая теория и мозг 534
7.1. Макроскопическая квантовая процедура в работе мозга 534
|
|
|
7.2. Нейроны, синапсы и компьютеры 540
7.3. Квантовые вычисления 544
7.4. Цитоскелет и микротрубочки 547
7.5. Квантовая когерентность внутри микротрубочек.. 561
7.6. Микротрубочки и сознание 564
7.7. Модель разума.. 567
7.8. Невычислимость в квантовой гравитации (1).... 575
7.9. Машины с оракулом и физические законы 578
7.10. Невычислимость в квантовой гравитации (2)....581
7.11. Время и сознательное восприятие 584
7.12. ЭПР-феномены и время: необходимость в новом
мировоззрении 591
ГЛАВА 8. Возможные последствия 598
8.1. Искусственные разумные "устройства" 598
8.2. Что компьютеры умеют делать хорошо... и что не очень 602
8.3. Эстетика и т. д 607
8.4. Опасности компьютерных технологий 610
8.5. Неправильные выборы 613
8.6. Физический феномен сознания 617
8.7. Три мира и три загадки 625
Эпилог 640
Литература 641
Предметный указатель 673
ПРЕДИСЛОВИЕ
Эту книгу можно считать, в некотором смысле, продолжением "Нового разума короля" (далее - НРК). То есть я и в самом деле намерен продолжить развитие темы, начатой в НРК, однако излагаемый здесь материал можно рассматривать и совершенно независимо от предыдущей книги. Отчасти необходимость в повторном обращении к предмету первоначально возникла из желания дать как можно более обстоятельные ответы на множество вопросов и критических замечаний, которыми самые разные люди отреагировали на рассуждения и доказательства, представленные в НРК. Тем не менее, тема новой книги представляет собой совершенно самостоятельное исследование, а предлагаемые здесь идеи отнюдь не ограничиваются рамками, установленными в НРК. Одну из главных тем НРК составило мое убеждение в том, что, используя сознание, мы способны выполнять действия, не имеющие ничего общего с какими бы то ни было вычислительными процессами. Однако в НРК эта идея была представлена лишь как осторожная гипотеза; имелась также некоторая неопределенность относительно того, какие именно типы процедур следует включать в категорию "вычислительных процессов". На страницах же этой книги, как мне представляется, читатель найдет гораздо более последовательное и строгое обоснование приведенного выше общего утверждения, причем представляемое обоснование оказывается применимо ко всем типам вычислительных процессов, какие только можно вообразить. Кроме того, здесь имеется и существенно более правдоподобное (нежели это было возможно во времена НРК) предположение относительно механизма церебральной активности, посредством которого наше управляемое сознанием поведение может основы-
|
|
|
1 The Emperor's New Mind. (He так давно книга была переведена на русский к: Пенроуз Р. Новый ум короля, М.: Едиториал УРСС. 2003.) - Прим. перев.
ваться на какой-либо физической активности невычислительного характера.
Упомянутое обоснование проводится по двум различным направлениям. Одно из них по сути своей негативно; здесь я решительно выступаю против широко распространенного мнения, согласно которому нашу сознательную мыслительную деятельность - во всех ее разнообразных проявлениях - можно, в принципе, адекватно описать в рамках тех или иных вычислительных моделей. Другое направление моих рассуждений можно счесть позитивным - в том смысле, что оно предполагает подлинный поиск (разумеется, в рамках необходимости придерживаться строгих и неопровержимых научных фактов) инструментов, позволяющих описываемому в научных терминах мозгу применять для осуществления требуемой невычислительной деятельности тонкие и по большей части нам пока не известные физические принципы.
В соответствии с этой дихотомией, представленная в книге аргументация разбита на две части. В первой части содержится всестороннее и обстоятельное исследование, результаты которого самым решительным образом подтверждают мой тезис о том, что сознание, в его конкретном проявлении человеческого "понимания", делает нечто такое, чего простые вычисления воспроизвести не в состоянии. Причем под термином "вычисления" здесь подразумеваются как процессы, реализуемые системами "нисходящего" типа, действующими в соответствии с конкретными и прозрачными алгоритмическими процедурами, так и процессы, реализуемые системами "восходящего" типа, которые программируются не столь жестко и способны вследствие этого к обучению на основании приобретенного опыта. Центральное место в рассуждениях первой части занимает знаменитая теорема Гёделя; приводится также подробнейшее рассмотрение следствий из этой теоремы, имеющих отношение к нашему случаю. Подобное изложение существенно расширяет аргументацию, представленную сначала самим Гёделем, а позднее Нагелем, Ньюменом и Лукасом; кроме того, здесь же я постарался по возможности обстоятельно ответить на все известные мне возражения. В этой связи приводятся также подробные доказательства невозможности достижения системами восходящего (равно как и нисходящего) типа подлинной разумности. В заключение делается вывод о том, что сознательное мышление и в самом деле должно включать в
себя процессы, которые с помощью одних лишь вычислительных методов невозможно даже адекватно смоделировать; еще менее способны вычисления, взятые сами по себе, обусловить какое бы то ни было сознательное ощущение или желание. Иными словами, разум, по всей видимости, представляет собой такую сущность, которую никоим образом невозможно описать посредством каких бы то ни было вычислений.
Во второй части мы обратимся к физике и биологии. Хотя отдельные звенья цепи наших умозаключений и носят здесь явно более предположительный характер, нежели строгие доказательства первой части, мы все же попытаемся разобраться, каким именно образом в пределах действия научно постижимых физических законов может возникать подобная невычислимая активность. Необходимые фундаментальные принципы квантовой механики излагаются начиная с самых азов, так что от читателя не требуется какого бы то ни было предварительного знакомства с квантовой теорией. Приводится достаточно глубокий анализ некоторых загадок и парадоксов квантовой теории с привлечением целого ряда новых примеров, графически иллюстрирующих роль нелокальности и контрфактуальности, а также некоторых весьма сложных проблем, связанных с квантовой сцепленно-стью. Я глубоко убежден - и готов свою убежденность обосновать - в необходимости фундаментального пересмотра (на определенном, четко обозначенном уровне) наших сегодняшних квантовомеханических воззрений. (Высказываемые здесь соображения весьма близки к идеям, недавно опубликованным Ги-рарди, Диози и др.) Следует отметить, что со времен НРК в этом отношении произошли существенные изменения.
Я полагаю, что именно на этом уровне в действие должна вступать физическая невычислимость - условие, необходимое для объяснения невычислимости деятельности сознания. В соответствии с этим предположением я должен потребовать, чтобы уровень, на котором становится значимой упомянутая физическая невычислимость, играл особую роль и в функционировании мозга. Именно в этом пункте мои нынешние предположения наиболее существенно расходятся с теми, что были высказаны в НРК. Я утверждаю, что, хотя сигналы нейронов и могут вести себя как детерминированные в классическом смысле события, управление синаптическими связями между нейронами происходит на более глубоком уровне, т. е. там, где можно ожидать
наличия существенной физической активности на границе между квантовыми и классическими процессами. Выдвигаемые мною специфические предположения требуют возникновения внутри микроканальцев цитоскелета нейронов макроскопического кван-товокогерентного поведения (в точном соответствии с предположениями Фрёлиха). Иначе говоря, я полагаю, что упомянутая квантовая активность должна быть неким невычислимым образом связана с поддающимся вычислению процессом, который, как утверждают Хамерофф и его коллеги, имеет место внутри этих самых микроканальцев.
Представляемые мною доказательства указывают на то, что распространенные сегодня в некоторых областях науки взгляды ни в коей мере не способствуют хоть сколько-нибудь научному пониманию человеческого разума. И все же это не означает, что феномен сознания так никогда и не найдет своего научного объяснения. Я глубоко убежден - и в этом отношении мои взгляды со времен НРК ничуть не изменились - в том, что научный путь к пониманию феномена разума несомненно существует, и начинаться этот путь должен с более глубокого познания природы собственно физической реальности. Я полагаю чрезвычайно важным, чтобы любой серьезный читатель, намеренный разобраться в том, каким образом столь выдающийся феномен, как разум, может быть объяснен в понятиях материального физического мира, составил бы себе прежде достаточно четкое представление о том, какими странными могут оказаться законы, в действительности управляющие этим самым "материалом", из которого состоит наш физический мир.
В конечном счете, именно ради понимания мы и затеяли всю науку, а наука - это все же нечто большее, нежели просто бездумное вычисление.
Оксфорд, Р. П.
апрель 1994
БЛАГОДАРНОСТИ
За помощь, оказанную мне в написании этой книги, я весьма обязан многим людям - слишком многим, чтобы поблагодарить каждого из них в отдельности, даже если бы я смог вспомнить все имена. Тем не менее, особую благодарность я хотел бы выразить Гвидо Баччагалуппи и Джереми Баттерфилду за критические замечания, которые они сделали в отношении некоторых частей чернового варианта книги, обнаружив, в частности, серьезную ошибку в моем тогдашнем рассуждении (исправленный текст вошел в третью главу окончательного варианта книги). Кроме того, я благодарен Дэну Айзексону, Абхею Аштекару, Мэри Белл, Брайану Берчу, Джеффу Брукеру, Сьюзан Гринфилд, Робину Гэн-ди, Роджеру Джеймсу, Дэвиду Дойчу, Эцио Инсинне, Рихарду Йоже, Фрэнсису Крику, Джону Лукасу, Биллу Макколлу, Грэму Мичисону, Клаусу Мозеру, Теду Ньюмену, Джонатану Пенроузу, Оливеру Пенроузу, Стэнли Розену, Рэю Саксу, Грэму Сигалу, Аарону Сломену, Ли Смолину, Рэю Стритеру, Валери Уилло-уби, Соломону Феферману, Эндрю Ходжесу, Дипанкару Хоуму, Дэвиду Чалмерсу, Антону Цайлингеру и в особенности Артуру Экерту за всевозможную информацию и помощь. После выхода в свет моей предыдущей книги ("Новый разум короля") я получил множество устных и письменных отзывов о ней. Пользуясь случаем, хочу поблагодарить всех, кто выразил свое мнение, - оно не пропало даром, хотя на большую часть писем я так и не собрался ответить. Если бы я не извлек пользы из всех этих очень разных комментариев по поводу моей предыдущей книги, вряд ли я ввязался бы в столь устрашающее предприятие, как написание следующей.
Я благодарен организаторам Мессенджеровских лекций в Корнеллском университете (название этого курса лекций совпадает с названием последней главы настоящей книги), Гиффордов-ских лекций в университете Св. Андрея, Фордеровских лекций в
Новой Зеландии, Грегиногговских лекций в университете Аберистуита и знаменитой серии лекций в Пяти Колледжах (Амхерст, штат Массачусетс), а также многочисленных "разовых" лекций, которые я читал в разных странах. Благодаря этому я получил возможность изложить свои взгляды перед широкой аудиторией и получить ценный отклик. Я благодарен Институту Исаака Ньютона в Кембридже, Сиракузскому университету и университету штата Пенсильвания за их радушие и за присуждение мне званий, соответственно, Почетного внештатного профессора математики и физики, а также Почетного профессора математики и физики Фонда Фрэнсиса и Хелен Пентц. Я также благодарен Национальному научному фонду за поддержку в виде грантов PHY 86-12424 и PHY 43-96246.
Есть, наконец, еще три человека, которые заслуживают особого упоминания. Невозможно переоценить бескорыстную помощь и поддержку, которую оказал мне Энгус Макинтайр, проверив мои рассуждения относительно математической логики в главах 2 и 3 и предоставив мне множество полезной литературы. Выражаю ему свою глубочайшую благодарность. Стюарт Хамерофф рассказал мне о цитоскелете и его микроканальцах; два года назад я и не подозревал о существовании подобных структур! Я очень ему благодарен за эту бесценную информацию, а также за помощь, которую он оказал мне, проверив большую часть материала главы 7. Я навеки у него в долгу за то, что он открыл моим глазам чудеса нового мира. Он, равно как и все остальные, кого я здесь благодарю, конечно же, ни в коей мере не ответственен за те ошибки, совсем избавиться от которых нам так и не удалось. Особо признателен я своей любимой Ванессе по нескольким причинам: за то, что она объяснила мне, почему отдельные части этой книги нужно переписать; за помощь с литературой, что просто спасло меня, а также за ее любовь, терпение и понимание, особенно если учесть, что я постоянно недооцениваю то количество времени, которое отнимает у меня написание книги! Ах, да, чуть не забыл: еще я благодарен ей за то - она, кстати, об этом ничего не знала, - что она отчасти послужила моделью для вымышленного образа Джессики, героини придуманной мною истории. Мне очень жаль, что я совсем не знал Ванессу, когда ей было столько же лет, сколько Джессике!
Источники иллюстраций
Издатели также выражают благодарность правообладателям за разрешение воспроизвести нижеперечисленные иллюстративные материалы.
Часть I
Рис. 1.1 A. Nieman/Science Photo Library. Часть II Рис. 4.12 J. С. Mather et al. (1990), Astrophys. L, 354, L37.
Рис. 5.7 A. Aspect, P. Grangier (1986), Quantum concepts In space and time (ed. R. Penrose, C. J. Isham), pp. 1-27, Oxford University Press.
Рис. 5.8 Ashmolean Museum, Oxford.
Рис. 7.2 R.Wichterman (1986), The biology of paramecium, 2nd edn., Plenum Press, New York.
Рис. 7.6 Eric Grave/Science Photo Library.
Рис. 7.7 H. Weyl (1943), Symmetry, ©1952 Princeton University Press.
Рис. 7.10 N.Hirokawa (1991), The neuronal cytoskeleton (ed. R. D. Burgoyne), pp. 5-74, Wiley-Liss, New York.
ЧИТАТЕЛЮ
Отдельные части этой книги очень сильно отличаются друг от друга в плане использования специальной терминологии. Наиболее специальными являются Приложения А и С, однако большая часть читателей не много потеряет, даже если просто-напросто пропустит все приложения. То же самое можно сказать и о наиболее специальных параграфах второй и, конечно же, третьей главы. Они предназначены, главным образом, для тех читателей, которых нужно убедить в весомости доводов, приводимых мной против чисто вычислительной модели феномена понимания. С другой стороны, менее упорный (или более торопливый) читатель, возможно, предпочтет относительно безболезненный путь к самой сути моего доказательства. Этот путь сводится к прочтению фантастического диалога в §3.23, предпочтительно предваренному ознакомлением с главой 1, а также с §§2.1-2.5 и§3.1.
С некоторыми вопросами из области более серьезной математики мы встретимся при обсуждении квантовой механики. Речь идет об описаниях гильбертова пространства в §§ 5.12-5.18 и, в особенности, о рассмотрении матрицы плотности в §§ 6.4- 6.6, поскольку они весьма важны для понимания того, почему нам, в конечном счете, необходима более совершенная теория квантовой механики. Я бы посоветовал читателям, не имеющим математической подготовки (да и тем, кто ее имеет, если уж на то пошло), при встрече с математическим выражением особенно обескураживающего вида попросту пропускать его, коль скоро станет ясно, что дальнейшее его изучение не приведет к более глубокому пониманию. Тонкости квантовой механики действительно невозможно полностью оценить без некоторого знакомства с ее изящными, но загадочными математическими основами; и все же читатель, без сомнения, уловит какую-то часть присущего ей букета, даже если полностью проигнорирует весь ее математический аппарат.
Кроме того, я должен принести свои извинения читателю еще по одному вопросу. Я вполне способен понять, что моей собеседнице либо собеседнику может не понравиться, вздумай я обратиться к ней или к нему таким образом, который недвусмысленно давал бы понять, что я склонен составлять для себя какое-то мнение относительно ее или его личности, основываясь исключительно на ее или его половой принадлежности, - я, разумеется, никогда так не поступаю! И все же в рассуждениях того сорта, который чаще других встречается в настоящей книге, мне, возможно, придется ссылаться на некую абстрактную личность, например, на "наблюдателя" или на "физика". Ясно, что пол этой личности не имеет к теме разговора абсолютно никакого отношения, но в английском языке, к сожалению, нет нейтрального местоимения третьего лица единственного числа. Постоянное же повторение сочетаний типа "он или она" выглядит, безусловно, нелепо. Более того, современная тенденция употреблять местоимения "они", "им" или "их" в качестве местоимений единственного числа в корне неверна грамматически; равным образом я не могу усмотреть ничего хорошего - ни в грамматическом, ни в стилистическом, ни в общечеловеческом плане - в чередовании местоимений "она" и "он", когда речь идет о безличных или метафорических индивидуумах.
Соответственно, в этой книге я избрал политику повсеместного употребления в отношении той или иной абстрактной личности местоимений "он", "ему" или "его". Из этого ни в коем случае не следует делать вывода о половой принадлежности упомянутой личности. Эту личность не нужно считать ни мужчиной, ни женщиной. Как правило, индивидуум, которого я называю "он", обладает сознанием и чувствами, а потому называть его "оно"2, по-моему, не годится. Я искренне надеюсь, что ни одна из моих читательниц не усмотрит личного оскорбления в том, что, говоря в § 5.3, § 5.18 и § 7.12 о своем трехглазом коллеге с а-Цен-тавры (абстрактном, разумеется), я использую местоимение "он" и что это же местоимение я употребляю в отношении совершенно безличных индивидуумов в § 1.15, § 4.4, § 6.5, § 6.6 и § 7.10. Я также надеюсь, что ни один из моих читателей не будет обижен тем, что я использую местоимение "она" в отношении умной паучихи
2В оригинале "it" - местоимение третьего лица единственного числа, которым в английском языке называют животных и неодушевленные предметы, независимо от их пола и/или рода. - Прим. перев.
из §7.7 и преданной чуткой слонихи из §8.6 (хотя бы по той простой причине, что в этом случае из контекста очевидно, что обе они действительно относятся к женскому полу), а также в отношении демонстрирующей сложное поведение парамеции из § 7.4 (которую я отношу к "женскому" роду по не совсем удовлетворительной причине ее прямой способности к воспроизведению себе подобных), ну и самой матушки-Природы в §7.7.
Наконец, следует отметить, что ссылки на страницы "Нового разума короля" (НРК) всегда относятся к оригинальному изданию этой книги в твердой обложке. Нумерация страниц американского издания книги в мягкой обложке (Penguin) практически совпадает с оригинальным, а неамериканского издания в мягкой обложке (Vintage) - нет, поэтому номер страницы в последнем можно приблизительно вычислить с помощью формулы:
где - номер страницы книги в твердой обложке, приводимый здесь в качестве ссылки.
ПРОЛОГ
Джессика всегда немного нервничала, входя в эту часть пещеры.
- Пап, а что, если тот огромный валун, зажатый между
других камней, упадет? Он ведь может загородить выход, и мы
уже никогда-никогда не вернемся домой?!
- Он мог бы загородить выход, но этого не случится, - от
ветил ее отец рассеянно и немного резко, поскольку его, видимо,
гораздо больше волновало, как приспосабливаются к сырости
и темноте в этом самом дальнем углу пещеры посаженные им
растения.
- Но откуда же ты можешь знать, что этого не случится? -
упорствовала Джессика.
- Этот валун, вероятно, находится на своем месте уже мно
го тысяч лет и вряд ли упадет именно тогда, когда здесь находимся
мы.
Джессику это нисколько не успокоило.
- Все равно он когда-нибудь упадет. Значит, чем дольше он
здесь висит, тем больше вероятность того, что он упадет прямо
сейчас.
Отец отвлекся от своих растений и, чуть улыбнувшись, посмотрел на Джессику.
- Вовсе нет, - теперь его улыбка стала более заметной, но
на лице появилось задумчивое выражение. - Можно даже ска
зать, что чем дольше он здесь висит, тем меньше вероятность его
падения при нас. - Дальнейшего объяснения не последовало:
отец снова вернулся к своим растениям.
Джессика ненавидела отца, когда у него бывало такое настроение. Хотя - нет: она всегда любила его, любила больше всего и больше всех, но всегда хотела, чтобы он никогда не становился таким, как сейчас. Она знала, что это настроение каким-то образом связано с тем, что он ученый, но до сих пор не понимала каким именно. Она даже надеялась, что сама когда-нибудь
сможет стать ученым, хотя уж она-то позаботится о том, чтобы не впадать в такое состояние духа.
По крайней мере, она перестала беспокоиться, что валун может упасть и загородить вход в пешеру. Она видела, что отец этого не боится, и его уверенность ее успокоила. Она не поняла папиных объяснений, но знала, что в таких случаях он всегда прав - ну или почти всегда. Был как-то случай, когда мама с папой поспорили о времени в Новой Зеландии, и мама сказала одно, а папа - совершенно другое. Через три часа папа спустился из своего кабинета, извинился и сказал, что он ошибался, а мама была права. Виду него при этом был презабавный! "Держу пари, мама тоже могла бы стать ученым, если бы захотела, - подумала про себя Джессика, - и у нее не было бы таких причуд, как у папы".
Следующий вопрос Джессика задала более осторожно, выбрав для этого подходящий момент: отец уже закончил то, чем был занят все это время, но еще не успел начать то, что собирался сделать дальше:
- Пап, я знаю, что валун не упадет. Но давай представим,
что он все-таки упал, и нам придется остаться здесь на всю
жизнь. В пещере, наверное, станет очень темно. А дышать мы
сможем?
- Ну что за глупости! - ответил отец. Затем он прикинул
форму и размер валуна и посмотрел на выход из пещеры. - Хм,
да-а... похоже, валун достаточно плотно закрыл бы проход. Но
воздух все равно проходил бы через оставшиеся щели, так что
мы не задохнулись бы. Что касается света, то, я думаю, наверху
осталась бы узкая щель, через которую к нам попадал бы свет.
Хотя все равно в пещере стало бы очень темно - гораздо темнее,
чем сейчас. Но я уверен, что мы смогли бы хорошо видеть, как
только привыкли бы к новому освещению. Боюсь, не слишком
приятная перспектива! Однако вот что я тебе скажу: если бы мне
пришлось провести здесь остаток жизни, то из всех людей на
Земле я предпочел бы оказаться здесь со своей замечательной
Джессикой и, конечно же, с ее мамой.
Джессика вдруг вспомнила, почему так сильно любит папу.
-Да, для следующего вопроса мне нужна здесь мама: допустим, что валун упал еще до моего рождения, и я появилась у вас здесь, в пещере. Я бы росла вместе с вами прямо тут... а чтобы не умереть от голода, мы могли бы есть твои странные растения.
Отец немного удивленно посмотрел на нее, но промолчал.
- Тогда я не знала бы ничего, кроме пещеры. Откуда я
могла бы узнать, на что похож реальный мир снаружи? Разве мне
пришло бы в голову, что там есть деревья, птицы, кролики и все
такое прочее? Конечно, вы могли бы мне о них рассказать, ведь
вы-то их видели до того, как оказались в пещере. Но как могла
бы узнать об этом я - именно узнать по-настоящему, сама, а не
просто поверить в то, что сказали вы?
Ее отец остановился и на несколько минут погрузился в свои мысли. Затем он сказал:
- Ну, думаю, что как-нибудь в солнечный денек какая-
нибудь птица могла бы пролететь мимо нашей щели, тогда мы
смогли бы увидеть ее тень на стене пещеры. Конечно, ее фор
ма была бы несколько искажена, потому что стена здесь имеет
довольно-таки неровную поверхность, но мы смогли бы опреде
лить, какую поправку нужно в этом случае сделать. Если бы щель
была достаточно узкой и прямой, то птица отбросила бы четкую
тень, а если нет, нам пришлось бы вносить и другие поправки.
Если бы мимо много раз пролетала бы одна и та же птица, то по
ее тени мы смогли бы получить достаточно ясное представление
о том, как она на самом деле выглядит, как летает и т. п. Опять
же, когда солнце стояло бы низко, а между ним и нашей щелью
оказалось бы какое-нибудь дерево с колышущейся кроной, то по
его тени мы смогли бы узнать, как оно выглядит. Или мимо щели
пробежал бы кролик, и тогда по его тени мы поняли бы, как он
выглядит.
- Интересно, - одобрила Джессика. Помолчав немного,
она снова спросила:
- А смогли бы мы, если бы застряли здесь, сделать на
стоящее научное открытие? Представь, что мы сделали боль
шое открытие и устроили здесь большую конференцию - ну,
такую же, как те, на которые ты все время ездишь, - чтобы
убедить всех, что мы правы. Конечно, все остальные на этой
конференции должны, как и мы, прожить в этой пещере всю
жизнь, иначе это будет нечестно. Они ведь тоже могут вырасти
тут, потому что у тебя очень много разных растений, на всех
хватит.
На сей раз отец Джессики заметно нахмурился, но снова промолчал. Несколько минут он пребывал в раздумье, затем произнес:
Пролог 23
- Да, думаю, такое возможно. Но, видишь ли, самым слож
ным в этом случае было бы убедить всех, что мир снаружи вообще
существует. Все, что они знали бы, - это тени: как они двигаются
и как меняются время от времени. Для них сложные извивающи
еся тени и фигурки на стене были бы всем, что существует в мире.
Поэтому прежде всего нам пришлось бы убедить людей в су
ществовании внешнего мира, который описывает наша теория.
Собственно говоря, две эти вещи неразрывно связаны. Наличие
хорошей теории внешнего мира может стать важным шагом на
пути осознания людьми его реального существования.
- Отлично, папа, и какая у нас теория?
- Не так быстро... минуточку... вот: Земля вертится вокруг
Солнца!
- Тоже мне новая теория!
- Совсем не новая; этой теории, вообще говоря, уже около
двадцати трех веков отроду - примерно столько же времени и
наш валун висит над входом в пещеру. Но мы же с тобой во
образили, что мы всю жизнь живем в пещере и никто об этом
раньше ничего не слыхал. Поэтому нам пришлось бы сначала
убедить всех в том, что существуют такие вещи, как Солнце,
да и сама Земля. Идея же заключается в том, что одна толь
ко изящность нашей теории, объясняющей мельчайшие нюансы
движения света и тени, в конечном счете убедила бы большин
ство присутствующих на конференции в том, что эта яркая штука
снаружи, которую мы зовем "Солнце", не просто существует, но
и что Земля непрерывно движется вокруг нее и при этом еще и
вращается вокруг собственной оси.
- А сложно было бы их убедить?
- Очень! Собственно, нам пришлось бы делать два разных
дела. Во-первых, нужно было бы показать, каким образом наша
простая теория очень точно объясняет огромное количество наи
подробнейших данных о том, как движутся по стене яркое пятно и
тени, отбрасываемые освещенными им предметами. Это убедило
бы некоторых, но нашлись бы и такие, кто указал бы на то, что
существует гораздо более "здравая" теория, согласно которой
Солнце движется вокруг Земли. При ближайшем рассмотрении
эта теория оказалась бы намного сложнее нашей. Но эти люди
придерживались бы своей сложной теории - что, вообще го
воря, достаточно разумно с их стороны, - поскольку они по
просту не смогли бы принять возможности движения их пещеры
со скоростью сто тысяч километров в час, как того требует наша теория.
- Ух ты, а это на самом деле правда?
- В некотором роде. Однако во второй части доказатель
ства нам пришлось бы полностью сменить курс и заняться веща
ми, которые большинство присутствующих на конференции со
чли бы совершенно к делу не относящимися. Мы катали бы мячи,
раскачивали бы маятники и так далее в том же духе и все толь
ко для того, чтобы показать, что законы физики, управляющие
поведением объектов в пещере, ничуть не изменились бы, если бы
все содержимое пещеры двигалось в любом направлении с любой
скоростью. Этим мы доказали бы, что при движении пещеры с
огромной скоростью люди внутри нее и в самом деле никак этого
движения не ощутят. Эту очень важную истину пытался доказать
еще Галилей. Помнишь, я давал тебе книгу про него?
- Конечно, помню! Боже мой, как все это сложно звучит!
Держу пари, что большинство людей на нашей конференции про
сто уснут - я видела, как они спят на настоящих конференциях,
когда ты делаешь доклад.
Отец Джессики едва заметно покраснел:
- Пожалуй, ты права! Но, боюсь, такова наука: куча де
талей, многие из которых кажутся скучными и порой совсем не
относящимися к делу, даже если заключительная картина оказы
вается поразительно простой, как и в нашем случае с вращением
Земли вокруг своей оси одновременно с ее движением вокруг ша
рика, называемого Солнцем. Некоторые люди просто не желают
вдаваться в подробности, так как находят эту идею достаточно
правдоподобной. Но настоящие скептики желают проверить все,
выискивая всевозможные слабинки.
- Спасибо, папочка! Так здорово, когда ты рассказываешь
мне все это и иногда краснеешь и волнуешься, но, может, мы
уже пойдем домой? Темнеет, а я устала и хочу есть. К тому же
становится прохладно.
- Ну, пойдем, - отец Джессики накинул ей на плечи свою
куртку, собрал вещи и обнял ее, чтобы вывести через уже темне
ющий вход. Когда они выходили из пещеры, Джессика еще раз
взглянула на валун.
- Знаешь что? Я согласна с тобой, папа. Этот валун запро
сто провисит здесь еще двадцать три века и даже долыие\
Часть I
ПОЧЕМУ ДЛЯ ПОНИМАНИЯ РАЗУМА НЕОБХОДИМА НОВАЯ
ФИЗИКА?
Невычислимость
сознательного мышления
СОЗНАНИЕ И ВЫЧИСЛЕНИЕ
1.1. Разум и наука
Насколько широки доступные науке пределы? Подвластны ли ее методам лишь материальные свойства нашей Вселенной, тогда как познанию нашей духовной сущности суждено навеки остаться за рамками ее возможностей? Или, быть может, однажды мы обретем надлежащее научное понимание тайны разума? Лежит ли феномен сознания человека за пределами досягаемости научного поиска, или все же настанет тот день, когда силой научного метода будет разрешена проблема самого существования наших сознательных "я"?
Кое-кто склонен верить, что мы действительно способны приблизиться к научному пониманию сознания, что в этом феномене вообще нет ничего загадочного, а всеми существенными его ингредиентами мы уже располагаем. Они утверждают, что в настоящий момент наше понимание мыслительных процессов человека ограничено лишь крайней сложностью и изощренной организацией человеческого мозга; разумеется, эту сложность и изощренность недооценивать ни в коем случае не следует, однако принципиальных препятствий для выхода за рамки современной научной картины нет. На противоположном конце шкалы расположились те, кто считает, что мы не можем даже надеяться на адекватное применение холодных вычислительных методов бесчувственной науки к тому, что связано с разумом, духом да и самой тайной сознания человека.
В этой книге я попытаюсь обратиться к вопросу сознания с научных позиций. При этом, однако, я твердо убежден (и основано это убеждение на строго научной аргументации) в том,
28 Глава I
что в современной научной картине мира отсутствует один очень важный ингредиент. Этот недостающий ингредиент совершенно необходим, если мы намерены хоть сколько-нибудь успешно уместить центральные проблемы мыслительных процессов человека в рамки логически последовательного научного мировоззрения. Я утверждаю, что сам по себе этот ингредиент не находится за пределами, доступными науке, хотя в данном случае нам, несомненно, придется в некоторой степени расширить наш научный кругозор. Во второй части книги я попытаюсь указать читателю конкретное направление, следуя которому, он непременно придет как раз к такому расширению современной картины физической вселенной. Это направление связано с серьезным изменением самых основных из наших физических законов, причем я весьма детально опишу необходимую природу этого изменения и возможности его применения к биологии нашего мозга. Даже обладая нынешним ограниченным пониманием природы этого недостающего ингредиента, мы вполне способны указать области, отмеченные его несомненным влиянием, и определить, каким именно образом он вносит чрезвычайно существенный вклад в то, что лежит в основе осознаваемых нами ощущений и действий.
Разумеется, некоторые из приводимых мной аргументов окажутся не совсем просты, однако я постарался сделать свое изложение максимально ясным и везде, где только возможно, использовал лишь элементарные понятия. Кое-где в книге все же встречаются некоторые сугубо математические тонкости, но только тогда, когда они действительно необходимы или каким-то образом способствуют достижению более высокой степени ясности рассуждения. С некоторых пор я уже не жду, что смогу с помощью аргументов, подобных приводимым ниже, убедить в своей правоте всех и каждого, однако хотелось бы отметить, что эти аргументы все же заслуживают внимательного и беспристрастного рассмотрения - хотя бы потому, что они создают прецедент, пренебрегать которым нельзя.
Научное мировоззрение, которое на глубинном уровне не желает иметь ничего общего с проблемой сознательного мышления, не может всерьез претендовать на абсолютную завершенность. Сознание является частью нашей Вселенной, а потому любая физическая теория, которая не отводит ему должного места, заведомо неспособна дать истинное описание мира. Я склонен думать, что пока ни одна физическая, биологическая либо мате-
1.2. Спасу т ли роботы этот безумный мир? 29
магическая теория не приблизилась к объяснению нашего сознания и его логического следствия - интеллекта, однако этот факт ни в коей мере не должен отпугнуть нас от поисков такой теории. Именно эти соображения легли в основу представленных в книге рассуждений. Возможно, продолжая поиски, мы когда-нибудь получим в полной мере приемлемую совокупность идей. Если это произойдет, то наше философское восприятие мира претерпит, по всей вероятности, глубочайшую перемену. И все же научное знание - это палка о двух концах. Важно еще, что мы намерены делать со своим научным знанием. Попробуем разобраться, куда могут привести нас наши взгляды на науку и разум.
1.2. Спасут ли роботы этот безумный мир?
Открывая газету или включая телевизор, мы всякий раз рискуем столкнуться с очередным проявлением человеческой глупости. Целые страны или отдельные их области пребывают в вечной конфронтации, которая время от времени перерастает в отвратительнейшие войны. Чрезмерный религиозный пыл, национализм, интересы различных этнических групп, просто языковые или культурные различия, а то и корыстные интересы отдельных демагогов могут привести к непрекращающимся беспорядкам и вспышкам насилия, порой беспрецедентным по своей жестокости. В некоторых странах власть до сих пор принадлежит деспотическим авторитарным режимам, которые угнетают народ, держа его под контролем с помощью пыток и бригад смерти. При этом порабощенные - то есть те, кто, на первый взгляд, должны быть объединены общей целью, - зачастую сами конфликтуют друг с другом; создается впечатление, что, получи они свободу, в которой им так долго отказывали, дело может дойти до самого настоящего взаимоистребления. Даже в сравнительно благополучных странах, наслаждающихся преуспеянием, миром и демократическими свободами, природные богатства и людские ресурсы проматываются очевидно бессмысленным образом. Не явный ли это признак общей глупости Человека? Мы уверены, что являем собой апофеоз интеллекта в царстве животных, однако этот интеллект, по всей видимости, оказывается самым жалким образом не способен справиться с множеством проблем, которые продолжает ставить перед нами наше собственное общество.
30 Глава 1
Впрочем, нельзя забывать и о положительных достижениях нашего интеллекта. Среди них - весьма впечатляющие наука и технология. В самом деле, признавая, что некоторые плоды этой технологии имеют явно спорную долговременную (или сиюминутную) ценность, о чем свидетельствуют многочисленные проблемы, связанные с окружающей средой, и неподдельный ужас перед техногенной глобальной катастрофой, нельзя забывать и о том, что эта же технология является фундаментом нашего современного общества со всеми его удобствами, свободой от страха, болезней и нищеты, с обширными возможностями для интеллектуального и эстетического развития, включая весьма способствующие этому развитию средства глобальной коммуникации. Если технология сумела раскрыть столь огромный потенциал и, в некотором смысле, расширила границы и увеличила возможности наших индивидуальных физических "я", то не следует ли ожидать от нее еще большего в будущем?
Благодаря технологиям - как древним, так и современным - существенно расширились возможности наших органов чувств. Зрение получило поддержку и дополнительную функциональность за счет очков, зеркал, телескопов, всевозможных микроскопов, а также видеокамер, телевизоров и т.п. Не остались в стороне и наши уши: когда-то им помогали слуховые трубки, теперь - крохотные электронные слуховые аппараты; что касается функциональных возможностей нашего слуха, то их расширение связано с появлением телефонов, радиосвязи и спутников. На подмогу естественным средствам передвижения приходят велосипеды, поезда, автомобили, корабли и самолеты. Помощниками нашей памяти выступают печатные книги и фильмы, а также огромные емкости запоминающих устройств электронных компьютеров. Наши способности к решению вычислительных задач - простых и рутинных или же громоздких и изощренных - также весьма увеличиваются благодаря возможностям современных компьютеров. Таким образом, технология не только обеспечивает громадное расширение сферы деятельности наших физических "я", но и усиливает наши умственные возможности, совершенствуя наши способности к выполнению многих повседневных задач. А как насчет тех умственных задач, которые далеки от обыденности и рутины, - задач, требующих участия подлинного интеллекта? Совершенно естественно спросить: поможет ли
1.2. Спасут ли роботы этот безумный мир? 31
нам и в их решении технология, основанная на повсеместной компьютеризации?
Я практически не сомневаюсь, что в нашем технологическом (часто сплошь компьютеризованном) обществе в неявном виде присутствует, как минимум, одно направление, содержащее громадный потенциал для совершенствования интеллекта. Я имею в виду образовательные возможности нашего общества, которые могли бы весьма значительно выиграть от применения различных аспектов технологии, - для этого требуются лишь должные чуткость и понимание. Технология обеспечивает необходимый потенциал, т. е. хорошие книги, фильмы, телевизионные программы и всевозможные интерактивные системы, управляемые компьютерами. Эти и прочие разработки предоставляют массу возможностей для расширения нашего кругозора; они же, впрочем, могут и задушить его. Человеческий разум способен на гораздо большее, чем ему обычно дают шанс достичь. К сожалению, эти возможности зачастую попросту разбазариваются, и умы как старых, так и малых не получают тех благоприятных возможностей, которых они несомненно заслуживают.
Многие читатели спросят: а нет ли какой-то иной возможности существенного расширения умственных способностей человека - например, с помощью этакого нечеловеческого электронного "интеллекта", к появлению которого нас как раз вплотную подводят выдающиеся достижения компьютерных технологий? Действительно, уже сейчас мы часто обращаемся за интеллектуальной поддержкой к компьютерам. В очень многих ситуациях человек, используя лишь свой невооруженный разум, оказывается не в состоянии оценить возможные последствия того или иного своего действия, так как они могут находиться далеко за пределами его ограниченных вычислительных способностей. Таким образом, можно ожидать, что в будущем произойдет значительное расширение роли компьютеров именно в этом направлении, т. е. там, где для принятия решения человеческому интеллекту требуются именно однозначные и вычислимые факты.
И все же не могут ли компьютеры достичь в конечном итоге чего-то большего? Многие специалисты заявляют, что компьютеры обладают потенциалом, достаточным - по крайней мере, принципиально - для формирования искусственного интеллекта, который со временем превзойдет наш собственный. По утверждению этих специалистов, как только управляемые по-
32 Глава I
средством вычислительных схем роботы достигнут уровня "эквивалентности человеку", понадобится совсем немного времени, чтобы они значительно поднялись над нашим ничтожным уровнем. Только тогда, не унимаются специалисты, появятся у нас власти, обладающие интеллектом, мудростью и пониманием, достаточными для того, чтобы суметь разрешить глобальные проблемы этого мира, человечеством же и созданные.
Когда же нам следует ожидать наступления сего счастливого момента? По данному вопросу у упомянутых специалистов нет единого мнения. Одни говорят о многих столетиях, другие заявляют, будто эквивалентность компьютера человеку будет достигнута всего через несколько десятилетий. Последние обычно указывают на очень быстрый "экспоненциальный" рост мощности компьютеров и основывают свои оценки на сравнении скорости и точности транзисторов с относительной медлительностью и "небрежностью" нейронов. И правда, скорость работы электронных схем уже более чем в миллион раз превышает скорость возбуждения нейронов в мозге (порядка 109 операций в секунду для транзисторов и лишь 103 для нейронов1), при этом электронные схемы демонстрируют высокую точность синхронизации и обработки инструкций, что ни в коей мере не свойственно нейронам. Более того, конструкции "принципиальных схем" мозга присуща высокая степень случайности, что, на первый взгляд, представляется весьма серьезным недостатком по сравнению с продуманной и точной организацией электронных печатных плат.
Кое в чем, однако, нейронная структура мозга все же вполне измеримо превосходит современные компьютеры, хотя это превосходство может оказаться относительно недолговечным. Ученые утверждают, что по общему количеству нейронов (несколько сотен тысяч миллионов) человеческий мозг опережает - в пересчете на транзисторы - современные компьютеры. Более того, в среднем, нейроны мозга соединены гораздо большим количеством связей, нежели транзисторы в компьютере. В частности, клетки Пуркинье в мозжечке могут иметь до 80000 си-наптических окончаний (зон контакта между нейронами), тогда как для компьютера соответствующее значение равно максимум трем или четырем. (В дальнейшем я приведу еще несколько ком-
1 Микросхема Intel Pentium содержит более трех миллионов транзисторов на "кремниевой пластине" размером с ноготь большого пальца, причем каждый из этих транзисторов способен на 113 миллионов полных циклов в секунду.
1.2. Спасут ли роботы этот безумный мир? 33
ментариев относительно мозжечка; см. § 1.14, §8.6.) Кроме того, большая часть транзисторов в современных компьютерах занимается лишь хранением данных и не имеет отношения непосредственно к вычислениям, тогда как в мозге, по всей видимости, в вычислениях может принимать участие гораздо более значительный процент клеток.
Это временное превосходство мозга может быть без труда преодолено в будущем, особенно когда должное развитие получат вычислительные системы с массивным "параллелизмом". Преимущество компьютеров в том, что отдельные их узлы можно объединять друг с другом, создавая все более крупные блоки, так что общее количество транзисторов, в принципе, можно увеличивать почти бесконечно. Кроме того, ждут своего выхода на сцену и технологические инновации - такие, как замена кабелей и транзисторов современных компьютеров соответствующими оптическими (лазерными) устройствами, благодаря чему, вероятно, будет достигнуто огромное увеличение скорости и мощности с одновременным уменьшением размеров компьютеров. На более фундаментальном уровне можно отметить, что наш мозг, судя по всему, застрял на своем теперешнем уровне, и его количественные характеристики вряд ли в обозримом будущем изменятся; кроме того, имеется и много других ограничений - например, мозг вырастает из одной-единственной клетки, и ничего с этим не поделаешь. Компьютеры же можно конструировать, учитывая заранее возможность их расширения по мере необходимости. Хотя несколько позже я укажу на некоторые важные факторы, которые в данном рассуждении пока не фигурируют (в частности, речь пойдет о весьма бурной деятельности, лежащей в основе функционирования нейронов), одна лишь вычислительная мощь компьютеров вполне способна составить очень и очень внушительный довод в пользу следующего неутешительного предположения: если машина на данный момент и не превосходит человеческий мозг, то она непременно превзойдет его в самом ближайшем будущем.
Таким образом, если поверить самым смелым заявлениям наиболее отъявленных провозвестников искусственного интеллекта и допустить, что компьютеры и управляемые ими роботы в конечном счете - и даже, вероятно, довольно скоро - во всем превзойдут человека, то получается, что компьютеры способны стать чем-то неизмеримо большим, чем просто помощниками на-
34 Глава 1
шего интеллекта. Они, в сущности, разовьют свой собственный колоссальный интеллект. А мы сможем обращаться к этому высшему интеллекту за советом и поддержкой во всех своих заботах - и наконец-то появится возможность исправить все то зло, что мы принесли в этот мир!
Однако из этих потенциальных соображений возможно, по-видимому, и другое логическое следствие, причем весьма и весьма тревожное. Не сделают ли такие компьютеры в итоге ненужными самих людей? Если управляемые компьютерами роботы превзойдут нас во всех отношениях, то не обнаружат ли они, что машины в состоянии править миром неизмеримо лучше людей, и не сочтут ли они нас в таком случае вообще ни на что не пригодными? Все человечество окажется в таком случае не более чем пережитком прошлого. Быть может, если повезет, они оставят нас при себе в качестве домашних животных, как однажды предположил Эдвард Фредкин. Возможно также, что у нас достанет сообразительности, и мы сумеем перенести "информационные модели", составляющие нашу "сущность", в машинную форму - о такой возможности писал Ханс Моравек(1988). Опять же, может, и не повезет, а сообразительности не достанет...
1.3. Вычисление и сознательное мышление
В чем же здесь загвоздка? Неужели все дело лишь в вычислительных способностях, в скорости и точности работы, в объеме памяти или, быть может, в конкретном способе "связи" отдельных структурных элементов? С другой стороны, не может ли наш мозг выполнять какие-то действия, которые вообще невозможно описать через вычисление? Каким образом можно поместить в такую вычислительную картину нашу способность к осмысленному осознанию - счастья, боли, любви, какого-либо эстетического переживания, желания, понимания и т. п.? Будут ли компьютеры будущего действительно обладать разумом? Влияет ли обладание сознательным разумом на поведение индивида, и если влияет, то как именно? Имеет ли вообще смысл говорить о таких вещах на языке научных терминов; иными словами, обладает ли наука достаточной компетентностью для того, чтобы рассматривать вопросы, относящиеся к сознанию человека?
Мне кажется, что можно говорить, как минимум, о четырех различных точках зрения - или даже крайностях, - которых
1.3. Вычисление и сознательное мышление 35
разумный индивид может придерживаться в отношении данного вопроса:
Всякое мышление есть вычисление; в частности, ощущение осмысленного осознания есть не что иное, как результат выполнения соответствующего вычисления.
Осознание представляет собой характерное проявление фи зической активности мозга; хотя любую физическую активность можно моделировать посредством той или иной совокупности вычислений, численное моделирование как таковое не способно вызвать осознание.
Осознание является результатом соответствующей физиче ской активности мозга, однако эту физическую активность невозможно должным образом смоделировать вычислительными средствами.
Осознание невозможно объяснить в физических, математи ческих и вообще научных терминах.
Точка зрения полностью отрицающая взгляды физика-листов и рассматривающая разум как нечто абсолютно неподвластное языку науки, свойственна мистикам; и, по крайней мере, в какой-то степени, такое мировоззрение, видимо, сродни религиозной доктрине. Лично я считаю, что связанные с разумом вопросы, пусть даже и не объясняемые должным образом в рамках современного научного понимания, не следует рассматривать как нечто, чего науке никогда не постичь. Пусть на данный момент наука и не способна сказать в отношении этих вопросов своего веского слова, со временем ее возможности неминуемо расширятся настолько, что в ней найдется место и для таких вопросов, причем не исключено, что в процессе такого расширения изменятся и сами ее методы. Отбрасывая мистицизм с его отрицанием научных критериев в пользу научного познания, я все же убежден, что и в рамках усовершенствованной науки вообще и математики в частности найдется немало загадок, среди которых не последнее место займет тайна разума. К некоторым из этих идей я еще вернусь в следующих главах книги, сейчас же достаточно будет сказать, что согласиться с точкой зрения я никак не могу, поскольку твердо намерен двигаться вперед, следуя пути, проложенному наукой. Если мой читатель питает сильное убеждение,
36 Глава I
что истинным является именно пункт, в той или иной его форме, я попрошу его потерпеть еще немного и посмотреть, сколько нам удастся пройти вместе по дороге науки, - и попытаться при этом понять, куда, по моему убеждению, эта дорога в конечном счете нас приведет.
Теперь обратимся к противоположной крайности: к точке зрения. Эту точку зрения разделяют сторонники так называемого сильного, или жесткого, искусственного интеллекта (ИИ); иногда для обозначения такой позиции употребляется также термин функционализм, хотя некоторые распространяют термин "функционализм" еще и на определенные варианты пункта. Одни считают единственно возможной точкой зрения, которую допускает сугубо научное отношение. Другие воспринимают как нелепость, которая вряд ли стоит сколь-нибудь серьезного внимания. Существует, несомненно, множество различных вариантов позиции. (Длинный список альтернативных версий вычислительной точки зрения приводится в [344].) Некоторые из них отличаются лишь различным пониманием того, что следует считать "вычислением" или "выполнением вычисления". Есть и такие приверженцы, которые вообще не считают себя "сторонниками сильного ИИ", поскольку придерживаются принципиально иного взгляда на интерпретацию термина "вычисление", нежели та, что предлагается в традиционном понятии ИИ (см. [ 112]). Я рассмотрю эти вопросы подробнее в § 1.4. Пока же достаточно будет понимать под "вычислением" такую операцию, какую способны выполнять обычные универсальные компьютеры. Другие сторонники позиции могут расходиться в интерпретации значения терминов "осмысление" или "осознание". Некоторые отказываются признавать само существование такого феномена, как "осмысленное осознание", тогда как другие собственно феномен признают, однако рассматривают его лишь как своего рода "эмергентное свойство" (см. также §4.3 и §4.4), которое проявляется всякий раз, когда выполняемое вычисление имеет достаточную степень сложности (или громоздкости, или самоотносимости, или чего угодно еще). В § 1.12 я приведу свою собственную интерпретацию терминов "осознание" и "осмысление". Пока же любые расхождения в возможной их интерпретации не будут иметь особой важности для наших рассуждений.
Аргументы, приведенные мной в НРК, были направлены, главным образом, против точки зрения, или позиции сильно-
1.3. Вычисление и сознательное мышление 37
го ИИ. Один только объем этой книги должен показать, что, хотя лично я не верю в истинность, я все же рассматриваю эту точку зрения как реальную возможность, на которую стоит обратить серьезное внимание. есть следствие предельно операционного подхода к науке, предполагающего, что абсолютно все феномены физического мира можно описать одними лишь вычислительными методами. В одной из крайних вариаций такого подхода сама Вселенная рассматривается, по существу, как единый гигантский компьютер, причем "осмысленные осознания", формирующие, в сущности, наш с вами сознательный разум, вызываются посредством соответствующих субвычислений, выполняемых этим компьютером.
Я полагаю, что эта точка зрения (согласно которой физические системы следует считать простыми вычислительными объектами) отчасти основывается на значительной и постоянно растущей роли вычислительных моделей в современной науке и отчасти из убеждения в том, что сами физические объекты - это, в некотором смысле, всего лишь "информационные модели", подчиняющиеся математическим, вычислительным законам. Большая часть материи, из которой состоят наше тело и мозг, постоянно обновляется - неизменными остаются лишь их модели. Более того, и сама материя, судя по всему, ведет преходящее существование, поскольку ее можно преобразовать из одной формы в другую. Даже масса материального тела, которая является точной физической мерой количества материи, содержащегося в теле, может быть при определенных обстоятельствах превращена в чистую энергию (в соответствии со знаменитой формулой Эйнштейна Е = тс2). Следовательно, и материальная субстанция, по-видимому, способна превращаться в нечто, обладающее лишь теоретико-математической реальностью. Более того, если верить квантовой теории, материальные частицы - это не что иное, как информационные "волны". (На этих вопросах мы более подробно остановимся во второй части книги.) Таким образом, сама материя есть нечто неопределенное и недолговечное, поэтому вполне разумно предположить, что постоянство человеческого "я", возможно, больше связано с сохранением моделей, нежели реальных частиц материи.
Даже если мы не считаем возможным рассматривать Вселенную всего лишь как компьютер, к точке зрения нас могут подтолкнуть более практические, операционные соображения.
38 Глава 1
Предположим, что перед нами управляемый компьютером робот, который отвечает на вопросы так же, как это делал бы человек. Мы спрашиваем его, как он себя чувствует, и обнаруживаем, что его ответы полностью соответствуют нашим представлениям об ответах на подобные вопросы разумного существа, действительно обладающего чувствами. Он говорит нам, что способен к осознанию, что ему весело или грустно, что он воспринимает красный цвет и что его волнуют вопросы "разума" и "собственного я". Он может даже выразить озадаченность: следует ли ему допустить, что и других существ (в частности, людей) нужно рассматривать как обладающих сознанием, сходным с тем, на обладание которым претендует он сам. Что помешает нам поверить его утверждениям о т
