Проблема нечеловеческих разумных существ

Могут потребоваться вновь разработанные модели и стандарты поведения и общения в отношении разумных существ, отличных от человека. Три известных возможности включают дельфинов, роботов и внеземные формы жизни.

Обнаружено, что мозг дельфинов больше и сложнее, чем человеческий. Некоторые исследователи уверены, что дельфины, несмотря на отсутствие рук и созданных ими артефактов, могут быть разумными и, возможно, могут быть обученными общаться. (60) Если это правда, нам, со временем, придется делить планету с ними, а возможно, с их родственниками — китами.

Что касается разумных машин, то проблема значительно сложнее. Прежде всего, хотя философская концепция дуализма оказалась необычайно непродуктивной и дуалисты постепенно отступили, проблема, тем не менее, остается. Даже если забыть о дуализме, остается возможность того, что «машина», созданная из мяса и соуса может существовать в каких-то смыслах, недоступных машине из трубок и проводов. Иными словами, можно предположить, хотя это кажется мне надуманным, что, несмотря на их способности в решении задач, принятии решений и достижении целей, машины никогда не будут заслуживать эпитета «разумный». Но если мы сможем придумать подходящий тест для первой думающей машины, Адама MacElectrosap[108] и обнаружим, что она действительно обладает сознанием и является по-настоящему живой, то мы столкнемся с серьезной моральной проблемой, решая, можно ли держать ее в рабстве.

Мы можем столкнуться с еще одной серьезной практической проблемой: безопасно ли оставлять думающую машину вообще, неважно, в рабстве или нет. Возможность, описанная во многих ужасных историях, что наши создания могут в один прекрасный день обратиться против на нас и сокрушить нас, вполне реальна. Профессор Винер, к примеру, полагает, что машины не обязательно всегда будут подчиняться человеку. (101)

Дело в том, что разумные машины обязательно будут до некоторой степени иметь самостоятельность, инициативу и непредсказуемость — это неотъемлемая часть разума и это причина их ценности. Можем ли мы надеяться контролировать создания, которые во многих отношениях, а может быть, во всех, будут превосходить нас? Ответ не очевиден. С одной стороны, нам хорошо известны случаи, когда стоящие по уму ниже контролировали стоящих выше. Римские фермеры держали в рабстве греческих ученых. В определенных условиях тигр может убить человека. Вполне можно представить себе разум, солидный и выдающийся, но, в то же время, кроткий и послушный. С другой стороны, все-таки остаются сомнения. Более вероятно, что рано или поздно более мощный разум одержит верх над менее изощренным.

Понятно, что нельзя полагаться ни на правила, ни на ограничения; и не имеет совершенно никакого значения, что машина не будет напрямую обладать никакой физической силой и не будет иметь доступа к оружию. Если мы хотим, чтобы машина работала, она должна иметь возможность общаться с людьми; если она сможет делать это, то, наверное, сможет и убеждать людей в чем-то, а это все, что ей необходимо.

Чтобы осознать, сколь сложным может стать наше положение, достаточно понять, что мы не всегда будем знать наши истинные интересы! Машине будет известно, что лучше для нас, что лучше для нее, и какой образ действий подходит для достижения этих разных целей; но мы можем ничего этого не знать и будем вынуждены полагаться на машину!

Решение, как указывалось ранее, может лежать в соединении человеческого мозга и машины, временном или постоянном. Если их можно соединить так, что машина будет лишь расширением человеческого мозга, то ситуация будет под контролем. Это также будет означать новый уровень жизни для человека, ощущения, которые мы с трудом можем себе сейчас представить.

Наконец, переходя к вопросу о возможности внеземной жизни, мы видим загадку устрашающих размеров. Где все? Поскольку известная нам часть Вселенной содержит не менее 100 000 000 галактик, каждая из которых насчитывает от 100 000 000 до 100 000 000 000 и более звезд, и поскольку большинство из них существует уже несколько миллиардов лет, некоторые ученые полагают, что жизнь должна была возникнуть во многих мирах, и что разумная жизнь должна сейчас существовать в несметном числе чужих миров.

Тем не менее, нельзя сказать, что все ученые согласны, что разумная жизнь должна существовать во множестве миров; позиция, которую разделяет большинство ученых — это неопределенность. (57) Существуют достаточно серьезные аргументы в пользу того, что планеты существуют у множества звезд[109], что многие из них могут быть пригодны для жизни, известной нам, и что в подходящих условиях может возникнуть жизнь. Однако, возможно, что большинство планет, пригодных для жизни, не имеют суши. Что еще более важно, не существует надежных методов расчетов, позволяющих оценить вероятность возникновения разума из жизни или цивилизации из разума. Поэтому нас не должен потрясать тот факт, что во Вселенной более 1 000 000 000 000 000 000 000 звезд; вероятность развития цивилизации на любой из них легко может быть значительно меньше одной 1 000 000 000 000 000 000 000-й.

Если цивилизации распространены, то цивилизации, более развитые, чем наша, тоже должны быть распространены, однако почему в таком случае у нас нет гостей? Мне не известно ни одно убедительное объяснение. Вот три наиболее частых предположения: (1) Время слишком огромно; все наши соседи либо далеко отстали от нас, либо далеко обогнали нас в развитии, и в обоих случаях, не стоит ожидать, что они будут общаться с нами; (2) Пространство слишком огромно, и из-за ограничения скоростью света, и, возможно, неизвестных опасностей, межзвездные путешествия никогда не будут возможны; (3) «Они» существуют и знают о нас, но либо их это не заботит, либо они смотрят на нас, но не вмешиваются в наши дела.

Все три предположения кажутся неправдоподобными в свете нашей собственной психологии и перспектив. Как было показано в седьмой главе, Золотой Век принесет, по сути, неограниченные ресурсы, неограниченный доступ к материи и энергии, и безграничные организационные ресурсы в лице мыслящих машин. Тогда мы, несомненно, либо отправимся по Вселенной сами, либо отправим беспилотные аппараты для изучения и описания. Если мы обнаружим жизнь, мы будем следить за ней и возьмем на себя управление и развитие, либо из милосердия, либо из осторожности. Мы не позволим нашим братьям по разуму оставаться в нищете или превратиться в угрозу нам. Размер Вселенной ничего не значит: у нас есть звезды, чтобы получить материю и энергию, а наши разумные машины могут размножиться до любого нужного числа.

Некоторые мрачные предположения делались о судьбе человечества и всех остальных, кто не смог посетить нас. Возможно, цивилизации, достигающие высокого технологического уровня, всегда уничтожают себя. Возможно, у фундаментальных философских проблем нет решения, и последнее достижение прогресса — это лишь абсолютное понимание того, что ничто не имеет значения; после того, как плод созревает; следующим этапом может быть не суперзрелость, а гниение. Но столь пессимистичные мысли, по меньшей мере, преждевременны. Пока что давайте просто признаем, что тайна остается тайной, и что мы можем на самом деле быть старейшей расой во Вселенной.

В любом случае мы глядим на ночное небо, видим мириады звезд и размышляем: либо мы одиноки в этой огромной Вселенной, либо где-то еще есть другие мыслящие существа, которых мы однажды можем встретить. В любом случае это заставляет нас задуматься.