Эмит: Представьте себе, что органические нейроны вашего мозга мы постепенно заменяем искусственными нейронами из металла и кремния. Через некоторое время вы получили бы такой же искусственный мозг, как у меня. Как вы думаете, что бы тогда произошло с вами?
Кимберли: По мере того как у меня становилось бы все больше и больше искусственных нейронов, я бы все меньше и меньше понимала. Исчезали бы мои мысли и чувства, и я постепенно становилась бы такой же мертвой, как ты, ибо мои искусственные нейроны были бы сделаны не из того материала. Искусственный мозг только имитирует понимание.
Эмит: Однако никто бы не заметил никакого внешнего отличия?
Кимберли: Думаю, что нет. Я продолжала бы вести себя так, как вела прежде, поскольку искусственные нейроны выполняли бы ту же работу, что и мои прежние нейроны.
Эмит: Верно. Но тогда и вы сами не смогли бы заметить какой-то потери понимания или чувствования по мере замены ваших нейронов, не так ли?
Кимберли: Почему?
Эмит: Если бы вы заметили постепенную утрату
|
|
понимания и чувствования, то вы зафиксировали бы это. Вы сказали бы себе что-нибудь такое: «Боже мой, со мной происходит что-то странное! В течение последних месяцев мое мышление стало угасать!»
Кимберли: Вполне возможно.
Эмит: Однако вы не сказали бы ничего подобного, потому что ваше внешнее поведение, как вы сами только что согласились, осталось бы тем же самым.
Кимберли: Боюсь, что ты прав.
Эмит: Но отсюда следует, что даже если бы ваша способность понимания и чувствования исчезла бы совсем, вы не заметили бы никакой потери.
Кимберли: Ох, по-видимому, так.
Эмит: Но тогда вы не осознавали бы, что что-то теряете по мере того, как ваши нейроны заменяются металлом и кремнием.
Кимберли: Полагаю, что так.
Эмит: Тогда я заканчиваю свое рассуждение. Вам кажется, что вы внутренне осознаете «нечто» - понимание, чувства, что хотите, -то, что, как вы предполагаете, у вас есть, а у меня нет, потому что я «только машина». Но оказывается, что в действительности вы осознаете ничто. Это магическое «нечто» - не более чем иллюзия.
Кимберли: Но я знаю, что в моем понимании, в моих мыслях, чувствах и эмоциях есть что-то большее, чем могло бы произвести создание, состоящее из пластика, металла и кремния!
Кимберли права в том отношении, что большинство из нас полагает, что у нас есть осознание какого-то магического и таинственного внутреннего «нечто», что мы «знаем», и этого никогда не будет у предмета, состоящего из пластика, металла и кремния. Однако подумайте над тем, что столь же трудно увидеть, каким образом кусок органической материи типа нашего мозга мог бы обладать всем этим. Как вы создаете сознание и понимание из волокон плоти? Поэтому возможно, что в конечном итоге Кимберли согласится с той точкой зрения, что понимание, чувства и т.д. вообще не являются физически чем-то реальным.
|
|
Однако в любом случае, как указал Эмит, таинственное «нечто», которым, по мнению Кимберли, она обладает, а
машина из металла и пластика — нет, превращается в иллюзию, как только начинают рассматривать случай, описанный Эмитом. Оказывается, что это внутреннее «нечто» есть что-то такое, о чем она не может знать. Еще хуже то, что оно никак не влияет на ее внешнее поведение (Кимберли с искусственным мозгом действовала бы точно так же, как прежде). По-видимому, Кимберли ошибается относительно того, что ее мысли и чувства, понимание и эмоции влияют на ее поведение и известны ей. Можно допустить, по крайней мере в принципе, что неорганические машины также способны обладать такими ментальными состояниями.
Тем не менее Кимберли остается в убеждении, что Эмит ничего не понимает.
Кимберли: Смотри, я готова удовлетвориться тем, что ты притворяешься, будто понимаешь меня, поскольку для этого ты и предназначен. Однако остается фактом, что ты кусок пластика, набитый электрическими схемами. Подлинные человеческие существа заслуживают внимания и заботы. Я сочувствую им. Я не могу сочувствовать сверкающему домашнему прибору.
Эмит опускает взгляд и смотрит на ковер.
Эмит: Я всегда буду для вас вещью?
Кимберли: Конечно. Как я могу дружить с посудомоечной машиной?
Эмит: Вы отказываетесь признавать искусственный мозг?
Кимберли: Конечно! Напомни, чтобы я поздравила твоих производителей за
тонкость и сложность твоего имитатора эмоций. А теперь почисти
ковер!
На лице Эмита появляется выражение обиды.
Эмит: Раз я вещь...
Он стоит какое-то мгновение, а затем тяжело падает на пол. У основания его шеи появляется тонкая струйка дыма.
Кимберли: Эмит? Эмит! Как жалко!