References. Bloch, J. (2006). "Extra, Extra – Read All About It: Nearly All Binary Searches and M e r g e s o r t s a r e B r o k e n

Bloch, J. (2006). "Extra, Extra – Read All About It: Nearly All Binary Searches and M e r g e s o r t s a r e B r o k e n. " f r o m http://googleresearch.blogspot.com/2006/06/extra-extra-read-all-about-itnearly.html.

Burchfield, J. D. (1975). Lord Kelvin and the Age of the Earth. New York, Science History Publications.

Calogero, F. (2000). "Might a laboratory experiment destroy planet earth?"

Interdisciplinary Science Reviews 25 (3): 191-202.

Cartwright, N. (1999). Dappled World: A Study of the Boundaries of Science. Cambridge, Cambridge University Press.

Cokol, M., I. Iossifov, et al. (2007). "How many scientific papers should be retracted?" Embo Reports 8 (5): 422-423.

Dar, A., A. De Rujula, et al. (1999). "Will relativistic heavy-ion colliders destroy our planet?" Physics Letters B 470 (1-4): 142-148.

Dimopoulos, S. and G. Landsberg (2001). "Black holes at the large hadron collider." Physical Review Letters 8716 (16): art. no.-161602.

ESA (1996). ARIANE 5 Flight 501 Failure: Report by the Inquiry Board.

García-Berthou, E. and C. Alcaraz (2004). "Incongruence between test statistics and P values in medical papers." BMC Medical Research Methodology 4 (13).

Gartler, S. M. (2006). "The chromosome number in humans: a brief history." Nature Reviews Genetics 7 (8): 655-U1.

Giddings, S. B. and M. M. Mangano. (2008). "Astrophysical implications of hypothetical stable TeV-scale black holes." arXiv:0806.3381

Giere, R. N. (1999). Science without Laws. Chicago, University of Chicago Press.

Hansson, S. O. (1996). "Decision making under great uncertainty." Philosophy of the Social Sciences 26: 369-386.

Hempel, C. G. (1950). "Problems and Changes in the Empiricist Criterion of Meaning." /Rev. Intern. de Philos 11 (41): 41-63.

Hillerbrand, R. C. and M. Ghil (2008). "Anthropogenic climate change: Scientific uncertainties and moral dilemmas." Physica D 237: 2132-2138.

Hut, P. and M. J. Rees (1983). "How Stable Is Our Vacuum." Nature 302 (5908): 508-509.

Jaffe, R. L., W. Busza, et al. (2000). "Review of speculative "disaster scenarios" at RHIC." Reviews of Modern Physics 72 (4): 1125-1140.

Jeng, M. (2006). "A selected history of expectation bias in physics." Am. J. Phys. 74 (7): 578-583.

Kent, A. (2004). "A critical look at risk assessments for global catastrophes." Risk Analysis 24 (1): 157-168.

Lineweaver, C. H., Y. Fenner, et al. (2004). "The Galactic habitable zone and the age distribution of complex life in the Milky Way." Science 303 (5654): 59-62.

Miller, G. (2006). "A Scientist’s Nightmare: Software Problem Leads to Five Retractions." Science 314: 1856-1857.

Morawetz, K. and R. Walke (2003). "Consequences of coarse-grained Vlasov equations." Physica a-Statistical Mechanics and Its Applications 330 (3-4): 469-495.

Morrison, M. C. (1998). "Modelling nature: Between physics and the physical world."Philosophia Naturalis 35: 65-85.

NASA (1999). Mars Climate Orbiter Mishap Investigation Board Phase I Report.

Nath, S. B., S. C. Marcus, et al. (2006). "Retractions in the research literature:misconduct or mistakes?" Medical Journal of Australia 185 (3): 152-154.

Nicely, T. R. (2008). "Pentium FDIV Flaw FAQ." From http://www.trnicely.net/pentbug/pentbug.html.

Nuclear Weapon Archive. (2006). "Operat ion Cas t le. " from http://nuclearweaponarchive.org/Usa/Tests/Castle.html.

Panko, R. R. (1998). "What We Know About Spreadsheet Errors." Journal of End UserComputing 10 (2): 15-21.

Popper, K. (1959). The logic of Scientific Discovery, Harper & Row.

Posner, R. A. (2004). Catastrophe: Risk and Response. Oxford, Oxford UniversityPress.

Prot, S., J. E. Fontan, et al. (2005). "Drug administration errors and their determinants in pediatric in-patients." International Journal for Quality in Health Care. 17 (5): 381-389.

Reichenbach, H. (1938). Experience and prediction. Chicago, University of Chicago Press.

Stubbs, J., C. Haw, et al. (2006). "Prescription errors in psychiatry – a multi-centre study." Journal of Psychopharmacology 20 (4): 553-561.

Suppes, P. (1957). Introduction to Logic.

Tegmark, M. and N. Bostrom (2005). "Is a doomsday catastrophe likely?" Nature 438 (7069): 754-754.

Turner, M. S. and F. Wilczek (1982). "Is Our Vacuum Metastable." Nature 298 (5875): 635-636.

Walsh, K. E., C. P. Landrigan, et al. (2008). "Effect of computer order entry on prevention of serious medication errors in hospitalized children." Pediatrics 121 (3): E421-E427.

Witten, E. (1984). "Cosmic Separation of Phases." Physical Review D 30 (2): 272-285.

Yudkowsky, E. (2008). Cognitive biases potentially affecting judgement of global risks. Global Catastrophic Risks. N. Bostrom and M. M. Cirkovic. Oxford, Oxford University Press.

Эдриан Кент. Критический обзор оценок рисков глобальных катастроф

Первод: А.В.Турчин

arXiv:hep-ph/0009204v6 10 Dec 2003

http://arxiv.org/abs/hep-ph/0009204

A critical look at risk assessments for global catastrophes

Adrian Kent

Department of Applied Mathematics and Theoretical Physics, Centre for Mathematical Sciences,

University of Cambridge, Wilberforce Road, Cambridge CB3 0WA, U.K.

(April 2003 (revised))

Опубликовано: Journal reference: Risk Anal. 24 (2004) 157-168

В недавних статьях Busza et al. (далее – BJSW) и Dar et al. (далее – DDH) утверждается, что астрофизические данные могут быть использованы для установления верхних границ риска катастрофического сценария со «смертельными стрейнджлетами» в экспериментах на ускорителях RHIC и ALICE. Уровень безопасности, установленный для этих экспериментов группой BJSW, опирается не только на эти астрофизические границы, но и на чисто теоретические расчеты, которые BJSW полагают достаточно убедительными, чтобы твёрдо исключить возможность катастрофы. Тем не менее, DDH и другие комментаторы (изначально так считала и группа BJSW) полагают, что одних только этих эмпирических границ достаточно, чтобы дать достаточные основания для уверенности в безопасности. Это выглядит неубедительным, когда границы выражены в терминах ожидаемой полезности – что является правильным способом измерения с точки зрения стандартного анализа рисков. Например, с точки зрения DDH’s вероятность катастрофы p меньше 2 × 10(−8), что означает, что математическое ожидание числа смертей ограничено сверху числом в 120 человек. Более консервативная оценка BJSW утверждает, что математическое ожидание числа смертей ограниченно сверху 60 000. Данная статья производит переоценку границ риска, данных DDH и BJSW, путём сравнения с политикой в отношении рисков в других областях. Например, отмечается, что даже при предположениях, допускающих высокую толерантность к риску и при условии, что никакой ценности не приписывается будущим поколениям, риск катастроф не должен был бы быть выше, чем 10(−15) в год, чтобы соответствовать установленным правилам минимизации риска радиационного воздействия. Допуская более жесткие требования к минимизации риска и признавая ценность жизни ещё не родившихся людей, можно обосновано требовать границы рисков, на много порядков более строгой. Обобщая, можно сказать, что цена малых рисков катастрофы была значительно недооценена группой BJSW (в начале), потом DDH и другими комментаторами. Будущая политика в отношении катастрофических рисков была бы более рациональной и более заслуживающей доверия публики, если бы приемлемые границы риска были бы в основном согласованы заранее и если бы серьёзные исследования в отношении того, может ли соблюдение этих границ на самом деле быть гарантировано, было бы выполнено задолго до любого гипотетического рискованного эксперимента, в обсуждении которого принимали бы участие эксперты, не имеющие заинтересованности в проведении рассматриваемого эксперимента.

PACS numbers: 25.75.-q, 87.52.Px, 06.60.Wa, 01.52.+r

1.ВВЕДЕНИЕ

Время от времени высказываются умозрительные предположения относительно способов, которыми новые физические эксперименты могут гипотетически привести к катастрофе, которая покончит с жизнью на Земле. Некоторые из этих гипотетических катастроф, включая сценарий «убийственного стрейнджлета», обсуждаемый в этой статье, могут привести так же к разрушению планеты и другим более широким последствиям. В любом случае, предлагающиеся механизмы катастроф в основном полагаются на умозрительные спекуляции относительно гипотетических феноменов, относительно которых нет экспериментальных данных, но которые, на первый взгляд, не противоречат известным законам физики. Иногда такие пессимистические гипотезы опровергаются аргументами, которые показывают, что существование таких катастрофических механизмов крайне маловероятно, потому что либо более подробный анализ показывает, что предлагающиеся механизмы в действительности противоречат твёрдо установленным физическим принципам, или потому что существование этих механизмов должно было бы приводить к эффектам, которые мы почти наверняка должны были бы обнаруживать, но этого не происходит. К сожалению, есть трудность в том, чтобы сделать аргументы такого рода достаточно убедительными. Хотелось бы быть уверенными, что шансы непреднамеренно запустить глобальную катастрофу действительно очень малы, до того, как приступать к экспериментам. Но очень трудно, если не невозможно найти аргументы, которые могли бы оправдать этот вывод с достаточным уровнем достоверности. Было сделано обескураживающее мало попыток разобраться с этой проблемой. В действительности, даже очевидный и фундаментальный вопрос – насколько невероятной должна быть катастрофа, чтобы это давало право на проведение эксперимента – кажется, никогда не был серьёзно исследован. Цель данной статьи – поднять этот вопрос со всей серьёзностью, с тем, чтобы стимулировать дальнейшие дебаты. Более конкретным стимулом для этой статьи стали споры относительно безопасности суперколлайдера RHIC в Брукхавене, и эксперименты Alice, предложенные CERN. Спекуляции о возможных катастрофических сценариях в этих экспериментах привели к определённому общественному давлению, чтобы запретить эти эксперименты. В ответ были написаны отчёты и статьи, которые использовались для оправдания проведения экспериментов на RHIC на том основании, что, наряду с прочим «Столкновения космических лучей дают убедительные доказательства того, что мы находимся в безопасности в отношении катастрофы на RHIC" [1] и «Нет оснований сомневаться, что эксперименты с тяжёлыми ионами на RHIC безопасны для нашей планеты» [2].

Я постараюсь доказать в этой статье, что полученные границы риска в действительности не являются маленькими, принимая во внимание масштаб катастрофы, – согласно стандартным процедурам анализа риска или в сравнении с принятыми стандартами приемлемого риска для публики. Поскольку критерии, использованные в Брукхавене для оправдания проведения экспериментов, были выработаны физиками-теоретиками и администраторами, а не более представителями широкой публики или профессионалами в управлении рисками, то кажется желательным представить эти проблемы широкому кругу слушателей с целью создания информированной дискуссии и определения более здравой общественной политики в будущем.

II. ИСТОРИЧЕСКИЕ ПРИМЕРЫ

По-видимому, первый механизм катастрофы такого рода, который всерьёз рассматривался как возможный, привлёк внимание в 1940-х годах в Лос-Аламосе перед первым ядерным тестом. Речь шла о том, что ядерные или термоядерные бомбы могут поджечь атмосферу или океаны в неостановимой цепной реакции. В ходе расследования был выполнен анализ Konopinski et al. [3], который весьма определённо отверг эту возможность. В опубликованном интервью с Перл Бак (Pearl Buck) [4] она говорит, что Комптон сказал, что он решил не продолжать с ядерными испытаниями, если бы было доказано, что шансы глобальной катастрофы выше, чем 3 на миллион, но конкретные вычисления показали, что цифра немного меньше. Трудно понять, как какие-либо осмысленные вычисления могут породить такую оценку риска. Анализ в [3] даёт убедительные аргументы против возможности катастрофической цепной реакции, основанные на твёрдо проверенных физических принципах. Он заключает, что неразумно ожидать цепной реакции, распространяющейся в азот-азотной реакции синтеза, и неограниченная цепная реакция, поглощающая всю атмосферу, ещё менее вероятна. Другие возможные реакции, включающие в себя реакции на протонах в облаках пара, вырывающихся из океана, тоже были рассмотрены, и относительно них был сделан вывод, что они ещё менее опасны.

Однако Konopinski et al. отмечают, что способ распространения реакции в атмосфере может быть более сложным, чем предполагает их анализ, в силу чего его выводы могут быть неприменимы, и они предполагают, что сложность рассуждений и отсутствие удовлетворительного экспериментального базиса для них делают дальнейшую работу на эту тему крайне желательной. Однако они не предлагают никакой численной оценки риска катастрофы и никаких результатов, из которых численная оценка могла бы быть выведена. И ещё, насколько я знаю, Комптон никогда не пытался исправить высказывания Бак. Если бы она просто что-то неверно поняла, то Комптону было бы не трудно не признавать этого утверждения. И если бы это неверно выражало его взгляды, то он наверняка захотел бы восстановить историческую правду и защитить свою репутацию против обвинений в неблагоразумной игре с будущим человечества. Логичным выводом является то, что Комптон действительно сделал эти заявления, о которых она сообщает[152]. (сноска 1) И если так, даже если оценка риска сама по себе окажется неправомерной, Комптон по-видимому искренне верил, что действительный риск (а не просто граница риска) в 3 *10^-6 глобальной катастрофы была приблизительно на грани приемлемости, в эпоху усилий Америки и её союзников по созданию атомного оружия во время Второй мировой войны. По-видимому, эта цифра не вызвала также и беспокойства читателей «American Weekly» в 1959 годы, поскольку никаких возражений не последовало. Было бы интересно сравнить это с современным мнением о приемлемости риска глобальной катастрофы в 3*10^-6, в условиях проекта Лос-Аламос или подобных. Другая гипотетическая катастрофа была исследована некоторое время назад Хатом и Рисом (Hut and Rees [6,7].) Они рассмотрели возможность того, что состояние вакуума, в котором мы живём, не является подлинным вакуумом, но только локальным минимумом эффективного потенциала. Они задались вопросом, не могут ли, если это так, новые эксперименты на ускорителях запустить катастрофический переход к подлинному вакууму, разрушив не только Землю, но и все стабильные формы материи в современном космосе. Они показали, что вероятность того, что это будет сделано искусственным образом в нынешних или возможных в обозримом будущем экспериментах на ускорителях, значительно меньше, чем вероятность того, что это случится естественным образом в пределах нашего светового конуса[153]. Наиболее недавнее исследование было выполнено в ответ на некоторые (довольно расплывчатые) общественные сомнения [9] относительно возможности определённого рода катастроф, связанных с планировавшимися экспериментами на Брукхавенсокм релятивистском коллайдере тяжёлых ионов (RHIC). Это были статьи Busza et al. (BJSW) и Dar et al. (DDH)[154]. Обе группы обратили наибольшее внимание на сценарии катастрофы с «убивающим стрейнджлетом», которые возникли бы, если бы отрицательно заряженная странная материя бы существовала и могла бы быть создана в экспериментах. Помимо теоретических аргументов против рассматриваемой гипотезы, обе группы предложили границы риска, выведенные из эмпирических данных. BJSW предложила границы вероятности катастрофы в течении десяти лет планируемого существования RHIC, основанные на факте выживания Луны в течение 4.5 млрд. лет, составляющие от 10−5 до 2.10−11, в зависимости от того, насколько консервативные предположения были сделаны [8]. Границы группы DDH выведены из наблюдаемой частоты сверхновых и имеют разброс от 2 *10−6 (такова пессимистичная оценка очень медленной катастрофы, в ходе которой Земля будет преждевременно разрушена в течение ближайших миллиардов лет до того, как она будет в любом случае поглощена расширяющемся Солнцем) и до 2 х 10−8 (их основная граница). [2].

Как будет видно из цитат, приведённых в главе IV, обе группы в начале [1,2] предполагали, что одних только их эмпирических границ достаточно, чтобы доказать безопасность экспериментов. Если бы этот вывод был верным, то его бы стоило только приветствовать, поскольку в этом случае оно бы устранило бы какую-либо необходимость вычислять степень достоверности, с которой мы должны были бы подходить к теоретическим аргументам. Точка зрения, что эти эмпирические оценки являются действительно адекватными, была также выражена в комментариях [12,13]. Однако есть серьёзные основания полагать, что эти выводы неверны, и действительно, группа BJSW затем отозвала своё заявление, после того, как оно было подвергнуто критике автором этой статьи. BJSW написали вторую версию своего препринта, убрав обнадёживающие характеристики своих границ риска, и вместо этого отреклись от любых попыток определить приемлемую верхнюю границу вероятности катастрофы. В пересмотренной версии своей статьи группа BJSW также признаёт, что доказательства их эмпирически выведенных границ риска могут быть недействительны, если некоторые дополнительные пессимистические гипотезы верны[155]. (сноска 4) Пересмотр группой BJSW своего препринта был адекватной реакцией, с чисто научной точки зрения. Однако последствия этого для общественной политики довольно тревожные. Как я понимаю, разрешение американского правительства проводить эксперименты на RHIC было дано на основании исходной версии рассуждений группы BJSW [1], которое содержало серьёзные ошибки, которые мы проиллюстрируем цитатами в секции IV. Беспокойство общественности было утихомирено посредством широко опубликованных [10,11] заверений [12,13] о том, что риск пренебрежимо мал, также в основном опирающихся на оценки риска, данные в исходной версии препринта BJSW [1]. Насколько мне известно, Брукхавен не предпринял никаких усилий, чтобы повторно получить разрешение на основе пересмотренных оценок BJSW или сообщить об этих серьёзных переменах средствам массовой информации и привлечь внимание общественности[156]. По моему мнению, такие усилия должны были быть предприняты.

III. ПРЕДМЕТ РАССМОТРЕНИЯ ДАННОЙ СТАТЬИ.

Эта статья была предназначена для того, чтобы стать вкладом в дебаты о гипотетических сценариях катастрофы в результате экспериментов на ускорителях RHIC и ALICE и о гипотетических или реальных рисках катастрофы. Она концентрируется на главном вопросе: какой риск катастрофы может быть приемлемым? Другие важные вопросы в ней не рассматриваются. В частности, в отношении экспериментов на ускорителях не предпринимается никаких попыток вывести количественные границы рисков на основе неколичественных теоретических аргументов о невозможности катастрофы и не рассматриваются выводы BJSW о том, что одних только теоретических аргументов достаточно для полной уверенности [1,8]. Интерес этих споров не является, однако, чисто интеллектуальным. Цель состоит в том, чтобы улучшить будущую стратегию в отношении рисков катастрофы. В частности, должны быть сделаны выводы из очевидных ошибок в рассуждениях BJSW и DDH о рисках. Является очевидно неудовлетворительным то, что вопрос о том, что является приемлемым риском катастрофы, продолжает решаться от случая к случаю, согласно личным критериям риска учёных, с которыми ответственные за экспериментальное оборудование решили проконсультироваться. Эти критерии, даже искренне и тщательно сконструированные, могут быть нерепрезентативными по отношению к общему мнению или экспертному мнению в анализе рисков. Хуже того, история показывает, что в действительности использованные критерии риска могут быть вовсе бездумно сконструированными. Информация о мнении Комптона предполагает, и неверная интерпретация [1] и [2] очень ясно иллюстрирует, что на учёных, чьей областью знаний не является анализ рисков или общественная политика, нельзя полагаться ни при интерпретации сведений о создаваемых наукой рисках, ни при рассмотрении элементарных аргументов, которые предполагают более строгие критерии риска, чем те, которые могут быть легко удовлетворены. Опора на такие неэкспертные оценки не полезна ни с точки зрения общественных интересов, ни с точки зрения долговременных интересов науки. Учёные и научные институции должны работать, чтобы получить, поддерживать и заслужить доверие общества. Аргументы о том, что следует проводить некий эксперимент только потому, что риск глобальной катастрофы кажется весьма низким, без сравнений с какими-либо существовавшими ранее уровнями риска и рекомендациями, могут не только не смочь убедить в безопасности, но и (небезосновательно) быть интерпретированы как упражнение в пиаре, направленное на поддержку заранее выбранного решения, а не как бесстрастный научный анализ. Как отмечает Calogero [18], это имеет долгосрочные последствия для авторитетности в вопросах риска для всех учёных, а не только непосредственно участвующих, и в качестве вероятных последствий – менее информированные и более иррациональные общественные дебаты и общественную политику.

Вполне вероятно, что вообще невозможно достичь полного консенсуса на твёрдых основаниях. Например, кажется маловероятным, что будет достигнуто некое ясное соглашение о том, что риски глобальной катастрофы являют достаточно малыми, чтобы быть пренебрежимыми, если и только если их вероятность меньше, чем 10^-20 Жизнь гораздо сложнее этого, и демократические дискуссии являются более многосторонними. Тем не менее – в действительности, именно по этой причине, – было бы ценно иметь спектр тщательно обоснованных мнений в литературе. Я надеюсь, что аргументы, высказанные ниже, будут способствовать дальнейшей дискуссии.

IV. ОЦЕНКИ ГРУППАМИ BJSW И DDH ГРАНИЦ РИСКОВ ДЛЯ СЦЕНАРИЯ «УБИЙСТВЕННОГО СТРЕЙНДЖЛЕТА»

Теперь мы обратимся к конкретным деталям дискуссий о катастрофических рисках, возникших в связи с экспериментами RHIC и ALICE, и, особенно, к сценарию катастрофы с убийственным стрейнджлетом, некоторые детали которого были проанализированы группами BJSW и DDH. Необходимыми условиями для сценария «убийственного стрейнджелта» являются:

1) То, что стабильная материя из стрейнджлетов существует.

2) Есть островок стабильности для отрицательно заряженных стрейнджлетов.

3) Отрицательно заряженные метастабильные стрейнджлеты могут быть созданы при столкновение ионов золота на энергиях ≈ 40 TeV на RHIC.

4) Возникший таким образом стрейнджлет может пережить столкновения, которые направят его к окружающей массе обычной материи.

5) Он будет затем сливаться с ядрами, порождая ещё большие отрицательно заряженные стрейнджлеты в ходе цепной реакции, которая в конечном счёте поглотит всю Землю. (6)

Теоретические аргументы [8,2] против пунктов 1-3 в общем выглядят убедительно. Если 1-3, тем не менее, верны, то 4 и 5 тоже вероятны. Если верны пункты 1-5, то убийственные стрейнджлеты должны также возникать при естественных столкновениях высокоэнергетичных тяжёлых ионов, которые имеют место, когда космические лучи сталкиваются друг с другом или с тяжёлыми ядрами в небесных телах. (ссылка 6) (Поклоннику недооценки может понравиться описание гибели Земли группой BJSW: «катастрофический процесс с глубокими последствиями для здоровья и безопасности».)

Естественно возникающие стрейнджлеты, если бы они существовали, могли бы запустить цепную реакцию, способную уничтожить астероиды, спутники, вроде Луны, или звёзды. Из того факта, что Луна просуществовала 4.5 млрд. лет и из того, что астрономические наблюдения противоречат тому факту, что звёзды превращаются в странную материю со сколько-нибудь значительной частотой, можно вывести границы риска [8,2].

К сожалению, эти выводы требуют предположений относительно типов взаимодействий, в которых возникают стрейнджлеты, об их способе взаимодействия с ядрами и их стабильности. [8,2,14]. По этой причине группы BJSW и DDH дают различные границы, в зависимости того, насколько консервативные предположения они делают [8,14]. Без знания о том, какой уровень достоверности мы должны приписать этим предположениям – а этот вопрос ни одна из обеих групп не рассматривает количественно – невозможно понять, насколько осмысленны цифры границ рисков [14]. Но даже если эти числа не могут быть действительно подтверждены, те комментарии, которые сделали относительно них BJSW, DDH и другие, дают интересное и ценное представление о критериях рисков физиков и администраторов, вовлечённых в RHIC. Предполагая, что RHIC проработает запланированные 10 лет, группа DDH получает оценку вероятности катастрофы P < 2*10^-8 для быстрого катастрофического разрушения Земли и p < 2*10^-6 для медленного разрушения, которое завершится за миллиард лет до того, как Солнце расширится до Земной орбиты. DDH описывает эти результаты как «твёрдую и безопасную верхнюю границу риска, создаваемого работой [RHIC]”. Они добавляют, что эти верхние границы означают, что «безопасно использовать RHIC в течение 500 миллионов лет» и что «продолжать эксперименты на RHIC – безопасно». Разумеется, последние два утверждения неверны. Границы, выведенные DDH, если они верны, устанавливают только маловероятность того, что Земля будет уничтожена очень рано, если RHIC эксперимент продолжается заявленный для него период времени (в 10 лет): но эти границы соответствуют высокой вероятности разрушения Земли в некоторый момент, в случае гипотетических более длительных экспериментов[157]. В первой версии [1] своей статьи BJSW описывают результат DDH как «в сто миллионов раз меньший уровня, необходимого для безопасности RHIC”. Это, конечно, тоже не верно. Граница риска в 100 миллионов раз большая, чем та, что установлена DDH, означала бы высокую вероятность разрушения Земли в течение 5 лет экспериментов на RHIC – а этот уровень риска даже самые оптимистичные физики вряд ли назвали бы «безопасным». Используя свой независимый анализ, группа BSJW вывела следующие границы риска из факта выживания Луны с учётом различных предположений (их случаи 1-3) относительно возникновения стрейнджлетов и опять же предполагая, что RHIC проработает запланированные 10 лет:

1) p < 2 *10^-10;

2) p < 2 *10^-5

3) p < 2 *10^-4

Они описали 2 и 3 случаи как по-прежнему составляющие «комфортные уровни погрешности». Эти комментарии, а также те, что приведены в начале этого параграфа, столь явным образом неприемлемы – ни один здравомыслящий человек не будет пытаться заверить публику, что риск разрушения Земли в 1 к 5000 является комфортным уровнем погрешности – что я подозреваю, что они отражают некое странное замешательство в группе BSJW во время написания [1]. BJSW уточнили свои вычисления во второй версии своей статьи, усилив оценки в 10 раз и выведя границы риска для 10 летней продолжительности экспериментов на RHIC (случаи 1-3):

1) p < 2 *10^-11

2) p < 2 *10^-6

3) p < 2 *10^-5

В этой обновлённой версии, последовав критике упомянутых выше комментариев, они не делают никаких суждений о том, являются ли какие-нибудь границы удовлетворительными. Цитируя BJSW: «Мы не предпринимаем попыток ответить на вопрос, каковы приемлемые верхние границы вероятности катастрофы, и мы также не занимаемся «анализом рисков», сопоставляя вероятность негативного эффекта с масштабом его последствий» [8] В дальнейшей дискуссии мы будем использовать пересмотренные значения границ, обозначая их просто как BJSW-границы.

Основная оценка группы DDH о том, что вероятность катастрофы p < 2*10^-8 часто использовалась в [1,2,13,12] в том смысле, что эта оценка сама по себе достаточно убедительна, так что больше не требуется никакого анализа риска и оптимизации риска. По моему мнению, многие математически образованные и вдумчивые люди не согласятся с этим. Мои собственные причины для несогласия объясняются ниже.

V. ГРАНИЦЫ РИСКОВ И ОЦЕНКИ РИСКОВ: ВАЖНАЯ ОГОВОРКА

Важно подчеркнуть, что эмпирические рассуждения групп DDH и BJSW дают границы рисков катастрофы, а не оценки рисков[158]. Их границы основаны на том факте, что мы не наблюдаем нечто, что мы должны были бы наблюдать, если бы риск был больше, чем некое значение p.

Отрицательный результат, выраженный в такой форме, не говорит нам ничего о действительном значении риска. Всё в анализе DDH и BJSW соответствует тому, что подлинный риск катастрофы равен нулю, и если нынешние теоретическое понимание верно, – то он действительно равен нулю. Однако, когда предметом рассмотрения является разрушение Земли, было бы предпочтительно не быть вынужденными полагаться только на теоретические построения. Как отмечают Глешоу и Уилсон в [13]: «Слова «невероятно», сколько бы много раз оно не повторялось, не достаточно, чтобы успокоить наши страхи в отношении этой катастрофы». Отсюда происходит интерес к рассмотрению естественно происходящих версий этого эксперимента, подтверждающих, что они не привели к катастрофе, и таким образом дающих твёрдые границы риска катастрофы. К сожалению, у этого подхода есть свои ловушки и ограничения. Сравнение ожидаемых эффектов от гипотетических стрейнджлетов, создаваемых естественными столкновениями тяжёлых ионов и экспериментами RHIC, не вполне правомерно. Для выведения границ рисков приходится делать теоретические предположения. Мы не можем достоверно вывести малые границы рисков таким образом, если только мы не имеем очень высокую уверенность в истинности этих предположений [14,8]. И в любом случае, Природа не обязательно проводила именно тот эксперимент, в котором мы заинтересованы, достаточно часто, чтобы дать достаточно строгие оценки рисков.

С чего мы должны начать, чтобы определить достаточно строгие границы риска? Мне кажется, что правильным подходом в оценке границ рисков было бы делать предположения о возможности наихудшего варианта развития событий. То есть, если мы убедились, что P(catastrophe) ≤ Р(0), и мы должны решить, является ли эта граница достаточно убедительной, мы должны задаться вопросом, готовы ли мы были бы продолжать, если бы мы знали, что P(catastrophe)= Р(0). И если нет, значит, эта граница сама по себе не является достаточным основанием для уверенности. Такая граница могла бы стать элементом убедительного основания безопасности эксперимента, если бы её можно было дополнить другими аргументами. Например, в случае с RHIC можно утверждать, что комбинация теоретических аргументов и эмпирических границ даёт достаточные основания для уверенности, даже если ни один из них по отдельности недостаточен[159] (сноска 9). Я не буду рассматривать такие аргументы здесь. Ни, повторюсь, я не буду исследовать вопрос о том, достаточно ли убедительны теоретические аргументы сами по себе. Дискуссия далее рассматривает только узкий вопрос о том, достаточно ли только одних эмпирических границ для уверенности.

VI. РИСК И ОЖИДАЕМЫЙ УЩЕРБ

Разрушение Земли будет включать в себя гибель ≈ 6*10⁹ людей и гибель всех других видов живых существ, потерю исторических данных об эволюции биосферы и потерю почти всей культурной информации, накопленной человечеством[160]. (сноска 10) Добавьте к этому цену утраченных возможностей в связи с отсутствием будущих поколений. Задумайтесь хотя бы о числе смертей людей. Если ожидается, что некий эксперимент приведёт хотя бы к одной человеческой смерти, в повседневном смысле этого слова, – то есть, что вероятно, что, по крайней мере, один человек умрёт в результате эксперимента, – то тогда последствия этого эксперимента для здоровья и безопасности нельзя назвать пренебрежимо малыми. В нашем случае, когда мы имеем дело с малыми рисками огромной катастрофы, мы не можем прямо использовать эту меру: эксперимент с малым риском скорее всего не приведёт к человеческим смертям, в том смысле, что это является наиболее вероятным исходом. Однако мы можем вычислить другую, связанную с этим величину: математическое ожидание числа человеческих смертей. Математическое ожидание числа человеческих смертей в результате катастрофы, разрушающей Землю, составляет Ed = P(catastrophe)*N, где N ≈ 6*10⁹ людей, составляющих нынешнюю человеческую популяцию. Итак, если мы примем Ed в качестве правильной меры серьёзности риска – и в следующей главе мы объясним, почему мы это должны сделать, то тогда любой риск, не удовлетворяющий требованию, чтобы

P(catastrophe) < 1.6 * 10^-10 (1),

не является пренебрежимо малым. Что касается приведённых выше оценок, то ни оценка DDH не обеспечивает того, чтобы условие (1) выполнялось, ни вторые и трети оценки BJSW. Консервативная оценка BJSW, основанная на выживании Луны (Случай 1), подходит ближе всего к этой оценке, но всё же не дотягивает с коэффициентом 1/8 – то есть в этом случае вероятность причинить человеческую смерть, равная 1/8, считается пренебрежимо малой.

Если проводить сравнение в терминах математического ожидания, главная (более узкая) граница DDH означает, что математическое ожидание числа человеческих жертв, вызванных экспериментами на RHIC в течение 10 лет, не превысит 120 человек. Рассматриваемая таким образом эта границы вовсе не выглядит адекватно гарантирующей безопасность.

VII. ЯВЛЯЕТСЯ ЛИ МАТЕМАТИЧЕСКОЕ ОЖИДАНИЕ ЧИСЛА ЖЕРТВ РЕЛЕВАНТНОЙ МЕРОЙ ИЗМЕРЕНИЯ РИСКА?

Вероятно, возможны возражения в том духе, что приведённые выше вычисления вводят в заблуждение. В конце концов, границы рисков DDH дают настолько малые значения вероятности, что ими можно было бы пренебречь в большинстве обычных условий. Большинство из нас равнодушно воспринимает риск смерти в 2*10(−8): риск для типичного гражданина США погибнуть от атаки акулы в течение года равен примерно такой же величине. Перевод границы риска в математическое ожидание числа жертв заставляет эту величину казаться значительной. Но резонно ли использовать ожидаемое число жертв как меру безопасности границы рисков? В действительности, в следующей главе мы покажем, что использование одной только величины Ed всё равно приводит к значительной недооценки рисков. Но в начале рассмотрим, действительно ли требование Ed < 1 даёт осмысленную верхнюю границу пренебрежимо малого риска, в предположении, что мы согласны, что неизбежная смерть одного человека не есть пренебрежимо малая величина. Я полагаю, что большинство экспертных оценок согласятся с этим требованием по нижеследующим причинам. Во-первых, любой согласится, что при выполнении любого анализа рисков, нам нужна не просто вероятность, но цена или ожидаемая полезность различных исходов: 10^-3 шанс потерять один доллар лучше, чем 10^-3 шанс потерять миллион долларов и т. д. Во-вторых, фундаментальным принципом анализа рисков является то, что в нормальных условиях рациональные люди стремятся уйти от риска. Если X является случайным процессом, чьи возможные исходы X(i) имеют вероятность p(i), и если V(x(i)) ценность для общества исхода x(i), то тогда V (X) для одного запуска процесса X обычного полагается равной

V (X) ≤sum p(i)*V (x(i)) для всех i (2)

Ценность нежелательных исходов, разумеется, является отрицательной: мы полагаем −V (x(i)) как ценность x(i).

Второй принцип состоит в том, что функция ожидаемой полезности является вогнутой. В отношении цены утраты человеческих жизней это означает, что цена для общества утраты N жизней по крайней мере в N раз больше цены одной жизни: если xN и x1 являются двумя событиями, то тогда

V (xN) ≤ NV (x1) (3)

Принципы неприятия риска и вогнутой кривой полезности объясняют, например, то, почему часто является рациональным купить страховку, несмотря на то, что в среднем страховые компании оказываются в плюсе, а пользователи – в убытке. Подобным образом, это объясняет, почему инвесторы почти повсеместно требуют более рискованных инвестиций, предполагающих, в качестве компенсации более высокие доходы. Рассматривая случайный процесс X, который с вероятностью 2*10^-8 убивает 9*10⁹ людей и с вероятностью (1-2*10^-8 ) не убивает никого, мы можем обнаружить, что эти принципы, взятые вместе, означают, что шансы в 2*10^-8 убить 9*10⁹ людей по крайней мере так же плохи, как однозначное убийство 120 человек.

В общем, чтобы продемонстрировать, что риск является пренебрежимо малым, мы должны показать, что Ed значительно меньше единицы – а насколько именно меньше, зависит от того, насколько мы неприемлем риск, когда речь идёт о глобальной катастрофе. Ни границы DDH, ни BJSW не удовлетворяют этому критерию. Говорить, что эти границы являются «твёрдыми и безопасными» или «гарантирующими комфортную погрешность» является, согласно этому анализу, просто некорректным. Подобным же образом, для того, чтобы продемонстрировать, что риск является приемлемым, является необходимым (но не необходимым и достаточным) показать, что Ed достаточно мало, чтобы уверенность в том, что этот эксперимент убьёт Ed людей, была бы приемлема. Иначе говоря, если является неприемлемым, что некий эксперимент приведёт к потере наверняка Ed жизней, то тогда и соответствующая граница риска является неприемлемой. Предположим, гипотетически, что мы знаем, что эксперимент на RHIC наверняка убьёт точно N людей (и не более). Какое значение было бы приемлемым? Ответы могут отличаться, но я полагаю, что большинство из них будет < 10 или в районе. В частности, я думаю, что очевидно, что RHIC не получил бы политической поддержки, если бы было бы известно наверняка, что он убьёт точно 120 человек: это бы считалось неприемлемо высокой ценой. Из дискуссий в этой секции следует, что риск глобальной катастрофы в соответствии с границей риска DDH будет, по крайней мере, в той же самой степени неприемлемым. И хотя наблюдения, сделанные в этой секции, являются элементарными, стоит отметить, что управляющий совет ЦЕРН не признал их действительности. Реакция Альваро де Рихула (Alvaro de Rujula), главы управляющего совета, точно выражена его мнением, процитированным в New Scientist [15], о том, что «абсурдно» брать вероятностную границу риска и умножать её на население всей Земли. Я рекомендую тщательно обдумать этот комментарий каждому, кто склонен безоговорочно верить экспертным оценкам в области анализа риска тех учёных, которые выбраны организациями для обоснования безопасности их экспериментов.

VIII. СРАВНЕНИЕ С СУЩЕСТВУЮЩЕЙ ПРАКТИКОЙ УПРАВЛЕНИЯ РИСКАМИ.

Границы рисков DDH and BJSW были предложены и обсуждались в статьях DDH [2] и BJSW [1], в заявлении директора Брукхавена Джона Марбургера [12], и в комментариях Глэшоу и Уилсона [13]. Ни в одной из этих дискуссий не были сделаны сравнения с критериями риска и процедурами оптимизации, применяемыми в других потенциально опасных областях деятельности. Это весьма неудачно, так как сравнение рисков часто весьма проясняют ситуацию, и в данном случае показывает, что рассмотрение самих по себе границ рисков как адекватных, в значительной мере не соответствовало бы по крайней мере некоторым общепринятым способам управления рисками. Например, Национальный Совет по Радиологической Защите Великобритании требует, чтобы риск серьёзного вреда здоровью, связанный с хранилищем твёрдых ядерных отходов, должен быть всегда ограничен сверху величиной 10^-5 в год; что процедуры по оптимизации этого риска должны продолжаться, пока риск не снизится до 10^-6 в год; и что риск маловероятных природных событий должен быть отдельно ограничен сверху величиной 10^-6 в год [16]. Эти значения риска относятся критической группе людей, от единиц до сотен числом, чьи привычки или место жительства в наибольше степени подвергают их риску. Вполне типично то, что события, риск которых здесь ограничен, имеют ожидаемое число жертв менее, чем 10 человек. Короче говоря, согласно установленной практике оценки радиационных рисков, является неприемлемым создавать риск смерти примерно пяти человек больший, чем 10^-6.

Приведённые в этой секции аргументы о неприемлемости риска показывают, что последовательная политика в отношении рисков катастрофы должна рассматривать риск гибели человеческой популяции, больший, чем 10^-15 как неприемлемый. Приемлемая граница риска, следовательно, должна иметь P(catastrophe) < 10^-15 в год.

IX. ЦЕННОСТЬ БУДУЩИХ ЧЕЛОВЕЧЕСКИХ ЖИЗНЕЙ.

Приведённая выше дискуссия рассматривала только ожидаемый ущерб в терминах немедленного числа жертв, пренебрегая другими видами ущерба, перечисленными ранее. Эти виды ущерба очень трудно оценить количественно. (Какова ценность остатка биосферы за исключением человеческой популяции? Какую ценность мы приписываем нашей памяти об историческом прошлом?) Однако наименее спорной является возможность приписать значимую и исчислимую ценность одной из составляющих будущего ущерба – а именно, утрате будущих поколений – путём оценки числа будущих человеческих жизней, которые никогда не станут реальностью, если планета будет разрушена в ближайшем будущем. Эти рассуждения не могут быть продолжены без рассмотрения двух весьма сложных вопросов: должны ли мы оценивать жизнь наших потомков так же высоко, как свою собственную жизнь? И можем ли мы сказать что-нибудь осмысленное о вероятной судьбе человечества в течение миллиарда (или более) лет, которые осталось существовать Земле? В отношении первого вопроса моим собственным ответом является «да», частично потому что я не вижу никаких оснований предпочитать неизвестного мне современника неизвестному мне потомку, и частично потому, что наши жизни имеют ценность именно потому, что они являются частью продолжающейся человеческой истории. Эти взгляды находят определённую поддержку в современной стратегии: Национальный комитет по радиобиологической защите Великобритании, цитированный выше, также явным образом утверждает, что те, кто живут в любой момент времени в будущем должны получать уровень защиты по крайней мере эквивалентный тому, который даётся тем, кто живёт сейчас. Что же касается футурологии, то здесь, очевидно, столько неизвестных, что попытки детального анализа выглядят бессмысленными. Я могу предложить только грубые вычисления, которые очевидным образом уязвимы для критики, но, по крайней мере, предлагают начальную точку для дискуссии. Оптимистично предположим, что человечество имеет разумные шансы прожить (в некоторой форме) в течение всего времени существования Земли. Предположим также, что есть разумные шансы так организовать жизнь, что суммарное глобальное качество жизни будет, по крайней мере, на том же уровне, как сегодня, и население Земли будет примерно соответствовать современному в округлённых числах, то есть около 10¹⁰. И предположим, что мы пренебрегаем возможностью того, что продолжительность человеческой жизни вырастет за пределы 10², на том основании, что это, вероятно, не важно: наверное, можно сделать следующее разумное приближение – разумное с учётом неопределённости во всей дискуссии – а именно рассматривать полное число человеко-лет, так что 700 лет оказываются равными семи столетним жизням. Придерживаясь консервативной точки зрения, пренебрежём также возможной миграцией людей на другие планеты в некоторый момент в будущем, что, (а) по-видимому, привело бы к огромному увеличению человеческой популяции в течение следующего миллиарда лет и (б) позволило бы человечеству прожить более, чем миллиард лет. Тогда цена разрушения Земли сегодня составит 10^10-2+9 = 10¹⁷ жизней, или в 10⁷ раз больше, чем цена, вычисленная ранее. Включение этого фактора в наши предыдущие вычисления, выведенные на основе границ риска NRPB будет означать, что приемлемой границей риска является

P(catastrophe) <10^-22 в год. (5)

Это дальнейшее ужесточение границ риска является противоречивым со всех точек зрения. Один из возможных вопросов: рассмотрение утраты будущих жизней в качестве отдельного ущерба поднимает вопрос: ущерб для кого? Для потенциальных будущих поколений, лишённых возможности существовать? Для нас, лишённых наследников и потомков? Я думаю, и то, и другое, – но я понимаю, что обе линии рассуждений сталкиваются с определёнными трудностями.

Другой подход к этому вопросу, состоит в том, чтобы задаться другим гипотетически вопросом: будет ли гораздо худшим исходом, если все мы (или вся жизнь на Земле) будет убита, чем то, что почти все из нас (или почти вся жизнь на Земле) будет убита, предполагая, что во втором случае планета останется пригодной для жизни? Ответ «да» на этот вопрос предполагает приписание высокой относительной ценности будущим жизням, поскольку число немедленных жертв будет почти то же самое в обоих случаях. Те, кто выберут ответ «нет», вероятно, не находят убедительными никакие аргументы, приведённые в этой секции. Моё впечатление состоит в том, что этот вопрос не достаточно широко обсуждался для того, чтобы можно было сказать, какой из ответов отражает общее мнение. В настоящий момент, следовательно, какого бы вы взгляда на ценность будущих жизней не придерживались, стоит иметь в виду, что взгляды большинства, на основе которых политика в отношении катастрофических рисков должна основываться, могут оказаться противоположными.

X. НЕКОТОРЫЕ КОНТРАРГУМЕНТЫ

Вычисления и сравнения являются необходимой частью рационализации политики в отношении рисков и для высвечивания нестыковок. Однако не существует общепринятого набора принципов, на основании которого мы можем определять политику в каждом конкретном случае. Политика не является подразделением математики. Приведённые выше аргументы легко могут быть подвергнуты критике на многих основаниях. Далее я рассмотрю некоторые контраргументы, которые были предложены в ходе дискуссий.

• Один очевидный контраргумент состоит в том, что рассмотренные выше рассуждения рассматривают только возможный ущерб от катастрофического риска, но не преимущества, обретаемые благодаря принятию этого риска. По этой причине они склонны давать слишком пессимистические предсказания. В конце концов, никакой риск не стоит того, что бы ему подвергаться, если нет никаких преимуществ. Без анализа затраты-выгоды нельзя придти ни к какому разумному заключению. Это отчасти справедливая критика, но только отчасти. Следует подчеркнуть, что это не относится к рассуждениям в главе VI, поскольку использование числа смертей в качестве меры безопасности оправдано с помощью сравнения подразумеваемых раскладов затрат-выгод в выводах, по которым имеется общее согласие. Мне кажется несомненным, что, несмотря на ценность экспериментов RHIC, эти эксперименты были бы не допущены к исполнению, если бы было точно известно (например, по причине радиационного заражения) что погибнет точно 120 человек среди всей человеческой популяции. Если с этим согласится, из этого следует, что граница риска DDH является неприемлемо высокой, даже если преимущества RHIC приняты в расчет. С другой стороны, некоторые формы анализа затрат-выигрышей действительно могут предполагать, что требование P(catastrophe) <10^-15 в год может быть натянутым. Вероятный немедленный результат экспериментов RHIC – продвижение нашего понимания фундаментальных законов природы – не является пренебрежимым. Более того, возможные выгоды вероятно включают в себя хотя бы некоторую вероятность – возможно маленькую, но значительную в сравнении с 10^-15 – некого в настоящий момент неочевидного вклада в открытие, которое будет иметь огромный положительный эффект для будущих человеческих жизней. Проблема предвидения также, конечно, актуальна здесь, поскольку можно вообразить некоторые маловероятные исходы, отличные от катастрофического сценария, но обладающие большим негативным воздействием. Но если придерживаться взгляда, что научный и технический прогресс был в целом благотворным явлением, то маленькая вероятность некой выгоды, которая спасёт или сделает возможными в будущем множество человеческих жизней, является в принципе противовесом маленькой вероятности катастрофы. Здесь важно отметить, что никакие рассуждения о затратах-выгодах не могут обосновать утверждение о том, что риски являются пренебрежимыми. Скорее, они обосновывают решение продолжать эксперименты на RHIC на основании того, что, хотя, возможно, риски и не являются пренебрежимыми, они оправданы ожидаемыми позитивными результатами. Это вовсе не то же самое, что мы пытались доказать в данной статье. И это утверждение может быть, а может и не быть общепринято.

• Можно пытаться доказать, что более высокие критерии риска относительно глобальных катастроф, предложенные выше, даже если и являются рациональными теоретически, остаются абсолютно утопическими. Если мы примем их всерьёз и будем пытаться удостовериться в том, что эти критерии выполняются перед любым мероприятием, мы должны будем остановить не только эксперименты на ускорителях, но и множество других видов человеческой активности. Прогресс станет невозможным, жизнь станет безжизненной. Может быть – но я был бы осторожен насчёт слишком лёгкого принятия такого рода пораженчества. Мы начинаем с такого положения дел, при котором границы рисков в 10^-6 используются довольно широко, например, в рекомендациях по захоронению твёрдых радиоактивных отходов, цитированных выше. Мне не кажется очевидным, что, при внимательном подходе к проблемам, мы не сможем обеспечить то, что риски катастроф, связанные с конкретными механизмами, будут на много порядков меньше. Наоборот, кажется очевидным, что в некоторых случаях границы рисков катастроф могут быть значительно снижены. Эксперименты на RHIC являются прекрасным примером этого: если бы проблема снижения границ риска была бы принята серьёзно, то дальнейшие теоретические исследования, возможно, совмещённые с дополнительной экспериментальной программой, нацеленной на тщательное тестирование нашего понимания новых физических законов, используемых в экспериментах, до самого проведения экспериментов, могли бы почти наверняка снизить границы рисков очень значительно.

Конечно, это не означает, что избегание рисков является бесплатным. Следует признать, что более строгие критерии рисков катастроф могут действительно отложить или отменить по крайней мере некоторые интересные будущие эксперименты. Мне кажется, что мы просто должны признать это как факт жизни. Никто не может оправданно принять точку зрения, которая требует, чтобы любой интересный эксперимент должен был бы быть осуществлён и которая рассматривает любой анализ рисков как упражнение в оправдании этого предрешённого вывода. Человеческая жизнь, как коллективная, так и индивидуальная, является, в конце концов, хрупкой. Наше понимание природы является ограниченным, и наверняка есть много опасностей, которых мы ещё не знаем. Должная предосторожность является правильной. Мы не должны, в любом случае, полагаться на умозрительные построения о последствиях политики, более озабоченной рисками катастроф. Если станет ясно, что по сути невозможно согласовано применять политику в отношении рисков катастрофы, очевидно, что эта политика должна быть переработана. До тех пор, пока тщательно выстроенные доказательства не будут выведены, определяя конкретные примеры проблематичных катастрофических рисков, кажется преждевременным волноваться.

• Приведённые выше построения относительно критериев риска могут произвести впечатление плохих рекомендаций для политики, поскольку они предполагают, что сохранение человеческих жизней является в некотором смысле первоочередной ценностью, относительно которой наши действия должны оцениваться. В действительности, конечно, мы движимы многими другими ценностями. Лишь немногие люди целиком посвящают себя тому, чтобы увеличить свою ожидаемую продолжительность жизни, например, широко распространены рискованные удовольствия. Возможно, мы должны принять, что то, что относится к нам, как к личностям, относится к нам и как к виду в целом: беспокойство о слишком маленьких рисках отвлекает слишком много энергии от вопроса качества нашей жизни. Эта точка зрения вполне оправдана. С другой стороны, текущая политика в отношении рисков имеют тенденцию исчислять ущерб в человеческих жизнях по одной хорошей причине: поскольку конкретно эта ценность выглядит наиболее широко разделяемой и наиболее ценимой, чем все остальные. Невозможно адекватным образом репрезентировать разнообразие индивидуальных ценностей, которые мы привносим в любую дискуссию о политике, но эта мера, по общему согласию, является очень важной. Создание широко одобряемой политики относительно рисков вымирания на неком другом базисе потребует установления весьма твёрдого консенсуса о том, каков именно этот базис должен быть. Никакого такого консенсуса в настоящий момент не существует.

• Существует то, что можно назвать аргументом о доминантном риске. Мы сталкиваемся со множеством других рисков вымирания, некоторые из которых являются естественными (крупное столкновение с астероидом), некоторые полностью или частично созданными людьми (глобальная ядерная война, катастрофическое вымирание видов в результате человеческого воздействия на глобальную экосистему, катастрофические изменения климата в результате воздействия на глобальную окружающую среду). Есть взгляд, состоящий в том, что новый риск является приемлемым, если он меньше, чем существующие риски. Усовершенствованием этого взгляда является та точка зрения, что новый искусственный риск приемлем, только если он меньше уже существующих природных рисков. В двух последующих вариантах этих точек зрения слова «меньше, чем» были заменены словами «очень маленькие в сравнении с». Большое столкновение с астероидом кажется самым значительным природным риском, который может быть разумным образом оценен. Риск столкновения Земли с астероидом диаметром 10 км оценивается в 10^-8 в год. [17]. Такое столкновение будет настолько разрушительно, что общепринятая точка зрения состоит в том, что оно приведёт к массовым вымираниям видов, и, весьма вероятно, что мы окажемся одним из вымерших видов. Принимая эту последнюю гипотезу, возможно, по цене ещё одного порядка величины, мы получаем оценку 10^{-8 -}10^-9 в год для этого природного риска вымирания. Если следовать рассуждению о «доминантном риске» это приведёт к так называемому «астероидному тесту», согласно которому искусственный риск вымирания является приемлемым, если он меньше, чем 10^-9 в год, или согласно более консервативной версии, очень мал в сравнении[161] с 10^-9 .

Моё впечатление, сложившееся в ходе дискуссий, состоит в том, что многие мыслящие люди находят некоторые версии теории «доминирующего риска» разумными, тогда как другие, не менее мыслящие люди находят этот ход рассуждений совершенно иррациональным. Я разделяю взгляды последних. Почему существование одного риска, который может быть пугающе высоким, оправдывает принятие ещё одного легко избегаемого риска, который, будучи, гораздо ниже, остаётся всё ещё неприемлемо высоким. Неизбежные природные риски обычно не считаются оправданием сознательного создания рисков, которые можно было бы избежать, в отношении третьей стороны.

(сноска 11)

Любой человек, живущий сейчас, почти наверняка умрёт в течение ближайших 120 лет, и почти наверняка умрёт в течение этого промежутка времени от естественных причин, даже если не будет подвергнут никаким другим рискам. Некое индустриальное производство, которое слегка повышает естественный уровень смертности, ежегодно убивая 10 000 человек, у которых не было выбора, принимать или нет этот дополнительный риск, не заслужит общественной симпатии за утверждения, что эти дополнительные смерти теряются в шуме в сравнении с естественной смертностью. Другая проблема, связанная с астероидным тестом, состоит в том, что предполагается, что риски вымирания, связанные с астероидом, являются либо непредотвратимыми, либо, теоретически предотвратимыми, но достаточно малыми, чтобы ими можно было пренебречь. В действительности же, астероидная угроза не является непредотвратимой с современной и будущей технологией, и пассивные и активные контрмеры активно рассматриваются. С другой стороны, позвольте мне повторить, что многие люди по-видимому глубоко убеждены той или иной версией аргумента о доминирующем риске. Нет сомнений, что эта проблема заслуживает более тщательной дискуссии, чем дана здесь. Приведённый выше краткий обзор контраргументов не предназначен для того, чтобы опрокинуть «астероидный тест» и подобные критерии, но только чтобы отметить, что имеются серьёзные контраргументы. Я не думаю, что эти критерии сколько-нибудь выражают общую точку зрения. До тех пор, пока не станет ясно, что эти критерии отражают консенсус, они не могут законным образом использоваться для оправдания рисков катастрофы.

XI. ЗАКЛЮЧИТЕЛЬНЫЕ КОММЕНТАРИИ.

Конкретный антропогенный риск вымирания, рассмотренный в этой статье, является гипотетическим, и есть хорошие основания полагать, что действительный риск мал или равен нулю. Однако, как уже отмечалось выше, мы сталкиваемся с другими, несомненно реальными и не обязательно маленькими антропогенными рисками вымирания. Приведённые выше аргументы, которые показывают, что подлинная цена вымирания обычно недооценивается, очевидно могут применяться и в других случаях. Например, хотя серьезный ущерб, связанный с антропогенным глобальным потеплением широко (хотя и не достаточно широко) принимается, но дополнительный ущерб, ассоциируемый с малым риском действительно катастрофических климатических изменений, судя по всему, не особенно рассматривается. Однако может так оказаться, что, при правильном подсчёте, ожидаемый ущерб риска климатической катастрофы будет больше. Подобным же образом, хотя некоторое (но недостаточное) внимание уделяется ущербу, ассоциируемому с утратой биоразнообразия, вызванным человеческим влиянием на окружающую среду, возможный ущерб от риска катастрофического коллапса глобальной экосистемы, судя по всему, повсеместно игнорируется. В этой и других областях, где возможно моделирование, приведённые выше рассуждения означают, что мы должны побуждать и обращать внимание на исследования маловероятных, но не немыслимых катастрофических исходов, и пытаться вычислить риск, который они представляют, вместо того, чтобы концентрироваться только на более вероятных исходах, которые могут быть разрушительными, но не подлинно катастрофическими.