Предисловие. Этот сборник статей посвящен пока малоисследованной области – рискам катастроф, которые могут привести к полному и окончательному вымиранию людей

Этот сборник статей посвящен пока малоисследованной области – рискам катастроф, которые могут привести к полному и окончательному вымиранию людей.

В XXI веке перед человечеством стоит монументальная задача – освоение сверхтехнологий. И хотя эти технологии обещают много сладких плодов, в том числе неограниченное продление жизни, главным вопросом все же является безопасность их применения. А наибольший риск от новых технологий – это катастрофа, которая может привести к полному исчезновению человечества.

Цель этого сборника – показать серьёзность подхода зарубежных учёных к проблеме глобальных рисков и ознакомить отечественного читателя с первоисточниками информации по проблеме.

В начале сборника находятся три фундаментальные статьи, каждая из которых в своё время привела к многочисленным откликам.

Первой идёт основополагающая статья Билла Джоя «Почему мы не нужны будущему», изданная в 2000 году в журнале Wired. Эта статья привела к началу широкой дискуссии в обществе на тему глобальных рисков.

Далее следует статья Вернора Винджа 1993 года о Технологической сингулярности, которая необходима для понимания проблем, возникающих перед человечеством в связи с будущим созданием Искусственного Интеллекта (ИИ).

Наконец, статья Ника Бострома об угрозах существованию (так мы переводим термин «existential risk s»), послужившая отправной точкой для многочисленных статей, приведенных в этом сборнике, а термин «existential risks» закрепился в зарубежной науке.

В первую часть сборника входит и статья Е.Юдковски о когнитивных искажениях в оценке глобальных рисков, которая дала новую перспективу в анализе проблемы.

В статье знаменитого писателя-фантаста Д.Брина рассматривается такой способ предотвращения глобальных катастроф как «тотальная прозрачность».

А.Кононов рассматривает в своей статье глобальные цели, которые необходимы для долгосрочного выживания человечества, а именно «задачу неуничтожимости цивилизации».

Американский экономист Р.Хансен исследует вопрос о том, может ли социальный коллапс привести к последующему вымиранию человечества.

В моей статье рассматриваются процессы с положительной обратной связью как общий механизм разных глобальных катастроф.

Во второй части собраны статьи, в которых рассмотрены проблемы вычисления вероятности глобальной катастрофы. Это – наиболее сложная часть сборника, и неподготовленный читатель может ее пропустить. Большое внимание в сборнике уделено так называемой Теореме о конце света (Doomsday argument) и вообще различным приложениям теории вероятности для оценки рисков глобальных катастроф с учётом эффектов наблюдательной селекции. Дискуссии эти далеко не закончены, но наверняка представляют интерес для будущего исследователя глобальных рисков. Ещё две статьи дают новую перспективу в оценке рисков опасных физических экспериментов, вроде Большого Адронного Коллайдера. В этих статьях производится оценка рисков с точки зрения ожидаемого возможного ущерба и с точки зрения вероятности истинности оценок безопасности коллайдера. Две статьи рассматривают гипотезу о том, что мы живём внутри компьютерной симуляции, созданной сверхцивилизацией. Вероятность того, что мы можем быть в симуляции, полностью изменяет оценку глобальных рисков. Эти две статьи высказывают противоположные точки зрения на данный аргумент.

В третьей части собраны статьи, в которых рассматриваются риски, связанные с новыми технологиями. Три статьи посвящены рискам, связанным с нанотехнологиями, и проектам их предотвращения. Обсуждаются риски программы поиска сигналов внеземного разума SETI, а также риски Искусственного интеллекта. Глава из книги П.Д.Смита рассказывает о забытой угрозе – кобальтовой бомбе.

В четвертой части рассматриваются глобальные риски, создаваемые возможными природными катастрофами.

Часть статей для этого сборника взята из книги “Global catastrophic risks”, вышедшей в Оксфорде в 2008 году. Большую часть статей, которые приведены в этой книге, были переведены мной. (Кроме статей Билла Джоя, Винджа и одной статьи Бострома.)

Сборник выходит при поддержке Российского Трансгуманистического Движения в серии «Диалоги о будущем» и рассчитан в первую очередь на тех, кто имеет профессиональный интерес к глобальным рискам, но может быть любопытен и для широкого круга читателей.

А.Турчин