Те явления, в которых возникает ничем не ограниченная положительная обратная связь, являются основными источниками глобальных рисков, то есть способны распространиться по всей Земле. Этот вопрос подробно рассмотрен мной в статье «Проблема стабильного развития и перспективы глобальных катастроф» [Турчин 2010].
Иначе говоря, имеется прямая связь между неограниченностью положительной обратной связи и глобальностью риска. Неограниченность положительной обратной связи возникает в том случае, когда самоусиливающийся процесс не сопровождается конкурирующими тормозящими процессами, что возможно лишь в том случае, когда он обладает неким принципиально новым качеством, до того отсутствовавшим в системе. Например, гипотетическая микроскопическая черная дыра, возникшая на Большом адроном коллайдере, обладала бы новым качеством, до того отсутствовавшим на Земле, и поэтому могла бы расти неограниченно, не встречая сопротивления.
Условием возникновения качественно новых явлений, не встречавшихся до того в природе, является человеческая деятельность, и в первую очередь – технический прогресс. Более того, здесь принципиальную роль играет эффект ускорения научно-технического прогресса, который приводит ко все большему разрыву между новым и старым. В результате новое оказывается настолько качественно превосходящим старое, что оно без труда может превратить это качественное превосходство в количественное. Данный процесс имеет как научно-технический, так и социальный аспект. Если первый связан с довольно простыми формулами экспоненциального роста числа бактерий, транзисторов на чипе или массы черной дыры, то второй связан с явной неспособностью человеческой цивилизации адекватно предвидеть свое будущее в условиях быстрых изменений.
|
|
Примеры:
1. ИИ – неограниченное самоусиление.
2. Нанороботы – неограниченная саморепликация, серая слизь.
3. Биологическое оружие – неограниченное размножение вируса или бактерии.
4. Чёрная дыра в коллайдере – неограниченное поглощение материи; фазовый переход ложного вакуума.
5. Коллапс сверхновой звезды (гамма-всплеск).
6. Распространение SETI-атаки по Вселенной.
7. Взрыв ядерной бомбы (цепная реакция).
8. Глобальное потепление, приводящее к высвобождению метана и двуокиси углерода из болот.
9. Старение.
Социальные явления:
1. Самоускоряющийся технологический прогресс
2. Гонка вооружений. (Но в ходе холодной войны она достигла своего естественного порога в виде надрыва СССР)
3. Рост численности населения
4. Исчерпание ресурсов
5. Распространение оружия массового поражения и опасных знаний.