Споры о глобальных рисках не рождают истину

Дискуссии между людьми обычно приводят к поляризации мнений. Человек, который сначала имел две гипотезы, и приписывал им равные вероятности, редуцирует свою позицию до одной гипотезы, противоположной гипотезе оппонента. Таким образом, он сужает своё представление о возможном будущем. Подробнее см. статью Юдковски об оценке рисков [Yudkowsky 2008a].

Навык ведения споров вреден.

Как я уже говорил в предисловии, Юдковски подчёркивает, что навык ведения споров вреден, так как позволяет переспорить любого оппонента, не вникая по существу в его позицию. Особенно опасно применение данного списка когнитивных искажений для того, чтобы обвинять в них оппонента. Это может привести к интеллектуальной слепоте.

Желание смерти.

Фрейд высказал идею о Танатосе, стремлении к смерти, которое есть у каждого. Подобные идеи высказывались и другими учёными. Это желание может неосознанно влиять на человека, заставляя его недооценивать или переоценивать риски или стремиться к ним. Можно предположить, что любой, кто отвергает идею жить 1000 лет, испытывает определённое стремление к смерти. Это может подталкивать человека к бессознательному выбору стратегий поведения, ведущих к глобальным рискам.

Консервативность мышления, связанная с естественным отбором наиболее устойчивых систем мировоззрения.

Ч. Докинз, автор книги «Эгоистичный ген» [Докинз 2005], рассматривает каждую отдельную идею, циркулирующую в обществе, в качестве репликатора, способного к разной скорости самораспространения, и называет подобные идеи мемами (meme). Чтобы защитится от мемов, человеческое сознание вынуждено вырабатывать своеобразную «иммунную систему», одним из наиболее эффективных вариантов которой является система «отбрасывай всё новое». История полна примерами того, как очевидно полезные новые идеи отвергались без видимых причин в течение длительного периода. Например, от предложения использовать закись азота для анестезии в хирургии в конце XVIII века до начала реального применения в 1840-е годы прошло почти 50 лет, то же самое касается и правила мыть руки перед операциями. Однако в наш век перемен нужно очень гибкое и свободное мышление, чтобы учесть и принять всерьёз все варианты глобальных рисков.