Структура глобальной катастрофы

вышла на бумаге:
http://urss.ru/cgi-bin/db.pl?lang=Ru&blang=ru&page=Book&id=69713

последняя версия в виде док файла:
http://www.scribd.com/doc/7529531/-
http://avturchin.narod.ru/sgk31short.doc
Мой новый сайт, на котором есть вся
информация по рискам вымирания человечества: http://www.humanextinction.ru/
английский перевод этой книги:
STRUCTURE OF THE GLOBAL CATASTROPHE Risks of human extinction in the XXI century http://www.scribd.com/doc/6250354/

А. В. Турчин
СТРУКТУРА ГЛОБАЛЬНОЙ КАТАСТРОФЫ
Риски вымирания человечества в XXI веке


Предисловие Г. Г. Малинецкого
Вводное слово Н. Бострома

Проект
Российского Трансгуманистического Движения


Москва
УРСС
2010

СЕРИЯ «ДИАЛОГИ О БУДУЩЕМ»
Т.2
Ответственные редакторы:
И. В. Следзевский
Валерия Прайд
Редактор: Е. Медведева

Рецензенты:
Д.п.н. А. П. Назаретян
Д.г.н. Л. Я. Аранович
Д.ф.н. В. И. Аршинов

Книга «Структура глобальной катастрофы» А.В. Турчина представляет собой научное исследование рисков вымирания человечества в XXI веке. Помимо рассмотрения самих сценариев катастрофы, упор сделан на сложное системное взаимодействие разных глобальных рисков в пределах одного исторического периода. Рассмотрены все основные пути предотвращения глобальных рисков и способов оценки их вероятности. Вторая часть книги посвящена разбору когнитивных искажений, могущих влиять на оценку рисков глобальной катастрофы, как отдельными исследователями, так и обществом в целом. В результате делается вывод о высокой вероятности глобальных катастроф в ближайшем столетии, отягощенной высокой степенью их недооценки. Благодаря своей полноте охвата, книга может служить в качестве аннотированного справочника по разным глобальным рискам.
На обложке – рисунок Дюрера, изображающий его сон о великом потопе.
Содержание
Г. Г. МАЛИНЕЦКИЙ. РАЗМЫШЛЕНИЯ О НЕМЫСЛИМОМ 10
Н. БОСТРОМ. ВВОДНОЕ СЛОВО 23
ПРЕДИСЛОВИЕ 24
ТЕРМИНЫ 29
ВВЕДЕНИЕ 30
ЧАСТЬ 1. АНАЛИЗ РИСКОВ 32
ГЛАВА 1. ОБЩИЕ ЗАМЕЧАНИЯ 32
ГЛАВА 2. АТОМНОЕ ОРУЖИЕ 57
ГЛАВА 3. ГЛОБАЛЬНОЕ ХИМИЧЕСКОЕ ЗАРАЖЕНИЕ 72
ГЛАВА 4. БИОЛОГИЧЕСКОЕ ОРУЖИЕ 76
ГЛАВА 5. СУПЕРНАРКОТИК И ДРУГИЕ РИСКИ, СВЯЗАННЫЕ С ВОЗДЕЙСТВИЕМ НА ЧЕЛОВЕКА 83
ГЛАВА 6. ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ 90
ГЛАВА 7. РИСКИ, СВЯЗАННЫЕ С РОБОТАМИ И НАНОТЕХНОЛОГИЯМИ 103
ГЛАВА 8. ТЕХНОЛОГИЧЕСКИЕ СПОСОБЫ ПРОВОЦИРОВАНИЯ ПРИРОДНЫХ КАТАСТРОФ 109
ГЛАВА 9. ТЕХНОЛОГИЧЕСКИЕ РИСКИ, СВЯЗАННЫЕ С ПРИНЦИПИАЛЬНО НОВЫМИ ОТКРЫТИЯМИ 113
ГЛАВА 10. РИСКИ, СОЗДАВАЕМЫЕ КОСМИЧЕСКИМИ ТЕХНОЛОГИЯМИ 117
ГЛАВА 11. РИСКИ, СВЯЗАННЫЕ С ПРОГРАММОЙ SETI 121
ГЛАВА 12. РИСКИ, СВЯЗАННЫЕ С ПРИРОДНЫМИ КАТАСТРОФАМИ 123
ГЛАВА 13. КРАЙНЕ МАЛОВЕРОЯТНЫЕ ПРИРОДНЫЕ РИСКИ 138
ГЛАВА 14. ПРИРОДНЫЕ КАТАСТРОФЫ И ЭФФЕКТ НАБЛЮДАТЕЛЬНОЙ СЕЛЕКЦИИ 142
ГЛАВА 15. ГЛОБАЛЬНОЕ ПОТЕПЛЕНИЕ 144
ГЛАВА 16. АНТРОПОГЕННЫЕ РИСКИ, НЕ СВЯЗАННЫЕ С НОВЫМИ ТЕХНОЛОГИЯМИ 147
ГЛАВА 17. СПОСОБЫ ОБНАРУЖЕНИЯ ОДНОФАКТОРНЫХ СЦЕНАРИЕВ ГЛОБАЛЬНОЙ КАТАСТРОФЫ 153
ГЛАВА 18. МНОГОФАКТОРНЫЕ СЦЕНАРИИ 160
ГЛАВА 19. СОБЫТИЯ, ИЗМЕНЯЮЩИЕ ВЕРОЯТНОСТЬ ГЛОБАЛЬНОЙ КАТАСТРОФЫ 181
ГЛАВА 20. КАТАСТРОФЫ, ВЛИЯЮЩИЕ НА СКОРОСТЬ ПРОГРЕССА 208
ГЛАВА 21. ЗАЩИТА ОТ ГЛОБАЛЬНЫХ РИСКОВ 211
ГЛАВА 22. НЕПРЯМЫЕ СПОСОБЫ ОЦЕНКИ ВЕРОЯТНОСТИ ГЛОБАЛЬНОЙ КАТАСТРОФЫ 244
ГЛАВА 23. НАИБОЛЕЕ ВЕРОЯТНЫЕ СЦЕНАРИИ ГЛОБАЛЬНОЙ КАТАСТРОФЫ 259
ЧАСТЬ 2. КОГНИТИВНЫЕ ИСКАЖЕНИЯ В ОЦЕНКЕ ГЛОБАЛЬНЫХ РИСКОВ 263
ГЛАВА 1. ОБЩИЕ ЗАМЕЧАНИЯ. ОШИБКА КАК ИНТЕЛЛЕКТУАЛЬНАЯ КАТАСТРОФА 263
ГЛАВА 2. ОШИБКИ, ВОЗМОЖНЫЕ ТОЛЬКО ОТНОСИТЕЛЬНО УГРОЗ СУЩЕСТВОВАНИЮ ЧЕЛОВЕЧЕСТВА 266
ГЛАВА 3. КАК КОГНИТИВНЫЕ ИСКАЖЕНИЯ, КОТОРЫЕ МОГУТ КАСАТЬСЯ ЛЮБЫХ ПРОБЛЕМ, ВЛИЯЮТ НА ОЦЕНКУ ГЛОБАЛЬНЫХ РИСКОВ 276
ГЛАВА 4. ВОЗМОЖНЫЕ ОБЩЕЛОГИЧЕСКИЕ ОШИБКИ В РАССУЖДЕНИЯХ О ГЛОБАЛЬНЫХ РИСКАХ 299
ЗАКЛЮЧЕНИЕ. ПЕРСПЕКТИВЫ ПРЕДОТВРАЩЕНИЯ ГЛОБАЛЬНЫХ КАТАСТРОФ 308
ЛИТЕРАТУРА 309

 

Contents
Г. Г. МАЛИНЕЦКИЙ. РАЗМЫШЛЕНИЯ О НЕМЫСЛИМОМ 4
1. Глобальная неустойчивость 5
2. Психологический дискурс 7
3. Проблема инструмента 10
4. В погоне за предвестниками 13
Н. БОСТРОМ. ВВОДНОЕ СЛОВО 17
ПРЕДИСЛОВИЕ 18
ТЕРМИНЫ 21
ВВЕДЕНИЕ 22
ЧАСТЬ 1. АНАЛИЗ РИСКОВ 24
ГЛАВА 1. ОБЩИЕ ЗАМЕЧАНИЯ 24
1.1 Пространство возможностей 24
1.2 Рассматриваемый промежуток времени: XXI век 24
1.3 Проблемы вычисления вероятностей различных сценариев 26
1.4 Количественные оценки вероятности глобальной катастрофы, даваемые различными авторами 38
1.5 Глобальные катастрофы и горизонт прогнозирования 39
1.6 Краткая история исследований вопроса 40
1.7 Угрозы менее масштабных катастроф: уровни возможной деградации 46
1.8 Однофакторные сценарии глобальной катастрофы 48
1.9 Принципы классификации глобальных рисков 48
ГЛАВА 2. АТОМНОЕ ОРУЖИЕ 49
2.1 «Ядерная зима» 50
2.2 Полное радиоактивное заражение 54
2.3 Иные опасности атомного оружия 56
2.4 Интеграция поражающих факторов ядерного оружия 59
2.5 Стоимость создания ядерного потенциала, могущего угрожать выживанию человеческой цивилизации 59
2.7 Изменение вероятности глобальной катастрофы, вызванной ядерным оружием, с течением времени 62
2.8 Стратегия сдерживания под вопросом 62
2.9 Ядерный терроризм как фактор глобальной катастрофы 63
2.10 Выводы по рискам применения ядерного оружия 63
ГЛАВА 3. ГЛОБАЛЬНОЕ ХИМИЧЕСКОЕ ЗАРАЖЕНИЕ 64
ГЛАВА 4. БИОЛОГИЧЕСКОЕ ОРУЖИЕ 68
4.1 Общие соображения и основные сценарии 68
4.2 Структура биологической катастрофы 70
4.3 «Саморазмножающейся» синтезатор ДНК 71
4.4 Множественный биологический удар 72
4.5 Биологические средства доставки 72
4.6 Вероятность применения биологического оружия и её распределение во времени 73
ГЛАВА 5. СУПЕРНАРКОТИК И ДРУГИЕ РИСКИ, СВЯЗАННЫЕ С ВОЗДЕЙСТВИЕМ НА ЧЕЛОВЕКА 75
5.1. Воздействие на центр удовольствия и новые технологии 75
5.2 Риски, связанные с самокопирующимися идеями (мемами) 77
5.3 Риски, связанные с размыванием границ между человеческим и нечеловеческим 79
5.4 Риски, связанные с проблемой «философского зомби» 79
5.5 Утрата интереса к жизни и кризисы, заложенные в самой природе разума 80
5.6 Генетическая деградация человека 82
5.7 Ошибочные решения правительств 82
ГЛАВА 6. ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ 82
6.1. Общее описание проблемы 82
6.2 ИИ как универсальное абсолютное оружие 85
6.3 Система целей 86
6.4 Борьба ИИ-проектов между собой 86
6.5 «Усовершенствованный человек» 87
6.6 ИИ и его отдельные экземпляры 87
6.7 «Бунт» ИИ 87
6.8 Скорость старта 88
6.9 Сценарии «быстрого старта» 88
6.10 Медленный старт и борьба разных ИИ между собой 89
6.11 Плавный переход. Превращение государства тотального контроля в ИИ 89
6.12 «Восстание» роботов 90
6.13 Контроль и возможность истребления 91
6.14 ИИ и государства 91
6.15 Вероятность катастрофы, связанной с ИИ 92
6.16 Типы враждебного ИИ 93
6.17 Другие риски, связанные с компьютерами 94
6.18 Время возникновения ИИ 94
ГЛАВА 7. РИСКИ, СВЯЗАННЫЕ С РОБОТАМИ И НАНОТЕХНОЛОГИЯМИ 95
7.1 Проблема создания микроскопических роботов и нанотехнологии 95
7.2 Робот-распылитель 96
7.3 Самовоспроизводящийся робот 97
7.4 Стая микророботов 97
7.5 Армии крупных боевых роботов, выходящие из-под контроля 98
7.6 Миниатюризация роботов – путь к нанотехнологическому оружию 98
7.7 Неограниченное распространение самовоспроизводящихся нанороботов 99
7.8 Вероятность возникновения нанороботов и возможное время осуществления этого события 101
ГЛАВА 8. ТЕХНОЛОГИЧЕСКИЕ СПОСОБЫ ПРОВОЦИРОВАНИЯ ПРИРОДНЫХ КАТАСТРОФ 101
8.1 Искусственная инициация термоядерной детонации Земли и других небесных тел 101
8.2 Отклонение астероидов 102
8.3 Создание искусственного сверхвулкана 103
8.4 Намеренное разрушение озонового слоя 105
ГЛАВА 9. ТЕХНОЛОГИЧЕСКИЕ РИСКИ, СВЯЗАННЫЕ С ПРИНЦИПИАЛЬНО НОВЫМИ ОТКРЫТИЯМИ 105
9.1 Неудачный физический эксперимент 105
9.2 Новые виды оружия, новые источники энергии, новые среды распространения и способы дальнодействия 108
ГЛАВА 10. РИСКИ, СОЗДАВАЕМЫЕ КОСМИЧЕСКИМИ ТЕХНОЛОГИЯМИ 109
10.1 Гипотетические виды космического оружия 109
10.2 Ксенобиологические риски 109
10.3 Столкновение с превосходящими нас разумными силами во Вселенной 110
ГЛАВА 11. РИСКИ, СВЯЗАННЫЕ С ПРОГРАММОЙ SETI 113
ГЛАВА 12. РИСКИ, СВЯЗАННЫЕ С ПРИРОДНЫМИ КАТАСТРОФАМИ 115
12.1 Вселенские катастрофы 115
12.2 Геологические катастрофы 117
12.3 Извержения сверхвулканов 117
12.4 Падение астероидов 118
12.5 Зона поражения в зависимости от силы взрыва 121
12.6 Солнечные вспышки и увеличение светимости 122
12.7 Гамма-всплески 124
12.8 Сверхновые звёзды 126
12.9 Сверх-цунами 126
12.10 Сверхземлетрясение 127
12.11 Переполюсовка магнитного поля Земли 127
12.12 Возникновение новой болезни в природе 128
12.13 Разрушение озонового слоя 129
ГЛАВА 13. КРАЙНЕ МАЛОВЕРОЯТНЫЕ ПРИРОДНЫЕ РИСКИ 130
13.1 Неизвестные процессы в ядре Земли 130
13.2 Внезапная дегазация растворённых в мировом океане газов 131
13.3 Нарушение стабильности Земной атмосферы 132
13.4 Взрывы других планет Солнечной системы 132
13.5 Гравитационные возмущения от гипотетических небесных тел 133
13.6 Ложные и опровергнутые теории глобальных катастроф 133
ГЛАВА 14. ПРИРОДНЫЕ КАТАСТРОФЫ И ЭФФЕКТ НАБЛЮДАТЕЛЬНОЙ СЕЛЕКЦИИ 134
14.1 Прекращение действия «защиты», которую нам обеспечивал антропный принцип 134
14.2 Ослабление устойчивости природных процессов и человеческие вмешательства 136
ГЛАВА 15. ГЛОБАЛЬНОЕ ПОТЕПЛЕНИЕ 136
ГЛАВА 16. АНТРОПОГЕННЫЕ РИСКИ, НЕ СВЯЗАННЫЕ С НОВЫМИ ТЕХНОЛОГИЯМИ 139
16.1 Исчерпание ресурсов 139
16.2 Перенаселение 140
16.3 Крах биосферы 141
16.4 Социально-экономический кризис. Война 142
16.5 Генетическая деградация и ослабление фертильности (способности к размножению) 142
16.6 Старение вида 143
16.7 Вытеснение другим биологическим видом 143
16.8 Неизвестные нам сейчас причины катастроф 144
ГЛАВА 17. СПОСОБЫ ОБНАРУЖЕНИЯ ОДНОФАКТОРНЫХ СЦЕНАРИЕВ ГЛОБАЛЬНОЙ КАТАСТРОФЫ 145
17.1 Общие признаки любого опасного агента 145
17.2 Способы возникновения 145
17.3 Выход из точки и начало распространения 146
17.4 Распространение важнее разрушения 146
17.5 Способ распространения 147
17.6 Способ причинения смерти 148
17.7 Типичные виды разрушающего воздействия 148
17.8 Временная структура события 149
17.9 Предаварийные ситуации 150
17.10 Намеренная и случайная глобальная катастрофа 150
17.11 Машина судного дня 151
ГЛАВА 18. МНОГОФАКТОРНЫЕ СЦЕНАРИИ 152
18.1 Интеграция различных технологий, создающих ситуации риска 152
18.2 Парные сценарии 153
18.3 Изучение глобальных катастроф с помощью моделей и аналогий 155
18.4 Неизбежность достижения устойчивого состояния 157
18.5 Рекуррентные риски 158
18.6 Глобальные риски и проблема темпа их нарастания 159
18.7 Сравнительная сила разных опасных технологий 160
18.8 Последовательность возникновения различных технологий во времени 160
18.9 Сопоставление различных технологических рисков 161
18.10 Цели создания оружия судного дня 162
18.11 Социальные группы, готовые рискнуть судьбой планеты 165
18.12 Обобщающий коэффициент, связанный с человеческим фактором 166
18.13 Принятие решения о ядерном ударе 167
18.14 Цена вопроса 168
18.15 Универсальные причины вымирания цивилизаций 169
ГЛАВА 19. СОБЫТИЯ, ИЗМЕНЯЮЩИЕ ВЕРОЯТНОСТЬ ГЛОБАЛЬНОЙ КАТАСТРОФЫ 173
19.1 Определение и общие соображения 173
19.2 События, которые могут открыть окно уязвимости 174
19.3 Системные кризисы 175
19.4 Кризис кризисов 181
19.5 Технологическая Сингулярность 182
19.6 Перепотребление приводит к одновременному исчерпанию всех ресурсов 184
19.7 Системный кризис и технологические риски 185
19.8 Системный технологический кризис – наиболее вероятный сценарий глобальной катастрофы 186
19.9 Криптовойна 187
19.10 Уязвимость к сверхмалым воздействиям 187
19.11 Гонка вооружений 188
19.12 Моральная деградация 188
19.13 Враждебность в обществе как сценарный фактор 189
19.14 Месть как сценарный фактор 190
19.15 Война как сценарный фактор 190
19.16 Деградация биосферы 192
19.17 Глобальная дезинфекция 192
19.18 «Раскачивающее» управление 193
19.19 Контролируемый и неконтролируемый глобальный риск. Проблемы понимания глобального риска 193
19.20 Общие модели поведения систем на грани устойчивости 195
19.21 Гипотеза техногуманитарного баланса 195
19.22 Схемы сценариев 196
19.23 Степень мотивации и осведомлённости лиц, принимающих решения, как факторы глобального риска 196
19.24 Означает ли крах технологической цивилизации вымирание людей? 198
ГЛАВА 20. КАТАСТРОФЫ, ВЛИЯЮЩИЕ НА СКОРОСТЬ ПРОГРЕССА 199
20.1 Влияние катастроф на скорость развития 199
20.2 Закон Мура 200
ГЛАВА 21. ЗАЩИТА ОТ ГЛОБАЛЬНЫХ РИСКОВ 203
21.1 Общее понятие о предотвратимости глобальных рисков 203
21.2 Активные щиты 204
21.3 Действующие и будущие щиты 206
21.4 Сохранение мирового баланса сил 208
21.5 Возможная система контроля над глобальными рисками 208
21.6 Сознательная остановка технологического прогресса 209
21.7 Средства превентивного удара 210
21.8 Удаление источников рисков на значительное расстояние от Земли 211
21.9 Создание автономных поселений в отдалённых уголках Земли 212
21.10 Создание досье на глобальные риски и рост общественного понимания связанной с ними проблематики 212
21.11 Убежища и бункеры 212
21.12 Опережающее расселение в космосе 215
21.13 «Всё как-нибудь обойдётся» 220
21.14 Деградация цивилизации до уровня устойчивого состояния 220
21.15 Предотвращение одной катастрофы с помощью другой 221
21.16 Опережающая эволюция человека 221
21.17 Возможная роль международных организаций в предотвращении глобальной катастрофы 221
21.18 Бесконечность Вселенной и вопрос об окончательности человеческого вымирания 223
21.19 Предположения о том, что мы живём в «Матрице» 224
21.20 Глобальные катастрофы и устройство общества 225
21.21 Глобальные катастрофы и текущая ситуация в мире 227
21.22 Мир после глобальной катастрофы 228
21.23 Мир без глобальной катастрофы: наилучший реалистичный вариант предотвращения глобальных катастроф 229
21.24 Максимизация функции удовольствия 229
21.25.  Применение новых технологий для уменьшения последствий катастроф 230
ГЛАВА 22. НЕПРЯМЫЕ СПОСОБЫ ОЦЕНКИ ВЕРОЯТНОСТИ ГЛОБАЛЬНОЙ КАТАСТРОФЫ 230
22.1 Принцип Парето 230
22.2 Гипотеза о «Чёрной королеве» 232
22.3 Парадокс Ферми 232
22.4 Доказательство Конца Света – «Doomsday argument». Формула Готта 235
22.5 Рассуждение о конце света Картера-Лесли 237
22.6 Непрямая оценка вероятности природных катастроф 239
22.7 Рассуждение о Симуляции 241
22.8 Интеграция различных непрямых оценок 243
ГЛАВА 23. НАИБОЛЕЕ ВЕРОЯТНЫЕ СЦЕНАРИИ ГЛОБАЛЬНОЙ КАТАСТРОФЫ 246
ЧАСТЬ 2. КОГНИТИВНЫЕ ИСКАЖЕНИЯ В ОЦЕНКЕ ГЛОБАЛЬНЫХ РИСКОВ 250
ГЛАВА 1. ОБЩИЕ ЗАМЕЧАНИЯ. ОШИБКА КАК ИНТЕЛЛЕКТУАЛЬНАЯ КАТАСТРОФА 250
ГЛАВА 2. ОШИБКИ, ВОЗМОЖНЫЕ ТОЛЬКО ОТНОСИТЕЛЬНО УГРОЗ СУЩЕСТВОВАНИЮ ЧЕЛОВЕЧЕСТВА 253
ГЛАВА 3. КАК КОГНИТИВНЫЕ ИСКАЖЕНИЯ, КОТОРЫЕ МОГУТ КАСАТЬСЯ ЛЮБЫХ ГЛОБАЛЬНЫХ РИСКОВ, ВЛИЯЮТ НА ИХ ОЦЕНКУ 264
ГЛАВА 4. ВОЗМОЖНЫЕ ОБЩЕЛОГИЧЕСКИЕ ОШИБКИ В РАССУЖДЕНИЯХ О ГЛОБАЛЬНЫХ РИСКАХ 290
ЗАКЛЮЧЕНИЕ. ПЕРСПЕКТИВЫ ПРЕДОТВРАЩЕНИЯ ГЛОБАЛЬНЫХ КАТАСТРОФ 299
ЛИТЕРАТУРА 300


Г. Г. Малинецкий . Размышления о немыслимом

Завидую Прусту. Упиваясь прошлым, он опирался на весьма прочную основу: вполне надежное настоящее и неоспоримое будущее. Но для нас прошлое стало прошлым вдвойне, время вдвойне утрачено, потому что вместе со временем мы утратили и самый мир, в котором текло это время. Произошёл обрыв. Поступательное движение веков прервалось. И нам уже неведомо, когда, в каком веке мы живем и будет ли у нас хоть какое-то будущее.
Р. Мерль. «Мальвиль»
Картина, нарисованная мною, не обязательно должна быть картиной полного уныния: ведь неизбежных катастроф, возможно, и нет. И, конечно, шансов избежать катастрофы становится больше, если мы смело посмотрим катастрофе в лицо и оценим её опасность.
А. Азимов. «Выбор катастроф»
Такая книга должна была появиться. Её время пришло. Хорошо было бы, чтобы она была написана лет на 20 раньше. Но прошлого уже не изменишь, а о будущем надо думать, проектировать его и осмысливать его опасности, риски и угрозы.
Эта книга находится на грани между обзором работ, посвященных сценариям глобальной катастрофы, выполненным в мире, между футурологическим исследованием и методологическим анализом существующих подходов. Автор книги – Алексей Турчин – стремится к объективному анализу, к научности, к целостному осмыслению глобальных рисков. Безусловным достоинством книги является её интеллектуальная честность, стремление к чёткому разделению фактов, результатов, гипотез, сомнений, домыслов.
Наверно, у многих читателей возникнет естественный вопрос, как соотносится предпринятое исследование с конкретными работами по управлению рисками и проектированию будущего, которые активно ведутся в России и во всем мире. О «мостике», соединяющим анализ гипотетических катастроф и работы по прогнозированию и предупреждению реальных аварий, бедствий, чрезвычайных ситуаций, наверно, и стоит сказать в предисловии к этой книге.
1. Глобальная неустойчивость
…макросдвиг – это трансформация цивилизации, в которой движущей силой является технология, а запускается сдвиг наличием критической массы людей, осознавших необходимость обновления системы ценностей.
Э. Ласло. «Макросдвиг»
Вероятно, именно сейчас человечество делает самый важный и значимый выбор в своей истории. В теории самоорганизации – синергетике (дословно, теории совместного действия) – есть принципиально важное понятие бифуркация. Слово пришло из французского языка, где означает раздвоение, ветвление. Бифуркацией называют изменение числа или устойчивости решений определенного типа при изменении параметра.
В нашем случае параметром является время (точнее, историческое «медленное время», как назвал его выдающийся французский историк Фернан Бродель). «Решение» – это важнейшие количественные параметры, характеризующие жизнеустройство нашей цивилизации. И в течение жизни одного поколения предыдущая траектория развития теряет устойчивость.
Очевидное свидетельство этому – технологический предел, к которому подошла цивилизация. По оценкам экологов, если весь мир сегодня начал бы жить по стандартам Калифорнии, то всех разведанных запасов полезных ископаемых хватит по одним видам на 2,5 года, по другим на 4. Человечество живет не по средствам – за год оно потребляет такое количество углеводородов, на создание которого у природы уходило более 2 миллионов лет. Несколько лет назад был пройден важный рубеж – более трети нефти начало добываться на шельфе и с океанических глубин. Бразильские и американские кампании начали бурить в море на глубинах 2,5 километра. То, до чего легко было дотянуться, уже освоено или исчерпано.
Наука ХХ века не решила задачу производства необходимого количества дешёвой чистой энергии и её эффективного аккумулирования. Наглядное свидетельство нынешнего мирового нефтяного кризиса рост цен на нефть с 7 (несколько десятилетий назад) до 140 долларов за баррель. То же касается производства продовольствия, сценариев экономического развития, обостряющихся проблем глобализации . Становится очевидным, что прежняя траектория развития человечества потеряла устойчивость. И надо осознанно и разумно выбирать новую траекторию, либо обстоятельства выберут её за нас.
В синергетике показано, что вблизи точки бифуркации имеет место неустойчивость. И малые причины могут иметь большие следствия. Мы видим множество признаков неустойчивости современной реальности. Неустойчивости всегда были спутником развития человечества.
Неустойчивости, как показывает синергетика, носят разный характер. Например, в линейных системах они развиваются по экспоненциальному закону или, что то же самое, по геометрической прогрессии – в одинаковое число раз за одинаковое время. Простейший пример такого роста дает уравнение Мальтуса.
. (1)
По предположению английского священника и профессора Ост-Индийской компании Томаса Мальтуса (1766-1834), по этому закону растет численность всех видов, включая человека. Из школьной математики известно решение этого уравнения N(t) = N0•exp(;t). Если увеличить начальные данные вдвое, то и решение возрастет вдвое: отклик, пропорциональный воздействию – общая черта всех линейных систем.
Это очень «быстрый» закон. В соответствии с ним, например, с 1960-х годов, развивается компьютерная индустрия. Там он называется закон Мура: каждые 18 месяцев степень интеграции элементов микросхемы (а с ней и быстродействие компьютеров) удваивается.
Однако есть и ещё более быстрые законы, характерные для нелинейных систем, например, систем с положительной обратной связью. В них отклонение вызывает реакцию системы, увеличивающую отклонение, увеличивающую более сильно, чем в уравнении (1).
Такую неустойчивость, например, описывает уравнение (2)
. (2)
Но закон роста здесь совсем другой
. (3)
Здесь имеет место режим с обострением , когда исследуемая величина неограниченно возрастает за ограниченное время tf, которое само зависит от начальных данных tf = 1 / ;N0.
Всё это не является математическим упражнением, а имеет непосредственное отношение к нашему настоящему и будущему. Исследования последних десятилетий ХХ века, данные палеодемографов, показали, что именно по закону (2), а не по закону (1) росла численность человечества на протяжении двух миллионов лет, и определили момент обострения tf ; 2025 год.
Закон (3) описывает сингулярность (особенность). Специалисты по прогнозированию связывают с сингулярностью гипотетическую точку во времени вблизи 2030 года, в которой ряд прогностических кривых уходят в бесконечность. Многие эксперты связывают его с взрывным развитием технического прогресса, в особенности информационно-телекоммуникационных, нано-, био- и когнитивных технологий (английское сокращение NanoBioInfoCogno – NBIC), с качественным изменением человечества.
Будем рассуждать как реалисты, твердо стоящие на Земле. Нас не может быть бесконечно много. Поэтому закон (3), гиперболический рост численности человечества – главная пружина истории на протяжении многих веков – должен измениться. И это происходит. Происходит в последние 20 лет – на протяжении жизни одного поколения. Речь идет об изменении алгоритмов развития цивилизации. Самое близкое по масштабу событие – неолитическая революция, в результате которой человечеству удалось перейти от охоты и собирательства к земледелию и к скотоводству. По оценкам ряда экспертов, в ходе этой революции численность человечества уменьшилась почти в 10 раз.
Человечеству и науке брошен вызов, сравнимого с которым ещё не было. Состояние ресурсов, биосферы, общества заставляет нас в очень короткий срок 15-20 лет обновить или радикально изменить весь набор жизнеобеспечивающих технологий (энергетика, производство продовольствия, транспорт, управление обществом и многое другое).
По сути, речь идет о типе бифуркации. В синергетике различают мягкие бифуркации, при прохождении которых возникшие траектории лежат в окрестности прежней, потерявшей устойчивость. И далее постепенно, эволюционно удаляются от неё при изменении параметра. Делается важный и ответственный выбор, суть и значение которого выясняется позже, однако развитие идёт эволюционно. Это вариант будущего, который предвидит профессор С. П. Капица.
Но бывают и жесткие бифуркации, когда близкой ветви нет и, скажем, происходит переход на другую, достаточно далёкую от предыдущей ветвь. Это революционное событие. Не хочется думать, что это ждёт человечество в ближайшие десятилетия, но и исключать такого варианта нельзя. И здравый смысл подсказывает, что, надеясь на лучшее, следует рассчитывать на худшее и, конечно, всерьёз размышлять о нем.
Это и является лейтмотивом книги А. В. Турчина. По сути, она является первой научной (насколько это возможно при анализе трагического, невиданного, никогда не происходившего) работой, посвященной данному кругу проблем. Обсуждаемое направление мысли уже несколько десятилетий развивается на Западе. Соответствующие работы публикуются во многих авторитетных научных журналах, в частности, в Nature. Естественно познакомить с этим направлением поисков, которое может оказаться очень важным («кто предупрежден, тот вооружен») и отечественного читателя.
В точке бифуркации очень велика неопределенность. И обещания светлого будущего соседствует с апокалиптическими сценариями. Но и те, и другие гипотезы должны быть предметом серьёзного обсуждения и анализа. Автор весьма добросовестно подошёл к проблеме. Он обладает отличной логикой, огромной эрудицией, хорошим стилем и прекрасной способностью к классификации. Тем не менее, свою книгу он называет дискуссионной. Местоимение «я» появляется на её страницах гораздо чаще, чем это принято в научной литературе. Думаю, что и это стремление взять на себя ответственность за сделанные утверждения заслуживает уважения.
2. Психологический дискурс
Всё, всё, что гибелью грозит,
Для сердца смертного таит
Неизъяснимы наслажденья –
Бессмертья, может быть, залог!
И счастлив тот, кто средь волненья
Их обретать и ведать мог.
А.С. Пушкин
Страх вообще и страх смерти в частности, является важным компонентом индивидуального и коллективного сознания. Место, которое он занимает, зависит от состояния личности и общества. В эпохи перемен, нестабильности, неуверенности это место становится очень большим. Об этом можно судить по рубежу ХХ века в России – мода на медиумов, мистику, богоискательство и богостроительство, Григорий Распутин у вершин власти. Алексей Турчин не случайно приводит в качестве эпиграфа слова из спектакля, который ставили дачники в чеховской «Чайке». Это слова о конце времен, когда на Земле уже не осталось ничего живого. Проблема смерти и бессмертия – стержень любого религиозного мировоззрения.
Переломный период, время выбора и неуверенности в будущем переживает сейчас наша цивилизация. Проект Модерна, связанный с надеждами на технический прогресс, способный качественно улучшить жизнь людей, на более эффективное, разумное и справедливое жизнеустройство, на культурное развитие, на становление научного мировоззрения испытывает глубокий кризис. Ему противостоят Постмодерн, постулирующий множественность смыслов, ценностей, познавательных практик, типов общества и отрицающий элемент объективности, необходимый для сравнения, а также саму возможность диалога культур, цивилизаций, школ. Наука в постмодернистской традиции оказывается на одной доске с религиозными сектами, медиумами, экстрасенсами. Философия, служившая в Новое время опорой развития, начинает расшатывать основы мироустройства. «… смерть Бога обращает нас не к ограниченному позитивному миру, она обращает нас к тому миру, что распускает себя в опыте предела, в акте эксцесса, излишества, злоупотребления, преодолевающих этот предел, переступающих через него, нарушающих его», – пишет один из классиков философии постмодернизма М. Фуко о фундаментальной метафоре этого направления – «смерти Бога».
С другой стороны, проект Модерна атакует Контрмодерн, связанный с возвратом к религиозной традиции, с фундаментализмом, с отказом от ряда возникших в ходе реализации проекта Модерн моральных и нравственных норм, многих достижений культуры. Место науки в мировоззрении занимает мистика, магия, религия. Поэтому при таком социально-психологическом фоне даже обсуждать вопросы, рассматриваемые в книге, очень нелегко. И поэтому А.В. Турчин выбрал рациональную, нарочито-суховатую форму обзора, лишенную эмоциональной окраски. И это представляется очень разумным.
Очевидно, есть две реакции на такого рода тексты. Первый – это общая, на уровне обыденного сознания реакция недоверия. Приведу пример такого рассуждения: «почему страшилки так живучи? Ну ладно, ладно, инстинкт самосохранения… но ведь известно, что те угрозы, о которых говорят, и те угрозы, с которыми человек потом столкнется, существенно отличаются… Так почему же коллективное бессознательное не откорректирует отношение к пророчеству угроз? Да очень просто – не только письменная история пишется победителями. Они ещё и формируют коллективное бессознательное… Вот так-то и корректируется архетип – несбывшиеся ужасы забываются, а любовь к страшилкам – живет» . Замечу в скобках, что для того, чтобы многие ужасы не сбылись, потребовались в ряде случаев громадные средства и усилия очень многих людей.
Оборотная сторона этой медали – попытки решить сущностные, социальные, психологические, мировоззренческие вопросы технологическими средствами. Здесь можно привести в пример проекты радикального продления жизни (с помощью стволовых клеток, микророботов или как-то иначе), крионику (замораживание после смерти, в надежде, что потомки займутся оживлением, лечением и т.д.), многие инициативы трансгуманистического движения. Например, один из активистов этого движения, сотрудник Института системного анализа РАН А. А. Кононов предложил заключить договор с потомками: «Это будет договор между поколениями! Мы напишем в договоре, что работали ради прогресса, двигали технологии воскрешения, и потомки нас воскресят.»
Мне доводилось быть на семинаре, где обсуждался проект Гечвок («Ковчег» наоборот), где рассматривалось создание городов на глубине многих километров под землей, которые пригодятся на случай столкновения Земли с гигантским астероидом…
Мне могут возразить, сказав, что мечтатели нужны, и даже привести в пример русского космиста Н. Ф. Федорова, автора философии Общего дела, связанной с воскрешением всех умерших людей, который оказал большое влияние на выдающихся ученых – отца космонавтики К. Э. Циолковского и основателя гелиобиологии А. Л. Чижевского. Мечтатели действительно нужны. А приведенное исключение только подтверждает правило – с какой же любовью и мудростью надо относится к людям, считая, что все они заслуживают воскрешения… И здесь тоже видно, что вначале стоят глубокие мировоззренческие вопросы, а потом исследования и технологии…
Наука также является частью культуры и, естественно, самым тесным образом оказывается связанной с другими частями, ощущая на себе дух времени.
Этот психологический феномен легко проследить на примере нескольких книг, связанных с очень далеким будущим и с глобальными угрозами, которые оно несет.
Библия научно – технической революции – «Сумма технологий» (начало 60-х годов) . Никаких сомнений в том, что удастся преодолеть все барьеры на пути технологического, социального, психологического развития и парировать все угрозы, которые могут возникнуть на этом бесконечном пути.
Выдающийся фантаст и популяризатор науки Айзек Азимов. Книга, посвященная
глобальным катастрофам: «Выбор катастроф» (конец ХХ века). Об этой книге прекрасно сказал её редактор, профессор С. А. Степанов: «это блестящая, спокойная, познавательная книга, тем не менее, принадлежит к той эпохе, которая уходит вместе с последним десятилетием ХХ столетия. Азимов – как фантаст и как популяризатор науки – воспитан столетиями гуманизма. Для него «естественный свет разума», помноженный на усилие гения, оказывается той силой, которая способна преобразовать и неведомые силы природы и неразумное начало в человеческом существе…
Скажи мне, чего ты боишься, и я скажу, кто ты. Человек гуманистической эпохи боится опасностей, на которые указывает ему здравый смысл: исчерпание природных ресурсов, плохое правительство, безумие ученых, обилие пятен на Солнце…
Для того, чтобы узнать, чего боится современный «человек с улицы», достаточно посмотреть фильмы, которые нравятся ему. Современный человек боится собственного бессознательного, невозможности исчерпывающего контроля внутренних своих начал. Он боится, что создаст существо, которое уничтожит его же самого (мутант, робот, суперкомпьютер). Он боится, что существует скрытая ложа космополитов, которая правит экономической и политической жизнью, придумав ради порабощения народных масс Интернет и СМИ. Он очень опасается зловредных пришельцев, исповедующих абсолютно другие ценности, чем человечество. Он не доверяет рациональным статистическим расчетам и предполагает, что Землю в ближайшем будущем ожидает столкновение с кометой…
Как назвать наступающую эпоху? Пусть об этом заботится эпоха следующая. Можно лишь предполагать, что грядущий век будет в чем-то ближе древнему восприятию мира c магическим отношением к реальности и мистическим ощущением присутствия Собеседника, предлагающего человеку загадки – одну интереснее другой».
Эта мода затронула и популяризаторов, и учёных. В США родился целый жанр литературы, посвященной тому, как будут с течением времени исчезать следы пребывания человека на Земле, если в один прекрасный день все люди исчезнут. Всерьёз обсуждаются проблемы, которые возникнут у космологов через 100 триллионов лет и проблемы финала: «Мы, Кросс и Шеррер считаем, что наблюдаемую Вселенную в далеком будущем ожидает коллапс в черную дыру, что в начале произойдет и с нашей Галактикой» .
3. Проблема инструмента
— Какая вероятность, что выйдя с экзамена Вы встретите динозавра?
— ;
— Почему?
— Потому что я его либо встречу, либо не встречу.
Из разговора на экзамене
Математика это язык. Но само употребление языка не гарантирует содержательности суждения, высказанного на этом языке. Математика – эффективный и ценный инструмент. Однако употреблять его следует разумно и по назначению.
Не исключением является и теория вероятности (создающая обманчивое впечатление простоты, очевидности и научности в массовом сознании). Употребление вероятностных аргументов и оценок в книге А. В. Турчина является одним из «дискуссионных» моментов. В самом деле, что такое вероятность? Если исходить из частной формулировки, то следует поставить N одинаковых экспериментов, в n которых произошло интересующее нас событие. В этом случае
(4)
Разумеется, у нас нет возможности поставить бесконечно много экспериментов, и мы должны судить о вероятности pn на основе М наблюдений, что дает приближенное значение этой величины p(M). И математическая теория показывает насколько p(M) будет близко к истинной вероятности.
Но ведь когда мы говорим о вероятности глобальных катастроф, которых, к счастью, пока не было, то пользоваться соотношением (4) или чем-то подобным просто нельзя. Здесь-то N = 0!
Нет пророка в своём отечестве, и поэтому обратимся к зарубежным пророкам, чтобы показать типичные пробелы в логике применения математического аппарата. Это формула Фрэнка Дрейка для числа внеземных цивилизаций (встречу с которыми А. В. Турчин, видимо, не без оснований относит к глобальным рискам).
, (5)
где N – число внеземных цивилизаций, R – число ежегодно образующихся звезд во вселенной, P – вероятность наличия звезды у планетной системы, Ne – вероятность того, что среди планет имеется планета земного типа, на которой возможно зарождение жизни, L – вероятность реального зарождения жизни на планете, C – вероятность того, что разумная жизнь пошла по пути технологического развития, разработала средства связи и желает вступить в контакт, T – усредненное время, на протяжении которого желающая вступить в контакт цивилизация посылает радиосигналы в космос.
По форме соотношение (5) выглядит вполне научно, а по сути является чистой воды фантастикой со своим сюжетом, предположениями и моралью. В этой формуле многовато неизвестных, значения которых в принципе непонятно, как могут быть определены.
Допустим величину R могут оценить астрофизики и космологи, хотя в контексте обнаруженного расширения вселенной с ускорением, темной материи и это неочевидный вопрос.
О величине P ещё недавно вообще ничего сказать было нельзя – не видели планет астрономы у звезд кроме Солнца. В последние десять с небольшим лет в астрономии произошла революция – планетные системы удалось разглядеть у сотни с лишним звезд. И вопросы о «земной группе», о «составе атмосферы» – это передний край науки, и пока тут тоже время для определенных суждений ещё не пришло.
Величина Ne исходит из допущения, совсем не очевидного, что для зарождения жизни нужна планета земной группы.
Вероятность реального зарождения жизни L… Многие исследователи полагают, что жизнь на Земле уникальна. Фрэнсис Крик (открывший двойную спираль ДНК) и ещё несколько нобелевских лауреатов считают, что жизнь вообще не могла зародиться на Земле и занесена к нам из космоса. Мне довелось участвовать в программе Президиума РАН, посвященной добиологической и ранним стадиям биологической эволюции (то есть происхождению жизни). И руководитель программы, академик Э. М. Галимов, поставил вопрос перед исследователями: «Каковы достаточные условия возникновения жизни?» Несмотря на серьёзные усилия многих ведущих специалистов, пока, судя по всему, эта задача ученым недоступна.
Об оценке двух остальных, ещё более экзотических слагаемых и речи нет.
Сильной стороной данной работы А. В. Турчина является серьёзное внимание к методологическим вопросам, им уделена довольно большая часть книги. И здесь, наверно, мне тоже стоит внести свою лепту. По-видимому, с понятием «вероятность» произошла аберрация восприятия. Поясню её на конкретном примере.
При оценке экономических, научно-технических, научно-технологических проектов, в том числе с высоким уровнем риска, начиная с XVI века, пользуются (вначале интуитивно, а затем и осознанно) формулой
, (6)
где S – ожидаемая полезность проекта; i – номер возможного сценария, по которому могут развиваться события; N – общее число рассматриваемых сценариев; pi – вероятность реализации i-го сценария; xi – прибыли или убытки в случае i-го сценария. И величина xi, и соответствующие вероятности – объективные величины, оцениваемые на основе предшествующего опыта. Актуарная математика создала соответствующие методики, и страховые компании ими пользуются. Это основа объективной оценки риска. (Проблемы, которые также рассматриваются в прикладной математике, связаны с анализом и модификацией формулы (6) в случае, когда S = ;. В случае глобальных рисков мы имеем дело именно с этой ситуацией, если в j-ом сценарии речь идет об уничтожении всего живого, то S =  ;).
Однако в ХХ веке при анализе поведения экономических агентов было выяснено, что люди, компании, государства, принимая решения, достаточно часто исходят из иного соотношения
, (7)
где М – число сценариев, принимаемых во внимание; gi(pi,xi) – субъективная вероятность, то есть представление лиц, принимающих решения, о вероятности i –го сценария; hi(pi,xi) – субъективная оценка прибылей и издержек в случае наступления i –го сценария.
Субъективная вероятность зависит от психологических установок руководителей, традиций, принятого законодательства и, во многом, её оценка парадоксальна. Например, психологические исследования показывают, что у большинства людей gi(pi,xi) = 0, если pi < 10 5, как бы не был велик ущерб. Иными словами, если, что-то случается с одним из 10 000, то человек обычно уверен, что с ним-то ничего подобного не произойдет . То есть, субъективная вероятность – «тень» объективной вероятности, её подобие, подчас весьма далекое от оригинала.
Однако, в последние десятилетия «субъективная вероятность» получила права гражданства и начала гулять по страницам монографий, учебников, научных журналов (формула Дрейка – наглядный пример). Вероятности глобальных катастроф, изучаемые в книге А. В. Турчина – это сплошь и рядом субъективные вероятности.
Эти величины – полезный инструмент для проведения социологических или социально-психологических исследований, для оценки пессимизма или оптимизма экспертов. Однако к существу дела они могут не иметь никакого отношения. И если нет предмета (объективной вероятности), то и субъективная вероятность повисает в воздухе, приобретает не рациональный, а интуитивный или эмоциональный характер, становится тенью несуществующего предмета.
Ещё одна методическая тонкость. Для обычных аварий и бедствий характерен гауссов закон для распределения плотности вероятности ущерба. Рост людей, коэффициент интеллектуальности и другие характеристики и способности человека распределены по этому закону:
, (8)
где ;(x) – плотность вероятности случайной величины; M – её математическое ожидание; ;2 – дисперсия. Для этого распределения имеет место «закон трёх сигм» – вероятность того, что случайная величина выйдет из интервала (M 3;, M+3;). составляет менее 0,3 %. «Хвосты» этого распределения спадают очень быстро и вероятностью гигантских отклонений можно пренебречь.
Однако, для землетрясений, наводнений, торнадо, биржевых крахов, ущерба от утечки конфиденциальной информации, аварий на атомных станциях имеет место совсем другая статистика.
. (9)
Это степенная статистика с «тяжелыми хвостами», здесь гигантскими отклонениями пренебречь нельзя. Это напоминает страшный и удивительный мир восточных сказок, в которых действуют гиганты и джинны: шанс встретить их очень мал, но встреча с ними может изменить все.
И действительно, в ХХ веке было землетрясение, которое унесло более 1 миллиона жизней, наводнение, в результате которого осталось без крова более 28 миллионов человек, и чернобыльская авария, ущерб от которой превысил потери от всех других катастроф в ядерной энергетике.
Велик соблазн, исходя из закона (9), оценивать ущербы, связанные со сверхкатастрофами, вероятность глобальных рисков. Однако, формула (9) – приближение, которое на каком-то уровне «обрезается» свойствами системы, которая имеет свои пределы и ограничения.
Поэтому представляется разумным, обсуждая глобальные риски и их количественный аспект, опираясь на математику и результаты естествознания, сосредоточить внимание на трех направлениях:
; Выявление процессов тех или иных катастрофических явлений. Судя по оценкам, например, высота волны цунами не может превысить километр. Аналогичные оценки существуют для ряда других бедствий.
; Конкретные, уже построенные и исследованные модели многих чрезвычайных ситуаций: ядерных взрывов, результатов столкновения с астероидами, эпидемий, распространения компьютерных вирусов и ряда других. Здесь есть и оценки, и специалисты, и опыт анализа. В книге о многом упоминается, но в следующих работах имеет смысл провести более конкретный анализ. И бог, и черт в деталях.
; Переход от теории вероятности глобальных катастроф к теории возможности таких событий. Математические основы этого подхода в последние годы были заложены профессором Ю. П. Питьевым. Тем более, что в книге есть несколько очень интересных и неочевидных сценариев развития глобальных неустойчивостей.
Вероятно, всё это будет детально рассматриваться в следующих книгах, посвященных этой крайне важной тематике.
4. В погоне за предвестниками
Все меры, которые могут хотя бы в какой-то мере повысить безопасность должны быть приняты, какими бы странными, на первый взгляд, они не казались.
Из выступления на совещании по антитеррористической деятельности.

У меня, как наверное и у многих других читателей, в первый раз взявших эту книгу в руки, возник вопрос: имеет ли смысл рассматривать все эти трагические сценарии, тем более, что вероятность каждого из них весьма невелика, а научные данные о соответствующих неустойчивостях отрывочны, а во многих случаях недостоверны? Следует ли отнимать ученым хлеб у фантастов и авторов триллеров?
Однако, на эти вопросы есть убедительные ответы, и причин для серьёзного отношения к таким исследованиям несколько.

4.1. Анализ и предупреждение о глобальных рисках способны парировать или отодвинуть опасности планетарного масштаба
Наглядный пример – работы по моделированию климатических процессов, которые около тридцати лет назад велись в Вычислительном центре АН СССР под руководством академика Н. Н. Моисеева. Созданный в то время программный комплекс позволял исследователям моделировать систему «атмосфера – океан – биосфера». Одним из результатов моделирования стала оценка последствий масштабного обмена ядерными ударами между сверхдержавами. Расчёты, проведенные под руководством Н Н. Моисеева и В.В. Александрова показали, что следствием такого события стала бы длительная «ядерная зима» и изменение глобальной циркуляции атмосферы. Эти результаты согласовались с данными американских ученых, работавших под руководством К. Сагана.
Эта работа получила широкую известность, ее результаты докладывались в Конгрессе США, Ватикане, на множестве международных форумов. В конечном итоге, она стала одним из значимых аргументов на переговорах по контролю стратегических вооружений, направленных на то, чтобы не допустить обмена ядерными ударами, а также – отправным пунктом для множества последующих работ этого направления.
Схожая ситуация имела место с американской программой «звездных войн», связанной с выводом различных типов оружия в космос. Одним из аргументов против этой программы стала модель профессора Г. Майер-Кресса, показавшая, что наличие противоспутникового оружия и систем преодоления противоракетной обороны не только не повысит безопасность ни одной из сторон, но и в целом резко ухудшит ситуацию и будет иметь дестабилизирующий эффект. Этот и многие другие аргументы позволили на десятки лет отложить создание космического эшелона вооружений, безусловно, угрожающего глобальными рисками.
Возрождение космической оборонной инициативы опасно и на следующем витке. В сентябре 2006 года администрация президента Буша одобрила новую национальную космическую доктрину США, в соответствии с которой США «не признают ограничения фундаментального права Соединенных Штатов осуществлять деятельность и получать информацию в космосе». Три месяца спустя Китай уничтожил свой метеорологический спутник, породив большое количество обломков в космосе .
Здесь мы сталкиваемся с новым стратегическим риском. В течение многих лет в Институте прикладной математики им. М. В. Келдыша РАН работает группа по анализу космического мусора, отслеживающая траектории более 30 тысяч объектов в космосе. По оценкам специалистов этой группы, ситуация с космическим мусором, а значит, и с безопасностью запусков последующих космических аппаратов, быстро ухудшается.
Иными словами, в отсутствие специальных мер может произойти «фазовый переход» – Земля в перспективе может оказаться без космического сегмента своей техносферы со всеми вытекающими отсюда последствиями.

4.2. Анализ глобальных последствий деятельности человека позволяет более адекватно оценивать те риски, которые недооцениваются
В 2007 году при МЧС РФ был создан Экспертный совет по чрезвычайным ситуациям, в который вошли ведущие учёные России, работающие в этой области и ряд руководителей министерства. Проведенный советом анализ ведущихся в стране исследований показал, что нескольким важным блокам опасностей сейчас в России уделяется явно недостаточно внимания. Среди них:
; «Гипотетические аварии» (их рассматривают наряду с «простейшими» и «запроектными») – крайне маловероятные события с гигантским ущербом (пример – Чернобыльская авария, – до того, как она произошла вероятность чрезвычайной ситуации такого класса оценивали как 10 6 год 1 – одна авария в миллион лет; аварии на морских буровых платформах, которых уже произошли десятки, и вероятность которых при проектировании оценивается 10 7 год 1).
; Новые поколения террористических актов, жертвами которых могут стать сотни тысяч и миллионы человек (один такой теракт может иметь глобальные последствия, снизив «порог невозможного» в сознании общества и элит, подобно тому, как это сделали в своё время американские ядерные бомбардировки Хиросимы и Нагасаки).
; Постиндустриальные риски, связанные со старением инфраструктуры, накопленными отходами, загрязнениями, созданными на индустриальной стадии развития. Например, в опасном состоянии в России находится около 50 водохранилищ, некоторые из которых подпирают по 6-8 кубических километров воды. Они строились из расчета срока эксплуатации в 50 лет, которые уже прошли. Модернизация этих сооружений (капитальный ремонт, реконструкция, возможно, со спуском водохранилищ) – большой, тяжелый и нерешенный вопрос. В то же время прорыв таких плотин может привести к очень тяжелым последствиям, меняющим отношение и к техносфере, и к безопасности, и к человеческой жизни.
; Риски нового поколения технологий. В США и в мире активно развивается NanoBioInfoCogno – технологическая и научная парадигма. В каждой из этих сфер есть свои весьма серьёзные угрозы. В США, к примеру, десятки мозговых центров заняты анализом сценариев развития нанотехнологий, оценкой их рисков и методов парирования будущих опасностей. Насколько мне известно, в России подобные работы пока не проводятся.
4.3. Сложные системы гораздо более хрупки, чем кажется на первый взгляд. Обеспечение их безопасности неотделимо от исследования таких сложных объектов и создания эффективных систем мониторинга и управления рисками их развития и функционирования
Сложность очень часто возникнет как результат адаптации, настройки на внешнюю среду и окружение. Эта настройка может приводить к возникновению специфических механизмов и причинно-следственных связей, которые при изменении условий могут привести к неустойчивостям, имеющим гигантские масштабы. И время выхода ситуации из под контроля в этих системах может быть очень малым.
Более того, сложные, эффективные, хорошо защищенные системы обычно имеют ахиллесову пяту (парадокс Ахиллеса) – плату за способность реагировать на изменение окружения, корректируя свои стратегии и перестраивая свою структуру.
В качестве примера можно привести мировую финансовую систему – важнейший механизм управления мировой экономикой. Её неустойчивость стремительно нарастает. Результаты же её краха могут сейчас иметь последствия, сравнимые с последствиями мировой войны. Это может привести к формированию новой системы жизнеустройства, с новыми смыслами, ценностями, алгоритмами развития (ближайший аналог – темные века, через которые прошло человечество). Это путь к планетарному системному кризису, в результате которого многое, созданное в предыдущие века, может обратиться против человечества.

4.4 На обсуждение многих глобальных угроз, основ бытия отдельных цивилизаций, будущего человечества, фактически наложено табу, что весьма опасно
Проблемы определенного масштаба как бы находятся вне сферы внимания научного сообщества и массового сознания. Несущественные, второстепенные проблемы заслоняют главные. Книги, подобные работе А. Азимова и А. В. Турчина, помогают скорректировать шкалу масштабов тех явлений, которые должны волновать человечество.

4.5. Большого внимания заслуживают предвестники катастроф невиданного ранее масштаба
История катастроф ХХ века показывает, что гигантские стихийные бедствия и сокрушительные техногенные катастрофы обычно имели предвестников – беды того же типа, развивающиеся по схожему сценарию, но гораздо меньшего масштаба. И те страны, которые смогли оценить их смысл и значение и принять необходимые меры, избежали многих трагических событий. Государства, проигнорировавшие предвестников, часто несли огромные потери. В МЧС России в своё время был принят принцип: «каждая катастрофа должна учить». И гораздо лучше учиться, осмысливая предвестников, чем переживая глобальную катастрофу.
Экстраполяция (продолжение) – некорректная процедура (малые погрешности в исходных данных могут привести к большим ошибкам в прогнозе), но вместе с тем – и крайне важная. По сути, это один из важнейших способов избежать опасностей. Приведем недавний конкретный пример, показывающий, что разумная экстраполяция могла бы спасти сотни тысяч жизней.
Сейчас Россия занимает ведущие позиции в мире в области среднесрочного прогноза землетрясений (1-5 лет). Все основные методики в мире опираются на подходы, разрабатывающиеся в Институте физики земли РАН и развиваемые ныне в Международном институте математической геофизики и теории прогноза землетрясений РАН.
В результате проведенных исследований была создана весьма эффективная методика прогноза землетрясений силой около 8 баллов. Суть этого подхода близка к идее барометра или термометра. Барометр даже без решения уравнений, описывающих динамику, «падает» с переменной погоды, и если он «падает» очень сильно, то можно ждать бури. Медицинский термометр, показывающий температуру тела выше 37;, говорит о необходимости обратить внимание на состояние организма.
Данные сейсмостанций, осредненные по кругу диаметра 1333 километров (именно на такой территории готовятся 8-бальные землетрясения), позволяют сформировать 8 функционалов – аналогов температуры или давления для земной коры. Затем организуется мониторинг и когда 7 функционалов превышают опасную черту (которая определяется на основе имеющейся сейсмической предыстории региона), то объявляется тревога .
В декабре 2004 года гигантское землетрясение в Индийском океане породило волну цунами, которая, в конечном счёте, унесла жизни более 300 тысяч человек. К удивлению исследователей, оказалось, что оно не было предсказано ведущими мировыми центрами, занимающимися прогнозом землетрясений. Если бы такой прогноз был, то это было бы мощным стимулом для создания систем предупреждения. При наличии таких систем число жертв удалось бы сократить, по экспертным оценкам, до 5 тысяч человек.
Ретроспективный анализ показал причину этой ошибки. За время предшествующей работы не было 9-бальных землетрясений. Землетрясения такой силы готовятся на территории круга диаметром 3000 км. Никто, не ожидая гигантского землетрясения, просто не анализировал такие пространственные масштабы. Ошибка состояла в том, что события гигантского масштаба, превышающего всё виденное, просто не имели в виду.
Подводя итог, можно сказать, что книга А. В. Турчина может сыграть большую положительную роль в управлении стратегическими рисками. Не всё в ней безупречно, и с некоторыми оценками и подходами хотелось бы поспорить. И, вероятно, в будущем к этим проблемам придется вернуться.
Однако главное, чтобы это будущее состоялось. И здесь трезвая, научная оценка сценариев возможных глобальных катастроф, которой и посвящена книга, очень важна.


Н. Бостром. Вводное слово

Множество академических учёных тратит массу времени, думая о множестве вещей. К сожалению, угрозы существованию человеческого вида всё ещё не являются одной из них. Мы должны надеяться, что эта ситуация изменится, и возможно, данная книга стимулирует больше исследований по этой проблеме.
Я пытался исследовать различные аспекты этой проблемы, но исследования угроз существованию всё ещё находятся на зачаточном уровне. Я вижу эти проблемы как важную часть огромной задачи, стоящей перед нами. По мере роста наших технологических и экономических возможностей и по мере роста нашего научного понимания, мы должны всё более тщательно и критически размышлять о по-настоящему масштабных вопросах, стоящих перед человечеством. Мы должны подойти к этим вопросам, по крайней мере, с тем же уровнем внимания к деталям и аналитической строгостью, каких мы ожидаем от научных исследований способов размножения навозной мухи или строения колец Сатурна. Мы знаем, что откровения об этих малых вещах приходят не из воздуха, и нам не следует ожидать, что мудрость о б;льших проблемах будет достигнута проще. Но если мы предпримем усилия, и если мы постараемся быть интеллектуально честными, и если мы используем огромное количество уже накопленных релевантных научных знаний, мы, вероятно, достигнем определённого прогресса с течением времени. И это будет существенным вкладом во благо человечества.

Ник Бостром, Оксфорд, 7 декабря 2007 года.

Предисловие

Угроза существованию – это та угроза, в которой негативный исход или уничтожает возникшую на Земле разумную жизнь, или необратимо и значительно сокращает её потенциал.
Н. Бостром. «Угрозы существованию: анализ сценариев человеческого вымирания».

Если в ХХ веке возможность вымирания человечества связывалась в первую очередь с угрозой глобальной ядерной войны, то в начале XXI мы можем без труда называть более десяти различных источников рисков необратимой глобальной катастрофы, в основном создаваемых развитием новых технологий, и число это постоянно растёт. Исследование данного вопроса странным образом отстаёт от многих других, более частных вопросов, что видно хотя бы по количеству научных работ на эту тему. (Видимо таково свойство человеческой натуры: в своё время Дейл Карнеги жаловался, что в библиотеке много книг о червях (worm), но нет книг о «беспокойстве» (‘worry’) – куда более важной теме.) Проблемы исчерпания запасов нефти, будущего китайской экономики или освоения Космоса привлекают гораздо больше внимания, чем необратимые глобальные катастрофы, а исследования, в которых разные виды глобальных катастроф сопоставляются друг с другом, встречаются реже, чем предметные дискуссии по отдельным рискам. Однако кажется бессмысленным обсуждать будущее человеческой цивилизации до того, как будет получена разумная оценка её шансов на выживание. Даже если в результате такого исследования мы узнаем, что риск пренебрежимо мал, в любом случае важно этот вопрос изучить. Но, к сожалению, сразу могу сказать, что мы не получим такого обнадёживающего результата. Сэр Мартин Рис [Rees 2003] оценивает шансы гибели человечества в XXI веке в 50 %, и я склоняюсь к тому, что это вполне обоснованная оценка.
Предлагаемая читателю книга «Структура глобальной катастрофы» посвящена мало освещённой в отечественной литературе теме: системному обзору «угроз существованию», то есть рискам необратимой гибели всей человеческой цивилизации и вымирания человека. Цель этой книги – дать широкий и максимально достоверный обзор темы. При этом, однако, книга носит дискуссионный характер. Она призвана не столько дать окончательные ответы, сколько подтолкнуть мысль читателя и создать почву для дальнейших обсуждений. Многие высказанные гипотезы могут показаться излишне радикальными. Однако, говоря о них, я руководствовался «принципом предосторожности», который рекомендует рассматривать наихудший из реалистических сценариев, когда речь идёт об обеспечении безопасности. Критерием реалистичности сценариев для меня является то, что они могут возникнуть при сохранении нынешнего темпа развития технологий в течение XXI века и не нарушают известные законы физики.
Исследование характера глобальных угроз и их вероятностная оценка необходимы, чтобы определить, насколько велик риск и какие меры следует принять в отношении него. И хотя в этой книге обсуждаются возможные превентивные меры, здесь нет универсального рецепта избавления от глобальных рисков. Однако не хотелось бы внушить читателю ощущение неизбежности гибели. Я полагаю, что, несмотря на трудности и риски, ожидающие человечество в XXI веке, люди имеют шанс выжить и, более того, построить более совершенный мир. Однако сохранение человечества является необходимым условием для любого совершенного мира. Опять же, в этой книге мы не обсуждаем вопрос о том, каким бы мог быть совершенный мир, в котором новые технологии использованы во благо, а не для разрушения.
Данная монография состоит из двух частей: собственно исследования рисков и анализа когнитивных искажений, влияющих на оценку рисков. Разбор конкретных угроз в первой части состоит из максимально подробного их перечня со ссылками на источники и критического анализа этих источников. Затем исследуются системные эффекты взаимодействия разных рисков, обсуждаются способы вероятностной оценки глобальных рисков и другие, связанные с этим вопросы. Во второй части предложен критический анализ способности человеческого мышления к предсказанию и оценке глобальных рисков . Он может быть полезна, с небольшими изменениями, и в любых других футурологических исследованиях.
Имеет ли смысл вообще писать по-русски о глобальных катастрофах? Я думаю, что имеет, по следующим причинам:
1. Эта тема мало освещена в русскоязычной литературе и отдана на откуп разного рода сектантам и проповедникам апокалипсиса. Основные исследования не переведены (за исключением примерно 10 статей по проблеме, переведённых мною в 2006-2008 годах). Открытое обсуждение этих вопросов может быть интересно не только специалистам, но и широкой публике.
2. Технологическое отставание России не настолько велико, чтобы служить гарантией того, что у нас не могут быть разработаны опасные технологии и созданы опасные изделия на их основе. Наоборот, РФ обладает техническим потенциалом для развития многих видов опасных технологий, в первую очередь, в области ядерного и биологического оружия. Также есть в нашей стране группы, работающие в области ИИ. Проводятся и высокоэнергетические физические эксперименты.
3. Россия неоднократно в истории или опережала мир в важных технологических разработках (спутник, первый человек в космосе), или доводила их до масштабного предела («Царь-бомба»). Кроме того, на территории СССР произошли некоторые крупнейшие в своём роде катастрофы (Чернобыль).
4. Безответственность и коррупция, влияющие на организацию производства («авось», «откат», ориентация на краткосрочную выгоду), привели к тому, что вопросам безопасности не уделяется достаточно внимания. Г. Г. Малинецкий в своих книгах и докладах рисует бедственную картину в области предотвращения техногенных катастроф в России. Глобальные катастрофы привлекают ещё меньше внимания.
5. Информация о рисках, связанных с создаваемыми на Западе новыми технологиями, проникает в массовое сознание медленнее, чем сами технологии, и б;льшая часть работ на тему глобальных рисков до сих пор не переведена на русский язык.
6. Отсутствие жёсткого контроля позволяет существовать большому числу нелегальных разработчиков компьютерных программ («русские хакеры»), и может быть крайне опасно, если то же самое произойдёт в области биотехнологий.
7. Россия унаследовала мощные геополитические противоречия и «комплекс неполноценности» в результате распада СССР («постимперский синдром»), что может способствовать осуществлению опасных проектов.
8. Публикации на русском языке могут оказать позитивное влияние на зарубежную науку и общественное мнение, увеличивая «насыщенность среды» информацией о глобальных рисках. Уникальные наработки российских исследователей могут внести свой вклад в общее дело спасения мира и цивилизации. Русскоязычная литература будет доступна также в странах СНГ. Многие русские студенты в будущем будут учиться или работать в зарубежных учреждениях, перенося накопленные в нашей стране знания. Есть довольно значительная группа зарубежных исследователей, читающих по-русски или русского происхождения.
9. Россия может оказаться в обстоятельствах, когда само её существование как части большого мира, окажется зависящим от внешних обстоятельств, и станет необходимым быстрое принятие адекватных решений в условиях острого недостатка информации. В этом случае возникнет потребность в информации и людях. Необходимо ясное понимание правительствами разных стран природы глобальных рисков.
10. Широта и свобода мировоззрения, как я надеюсь, свойственная мыслителям в России, может дать новый взгляд на общечеловеческие проблемы, открыть новые уязвимости и указать новые пути предотвращения глобальных рисков.
11. Если наша страна позиционирует себя в качестве великой державы, развивает нанотехнологии, собирается участвовать в проекте полёта на Марс и т. д., то она должна играть ответственную роль в обеспечении безопасности всего человечества.
Многое, сказанное здесь о России, относится и к другим странам, например, к Индии и Китаю, где технологии быстро развиваются, а культура предотвращения рисков также низка.
Я хочу выразить благодарность людям, которые поддержали меня во время написания этой книги. В первую очередь я хочу поблагодарить Е. Юдковски и Н. Бострома, которые вдохновили меня на исследование темы глобальных рисков своими ясными и пронзительными статьями, а также любезно разрешили опубликовать переводы этих статей на русском. Безусловно, эта книга не могла бы возникнуть без того влияния, которое оказала на меня Е. Д. Плавинская. Я благодарен И. В. Следзевскому, который помог придать законченную форму моему повествованию и положил массу усилий к его редактированию. Особенно велика моя благодарность Координационному совету Российского Трансгуманистического Движения в лице Валерии Прайд и Данилы Андреевича Медведева, оказавших материальную и моральную помощь в издании этой книги. Значительная группа людей внесла посильный вклад в редактирование этой книги, в том числе Ольга Артемьева, Елена Медведева, Диана Жданова, Павел Ильин и многие другие. Не могу не высказать благодарность своему первому учителю М. М. Алленову, давшему мне образец ясности и проницательности мысли. Я признателен моей матери Ксении Богемской, моему отцу Валерию Турчину, сыну Станиславу и его маме Анне Соболевой, способствовавших самим своим существованием моей работе, а также моей крёстной матери Наталии Сегал. Особая благодарность пользователю ЖЖ под ником caps_lockk. Я благодарен всем тем, кого не могу назвать по имени, в том числе читателям моего блога, которые помогли мне своими бесчисленными комментариями.
А. В. Турчин


Что изменилось за три года? Дополнение в 2010 году


Три года я пишу, читаю и перевожу на тему глобальных рисков. Как изменилась ситуация в этой области за прошедшее время?

1. Самое главное – глобальной катастрофы не произошло. Не произошло и колоссальных терактов, войн, природных катастроф.
2. Основные тенденции развития технологий – экспоненциальный рост результатов в духе закона Мура – не изменились.
3. Начался экономический кризис. Я читал Хазина несколько лет назад, ещё с 2005 года, Рубини с 2006 и в принципе полагал кризис неизбежным. Но при этом я предполагал его более внезапное течение, в духе внезапного краха доллара. Тут самое интересное – исполнение пророчеств маргинальной (по числу последователей) теории. Любая маргинальная теория ждёт своего часа Х, чтобы доказать свою правоту. (Для уфологов- это disclosure  - обнародование сокрытой правительством информации). Тут основное наблюдение состоит в том, что пророчества сбываются не так, и пророки мало чего пожинают на этом. Я также полагаю, что основные события экономического кризиса ещё не произошли, однако связано  это с тем, что власти нашли способ максимально откладывать неприятные последствия. В надежде, что или шах, или ишак как-нибудь сами вымрут. В целом, я недооценил этот способ решения проблем. Однако теперь я понял, что как только начинается власть, всегда возникают неразрешимые проблемы, и власть в основном занимается тем, что ищет способы их откладывать. Так, Хазин полагает, что нынешний кризис – это отложенный ещё с 2001 года кризис. Тут можно порассуждать на тему, что вся история человечества – это набор временных мер и попытка бежать впереди катящегося снежного кома последствий.
4. Началась очередная пандемия гриппа. Вроде она оказалась пока не так страшна, как могла бы быть, но здесь та же ситуация – не понятно, чем кончится. Начались разговоры об искусственности вируса. Я также недооценил веру народа в теории заговора, в духе того, что мировое правительство хочет отравить всех прививками.
5. Климатгейт. Опять же основное событие касается не каких-то изменений климата (мало кто заметил, что в Арктике в 2008г обнаружили области, где пузырится метан), а области знаний и принятия решений в области предотвращения рисков. В результате, если раньше я полагал, что у меня есть хоть какие-то достоверные идеи по поводу потепления, то теперь я в равной мере не доверяю ни одному из объяснений. То есть в результате мои знания вернулись к априорному незнанию – 50 на 50.
6. Вышла моя книга на русском и сборник Бострома на английском по глобальным катастрофам. Все тексты по теме были выложены в нет, в том числе и по-английски. Любой, кто хочет изучить эту тему, обладает теперь полным доступом к открытым исследованиям.
7. Драматический запуск коллайдера со всеми его поломками, протестами и спорами. Вроде бы эти споры должны были привести к тому, что основные аргументы, связанные с любым глобальным риском, станут общедоступными – о наблюдательной селекции, о мат. ожидании числа жертв, о независимой экспертизе рисков. Но такого ощущения нет, а есть ощущение, что каждый отстаивает случайным образом сложившиеся у него мнения. (Смешно, когда одни и те же люди верят в климатгейт, и при этом же верят в заверения в безопасности коллайдера – я вас уверяю, там тоже было много интересных емейлов.)
8. Вероятно, мы таки прошли Пик ойл – то есть пик добычи нефти, и, возможно, именно он является одной из причин финансового кризиса, так как только спад в экономике позволяет держать цены низкими. Основная проблема понимания Пик ойл, в том, что технологически мы можем обойтись без нефти – ветряки понастроить ударными темпами итд. Но практически мы не можем этого сделать, так как пик ойл порождает финасовый кризис, а в этих условиях трудно осуществить массовые инвестиции в новые технологии. Плюс к тому – пик всего: все пики стремятся произойти одновременно за счёт взиамозаменимости ресурсов.
9. Для меня было неожиданностью, что многие трансгуманисты весьма зло реагировали на мои исследования, так как, по их логике, разговоры о глобальных рисках тормозят прогресс, а это снижает их личные шансы на бессмертие.



Термины
В этой работе ряд терминов употребляется в следующих значениях (подробнее каждый термин будет разъяснён в тексте):
Doomsday argument – Доказательство Конца Света, или иногда рассуждение о конце света Картера-Лесли, сокращённо – DA.
NBIC-конвергенция – означает наблюдающуюся в современной науке тенденцию к слиянию и обмену информацией, методами и результатами между четырьмя ключевыми технологиями nano-bio-info-cogno.
Агент – вещество, вирус, бактерия, поток энергии или любой другой распространяющийся фактор воздействия, причиняющий смерть.
Глобальная катастрофа – событие, приводящее к необратимому вымиранию всех людей. События, которые затрагивают весь мир, но не приводят к тотальному вымиранию, называются в этом тексте «очень большими катастрофами».
«Дружественный» ИИ – универсальный сильный ИИ, система целей которого устроена так, что он не будет причинять вред людям и будет уменьшать риск глобальной катастрофы. Его противоположность – недружественный ИИ, система целей которого ведёт к гибели людей и даже вымиранию человечества.
Закон Мура – исходно относится к удвоению числа транзисторов на микропроцессорах каждые два года. Говоря о законе Мура, мы будем иметь в виду закон Мура в широком смысле слова, как процесс экспоненциального роста ряда ключевых технологий с периодом удвоения в несколько лет.
ИИ – Искусственный интеллект, понимаемый как Универсальный искусственный интеллект, способный к самосовершенствованию и любой интеллектуальной деятельности, доступной человеку.
Машина судного дня, оружие судного дня – любое устройство, вещество или способ, которые разработаны специально для окончательного и необратимого уничтожения человечества.
Ошибки – по-английски ‘cognitive biases’, что можно перевести как «предубеждения» или «отклонения в ходе рассуждений», или, если употребить точный психологический термин, «когнитивные искажения».
Постапокалиптический мир – то, чем может стать Земля, в случае, если на ней произойдёт очень большая катастрофа, однако какое-то число людей выживет.
Сверхтехнологии – принципиально новые технологические способы влияния на внешний мир, способные его полностью трансформировать и/или создать глобальные риски, в первую очередь это нано-, био-, когно- и ИИ-технологии
Сингулярность – гипотетическая точка во времени в районе 2030 года, когда ряд прогностических кривых уходят в бесконечность. Связывается с крайне быстрым ростом технического прогресса, особенно компьютеров, нано- и биотехнологий, исследований мозга и систем ИИ и предполагает качественное изменение человечества. Термин введён в употребление Вернором Винджем в 1993 году.
Структура катастрофы – взаимосвязь научных заблуждений, конструкторских недоработок, операторских ошибок и цепной реакции факторов разрушения, ведущих к катастрофе.



Введение

Люди, львы, орлы и куропатки, рогатые олени, гуси, пауки, молчаливые рыбы, обитавшие в воде, морские звезды и те, которых нельзя было видеть глазом,— словом, все жизни, все жизни, все жизни, свершив печальный круг, угасли... Уже тысячи веков, как земля не носит на себе ни одного живого существа, и эта бедная луна напрасно зажигает свой фонарь. На лугу уже не просыпаются с криком журавли, и майских жуков не бывает слышно в липовых рощах. Холодно, холодно, холодно. Пусто, пусто, пусто. Страшно, страшно, страшно.
А.П.Чехов. «Чайка»

Несмотря на то, что книг с общим обзором проблемы глобальных рисков издано в мире немного, уже наметилась определённая традиция в обсуждении предмета. Она состоит в обсуждении методологии, классификации возможных рисков, оценки их вероятности, способов защиты и затем – обзора логических парадоксов, связанных с этой проблемой, а именно, «Доказательство Конца Света» (Doomsday argument). Наиболее существенных современных источников по проблеме четыре. Это книга канадского философа Дж. Лесли «Конец света. Наука и этика человеческого вымирания» [Leslie 1996], книга английского астронома сэра Мартина Риса «Наш последний час» [Rees 2003], книга американского учёного и юриста Р. Познера «Катастрофа. Риск и реакция» [Posner 2004] и сборник статей под редакцией Н. Бострома и М. Чирковича «Риски глобальной катастрофы» [Bostrom, Circovic 2008]. Ещё раз мы обратимся к имеющейся литературе в разделе «Краткая история исследования вопроса» в 1-ой главе, в том числе упомянем и работы советских и российских авторов, однако, перечисленные книги будут нашими основными точками опоры.
Предлагаемая читателю книга значительно отличается от книг предшествующих исследователей, в первую очередь, широтой обзора. Например, в статье Юдковски [Yudkowsky 2008a] обсуждается, хотя и очень подробно, только 10 возможных систематических ошибок, влияющих на оценку глобальных рисков, тогда как в нашей книге предпринимается попытка составить их полный список, включающий 150 пунктов. Также в разделе, посвященном классификации рисков, упоминаются многие риски, о которых нет речи ни в одной из трёх книг. Если посчитать все возможные риски, включая подкатегории и составные риски, то их число тоже легко может перевалить за сотню, что превышает цифру из 15 рисков, обсуждаемых Бостромом [Bostrom 2001]. Наконец, я предлагаю классификацию вариантов Доказательства Конца Света (Doomsday argument), что не освещается в известных мне зарубежных источниках.
Особенностью предлагаемой книги является подробный критический обзор различных средств защиты от глобальных рисков. При этом я стремился дать системный взгляд на проблему, который бы позволил оторваться от перечисления различных рисков и увидеть то общее, что есть в каждом из них, а также — как разные риски, соединяясь, могут образовывать структуру. Именно этим объясняется выбор названия книги.
Данная работа адресована любым будущим и ныне существующим организациям, которые будут предотвращать глобальные катастрофы или по роду своей деятельности сталкиваться с ними (включая правительства, исследовательские институты, спецслужбы, военных и неправительственные фонды), их руководителям и сотрудникам, а также футурологам, молодым учёным и всем, кому интересно будущее человечества. Цель работы – дать картину рисков глобальной окончательной катастрофы. Имеется в виду событие, которое, по словам Бострома, «истребит разумную жизнь на Земле или необратимо повредит её потенциал» [Bostrom 2001]. Полное вымирание всех людей является наиболее вероятной формой такого события, и далее по тексту под словами «глобальная катастрофа» будет иметься в виду именно это событие.


Часть 1. Анализ Рисков

Глава 1. Общие замечания
1.1 Пространство возможностей
В первой части книги мы очертим и проанализируем «пространство возможностей», в котором может произойти глобальная катастрофа. «Пространство возможностей» – термин, восходящий к книге «Фантастика и футурология» Станислава Лема. Он противопоставляется представлениям об отдельных сценариях и возможностях. Лем приводит следующие сравнения для пояснения этого термина: хотя количество возможных шахматных партий бесконечно, само описание правил игры и основных принципов стратегии занимает конечный объём и умопостигаемо. В качестве примера он приводит пространство возможностей «холодной войны», которое было задано появлением определённой технологии, и внутри которого разворачивались те или иные сценарии противостояния: Карибский кризис, гонка вооружений и т. д. Описание сценариев практически бесполезно, так как, хотя каждый может быть очень интригующим, вероятность именно его реализации крайне мала. Чем больше в сценарии конкретных деталей, тем менее он вероятен – хотя видимость правдоподобия от этого возрастает. Вместе с тем, анализ отдельных сценариев даёт нам срез пространства возможностей, и потому полезен.
Один из важнейших способов достижения безопасности – учёт всех возможных сценариев в соответствии с их вероятностями, то есть построение «древа отказов». Например, безопасность авиатранспорта достигается, в частности, за счёт того, что учитываются всевозможные сценарии катастрофы вплоть до определённого, точно вычисленного уровня риска. Описание пространства возможностей глобальной катастрофы преследует цель её предотвращения. Следовательно, оно должно сосредоточиться на тех узловых точках, управление которыми позволит регулировать риск как можно большего числа возможных катастрофических сценариев. Кроме того, описание должно дать информацию, удобную для осмысления и пригодную для практического использования – и желательно, чтобы эта информация была адаптирована для тех потребителей, которые будут осуществлять непосредственное предотвращение глобальных рисков. Однако задача определения этих потребителей сама по себе не проста.
Обратите внимание, что при чтении одни моменты могут показаться вам очевидными, другие интересными, а третьи – вопиющими глупостями. Обратите также внимание, насколько будет отличаться ваша реакция от реакции других, не менее образованных, чем вы, людей. Этот разброс оценок есть, на самом деле, мера неопределенности в том, что мы знаем и можем знать о будущем.
Вся информация взята из открытых источников, приведённых в списке литературы.
1.2 Рассматриваемый промежуток времени: XXI век
Есть два различных класса прогнозов – о том, что именно произойдет, и о том, когда это случится. Идеальный прогноз должен отвечать на оба эти вопроса. Однако, поскольку до идеала в прогнозах обычно далеко, то одни прогнозы лучше говорят о том, что будет, а другие о том, когда. Наилучший результат в отношении времени события можно получить, вообще не вникая в фактическую суть событий, а анализируя события статистически. Например, если знать, что рецессия в США бывает в среднем раз в 8 лет с разбросом плюс минус два года, можно неплохо угадывать время следующей рецессии, не вникая в её фактически причины. C другой стороны, анализируя фундаментальные причины событий, можно совершить значительную ошибку в оценке времени их наступления, которое часто зависит от случайных и невычислимых факторов. Например, мы наверняка можем утверждать, что рано или поздно в районе Калифорнии произойдёт мощное землетрясение силой до 9 баллов, связанное с подвижкой океанической коры под материковую, то есть мы знаем, что произойдёт землетрясение, но не знаем, когда.
Исследуя глобальные катастрофы, возможные в XXI веке, мы в нашей работе пытаемся ответить на оба вопроса, поскольку мы описываем не только их механизмы, но и утверждаем, что эти механизмы могут реализоваться в течение ближайших нескольких десятков лет. Возможно, некоторым читателям будет проще допустить возможность реализации этих механизмов не через 30, а, допустим, через 300 лет. Таким читателям можно сказать, что, исходя из принципа предосторожности, мы рассматриваем наиболее опасный сценарий наиболее быстрого развития ситуации, и что действительно возможно, что эти же самые события произойдут значительно позже. Но следует заметить, что Р. Курцвел, рассматривая вопрос ускорения темпов исторического времени и скорости технологического прогресса, предлагает считать XXI век равным по объёму инноваций предыдущим 20 000 годам человеческого развития.
В нашей книге анализируются угрозы существованию человечества, которые могут возникнуть и реализоваться в течение XXI века. За этой границей неопределённость настолько велика, что мы не можем сейчас ничего ни предсказать, ни предотвратить. Более того, возможно, даже граница 2100 года является слишком отдалённой (см. далее о пике прогностических кривых в районе 2030 года).
Некоторые сценарии имеют определённые последствия, которые могут сказаться после XXI века (например, глобальное потепление), и в этом случае мы обсуждаем их. Граница 2100-ого года позволяет нам не рассматривать в качестве рисков глобальной катастрофы отдалённые во времени космические события, вроде превращения Солнца в красного гиганта. И взята эта граница не случайно. Именно 100 лет являются характерным сроком для глобальных катастроф, а не 1 год, не 10 лет и не 1000 – это станет очевидным из дальнейшего анализа конкретных рисков.
Иначе говоря, любые комбинации из приведённых ниже сценариев глобальной катастрофы могут реализоваться в течение ближайших нескольких десятков лет. Однако поскольку я понимаю, что моя оценка времени, возможно, содержит неустранимую ошибку, я расширяю её до 100 лет. Однако моя оценка времени может содержать и ошибку в обратную сторону, что означает, что у нас нет ни ста лет, ни двадцати, а только несколько лет до того момента, когда вероятность глобальной катастрофы достигнет максимума. (Поскольку погодовая вероятность глобальной катастрофы растёт, и поскольку так не может продолжаться вечно, то эта плотность вероятности имеет некий горб, который означает момент времени, когда вероятность этой катастрофы максимальна – о том, будет ли он через несколько лет, через 23 года или через 100 лет и идёт разговор. Подробнее этот вопрос будет обсуждаться в разделе «Неизбежность достижения устойчивого состояния» главы 19 «Многофакторные сценарии».) Разумеется, есть вероятность, что она случится и завтра, однако я рассматриваю её как незначительную.
Фактически, говоря о XXI веке в целом, я, возможно, внушаю ложное чувство спокойствия, поскольку существует класс источников глобальных рисков, вероятность появления которых значительно возрастёт в ближайшие 10-20 лет. Речь идёт, в первую очередь, об опасных практических приложениях биотехнологий (см. дальше в главе 4). Поэтому возможно, следовало бы говорить о первой половине XXI века. Иначе говоря, глобальные катастрофы могут случиться не с нашими потомками, а именно с нами. Я допускаю, что для живущего сейчас обычного человека шанс умереть от глобальной катастрофы выше, чем вероятность естественной смерти.
Предлагаемый далее список возможных угроз наверняка не полон. Скорее всего, от широкой публики определённое количество рисков скрывают (просто потому что нас не считают экспертами в области ИИ, атомного оружия, коллайдера и т. д.) Почти наверняка от нас скрывают некие новые виды вооружений.
1.3 Проблемы вычисления вероятностей различных сценариев
Чтение этого раздела можно пропустить без ущерба для дальнейшего понимания текста. Основной вывод состоит в том, что невозможно вычислить объективные вероятности глобальных катастроф, поскольку это уникальные события, и поскольку наше сознание подвержено сильным когнитивным искажениям. Поэтому мы должны приписывать этим катастрофам некие условные вероятности, которые эквивалентны ставкам в игре. Пример такого подхода даёт Бостром, когда говорит, что было бы неразумно считать вероятность вымирания меньшей, чем 25 %. «Разумность» оценки состоит в том, что до определённого порога мы повышаем вероятность выживания человечества, если завышаем оценку вероятности катастрофы.
Сам по себе вероятностный подход к анализу глобальных рисков может создать иллюзию знания там, где мы на самом деле ничего не знаем, и поэтому его следует применять с определённой осторожностью.
Вот цитата из эссе «О невозможности прогнозирования» С. Лема: «Здесь автор провозглашает тщетность предвидений будущего, основанных на вероятностных оценках. Он хочет показать, что история сплошь состоит из фактов, совершенно немыслимых с точки зрения теории вероятностей. Профессор Коуска переносит воображаемого футуролога в начало XX века, наделив его всеми знаниями той эпохи, чтобы задать ему ряд вопросов. Например: «Считаешь ли ты вероятным, что вскоре откроют серебристый, похожий на свинец металл, который способен уничтожить жизнь на Земле, если два полушария из этого металла придвинуть друг к другу, чтобы получился шар величиной с большой апельсин? Считаешь ли ты возможным, что вон та старая бричка, в которую господин Бенц запихнул стрекочущий двигатель мощностью в полторы лошади, вскоре так расплодится, что от удушливых испарений и выхлопных газов в больших городах день обратится в ночь, а приткнуть эту повозку куда-нибудь станет настолько трудно, что в громаднейших мегаполисах не будет проблемы труднее этой? Считаешь ли ты вероятным, что благодаря принципу шутих и пинков люди вскоре смогут разгуливать по Луне, а их прогулки в ту же самую минуту увидят в сотнях миллионов домов на Земле? Считаешь ли ты возможным, что вскоре появятся искусственные небесные тела, снабженные устройствами, которые позволят из космоса следить за любым человеком в поле или на улице? Возможно ли, по-твоему, построить машину, которая будет лучше тебя играть в шахматы, сочинять музыку, переводить с одного языка на другой и выполнять за какие-то минуты вычисления, которых за всю свою жизнь не выполнили бы все на свете бухгалтеры и счетоводы? Считаешь ли ты возможным, что вскоре в центре Европы возникнут огромные фабрики, в которых станут топить печи живыми людьми, причем число этих несчастных превысит миллионы?» Понятно, говорит профессор Коуска, что в 1900 году только умалишенный признал бы все эти события хоть чуточку вероятными. А ведь все они совершились. Но если случились сплошные невероятности, с какой это стати вдруг наступит кардинальное улучшение и отныне начнет сбываться лишь то, что кажется нам вероятным, мыслимым и возможным? Предсказывайте себе будущее, как хотите, обращается он к футурологам, только не стройте свои предсказания на наибольших вероятностях...» [Лем 1995].
Предлагаемая картина глобальных рисков и их взаимодействия друг с другом вызывает естественное желание вычислить точные вероятности тех или иных сценариев. Очевидно также, что при этом мы сталкиваемся со значительными трудностями. Связано это с принципиальной недостаточностью информации в наших моделях, несовершенством самих моделей, а также — с хаотическим характером всей системы.
Само понятие «вероятность глобальной катастрофы» в смысле «вероятность конца света» внутренне противоречиво, так как речь идёт об, по определению, однократном событии. Даже если такое событие будет необратимо надвигаться, нам не удастся узнать, стали мы жертвой крайне случайного или закономерного события. (А если учесть эффект многомирного бессмертия, то я-наблюдатель вообще никогда не смогу обнаружить глобальную катастрофу, так как всегда найдётся мир, в котором я выживу. Но при этом я могу быть свидетелем гибели оставшейся цивилизации и быть последнем выжившим в бункере, и такой расклад должен быть приравнен к окончательному вымиранию.)
Концепция того, что такое вероятность, претерпела длительную эволюцию, и в ней есть два направления – объективистский, где вероятность рассматривается как доля событий из некого множества, и субъективистский, где вероятность рассматривается как мера нашего незнания . Тот и другой подход применим к определению того, что считать вероятностью глобальной катастрофы. Далее мы обсудим три «объективных» подхода к вычислению вероятности – а именно распределения по множеству возможных будущих, по множеству всех цивилизаций в галактике и по доле различных миров в Мультиверсе, и два «субъективных» – как точную меру нашего незнания и как рациональные ожидания отдельных людей. Чтобы сделать изложение понятнее, мы в каждом случае приведём оценки вероятности для двух принципиально различных случаев – вероятности катастрофы в результате падения астероида и рисков возникновения враждебного ИИ.
А) Абсолютная вероятность – эта та доля тех возможных будущих нашей планеты, в которых она гибнет от данной причины в данный период времени – с учётом всех наших возможных усилий по ее предотвращению. Абсолютная вероятность нам неизвестна и даже не может быть известна, так как это привело бы к логическим парадоксам (а именно, если бы мы знали, что вероятность события Х равна нулю, мы перестали бы от него защищаться и тогда бы она стала не равна нулю). Знание абсолютной вероятности предполагает наличие полного знания о всей Солнечной системе и далёких звездах – например, траекторий всех астероидов, состояния всех предсверхновых и т. д. В идеале все наши оценки вероятности должны стремиться к абсолютной вероятности. Если бы мы жили в чисто механической и вычислимой вселенной, то вместо абсолютной вероятности было бы точное знание времени наступления события. Но поскольку наша вселенная обладает квантовой неопределённостью, и неопределённостью, связанной с усилением малых изменений в духе теории хаоса, то «демон Лапласа» (то есть сверхкомпьютер, который мог бы предсказать всё будущее вселенной, если бы знал настоящее) не работает точно, а может знать только вероятность. В случае астероидов вероятность вымирания людей в XXI веке либо равна нулю, если угрожающих нам астероидов нет, либо равна примерно 50 %, если такой астероид есть. Неопределённость последней величины зависит от неопределённости того, сможет ли человечество отклонить этот астероид, что в свою очередь зависит от крайне хаотического хода человеческой истории и разных случайностей в процессе подготовки к запуску антиракет. Примерно та же ситуация и с ИИ – если он технически возможен в ближайшее время, то есть значительные шансы его возникновения и враждебного использования; в противном случае шансы равны нулю. В случае, если квантовая неопределённость будущего мала (а мы не можем пока сказать, насколько неопределённость влияет на развитие общественных и физических процессов), то абсолютная вероятность превращается в предопределённый срок. Или предопределённый срок плюс-минус небольшое отклонение. Например, принято считать, что предопределённый срок жизни человека – 100 лет (плюс минус 30). Или что предопределённый срок существования Солнца – 5 млрд. лет (плюс минус 2)
Б) Безусловная абсолютная вероятность – это вероятность того, что мы погибнем от некоторой данной причины, при условии, что мы не погибнем от других причин до того – и что мы ничего не будем делать, чтобы отвратить эту опасность. И наоборот – условная вероятность вымирания – эта вероятность гибели от данной причины с учётом (то есть при наличие условий) того, что мы можем погибнуть до того и от других причин (например, если шанс погибнуть в XXII веке от падения астероида равен 10 %, но при этом в силу рисков от развития новых технологий шанс человечества дожить до XXII века составляет тоже 10 % (то есть шанс вымереть – 90 %), то полная вероятность вымереть в XXII веке равна только 1 %, что резко изменяет направление приложения усилий.) Условная вероятность также включает в себя предположение о том, что мы сделаем всё возможное на данном этапе развития техники и цивилизации для предотвращения катастрофы – то есть она означает тот остаток риска, который мы не можем предотвратить никакими своими реальными усилиями. А для разных рисков возможность их предотвратить различна. Например, если технологическая цивилизация продолжит своё развитие в XXI веке, то к XXII веку она сможет отклонять любые , даже самые большие опасные астероиды.
В) Средняя вероятность – это вероятность погибнуть от данной причины для цивилизации нашего типа. Эта вероятность есть доля цивилизаций, погибших от данной причины, из всех цивилизаций в нашей вселенной. Аналогом ей является средняя продолжительность жизни человека. Однако в случае гибели цивилизаций у нас нет статистики по другим цивилизациям (и не может быть, так как если бы мы установили коммуникацию с другой цивилизацией, то нас следовало бы считать единой цивилизацией). Средняя вероятность может резко отличаться от абсолютной вероятности из пункта А в силу конкретных особенностей нашей звёздной системы и нашего исторического пути, а также эффектов наблюдательной селекции и т. д. При этом к средней вероятности применимо понимание о причине (ядерная война), но неприменимо понимание о промежутке времени (XXI век), так как у разных цивилизаций разные временные шкалы – и имеет смысл составлять такую классификацию только для всего времени существования цивилизации. Опять-таки, среднюю вероятность может знать только господь Бог или сверхцивилизация, наблюдающая многие цивилизации низшего уровня. Но мы можем рассуждать о средней вероятности на основании парадокса Ферми и т. д. Исходя из принципа Коперника (meritocracy principle), мы должны считать, что мы, скорее всего, являемся обычной цивилизацией, и следовательно, в нашем случае, абсолютная вероятность равна средней вероятности, во всяком случае, до того момента, как мы получим некую конкретную информацию об особенности нашей цивилизации (отличающей ее от других), которую мы можем учесть. Отметим, что поскольку мы живём в середине технологической эры, то эффект наблюдательной селекции приводит к тому, что мы недооцениваем вероятность того, что мы могли вымереть в период с 1945 по 2009 год, а в силу этого абсолютная вероятность вымирания для нашей цивилизации в оставшееся время жизни МЕНЬШЕ, чем средняя вероятность вымирания цивилизаций по Галактике (например, если большинство цивилизаций в Галактике погибает в первый годы после изобретения ядерного оружия). Далее, идея о средней вероятности должна опираться на некую идею, какова окончательная судьба всех цивилизаций. Если судьбы всех цивилизаций прослеживаются до их конца, то сумма всех средних вероятностей по разным причинам должна быть равна 100 процентам – по определению. Либо должен предполагаться некий порог, за которым цивилизации считаются бессмертными – например, переход на галактическую фазу развития, Сингулярность и т. п. Далее, средняя вероятность существенно зависит от референтного класса того, что мы считаем разумными цивилизациями. (Например, нечто вроде муравьёв с зачатками письменности на некой планете, остановившихся в своём развитии – должны ли мы их считать?) Обычно речь идёт о технологических цивилизациях – подобных нашей. Но здесь есть ловушка – чем в большей мере мы сужаем референтный класс до подобности нам, тем в большей мере мы делаем зависящим его от случайных особенностей нашей цивилизации. Наконец, средняя вероятность не даёт нам погодовой плотности вероятности (кроме некоторых частных случаев, вроде взрывов сверхновых), в отличие от абсолютной вероятности, то есть мы не можем сказать, что вероятность события X равна 1 процент в год – поскольку разные цивилизации могут развиваться с разным темпом. Всё же есть попытки превратить среднюю вероятность в ожидаемую продолжительность существования внеземных цивилизаций, – это важно для оценок времени, в течение которых возможна коммуникация с внеземными цивилизациями (Шкловский об этом писал, называя это коммуникативной фазой цивилизации). Можно предположить, что скорость прогресса у других цивилизаций зависит от скорости обработки ими информации, то есть от быстродействия их мозгов, которая может быть в 10 раз больше, и в 10 раз меньше. Однако тут должны быть универсальные эволюционные ограничения. Кроме того, не ясно, должны ли мы учитывать цивилизации только в нашей вселенной, или во всех возможных вселенных с разными физическими законами – это важно при оценке рисков физических экспериментов. Средняя вероятность гибели цивилизации от падения астероида должна быть крайне мала, на уровне 1 к миллиону, так как продвинутые цивилизации просто бы не возникли в тех звёздных системах, в которых столкновения часты. Мы имеем неплохие шансы рассчитать довольно точно эту среднюю вероятность для астероидов, исходя из среднего возраста планетных систем и других данных астрономических наблюдений. В случае же ИИ эта средняя вероятность является полностью неизвестной, так как у нас нет никаких данных, чтобы сделать о ней какие-либо выводы.
Г) Многомирная вероятность. Предположим, что есть бесконечное множество вселенных, называемое Мультиверсом (неважно, существуют ли они реально, или являются только возможными, а также не важно, речь идёт о мультиверсе квантовом, или просто о бесконечно большом мире). Среди него есть подмножество вселенных, в которых есть планеты, соответствующие нашим знаниям о Земле. Иначе говоря, наше знание создаёт сечение Мультиверса и выделяет из него некое подмножество. Например, подмножество всех обитаемых планет с массой, как у Земли. Однако внутри этого подмножества есть разные планеты, скажем, различающиеся особенностью своего внутреннего устройства. Некоторые из них более склонны к катастрофическим вулканическим извержениям (дегазация мантии). В этом случае вероятностью катастрофы будет та доля планет в этом подмножестве, на которых эта катастрофа произойдёт в определённый промежуток времени. По мере того, как наши знания о Земле растут, неопределённость нашего знания падает, и подмножество планет, соответствующих нашему знанию, сужается, а также меняются наши знания об источниках рисков. Это приводит к изменению многомирной вероятности. Хотя многомирная вероятность и неизвестна нам, но является объективной величиной. Мультиверс включает в себя разные конфигурации Солнечной системы, совместимые с нашими знаниями о ней, в том числе с разными орбитами ещё не открытых астероидов или тёмных комет. По мере того, как у нас появляются всё более мощные телескопы, мы всё больше сокращаем неопределённость в знании о Солнечной системе и всё меньшая доля ее возможных вариантов оказывается совместимой с существованием крупных опасных астероидов – в ближайшем будущем, то есть в течение ближайших десятилетий. (Но в более отдалённом будущем могут прилететь опасные кометы из облака Оорта, которых мы пока не можем наблюдать.) Надо очертить разницу между знанием, о котором речь идёт в этом параграфе, и между знанием, связанным с рациональными ожиданиями – в первом случае речь идёт о невыраженном знании, например, в виде чистой фотопластинки, а во втором – о численной оценке, выведенной из всей совокупности полученных данных.
Д) Рациональные ожидания. (Информационная вероятность, или субъективная вероятность или байесова вероятность.) Эта вероятность является мерилом того количества информации, которое у нас есть о будущем, то есть того, что мы должны ожидать, исходя из всех имеющихся у нас знаний. В байсовом смысле она означает то, какой вес мы можем придать тем или иным гипотезам в соответствии с теми свидетельствами, которые мы получили. Однако даже рациональные ожидания являются недостижимой абстракцией, поскольку возникает вопрос, а кто, собственно, обладает этими знаниями. Идеальные рациональные ожидания должны исходить из всей суммы знаний, известной человечеству, однако ни один человек не знает всей этой информации и не способен ее рационально оценить, по причине когнитивных искажений и ограниченных вычислительных ресурсов мозга. Реальный человек не может учесть точно все гипотезы в математической форме, однако он принимает решение, исходя из всей полноты доступного ему знания – такая оценка вероятности становится субъективной вероятностью, или просто экспертной оценкой. Экспертная оценка – это результат сложения всех мнений с учётом представлений о достоверности этих мнений одним человеком. Метод Форсайта (и другие методы вроде голосования, рынка предсказаний и т. п.) используется, чтобы просуммировать мнения разных экспертов, сгладив их личные когнитивные искажения. Надо сказать, что это и есть та вероятность, какая нам обычно известна, и нам остаётся только надеяться, что, получив достаточно свидетельств, мы можем приблизить ее в начале к чистым рациональным ожиданиям, а затем их – к абсолютной вероятности.
К сожалению, в отношении большинства наиболее серьёзных угроз (био, нано, ИИ) мы не можем говорить о том, что есть какие-то данные, которые ведут себя как обычная случайная величина. Например то, окажется ли будущий ИИ враждебным человеку или нет – никак не зависит от сегодняшнего состояния нашей Солнечной системы. Возможно, что ИИ становится враждебным человеку всегда (мнение Омохундро [Omohundro 2008]) за счёт своей естественной эволюции, а возможно, что не трудно заложить в него правила дружественности (законы робототехники Азимова). Это всё равно что рассуждать о том, каковы шансы, что теорема Пифагора истинна. Идея здесь в том, чтобы рассматривать эти невероятностные события как вероятностные, и приписать им вероятность, пропорциональную, скажем, доле и авторитетности экспертов, подтверждающих эту точку зрения.
При этом вероятность рассматривается не как точное число, а с точностью до порядка или ниже. Кроме того, неопределённость в вероятности иногда можно уменьшить сразу, применив ее в анализе ожидаемого ущерба и расходов (cost-benefit анализе), то есть сразу умножив ее на ожидаемый ущерб и сравним ее с ожидаемыми преимуществами. Поскольку в случае глобальных катастроф речь идёт о бесконечно большом ущербе, то это умножение должно стирать разницу между в количественной оценке вероятности. Например, как запуск, так и отказ от создания ИИ включают в себя бесконечный ущерб, тогда как запуск коллайдера означает бесконечный ущерб, а отказ – только конечный. Рассуждая таким образом, мы можем придти к тем или иным решениям, не опираясь на окончательные численные оценки вероятности.
Другой вариант учёта – это то, что теория, истинность которой зависит от нескольких произвольных предположений, имеет меньшие шансы быть истинной, чем, теория, зависящая только от одного предположения. То есть мы можем сравнивать вероятности в духе больше-меньше, опять-таки избегая количественных оценок.
То, что знает один человек в качестве вероятности – это всегда его экспертная оценка, хотя он может ошибочно думать, что это точные рациональные ожидания или даже сама абсолютная вероятность. То есть возникает ошибка, когда человек ошибочно приписывает своим оценкам тот статус, который они не имеют. Карта – это не территория, и наши оценки вероятности – это не сама реальная вероятность, которая остаётся вещью в себе.
Помимо оценки вероятности есть так же степень уверенности. Когда некий человек говорит, что он на 90 % уверен в том-то, это не значит, что он полагает, что вероятность этого события – 90 %. Он имеет в виду, если его понимать буквально, то, что из 10 его высказываний такой же степени уверенности, только 9 будут истинными. В случае высказывания о вероятностном событии степень уверенности должна умножаться на оценку вероятности. (Например, такое высказывание: «Я на 90 процентов уверен, что вероятность выпадения этой монеты орлом равна ;».) К сожалению, как показывает Юдковски, людям свойственно переоценивать степень уверенности в своих высказываниях, которая автоматически считается равной 100%, а неуверенность считается признаком слабости и некомпетентности. В отношении разных сценариев глобальной катастрофы я имею разную информированность и разную степень уверенности. Выражением степени уверенности может быть не только оценка в процентах (от 50% до 100%), но и расширение интервалов, в пределах которых может лежать искомая величина.
В некоторых случаях может иметь смысл случайное поведение в ответ на неизмеримую опасность – например, если все цивилизации посчитают опасный эксперимент X безопасным, так как вероятность катастрофы, по их оценкам, в его ходе очень мала, то все цивилизации погибнут. Однако если все цивилизации будут случайным образом решать, какие эксперименты проводить, а какие нет, то погибнет только половина цивилизаций. Ещё один способ получить рациональные ожидания (но не абсолютную вероятность) – это использование статистики по прошлым данным, например, в духе формулы Готта (см. далее про Doomsday argument) или закона последования Лапласа , но это ограничено наблюдательной селекцией. (Например, из того, что последняя ядерная война была 63 года назад, из закона последования следуют ее шансы 1/65 на следующий год. Хотя этот способ оценки отвлекается от всей конкретики сегодняшнего дня, он может давать лучший результат, так как в нём некуда затесаться когнитивным искажениям, как это показал Канеман в статье «Робкие решения и смелые предсказания: когнитивные перспективы в принятии рисков» в разделе «внешний и внутренний взгляд на проблему» [Kahneman 1993], когда описывал историю планировании одного проекта. Там приводится пример о том, что оценка времени завершения проекта, сделанная на основании сравнения с другими проектами, оказалась гораздо более точной, чем оценка, сделанная участниками данного проекта, обладавшими всей полнотой данных о проекте – а именно 7–10 лет до завершения проекта вместо ожидавшихся 1,5 лет.)
Все эти вероятности нам могут быть известны только с определённой точностью, +/- Х, которая складывается из неопределённости нашего знания, наших моделей и нашей теории, а также из влияния наших ошибок и когнитивных искажений. Оценка степени этой неопределённости может быть ещё более трудна. Задача упрощается тем, что в целом все приведённые «объективные» вероятности должны быть величинами одного порядка, и поэтому, если мы огрубляем до уровня порядка, нам не нужно углубляться в детали, идёт ли речь о средней по галактике или абсолютной вероятности. (Поскольку маловероятно, чтобы они сильно отличались: у Чирковича в статье «Геоинженерия, пошедшая насмарку» [Circovic 2004] рассматривается вариант, что средняя вероятность вымирания по Галактике в результате опасных гео-инженерных проектов велика, так как большинство цивилизаций ориентированы на исследование недра, а не космоса, но что Земля является уникальной цивилизацией, ориентированной именно в небо, и в силу этого вероятность гибели Земли в результате геоинженерной катастрофы меньше. То есть Чиркович предполагает, что средняя и абсолютная вероятность вымирания для Земли резко различаются. Однако шансы, что он прав – невелики. Чем больше подразумеваемая уникальность Земли, тем меньше шансов, что он прав. То есть Земля скорее является 1 из 10, чем 1 из миллиона планет. Чем радикальнее утверждение о различии средней и абсолютной вероятности, тем больше шансов, что оно ложно. Пример из жизни: если ваш случайный собеседник в Интернете утверждает, то он миллиардер, то, скорее всего, он врёт, а если он говорит, что у него есть машина, то это, скорее всего, правда.)
Другое упрощение состоит в том, что в большинстве случаев мы не сделаем себе хуже, если переоценим вероятность некой глобальной катастрофы. Это значит, что нам надо брать в большинстве случаев верхнюю границу вероятностей. Но этот подход не работает, если нужно выбрать один из двух путей, каждый из которых имеет свой риск. В этом случае излишнее завышение риска может привести к тому, что мы фактически выберем более рискованный путь. Скажем, отказавшись от адронного коллайдера, мы можем не открыть новые источники энергии, которые нам позволили бы летать к звёздам, и не сможем резко повысить таким образом выживаемость нашей цивилизации за счёт более широкого ее распространения. Мы можем оценить среднее влияние когнитивных искажений в оценке вероятности исторических проектов (от аварий челнока до проектов построить коммунизм к 1980 году). Из исследований психологии известно, что люди, даже пытаясь учитывать свою будущую ошибку, всё равно обычно недооценивают искомый параметр [Yudkowsky 2008b].
В нашей методологии (часть 2) мы рассмотрим список из примерно 150 возможных логических ошибок и когнитивных искажений, которые так или иначе могут изменить оценку рисков. Даже если вклад каждой ошибки составит не более одного процента, результат может отличаться от правильного в разы и даже на порядки. Когда люди предпринимают что-то впервые, они обычно недооценивают рискованность проекта в 40-100 раз, что видно на примере Чернобыля и Челленджера. (А именно, челнок был рассчитан на одну аварию на 1000 полётов, но первый раз разбился уже на 25-ом полёте, что, как подчёркивает Юдковски, говорит о том, что оценка безопасности в 1 к 25 была бы более правильной, что в 40 раз меньше исходной оценки; реакторы строились с расчетом одна авария на миллион лет, но первая масштабная авария произошла через примерно 10 000 станций-лет эксплуатации, то есть, оценка безопасности в 100 раз более низкая была бы более точной.) Е. Юдковски в своей основополагающей статье «Систематические ошибки в рассуждениях, влияющие на оценку глобальных рисков» [Yudkowsky 2008b] приводит анализ достоверности высказываний экспертов о разнообразных величинах, которые они не могут вычислить точно, и о том, какие интервалы 99 %-ой уверенности они дают для этих величин. Результаты этих экспериментов удручают. Позволю себе большую цитату:
«Допустим, я попрошу вас сделать наилучшее возможное предположение насчёт неизвестного числа, такого, как количество «Врачей и хирургов» в бостонской телефонной книге, или о суммарной продукции яиц в США в миллионах штук. Вы дадите в ответ некую величину, которая наверняка не будет совершенно точной; подлинная величина будет больше или меньше, чем вы предположили. Затем я попрошу вас назвать нижнюю границу этого показателя, когда вы уверенны на 99 %, что подлинная величина лежит выше этой границы, и верхнюю границу, по отношению к которой вы на 99 % уверены, что искомая величина лежит ниже неё. Эти две границы образуют ваш интервал 98 %-й уверенности. Если вы хорошо откалиброваны, то на 100 подобных вопросов у вас будет только примерно 2 выпадения за границы интервала.
Альперт и Раиффа задали испытуемым 1000 вопросов по общеизвестным темам, подобных приведённым выше. Оказалось, что 426 подлинных значений лежали за пределами 98 %-ых интервалов уверенности, данных испытуемыми. Если бы испытуемые были правильно настроены, было бы только 20 сюрпризов. Иными словами, события, которым испытуемые приписывали вероятность 2 %, случались в 42.6 % случаев.
Другую группу из 35 испытуемых попросили оценить 99,9 %-е верхние и нижние границы уверенности. Они оказались неправы в 40 % случаев. Другие 35 субъектов были опрошены о максимальных и минимальных значениях некого параметра и ошиблись в 47 % случаев. Наконец, четвёртая группа из 35 субъектов должна была указать «невероятно малое» и «невероятно большое» значение параметра; они ошиблись в 38 % случаев.
Во втором эксперименте новой группе испытуемых был предоставлен первый набор вопросов вместе с ответами, рейтингом оценок, с рассказом о результатах экспериментов и разъяснением концепции калибровки – и затем их попросили дать 98 %-е интервалы уверенности для новой группы вопросов. Прошедшие подготовку субъекты ошиблись в 19 % случаях, что являет собой значительное улучшение их результата в 34 % до подготовки, но всё ещё весьма далеко от хорошо откалиброванного результата в 2 %.
Подобные уровни ошибок были обнаружены и у экспертов. Хинес и Ванмарк опросили семь всемирно известных геотехников на предмет высоты дамбы, которая вызовет разрушение фундамента из глинистых пород, и попросили оценить интервал 50 %-й уверенности вокруг этой оценки. Оказалось, что ни один из предложенных интервалов не включал в себя правильную высоту. Кристиен-Салански и Бушихед опросили группу врачей на предмет вероятности пневмонии у 1531 пациента с кашлем. В наиболее точно указанном интервале уверенности с заявленной достоверностью в 88 %, доля пациентов, действительно имевших пневмонию, была менее 20 %.
Лихтенштейн производит обзор 14 исследований на основании 34 экспериментов, выполненных 23 исследователями, изучавшими особенности оценки достоверности собственных выводов людьми. Из них следовал мощнейший вывод о том, что люди всегда сверхуверены. В современных исследованиях на сверхуверенность уже не обращают внимания; но она продолжает попутно проявляться почти в каждом эксперименте, где субъектам позволяется давать оценки максимальных вероятностей.
Сверхуверенность в большой мере проявляется в сфере планирования, где она известна как ошибочность планирования. Бюхлер попросил студентов-психологов предсказать важный параметр – время сдачи их дипломных работ. Исследователи подождали, когда студенты приблизились к концу своих годичных проектов и затем попросили их реалистично оценить, когда они сдадут свои работы, а также, когда они сдадут свои работы, если всё пойдёт «так плохо, как только может». В среднем, студентам потребовалось 55 дней, чтобы завершить свои дипломы, на 22 дня больше, чем они ожидали, и на 7 дней больше, чем они ожидали в самом худшем случае.
Бюхлер попросил студентов оценить время сдачи дипломных работ, в котором они уверены на 50 %, на 75 % и на 99 %. Только 13 % участников закончили свои дипломы к моменту, которому приписывали 50 % вероятность, только 19 % закончили к моменту 75 % оценки и 45 % закончили к 99 % уровню. Бюхлер пишет: «Результаты выхода на уровень 99 % достоверности особенно впечатляющи. Даже когда их попросили сделать наиболее консервативное предсказание, в отношении которого они чувствовали абсолютную уверенность, что его достигнут, всё равно уверенность студентов в их временных оценках намного превосходила их реальные результаты» [Yudkowsky 2008b].»

Наконец, очень важно различать погодовую и полную вероятность. Например, если вероятность вымирания от ядерной войны оценить в 1 процент в год, то за тысячу лет накопленная вероятность будет означать шансы выжить примерно 1 к 10 000. Вообще, любая погодовая вероятность может быть трансформирована в ожидаемое время, то есть время, за которое шансы дорастут до 50 процентов. Упрощённая формула для оценки ее есть T=72/P, где Т – время в годах, а Р – вероятность в процентах. (Точное решение уравнения 2=(1,01)  равно x=log2/ log(1.01). )
Например, погодовой риск в 0,7 % даст 50 % вымирания цивилизации за 100 лет, 75 % за 200 и 99,9 % за 1000 лет.) Это означает, что любой риск, заданный на некотором промежутке времени, можно нормировать на «период полураспада», то есть время, на котором он бы означал 50 %-ую вероятность вымирания цивилизации.
Иначе говоря, вероятность вымирания за период времени [0; T] равна:
P(T) = 1 – 2 ,
Где Т  – время полураспада. Тогда погодовая вероятность будет P(1) = 1 – 2 , Следующая таблица показывает соотношение этих параметров, вычисленное с помощью вышеприведенной формулы для разных начальных условий.
Таблица 1. Связь ожидаемого времени существования цивилизации с погодовой вероятностью вымирания.

T0 — период, за который глобальная катастрофа случится с вероятностью 50 %: P(1) — вероятность глобальной катастрофы в ближайший год, % P(100) — вероятность вымирания цивилизации за 100 лет (то есть к 2107г). % 1–P(100) — шансы выживания цивилизации за 100 лет: Период гарантированного вымирания с вероятностью
99,9 %, лет:
10 000 0.0069 % 0,7 % 99,3 % 100 000
1 600 0.0433 % 6 % 94 % 16 000
400 0.173 %
12,5 % 87,5 % 4 000
200 0.346 % 25 % 75 % 2 000
100 0.691 % 50 % 50 % 1 000
50 1,375 % 75 % 1 к 4 500
25 2,735 % 93,75 % 1 к 16 250
12,5 5,394 % 99,6 % 1 к 256 125
6 10,910 % 99,9984 % 1 к 16 536 60

Обратите внимание на нижнюю часть этой таблицы, где даже очень большое снижение шансов выживания за весь XXI век не изменяет в значительной мере «период полураспада» T0, который остаётся на уровне порядка 10 лет. Это означает, что даже если шансы пережить XXI век очень малы, всё равно у нас почти наверняка есть ещё несколько лет до «конца света». С другой стороны, если мы хотим пережить XXI век наверняка (сделать 1–P(100) как можно выше), нам надо приблизить погодовую вероятность вымирания P(1) практически к нулю.
Итак, мы предполагаем, что вероятность глобальных катастроф можно оценить, в лучшем случае, с точностью до порядка (причём, точность такой оценки будет плюс-минус порядок) и что такого уровня оценки достаточно, чтобы определить необходимость дальнейшего внимательного исследования и мониторинга проблемы . Подобными примерами шкал являются Туринская и Палермская шкалы риска астероидной опасности.
Одиннадцатибальная (от 0 до 10) Туринская шкала астероидной опасности «характеризует степень потенциальной опасности, грозящей Земле со стороны астероида или ядра кометы. Балл по Туринской шкале астероидной опасности присваивается малому телу Солнечной системы в момент его открытия в зависимости от массы этого тела, возможной скорости и вероятности его столкновения с Землей. По мере дальнейшего исследования орбиты тела его балл по Туринской шкале может быть изменен» [Сурдин]. Ноль означает отсутствие угрозы, десять – вероятность более 99 % падения тела диаметром более 1 км. Палермская шкала отличается от Туринской тем, что учитывает также и время, оставшееся до падения астероида: чем времени меньше, тем выше балл. Балл по Палермской шкале вычисляется по специальной формуле [NASA].
Интересно было бы создать аналогичную шкалу для оценки рисков глобальных катастроф, ведущих к человеческому вымиранию. Поскольку результат любой катастрофы такого рода по определению один и тот же, то масштаб здесь учитывать не нужно. С другой стороны, принципиальное значение приобретает степень неопределённости нашего знания о риске и наша способность его предотвратить. Таким образом, шкала глобальных катастроф должна отражать три фактора: вероятность глобальной катастрофы, достоверность сведений о данном риске и вероятность того, что данный риск удастся предотвратить.
В силу сказанного кажется естественным предложить следующую вероятностную классификацию глобальных рисков в XXI веке (рассматривается вероятность на протяжении всего XXI века при условии, что никакие другие риски на неё не влияют):
1) Неизбежные события. Оценка их вероятности – порядка 100 % в течение XXI века. Интервал уверенности: (10 %; 100 %)
2) Весьма вероятные события – оценка вероятности порядка 10 %. (1 %; 100 %)
3) Вероятные события – оценка порядка 1 %. (0,1 %; 10 %)
4) Маловероятные события – оценка 0,1 %. (0,01 %; 1 %)
5) События с ничтожной вероятностью – оценка 0,01 % и меньше. (0 %; 0,1 %)
Пунктами 4 и 5, казалось бы, можно пренебречь, поскольку их суммарный вклад меньше, чем уровень ошибок в оценке первых трёх. Однако, ими пренебрегать не стоит, так как возможна значительная ошибка в оценке рисков. Далее, важно количество событий с малой вероятностью. Например, если возможны несколько десятков разных сценариев с вероятностью 0,1 % – 10 %, то в сумме это даёт разброс вероятности 1 % - 100 %. К неизбежным событиям относится только тот факт, что в течение XXI века мир существенно изменится.
В наших рассуждениях мы будем широко пользоваться «принципом предосторожности», то есть, мы будем предполагать, что события могут сложиться наихудшим реалистичным образом. При этом реалистичными мы будем считать следующие сценарии: а) не противоречащие законам физики; б) возможные при условии, что наука и техника будут развиваться с теми же параметрами ускорения, что и в настоящий момент. Принцип предосторожности соответствует указанной Юдковски и проверенной на многих экспериментах закономерности (см. выше цитату из него), что результат, который люди получают относительно будущего, обычно оказывается хуже их самых худших ожиданий [Yudkowsky 2008b]. При расширении вероятностных промежутков нам следует уделять внимание, в первую очередь, расширению в худшую сторону, то есть — в сторону увеличения вероятности и уменьшения оставшегося времени. Однако, если некий фактор, например, создание защитной системы, может нам помочь, то оценки времени его появления следует увеличивать. Иначе говоря, консервативной оценкой времени появления домашних конструкторов биовирусов будет 5 лет, а времени появления лекарства от рака – 100. Хотя, скорее всего, и то, и другое появится через пару десятков лет.
В экономике применяется следующий метод предсказания – опрос ведущих экспертов о будущем некого параметра и вычисление среднего. Очевидно, это не позволяет узнать действительное значение параметра, но позволяет сформировать «best guess» – наилучшее предположение. Тот же метод можно применить, с определённой осторожностью, и для оценки вероятности глобальных катастроф. Допустим, в отношении глобального потепления из тысяч экспертов только один говорит, что она наверняка приведёт к полному вымиранию человечества. Тогда применение этой методики даст оценку вероятности вымирания, равную 0,1 %.
В целом знание погодовой вероятности глобальных катастроф не имеет большой ценности, так как по причине технологического прогресса вероятность технологических катастроф будет расти, а вероятность природных катастроф – уменьшаться за счёт большей способности человека им противостоять.
Технологическому прогрессу свойствен экспоненциальный или даже гиперболический рост.
Предположим, что некая технология экспоненциально растёт и число условных «установок» равно:
            (1)
где m - постоянная из закона Мура, обратная периоду удвоения m=1/t, T - время. При этом каждая установка имеет вероятность p в год привести к глобальной катастрофе. Вопрос – какова полная вероятность катастрофы P от сегодняшнего дня до момента   и какова погодовая  вероятность катастрофы?

            (2)

Для вероятности катастрофы в 0,1 % в год для одной установки и периода около 2 лет, мы получаем плотность вероятности:
P =
Которая на графике выглядит так:


Чтобы получить полную вероятность за   лет, надо перемножить шансы выживания за все   лет и вычесть это из 1.


Подставляя в неё значение из (1) вместо каждого  получаем:



И отсюда:
         (3)

Если взять довольно разумную оценку как 0,1 % вероятности катастрофы на проект и период удвоения около 2 лет, то получим такой график:

P =




Говоря попросту, если опасная технология развивается экспоненциально, то шансы выжить убывают как экспонента от экспоненты, то есть очень быстро.
Видно, что переход от погодовой вероятности к полной вероятности не меняет характер кривой и не меняет сильно значение величины, что не удивительно, так как наибольший прирост приходится за последнее удвоение – и прирост за последнее удвоение равен приросту за всё предыдущее время. То есть мы видим ту же кривую, сдвинутую на 2 года влево.
Переход от неразличимо малой вероятности катастрофы к близкой к 1 занимает примерно 10 лет, и зависит только от постоянной закона Мура. Начальная плотность установок и вероятность катастрофы, приходящаяся на отдельную установку, не влияют на характер кривой и только сдвигают ее в ту или в другую сторону на несколько лет.
При этом тот период времени, когда катастрофа скорее всего произойдёт, то есть время, когда ее накопленные шансы меняются от 10 % до 90 % составляет всего порядка 5 лет. Если мы учтём гиперболический закон роста технологий, то это время ещё уменьшится.
Если мы добавим к этому то, что одновременно экспоненциально развивается несколько технологий, которые могут создавать глобальный риск: био, нано и ИИ (а также дешёвые ядерные технологии), – то мы должны ожидать, что они будут взаимодействовать друг с другом, взаимноусиливая друг друга, и ещё больше сокращая срок, когда глобальная катастрофа наиболее вероятна.
Стоит обратить внимание, что эта кривая очень похожа на кривую человеческой смертности, то есть вероятности дожития до определённого возраста. Это можно объяснить через механизм старения, состоящий в экспоненциальном накоплении числа ошибок, сбоев и исчерпаний «срока годности» различных систем организма. Кривая эта называется законом Гомперца и в общей форме имеет вид, который можно получить из формулы (3) после ряда преобразований:


Кроме того, сравнивая процессы старения человеческого организма, выражаемые в виде эмпирической кривой смертности с математической кривой смертности, выражаемой формулой Гомперца, можно оценить, каков вклад сложного системного взаимодействия разных причин в такой простой процесс, как экспоненциальное нарастание вероятности. Иначе говоря, старение человека можно использовать как аналогию процессам нарастания рисков, стоящих перед технологической цивилизацией. В целом, основной вывод состоит в том, что этот вклад не очень велик, то есть кривая Гомперца описывает продолжительность жизни человека с точностью до нескольких процентов. Однако, есть важное отличие. В конце кривой реальная вероятность смерти оказывается меньше ожидаемой, что делает возможным существование 110-летних стариков. Вторая особенность, видимо, состоит в том, что продолжительность жизни человека имеет верхний предел.
Иначе говоря, нас ждёт горячая пятилетка, хотя когда именно она начнётся – в 2010-х, 2020-х или 2030-х годах, – сказать трудно.
Горячая пятилетка произойдёт или до возникновения мощного ИИ, либо такой ИИ возникнет во время неё, и борьба разных ИИ между собой за власть над миром станет причиной катастрофических рисков. Вряд ли, однако, горячая пятилетка произойдёт после установления всемирной власти одного ИИ. Таким образом, речь идёт о последнем пятилетии перед Сингулярностью. Разумно ожидать, впрочем, что реальность окажется сложнее предлагаемой упрощённой модели.
Другой моделью, предсказывающей шансы глобальной катастрофы, является наблюдение А.Д.Панова [Панов 2004] и других исследователей об увеличении частоты кризисов с течением времени . Каждый следующий кризис следует за другим с периодом в примерно 2.67 раз меньшим – 1500, 1830, 1945, 1991. Кризис сопровождается как крахом определённой политической системы, так и переходом к новым технологиям. Это также сопровождается обострением войн, в которых обкатываются эти новые технологии. Дальнейшее применение этой последовательности показывает, что очередной кризис должен произойти в районе 2010 года, и мы можем видеть его зарождение в виде нынешнего экономического кризиса. Затем последует передышка в лет 8, и потом новый кризис в 2018 году, и дальше кризисы должны последовать с нарастающей частотой вплоть до момента Сингулярности в районе 2025 года, когда частота кризисов, исходя из этой модели, должна обратиться в бесконечность. График частоты кризисов описывается гиперболой. Не трудно предположить, что в момент очередного кризиса, когда власть на Земле переходит в новые руки и одновременно возникают новые технологии, обеспечивающие эту власть, возрастает риск глобальных катастроф. Например, таким риском (исходя из знаний людей того времени) было испытание первой атомной бомбы. Кроме того, из модели Панова следует, что в последние пять лет перед Сингулярностью произойдёт огромное множество технологических революций, что опять-таки согласуется с предположением о «горячей пятилетке» в смысле глобальных катастроф. Такое быстрое изменение возможно только за счёт рекурсивно улучшающегося ИИ, и каждая революция – это некий шаг в его улучшении. Мы вернёмся к проблемам оценки вероятности глобальной катастрофы в главе «Непрямые способы оценки вероятности глобальной катастрофы».
1.4 Количественные оценки вероятности глобальной катастрофы, даваемые различными авторами
Далее я привожу известные мне оценки ведущих экспертов в этой области, которые публиковали исследования с оценками рисков человеческого вымирания (но эти оценки могут быть искажены в сторону пессимизма, так как более оптимистичные исследователи занимаются другими проблемами. Дж. Лесли, 1996, «Конец света»: 30 % в ближайшие 500 лет с учётом действия Доказательство Конца Света без него – 5 % [Leslie 1996].
Н. Бостром, 2001, «Угрозы существованию. Анализ сценариев человеческого вымирания и подобных опасностей»: «Мое субъективное мнение состоит в том, что будет ошибочно полагать эту вероятность меньшей, чем 25 %, и наивысшая оценка может быть значительно больше…» [Bostrom 2001].
Сэр Мартин Рис, 2003 «Наш последний час»: 50 % в XXI веке [Rees 2003].
Может показаться, что эти данные не сильно расходятся друг с другом, так как во всех случаях фигурируют десятки процентов. Однако, промежуток времени, на который даётся это предсказание, каждый раз сокращается (пятьсот лет – двести – сто), в результате чего погодовая плотность вероятности растёт. А именно: 1996 – 0,06 % – 0,012 % , 2001 – 0,125 %, 2003 – 0,5 %.
Иначе говоря, за десять лет ожидаемая оценка плотности вероятности глобальных катастроф, по мнению ведущих экспертов в этой области, возросла почти в 10 раз. Разумеется, можно сказать, что трёх экспертов недостаточно для статистики, и что эти мнения могут взаимно влиять друг на друга, однако тенденция неприятная. Если бы мы имели право экстраполировать эту тенденцию, то в 10-е годы XXI в. мы могли ожидать оценок погодовой вероятности вымирания в 5 %, а в 20-е годы – в 50 %, что означало бы неизбежность вымирания цивилизации до 2030 года. Несмотря на всю свою спекулятивность, эта оценка совпадает с другими оценками, полученными далее в этой книге разными независимыми способами.
С другой стороны, в годы холодной войны оценка вероятности вымирания тоже была высока. Исследователь проблемы внеземных цивилизаций фон Хорнер приписывал «гипотезе самоликвидации психозоя» шансы в 65 % [Лем 1970]. Фон Нейман считал, что ядерная война неизбежна, и все в ней погибнут [Bostrom 2001].
У Шкловского мы читаем: «По оценкам, выполненным американским футурологом А. Раппортом при экстраполяции естественных тенденций в развитии технологических цивилизаций, эти катастрофы (уничтожающие технологическую цивилизацию – А.Т.) должны реализоваться не позже 2030 года» [Шкловский 1987].
1.5 Глобальные катастрофы и горизонт прогнозирования
Целью данной работы является попытка проникнуть немного далее, чем позволяет нам обычный горизонт прогнозирования – туда, где за пределами однозначного прогноза виднеются туманные очертания разных возможностей. Я полагаю, что реальный горизонт однозначного прогноза, который мы можем делать со значительной достоверностью, составляет 5 лет, тогда как пространство за горизонтом, где мы можем усмотреть разные возможности, составляет ещё 20 лет после этого момента. И за этим моментом следует абсолютная непредсказуемость. Постараюсь это обосновать.
Оценка в 5 лет возникла из экстраполяции исторических промежутков, на которых в прошлом ситуация в мире настолько менялась, что конкретные политические и технологические тенденции устаревали. Так, от открытия цепной реакции до атомной бомбы прошло 6 лет, ещё 7 – до первой водородной, а с этого момента – ещё 5 лет до запуска первого спутника. Примерно по 5 лет длились и обе мировые войны, 6 лет заняла эпоха перестройки. Поступая в вуз на 5 лет, человек не знает обычно, куда он из него пойдёт работать и какую выберет специализацию. На 5 лет обычно выбирают президентов, и никто не знает, кто будет президентом через срок. СССР управлялся на основе пятилетних планов. Периодичность появления принципиально новых продуктов и их огромных рынков: PC, интернет, сотовые телефоны – тоже имеет порядок нескольких лет. Планы внедрения новых технологий микропроцессоров также составляют не более нескольких лет. При этом основной силой в ожиданиях на ближайшие несколько лет оказывается «сила инерции», то есть мы можем с высокой вероятностью говорить, что в течение ближайших 5 лет будет примерно тоже, что и сейчас, за исключением ряда развивающихся тенденций. Однако, когда мы говорим о сроках более 5 лет, то более вероятным выглядит утверждение о том, что ситуация кардинально изменится, чем то, что она будет такой же, как сейчас. Эффект ускорения исторического времени, о котором мы будем говорить дальше, вероятно, сокращает этот срок однозначного прогноза.
Таким образом, мы можем сказать, что до начала «полосы тумана» в однозначных прогнозах будущего у нас есть примерно 5 лет, то есть, это 2013 год от момента, когда я пишу эти строки. В целом, мы смутно представляем более поздние технологии, хотя и существуют отдельные технические проекты со сроком реализации до 2020-х годов ( термоядерный реактор ИТЭР или строительство лунной базы), и есть бизнес-планы, которые рассчитаны на срок до 30 лет, например, долгосрочная ипотека. Но именно пять лет – это примерный срок, за которым неопределённость в глобальном состоянии всей системы начинает преобладать над определённостью в разных видах человеческой деятельности. Также надо отметить, что с течением времени всё большая неопределённость приходится не на технологические проекты, а на открытия. И хотя мы можем сказать, что некоторые проекты составлены на 20 лет вперёд, мы не знаем, какие факторы будут самыми главными в экономическом, политическом и техническом развитии.
Абсолютным пределом в прогнозах кажется 2030 год, в районе течение которого предполагаются возможными развитые нанотехнологии, искусственный интеллект и полное овладением биоконструированием. (Это мнение разделяется многими футурологами). Нам кажется, что сейчас нет смысла в оценках кривых роста популяции или запасов каменного угля на этот период, поскольку мы ничего не можем сказать о том, как повлияют сверхтехнологии на эти процессы. С другой стороны, большая неопределённость есть в выборе самой этой даты. Она часто фигурирует в разных дискуссиях о будущем технологий, о чём речь пойдёт дальше в главе про Технологическую Сингулярность. Очевидно, что неопределённость в дате «2030 год» составит не менее пяти лет. Если произойдёт некая неокончательная катастрофа, то она может резко расширить горизонт прогнозирования просто за счёт сужения пространства возможностей (например, в духе сюжета: «теперь мы будем сидеть в бункере 50 лет»). Хотя большинство футурологов, пишущих на тему новых технологий, предполагают, что сверхтехнологии созреют к 2030 году, некоторые относят появление зрелых нанотехнологий и ИИ к 2040-м годам, однако мало кто решается дать обоснованные предсказания на более поздние даты. Кроме того, помимо неопределённости, связанной с нашим незнанием темпов развития разных технологий, их конвергенция в ходе Технологической Сингулярности даёт неопределённость более высокого порядка, связанную с тем, что мы не можем предсказывать поведение интеллекта, значительно превосходящего наш.
Также надо иметь в виду, что время предсказуемости постоянно уменьшается в связи с ускорением прогресса и ростом сложности систем. Поэтому, высказывая предположения о границе предсказуемости, мы уже делаем некий прогноз на будущее – хотя бы о том, что степень его изменчивости будет сохраняться. Очевидно, однако, что граница предсказуемости может возрастать за счёт нашего лучшего предвидения и успехов в создании устойчивого общества.
Здесь также действует парадокс среднесрочных прогнозов. Мы можем сказать, что будет с человеком завтра (примерно то же самое, что и сегодня), или через десятки лет (возможно, он состарится и умрёт), но мы не можем сказать, что будет через 10 лет. Также и про человечество мы можем сказать, что оно к концу XXI века или перейдёт в постиндустриальную фазу с нанотехнологиями, искусственным интеллектом и почти физическим бессмертием, или к этому моменту погибнет, не выдержав быстроты изменений. Однако прогноз на 15 лет гораздо менее очевиден.
В силу сказанного, хотя мы и исследуем угрозы глобальной катастрофы на протяжении всего XXI века, наибольшей интерес для нашего исследования представляет промежуток примерно в два десятилетия между 2012 и 2030 годами. До этого периода вероятность глобальной катастрофы в целом известна и мала, а после него – мы утрачиваем, за рядом исключений, возможность что-либо точно предполагать.
1.6 Краткая история исследований вопроса
История современного научного изучения глобальных рисков ведёт отсчёт с 1945 года. Перед первыми испытаниями атомной бомбы в США возникли сомнения, не приведёт ли это испытание к цепной реакции термоядерного синтеза азота в атмосфере Земли. (Самоподдерживающееся химическое горение азота в кислороде невозможно, так как эта реакция эндотермическая, то есть идёт с поглощением энергии. Реакция ядерного синтеза двух ядер азота-14 требует наименьшей энергии, поэтому рассматривали именно азот, а не кислород.) Если бы азот загорелся, то реакция за несколько секунд охватила бы всю атмосферу Земли, что однозначно уничтожило бы всю биосферу, и от Земли бы остался только огарок. Даже если бы реакция охватила сферу в воздухе диаметром в 50 метров вокруг бомбы, то выход энергии был бы порядка гигатонны, и разрушения были бы по всей территории Соединённых Штатов.
Для того, чтобы оценить риск такого развития событий, была создана комиссия во главе с физиком Артуром Комптоном. Ею был подготовлен доклад LA-602 «Риски поджигания атмосферы атомным взрывом» [LA-602 1945], которые недавно был рассекречен и теперь доступен всем желающим в Интернете в виде плохо отсканированных машинописных страниц. В нём Комптон показывает, что благодаря рассеянию фотонов на электронах последние будут охлаждаться (так как их энергия больше, чем у фотонов), и излучение будет не нагревать, а охлаждать область реакции. Таким образом, с ростом области реакции процесс будет ослабевать и не сможет стать самоподдерживающимся. Это гарантировало невозможность цепной реакции на азоте в атмосфере, хотя в конце текста было сказано, что не все факторы учтены – например, влияние водяного пара, содержащегося в атмосфере. Поскольку это был секретный доклад, он не был предназначен для убеждения публики, чем выгодно отличался от недавних докладов по безопасности коллайдера. Но его целевой аудиторией были лица, принимающие решения. Им Комптон сообщил, что шансы того, что цепная реакция подожжёт атмосферу, составляют 3 на миллион. В 1970-е годы было проведено журналистское расследование, к ходе которого выяснилось, что Комптон взял эти цифры «из головы», потому что посчитал их достаточно убедительными для президента – в самом докладе нет никаких вероятностных оценок [Kent 2004]. При этом Комптон полагал, что реальная оценка вероятности катастрофы не важна, так как если американцы откажутся от испытаний бомбы, то ее всё равно испытают немцы или другие враждебные страны. В 1979 году вышла статья Вивера и Вуда [Weaver, Wood 1979] о термоядерной детонации в атмосферах и океанах, где показывалось, что нигде на Земле невозможны условия для термоядерной детонации (однако они возможны на других планетах, если там есть достаточно высокая концентрация дейтерия).
Следующим важным эпизодом стало осознание человечеством не просто возможности внезапной гибели, но сознательного самоуничтожения. Этим этапом стало предложение Лео Сциллардом кобальтовой бомбы [Smith 2007]. Во время дискуссии на радио с Гансом Бете в 1950 году о возможной угрозе жизни на Земле со стороны атомного оружия, он предложил новый тип бомбы: водородную бомбу (которой тогда ещё физически не было, но возможность создания которой широко обсуждалась), обёрнутую оболочкой из кобальта-59, который при взрыве превращался бы в кобальт-60. Этот высокорадиоактивный изотоп с периодом полураспада около 5 лет мог бы сделать целые континенты или всю Землю непригодной для жизни – если бомба будет достаточно большого размера. После такого заявления министерство энергетики решило провести расследование, с тем, чтобы доказать, что такая бомба невозможна. Однако нанятый её учёный показал, что если масса бомбы составит 200 000 тонн (то есть примерно как 20 современных ядерных реакторов, что теоретически реализуемо), то её хватит для уничтожения высокоорганизованной жизни на Земле. Такое устройство неизбежно должно было бы быть стационарным. Но смысл его был именно в качестве Оружия Судного дня (“Doomsday machine”) – то есть универсального оборонительного оружия. Ведь никто не решится напасть на страну, которая создала такое устройство. В 60-е годы идея о теоретической возможности уничтожения мира с помощью кобальтовой бомбы была весьма популярна, и широко обсуждалась в прессе, в научной и художественной литературе, но потом была весьма забыта. (Например, в книге Г. Кана «О термоядерной войне» [Khan 1960], в романе Н. Шюта «На берегу» [Shute 1957], в фильме С. Кубрика «Доктор Стрейнджлав».)
Кроме того, в 60-е годы возникло много идей о потенциальных катастрофах или опасных технологиях, которые получили развитие в будущем. Английский математик И. Гуд написал эссе «О первой сверхинтеллектуальной машине» [Good 1965], где показал, что как только такая машина появится, она будет способна к самосовершенствованию, и оставит человека навсегда позади – позднее эти идеи легли в основу представлений о Технологической Сингулярности В. Винджа [Vince 1993], суть которых состоит в том, что, исходя из текущих тенденций, к 2030 году будет создан искусственный интеллект, превосходящий человеческий, и после этого история станет принципиально непредсказуемой. Астрофизик Ф. Хойл [Hoyle 1962] написал роман «Андромеда», в котором описал алгоритм атаки на Землю враждебного искусственного интеллекта, загружаемого по каналам SETI из космоса. Физик Р. Фейнман написал эссе «Там, внизу, еще много места» [Feynman 1959], в котором впервые была высказана идея о возможности молекулярного производства, то есть нанороботов. Была взорвана самая большая в истории термоядерная бомба – 1961 г., Новая Земля. Важную роль в осознании глобальных рисков играет научная фантастика, особенно творчество Станислава Лема, его роман «Непобедимый», футурологические исследования «Сумма технологий», «Фантастика и футурология» и другие работы. Форестер публикует в 1960 году статью «Судный день: пятница, 13 ноября 2026 года. Дата, когда человеческая популяция достигнет бесконечности, если она будет расти с той же скоростью, как и последние два тысячелетия» [Foerester, 1960].
В 1970-е годы стала понятна опасность, связанная с биотехнологиями. В 1971 году американский биолог Роберт Поллак узнал [Чирков 1989], что в соседней лаборатории планируются эксперименты по встраиванию генома онкогенного вируса SV40 в бактерию кишечной палочки. Он сразу представил, как такая кишечная палочка распространится по миру и вызовет всемирную эпидемию рака. Он обратился в эту лабораторию с просьбой приостановить эксперименты до того, как будут обдуманы их последствия. Результатом последовавших дискуссий стала конференция в Асиломаре в 1975 году, на которой были приняты рекомендации по проведению безопасного генетического конструирования.
В 1981 году вышла книга А. Азимова «Выбор катастроф» [Азимов 2002]. Хотя это была одна из первых попыток систематизировать различные глобальные риски, основное внимание в ней уделено отдалённым событиям, вроде расширения Солнца, и главный пафос книги в том, что человек сможет преодолеть глобальные риски.
В 1983 году Б. Картер предложил антропный принцип. В рассуждениях Картера была и вторая часть, которую он решил не публиковать, а только доложить на заседании Королевского общества, так как понимал, что она вызовет ещё больший протест. Позднее ее популяризовал Дж. Лесли [Leslie 1996]. Эта вторая половина рассуждений стала известна как Doomsday argument, DA – Доказательство Конца Света. Вкратце суть ее в том, что исходя из прошлого времени жизни человечества и предположения, что мы находимся примерно в середине его существования, мы можем оценить будущее время существования человечества. Например, если я беру случайную морскую свинку из вольера, и узнаю, что её возраст – 2 года, то я могу предположить, что он с большой вероятностью примерно равен среднему возрасту свинок в вольере (так как маловероятно что я достану очень молодую или очень старую свинку), а значит, средний возраст свинок в вольере тоже 2 года, а ожидаемая продолжительность жизни – 4 года с определённой вероятностной достоверностью. (А не 2,1 года и не 400 лет.) Иначе говоря, Картер спросил: насколько вероятно то, что мы обнаруживаем себя так рано в истории цивилизации, в предположении, что человечество заселит всю галактику в течение миллионов лет. И ответ был такой: это очень маловероятно, если считать, что человечество заселит всю Галактику, но вполне вероятно, если считать, что человечество обречено на гибель в ближайшие несколько тысяч лет. Картер предложил DA в более строгой математической форме, основанной на теореме Байеса, которая давала не вероятность вымирания человечества во времени, а поправку к вероятности уже известных рисков в сторону их увеличения. В такой форме результаты получались очень плохими: например, при ряде достаточно правдоподобных предположений, вероятность в 1 % преобразовывалась в 99 %. Независимо от Картера похожую теорию разработал Ричард Готт, и опубликовал её в журнале Nature в 1993 году [Gott 1993]. В ней вероятность будущего времени существования системы выражалась на прямую через прошлое время. (С вероятностью в 50 процентов система просуществует от 1/3 до 3 периодов времени, которые она уже просуществовала, если считать, что она наблюдается в случайный момент времени.) Если учитывать только время жизни Homo Sapiens, то с учётом того, что наш вид уже существует около 200 тысяч лет, это давало ожидаемое время существования от 66 до 600 тысяч лет, что выглядит вполне разумным. Однако если учесть рост населения Земли – и взять среднее не по времени, а по числу живших людей – то ожидаемое время жизни человечества сокращалась до 1000 лет. При некоторых предположениях оно сокращается до нескольких десятков лет. DA – крайне запутанная тема, и сейчас вышли десятки статей за и против него.
В начале 80-х возникает новая теория вымирания человечества в результате применения ядерного оружия – теория о «ядерной зиме». В ходе компьютерного моделирования поведения атмосферы оказывается, что затемнение в результате выброса сажевых частиц в тропосферу будет длительным и значительным. Вопрос о том, насколько реально такое затемнение и какое падение температуры может пережить человечество, остаётся открытым.
В 80-е появлялись и первые публикации о рисках экспериментов на ускорителях.
В 1985 году вышла книга Э. Дрекслера «Машины созидания» [Drexler 1985], посвящённая радикальным нанотехнологиям – то есть созданию самовоспроизводящихся нанороботов. Дрекслер показал, что такое событие имело бы революционные последствия для экономики и военного дела. Он рассматривает различные сценарии глобальной катастрофы, связанной с нанороботами. Первый – это «серая слизь», то есть неограниченное размножение нанороботов, над которыми потерян контроль, в окружающей среде. За несколько дней они могли бы полностью поглотить биосферу Земли. Второй риск – это «нестабильная гонка вооружений». Нанотехнологии позволят быстро и крайне дёшево создавать оружие невиданной разрушительной силы. В первую очередь речь идёт о микроскопических роботах, способных поражать живую силу и технику противника. «Нестабильность» этой гонки вооружений состоит в том, что в ней «начавший первым получает всё», и невозможно равновесие двух противоборствующих сил, как это было во времена холодной войны.
В 1996 году выходит книга канадского философа Дж. Лесли «Конец света. Наука и этика человеческого вымирания» [Leslie 1996], которая радикально отличается от книги Азимова в первую очередь своим пессимистическим тоном и сосредоточенностью на ближайшем будущем. В ней рассмотрены все новые открытия гипотетических сценариев катастрофы, в том числе нанороботы и DA и делается вывод, что шансы вымирания человечества составляют 30 процентов в ближайшие 200 лет. С этого момента интерес к теме постоянно растёт и обнаруживаются всё новые и новые потенциально катастрофические сценарии.
Одновременно во второй половине XX века происходит развитие синергетики и обращение к системному анализу будущего и системному анализу разных катастроф. Следует отметить работы Пригожина, Ханзена и российских авторов С. П. Курдюмова, Г. Г. Малинецкого, А. П. Назаретяна и др. В работах Малинецкого показана принципиальная неустойчивость сложных систем, даётся теория режимов с обострениями и применяется к будущей истории человечества. А.П. Назаретян создаёт гипотезу «техно-гуманитрного баланса» и показывает, что нарушение этого баланса может привести к тому, что средства разрушения превзойдут запреты на их использование, что может привести к гибели человечества. А.Д. Панов исследует сингулярную точку эволюции в районе 2030 года, в которой «автомодельной аттрактор планетарной истории» перестаёт работать.
С конца прошлого века Дж. Лавлок [Lovelock 2006] и, независимо, А.В Карнаухов [Карнаухов 1994] в России развивают теорию о возможности необратимого глобального потепления. Суть ее в том, что если обычное потепление, связанное с накоплением углекислого газа в атмосфере, превысит некоторый очень небольшой порог (1-2 градуса), то огромные запасы гидратов метана на морском дне и в тундре, накопившиеся там за время недавних оледенений, начнут выделятся. Метан является в десятки более сильным парниковым газом, чем углекислый газ, и это может привести к дальнейшему росту температуры Земли, что запустит другие цепочки с положительной обратной связью. Например, сильнее начнёт гореть растительность на суше – больше CO2 будет выделяться в атмосферу; нагреются океаны – упадёт растворимость CO2, и опять он будет выделяться в атмосферу, начнут образовываться бескислородные области в океане – там будет выделяться метан. Событием последних дней стало обнаружение в сентябре 2008 года пузырьков метана, выделяющихся столбами со дна Ледовитого океана. Наконец, водяной пар тоже является парниковым газом, и с ростом температур его концентрация тоже будет расти. В результате этого температура может вырасти на десятки градусов, произойдёт парниковая катастрофа, и всё живое погибнет. Хотя это не является неизбежным, риск такого развития событий является наихудшим возможным результатом с максимальным ожидаемым ущербом.
В конце XX – начале XXI века выходят статьи с описанием принципиально новых рисков, осознание которых стало возможно благодаря творческому анализу возможностей новых технологий. Это работы Р. Фрайтаса «Проблема серой слизи» [Freitas 2000]. Р. Кэрригена «Следует ли обеззараживать сигналы SETI» [Carrigan 2006], книги «Люди конца света» «Doomsday men» П.Д. Смита [Smith 2007] и «Случайная ядерная война» Брюса Блера [Blair 1993]. Ещё один новоизобретённый риск – это искусственное пробуждение сверхвулкана с помощью сверхглубокого бурения. Есть проекты автономных зондов, которые смогут проникнуть в недра Земли на глубину до 1000 км, проплавляя вещество мантии [Stivenson 2003],  [Circovic 2004].
В 1993 году В. Виндж [Vince 1993] выдвинул идею Технологической Сингулярности – гипотетического момента в будущем, когда интеллект компьютеров превзойдёт человеческий. Он предполагает, что это событие произойдёт до 2030 года. Сверхчеловеческий ИИ крайне опасен, так как он будет обладать способностью переиграть людей в любом виде деятельности, а значит и уничтожить их. Поэтому встает задача так запрограммировать ИИ, чтобы он не захотел это делать, то есть создать так называемый Дружественный ИИ. Эту проблему исследует Институт Сингулярности в Калифорнии, ведущий научный сотрудник которого Е. Юдковски написал несколько работ о проблемах безопасности ИИ– в первую очередь, большой труд «Создание дружественного ИИ» (Creating friendly AI). В 2006 году она написал две статьи на которые мы часто ссылаемся в этой книге: «Систематические ошибки в рассуждениях, влияющие на оценку рисков» [Yudkowsky 2008b] и «Искусственный интеллект как позитивный и негативный фактор глобального риска» [Yudkowsky 2008a].
В 2000 году в журнале Wired вышла нашумевшая статья одного из основателей Sun Microsystems Билл Джоя «Почему мы не нужны будущему» [Joy 2000]. В ней он рисует крайне пессимистическую картину будущего цивилизации, в котором человек будет вытеснен роботами. Человеку в лучшем случае грозит учесть домашнего животного в мире, где всё за него решают машины. Развитие технологий позволит создать «знания массового поражения», которые смогут распространяться по Интернету, например, генетические коды опасных вирусов. В 2005 году Джой участвовал в компании по удалению из Интернета недавно опубликованного в нём генома вируса испанки. В 2003 году Джой сказал, что написал две рукописи книг, которые решил не издавать. В первой он хотел предупредить людей о надвигающейся опасности, но эту функцию выполнила опубликованная им статья. Во второй он хотел предложить возможные решения, однако найденные решения пока не удовлетворяют его, а это «не та область знаний, где есть право на второй выстрел».
В 2003 году вышла книга английского королевского астронома сэра Мартина Риса «Наш последний час» [Rees 2003]. Она гораздо меньше по объёму, чем книга Лесли, и не содержит принципиально новой информации, однако обращена к самой широкой аудитории и разошлась большим тиражом. В 2004 году выходит обстоятельная книга американского судьи и учёного Ричарда Познера «Катастрофа: риск и реакция» [Posner 2004], особенностью которой является попытка дать экономический анализ рисков глобальной катастрофы и цены усилий по ее предотвращению (на примере усилий по отклонению астероидов и ценности экспериментов на ускорителях).
В XXI веке основной задачей исследователей стало не перечисление различных возможных глобальных рисков, а анализ общих механизмов их возникновения и предотвращения. Выяснилось, что большинство возможных рисков связаны с ошибочными знаниями и неверными решениями людей. В начале XXI века происходит формирование методологии анализа глобальных рисков, переход от перечисления рисков к мета-анализу человеческой способности обнаруживать и правильно оценивать глобальные риски. Здесь следует особо отметить работы Бострома и Юдковски.
В 2008 году несколько событий усилили интерес к рискам глобальной катастрофы: это намечавшийся (но так пока полностью и не состоявшийся) запуск коллайдера, вертикальный скачок цен на нефть, выделение метана в Арктике, война с Грузией и мировой финансовый кризис. Научно обоснованное понимание того, что мы живём в хрупком мире, который рано или поздно разрушится, стало общественным достоянием.
В начале XXI века происходит формирование методологии анализа глобальных рисков, переход от перечисления рисков к мета-анализу человеческой способности обнаруживать и правильно оценивать глобальные риски. В 2008 году состоялась конференция в Оксфорде «Риски глобальной катастрофы», и по ее материалам был издан сборник трудов с тем же названием под редакцией Н. Бострома и М. Чирковича [Bostrom, Circovic 2008]. В него вошли более 20 статей различных авторов. В нём опубликована статья М. Чирковича о роли наблюдательной селекции в оценке частоты будущих катастроф, однако он приходит в ней к другим выводам, чем я в статье на аналогичную тему, а именно, что невозможно сделать никаких выводов о будущей частоте катастрофы, исходя из прошлой частоты – тогда как я полагаю, что мы, скорее всего, недооцениваем будущую частоту катастроф. В этом сборнике изданы и две выше названные статьи Юдковски, препринты которых были выложены в Интернете ещё в 2006 году. Арнон Дар разбирает риски сверхновых и гамма-всплесков, а также показывает, что особая угроза Земле исходит от космических лучей, создаваемых галактическими гамма-всплесками. Уильям Нейпер в статье про угрозы комет и астероидов показал, что, возможно, мы живём в период интенсивной кометной бомбардировки, когда частота импактов в 100 раз выше средней. Майкл Рампино дал обзор рисков катастроф, связанных с супервулканами. Все эти статьи переведены мною на русский язык. Также в сборнике разобраны риски ядерной войны, ядерного терроризма, эпидемий, биологического оружия, нанотехнологий и другие вопросы.
В 2008 году в Москве выходит популярная версия этой книги: А.В. Турчин «Война и ещё 25 сценариев конца света» [Турчин 2008]. Исходной название этой популярной версии было «Гносеология катастроф», и основанная ее тема состоит в том, что конец света знания – это и есть конец света.
В начале XXI века возникают общественные организации, пропагандирующие защиту от глобальных рисков, например, Lifeboat Foundation и CRN (Centre for Responsible Nanotechnology), снимается фильм Technocalyps. Исследование вопроса в современной России. Это исследование А. П. Назаретяна [Назретян 2001], «Цивилизационные кризисы в контексте Универсальной истории». Вышла книга Е. А. Абрамяна «Судьба цивилизации» [Абрамян 2006], открылся Интернет-проект А. Кононова о неуничтожимости цивилизации . А. В. Карнаухов проводит исследования рисков парниковой катастрофы . Вышли статьи отдельных авторов по разным гипотетическим рискам, в том числе Э. М. Дробышевского, В. Ф. Анисичкина и др. Я выполнил переводы многих упомянутых здесь статей, которые доступны в Интернете, а часть из них публикуется в сборнике «Диалоги о будущем» [Прайд, Коротаев 2008]. В сборнике ИСА РАН в 2007 г. вышли две мои статьи о глобальных рисках: «О возможных причинах недооценки рисков гибели человеческой цивилизации» [Турчин 2007а] и «Природные катастрофы и антропный принцип» [Турчин 2007b].
Изучение глобальных рисков идёт по следующей цепочке: осознание одного глобального риска и самого факта возможности вымирания в ближайшем будущем, –затем осознание ещё нескольких глобальных рисков, – затем попытки создания исчерпывающего списка глобальных рисков, затем создание системы описания, которая позволяет учитывать любые глобальные риски и определять опасность любых новых технологий и открытий. Система описания обладает большей прогностической ценностью, чем просто список, так как позволяет находить новые точки уязвимости, подобно тому, как таблица Менделеева позволяет находить новые элементы. И затем –исследование границ человеческого мышления о глобальных рисках с целью создания методологии, то есть способа эффективно находить и оценивать глобальные риски.
1.7 Угрозы менее масштабных катастроф: уровни возможной деградации
Хотя в этой книге мы исследуем глобальные катастрофы, которые могут привести к вымиранию людей, нетрудно заметить, что те же катастрофы в несколько меньших масштабах могут не уничтожить человечество, а отбросить его сильно назад. Будучи отброшенным в своем развитии, человечество может оказаться на промежуточной ступени, с которой можно шагнуть как к дальнейшему вымиранию, так и восстановлению. Поэтому один и тот же класс катастроф может быть как причиной человеческого вымирания, так и фактором, открывающим окно уязвимости для следующих катастроф. Ниже, при перечислении возможных однофакторных сценариев катастрофы, мы укажем их потенциал как к окончательному уничтожению, так и к общему понижению устойчивости человечества.
В зависимости от тяжести произошедшей катастрофы могут быть различные степени отката назад, которые будут характеризоваться разными вероятностями последующего вымирания, дальнейшего отката и возможности восстановления. Поскольку термин «постапокалипсис», хотя и является оксюмороном, употребляется по отношению к жанру литературы, описывающей мир после ядерной войны, мы также будем его употреблять в отношении мира, где произошла некая катастрофа, но часть людей выжила. Можно представить себе несколько возможных ступеней отката:
1. Разрушение социальной системы, как после распада СССР или краха Римской империи. Здесь происходит прекращение развития технологий, уменьшение связности, падение численности населения на несколько процентов, однако некоторые существенные технологии продолжают успешно развиваться. Например, компьютеры в постсоветском мире, некоторые виды земледелия в раннем средневековье. Технологическое развитие продолжается, производство и применение опасных вооружений может продолжаться, что чревато вымиранием или откатом ещё ниже в результате следующей фазы войны. Восстановление весьма вероятно.
2. Значительная деградация экономики, утрата государственности и распад общества на воюющие между собой единицы. Основная форма деятельности – грабёж. Такой мир изображается в фильмах «Безумный Макс», «Водный мир», компьютерной игре Fallout и во многих других произведениях на тему жизни после ядерной войны. Население сокращается в разы, но, тем не менее, миллионы людей выживают. Воспроизводство технологий прекращается, но отдельные носители знаний и библиотеки сохраняются. Такой мир может быть объединён в руках одного правителя, и начнётся возрождение государства. Дальнейшая деградация произойдёт, скорее всего, случайно: в результате эпидемий, загрязнения среды, пр.
3. Катастрофа, в результате которой выживают только отдельные небольшие группы людей, не связанные друг с другом: полярники, экипажи морских кораблей, обитатели бункеров. С одной стороны, малые группы оказываются даже в более выгодном положении, чем в предыдущем случае, так как в них нет борьбы одних людей с другими. С другой стороны, силы, которые привели к катастрофе таких масштабов, очень велики и, скорее всего, продолжают действовать и ограничивать свободу перемещения людей из выживших групп. Эти группы вынуждены будут бороться за свою жизнь. Они могут осуществлять доработку неких технологий, если это нужно для их спасения, но только на базе уцелевших объектов. Период восстановления при самых благоприятных обстоятельствах займёт сотни лет и будет связан со сменой поколений, что чревато утратой знаний и навыков. Основой выживания таких групп будет способность к воспроизводству половым путём.
4. Только несколько человек уцелело на Земле, но они неспособны ни сохранять знания, ни дать начало новому человечеству. Даже группа, в которой есть мужчины и женщины, может оказаться в таком положении, если факторы, затрудняющие расширенное воспроизводство людей, перевешивают способность к нему. В этом случае люди, скорее всего, обречены, если не произойдёт некое чудо.
Можно также обозначить «бункерный» уровень – то есть уровень, когда выживают только те люди, или группы, которые находятся вне обычной среды, у них появляется шанс случайно уцелеть в неких замкнутых пространствах. Находятся они там или нарочно, или случайно. Сознательный переход на бункерный уровень возможен даже без потери качества – то есть человечество сохранит способность и дальше быстро развивать технологии.
Возможны и промежуточные сценарии постапокалиптического мира, но я полагаю, что перечисленные четыре варианта являются наиболее характерными. С каждого более катастрофического уровня существует большее количество шансов упасть ещё ниже и меньше шансов подняться. С другой стороны, возможен островок стабильности на уровне отдельных родовых общин, когда опасные технологии уже разрушились, опасные последствия их применений исчезли, а новые технологии ещё не созданы и не могут быть созданы.
При этом неверно думать, что откат назад это просто перевод стрелок исторического времени на век или тысячелетие в прошлое, например, на уровень общества XIX или XV века. Деградация технологий не будет линейной и одновременной. Например, такое устройство, как автомат Калашникова, забыть будет сложно. В Афганистане, например, местные умельцы научились вытачивать грубые копии Калашникова. Но в обществе, где есть автомат, рыцарские турниры и конные армии невозможны. То, что было устойчивым равновесием при движении от прошлого к будущему, может не быть равновесным состоянием при деградации. Иначе говоря, если технологии разрушения будут деградировать медленнее, чем технологии созидания, то общество обречено на непрерывное скольжение вниз.
Однако мы можем классифицировать степень отката назад не по количеству жертв, а по степени утраты знаний и технологий. В этом смысле можно использовать исторические аналогии, понимая, однако, что забывание технологий не будет линейным. Поддержание социальной стабильности на всё более низком уровне эволюции требует всё меньшего числа людей, и этот уровень всё более устойчив как к прогрессу, так и к регрессу. Такие сообщества могут возникнуть только после длительного периода стабилизации после катастрофы.
Что касается «хронологии», возможны следующие базовые варианты регрессии в прошлое (отчасти аналогичные предыдущей классификации):
1. Уровень промышленного производства – железные дороги, уголь, огнестрельное оружие и т. п. Уровень самоподдержания требует, вероятно, десятков миллионов человек. В этом случае можно ожидать сохранения всех базовых знаний и навыков индустриального общества, хотя бы посредством книг.
2. Уровень, достаточный для поддержания сельского хозяйства. Требует, вероятно, от тысяч до миллионов людей.
3. Уровень небольшой группы. Отсутствие сложного разделения труда, хотя какое-то сельское хозяйство возможно. Число людей: от десяти до тысячи.
4. Уровень стаи или «маугли». Полная утрата культурных человеческих навыков, речи, при сохранении в целом генофонда. Количество членов «стаи», вероятно, от одного до ста человек.
1.8 Однофакторные сценарии глобальной катастрофы
В нескольких следующих главах мы рассмотрим классическую точку зрения на глобальные (цивилизационные) катастрофы, которая состоит в перечислении списка никак не связанных между собой факторов, каждый из которых способен привести к мгновенной гибели всего человечества. Понятно, что это описание не окончательное, оно не рассматривает многофакторные и не-мгновенные сценарии глобальной катастрофы. Классическим примером рассмотрения однофакторных сценариев является уже упоминавшаяся статья Бострома «Угрозы существованию» [Bostrom 2001].
Здесь мы также рассмотрим некоторые источники глобальных рисков, которые, с точки зрения автора, таковыми не являются, но мнение об опасности которых достаточно распространено, и дадим им оценку. Иначе говоря, мы рассмотрим все факторы, которые обычно называются в качестве глобальных рисков, даже если затем мы опровергнем данную точку зрения и отвергнем эти факторы.
1.9 Принципы классификации глобальных рисков
Способ классификации глобальных рисков крайне важен, поскольку позволяет, как таблица Менделеева, обнаружить «пустые места» и предсказать существование новых элементов. Кроме того, это даёт возможность отрефлексировать свою собственную методологию и предложить принципы, по которым должны обнаруживаться новые риски. Здесь я обозначу те принципы, которыми пользовался сам и обнаружил в других исследованиях.
Наиболее очевидный подход к установлению возможных источников глобальных рисков – историографический подход. Он состоит в анализе всей доступной научной литературы по теме, в первую очередь, уже выполнявшихся обзорных работ по глобальным рискам. Однако, это не даёт полного списка, так как некоторые публикации проходили отдельными статьями в специальных дисциплинах, мало цитировались или не содержали общепринятых ключевых слов. Другой вариант – анализ фантастических произведений с целью выделения гипотетических сценариев глобальных катастроф и затем — критический анализ этих сценариев.
Принцип увеличения малых катастроф состоит в выделении малых событий и анализе того, может ли аналогичное событие произойти в гораздо больших масштабах. Например, возможна ли такая большая атомная бомба, чтобы она разрушила весь мир? К нему примыкает способ аналогий, когда, рассматривая некую катастрофу, например, падение самолёта, мы ищем в этом событии общие структурные закономерности и затем переносим их на гипотетическую глобальную катастрофу.
Палеонтологический принцип состоит в анализе причин имевших место в истории Земли массовых вымираний. Наконец, принцип «адвоката дьявола» состоит в намеренном конструировании сценариев вымирания, как если бы нашей целью было разрушить Землю.
Упорядочивание обнаруженных сценариев вымирания возможно по следующим критериям: по их источнику (антропогенные/природные), по степени вероятности, по тому, насколько готовы для них технологии, по тому, как далеко во времени от нас отстоят опасные события и по способу воздействия на людей.
Глобальные риски, делятся на две категории: риски, связанные с технологиями, и природные катастрофы и риски. При этом, природные катастрофы актуальны для любого вида живых существ (сюда входят исчерпание ресурсов, перенаселение, утрата фертильности, накопление генетических мутаций, вытеснение другим видом, моральная деградация, экологический кризис). Технологические риски не вполне тождественны антропогенным рискам, так как перенаселение и исчерпание ресурсов вполне антропогенно. Основной признак технологических рисков – это их уникальность именно для технологической цивилизации.
Технологические риски различаются по степени готовности их «элементной базы». Одни из них технически возможны в настоящий момент времени, тогда так другие возможны при условии длительного развития технологий и, возможно, неких принципиальных открытий.
Соответственно, можно выделить три категории технологических рисков:
а) риски, для которых технология полностью разработана или требует незначительной доработки. Сюда входит, в первую очередь, ядерное оружие и, скажем, загрязнение среды;
б) риски, технология для которых успешно развивается и не видно каких-либо теоретических препятствий для её развития в обозримом будущем (биотехнологии);
в) риски, которые требуют для своего возникновения неких принципиальных открытий (антигравитация, высвобождения энергии из вакуума и т д.). Не следует недооценивать эти риски – весомая часть глобальных рисков в XX веке произошла из принципиально новых и неожиданных открытий;
Значительная часть рисков находится между пунктами б и в, так как, с точки зрения одних исследователей, речь идёт о принципиально недостижимых или бесконечно сложных вещах, а с точки зрения других – вполне технологически реализуемых (нанороботы и искусственный интеллект). Принцип предосторожности заставляет нас выбирать тот вариант, где они возможны.
В предлагаемом читателю перечислении глобальных рисков в следующих главах они упорядочены по степени готовности необходимых для них технологий. Затем идёт описание природных рисков и общевидовых рисков, не связанных с новыми технологиями.
Глава 2. Атомное оружие
Существует огромное количество исследований по атомному оружию и последствиям его применения. Здесь мы можем предложить читателю только краткий и неполный обзор основных выводов, рассмотренных исключительно только с точки зрения того, может ли тем или иным способом то или иное применение ядерного оружия привести к человеческому вымиранию. Отмечу, что значительная часть информации о ядерном оружии по-прежнему секретна, и в силу этого предлагаемые выводы не могут быть абсолютно достоверными.
Классическим примером угрозы человеческой цивилизации и самому существованию людей является угроза ядерной войны. Обычно о ядерной войне говорят, что она приведёт к «уничтожению всей земной жизни». Однако, судя по всему, это утверждение является некоторым преувеличением. Ядерное оружие имеет три потенциальных фактора глобального поражения: непосредственный поражение всей площади Земли, радиоактивное заражение всей Земли и эффект «ядерной зимы». (Кроме того, ядерное оружие может инициировать некие другие опасные процессы, что мы обсудим позже). Далее мы покажем, что хотя каждый из этих эффектов может в исключительных обстоятельствах привести к вымиранию человечества, обычная ядерная война, скорее всего, не приведёт к полному вымиранию (хотя жертвы будут огромны).
Классическая ядерная война не предполагает атаки на все места проживания людей, а только на противника и его союзников, а значит, не может привести к вымиранию людей за счёт непосредственных поражающих факторов ядерного оружия. Однако, можно рассмотреть гипотетическую ситуацию, когда ядерный удар наносится по всем местам проживания людей. Оценим, какое количество боеголовок необходимо, чтобы уничтожить всех без исключения людей, если ядерные удары будут равномерно и одновременно нанесены по всей поверхности Земли. Для уничтожения всех людей на суше потребовалось бы не менее (а вероятно, и значительно более) 100 000 боеголовок мегатонного класса. (Если считать, что одна боеголовка поражает площадь в 1000 кв. км, что вероятно, является завышенной оценкой. Гарантированное уничтожение потребует гораздо большего числа зарядов, поскольку даже в районе эпицентра взрыва в Хиросиме были выжившее – в 500 метрах от точки взрыва.) В тоже время, огромные участки суши необитаемы. Разумно предположить, что 100 000 боеголовок поставят людей на грань выживания, хотя и не уничтожат всех людей гарантировано, так как останутся выжившие на кораблях, самолётах, и в подземных убежищах. Гарантированное уничтожение всех людей, возможно, потребует миллионов боеголовок. Следует отметить, что на пике холодной войны ведущие державы обладали количеством боеголовок порядка 100 000, а накопленные запасы плутония (2000 тонн [Bostrom 2001], хотя не весь он «оружейный», то есть, чистый по изотопному составу плутоний-239; однако, проведённые в США испытания показали, что и не оружейный плутоний можно использовать для ядерных взрывов, но с меньшим выходом энергии [Garwin 1998] позволяют произвести ещё несколько сот тысяч боеголовок. (Впрочем, эти утверждения подвергаются сомнению , и точные данные о том, какова должна быть чистота реакторного плутония и каким образом его можно использовать в военных целях по понятным причинам засекречены.) Вместе с тем, ни один сценарий ядерной войны не предполагает равномерного удара по всей площади планеты. С другой стороны, теоретически возможно создать такое количество бомб и средств доставки, чтобы нанести удар по всей площади. К аналогичным выводам – о том, что ядерная война сама по себе не может привести к человеческому вымиранию, приходят и другие исследователи [Johnston 2003]. Кроме того, отсутствуют публикации, которые указывали бы на риски полного человеческого вымирания в результате непосредственного воздействия ядерных взрывов обычной мощности (а не последующих эффектов в виде радиоактивного заражения и ядерной зимы.)
2.1 «Ядерная зима»
В отношении ядерной зимы есть два неизвестных фактора: во-первых, насколько она будет длительной и холодной, а во-вторых, в какой мере ядерная зима означает вымирание человечества. В отношении первого фактора существуют различные оценки: от крайне суровых (Н.Н. Моисеев, Карл Саган) до относительно мягких концепций «ядерной осени». Существующая критика концепции ядерной зимы сосредотачивается вокруг следующих вопросов:
• Какое количество сажи возникнет и будет выброшено в тропосферу в случае крупномасштабной ядерной войны?
• Какое влияние она окажет на температуру Земли?
• Как долго она будет находиться в верхних слоях атмосферы?
• Какое влияние окажет падение температуры на выживание людей?
Отдельные исследования сосредотачиваются на анализе каждого из этих факторов, принимая как данность результаты предыдущего. Например, недавнее американское исследование проблемы влияния ядерной зимы на климат принимает в качестве исходных данных количество сажи в тропосфере, равное 150 млн. тонн. В исходном анализе Н. Н. Моисеева [Моисеев 1985] это количество было 4 млрд. тонн, и соответственно, падение температуры составило 20, а не 50 градусов, как у Н.Н. Моисеева. В статье И.М. Абдурагимова "О несостоятельности концепции "ядерной ночи" и "ядерной зимы" вследствие пожаров после ядерного поражения" [Абдурагимов 2009] приводится жёсткая критика именно по количеству сажи, которая выделится в результате полномасштабной ядерной войны. При лесном пожаре сгорает в среднем только 20% от горючей массы, из неё только половина является по массе чистым углеродом, и б;льшая часть этого углерода сгорает полностью, то есть, – без образования частичек угля. При этом, только часть сажи будет настолько мелкодисперсной, что сможет висеть в тропосфере и затемнять Землю. Чтобы транспортировать эту сажу в тропосферу, где она может «зависнуть» по причине отсутствия там конвекции, требуется возникновение специфического явления – огненного торнадо (поскольку сам шар ядерного гриба, уходящий высоко в тропосферу, имеет настолько большую температуру, что в нём все частички сажи сгорают). Огненное торнадо образуется не при всех ядерных взрывах, Оно не должно образовываться в современных городах, построенных таким образом, чтобы избежать этого эффекта, например, в городах бывшего СССР. И, кроме того, оно резко улучшает сгорание, как меха в плавильной печи, в силу чего сажи в нём гораздо меньше.
Эти особенности отличают сажу при ядерной зиме от обычной вулканической пыли, которая буквально выстреливается в стратосферу из жерла вулкана. При этом, вулканическая пыль состоит из более тяжёлого оксида кремния и гораздо быстрее выпадает из тропосферы.
Однако, всё же можно представить себе гипотетическую ситуацию, когда в тропосфере оказались сотни миллионов тонн мелкодисперсного углерода. Можно представить себе и альтернативные ядерной войне сценарии попадания его туда, например, попадание астероида в залежи каменного угля, или вулканический взрыв под такими залежами, или результат некой человеческой деятельности, или даже неконтролируемое размножение нанороботов, заслоняющее солнечный свет, как предполагает Фрейтас [Freitas 2000]. Исходные расчеты Н. Н. Моисеева делались для площади сгоревших городов и лесов в 1 млн. кв. км. Суммарная площадь лесов на Земле составляет примерно 40 млн. кв. км, и они содержат около 240 млрд. тонн древесины. Это означает теоретическую возможность очень большого выброса сажи в атмосферу даже при гораздо меньшей доли образования сажи, но только в случае намеренного уничтожения цивилизации, так как вряд ли в ходе обычной ядерной войны будут бомбить леса.
Время нахождения сажи в тропосфере оценивается по-разному, но обычная оценка – от нескольких месяцев до 10 лет [Robock 2007]. Есть также и альтернативные теории воздействии ядерной войны на климат, например, теория о том, что за счёт парникового эффекта от сгоревшего углерода и образования окислов азота и их влияния на озоновый слой [Геворкян, Геворкян 2006] температура Земли резко повысится.
Также следует сказать, что внезапные и длительные похолодания не обязательно означают человеческое вымирание. Например, США и Швейцария имеют не менее чем пятилетний стратегический запас продовольствия [Бекенов 2003], хотя в целом сведения о стратегических запасах относятся к секретным, плюс топливо в виде лесов, печи и навыки выживания при зимних температурах. Я полагаю, что чтобы привести к гибели всех людей, ядерная зима должна длиться не менее ста лет с антарктическими температурами, и то этого может быть недостаточно, с учётом человеческой способности приспосабливаться. (Если считать, что ядерная зима будет единственным неблагоприятным фактором, что неверно.)
Наиболее современные исследования климатических последствий полномасштабной ядерной войны опубликованы в статье Алана Робока с соавторами «Ядерная зима в современной модели климата при существующих ядерных арсеналах: последствия по-прежнему катастрофичны» [Robock 2007]. Статья содержит обзор предыдущих исследований и разумные варианты ожидаемого выброса сажи. Расчет выполнен на основании современной метеорологической модели, проверенной на других приложениях. В результате получается, что при полномасштабной войне современными (то есть, сокращёнными со времён холодной войны) ядерными арсеналами среднее снижение температуры по всей Земле составит около 7 °С в течение нескольких лет, а последствия ядерной зимы будут ощущаться около 10 лет. Время очищения (в е раз) верхней тропосферы от сажи составит 4,6 лет. При этом, над континентами снижение температуры составит до 30 °С, и в частности, над Украиной не будет положительных температур в течение трёх лет. Это сделает невозможным ведение классического (не в теплицах) сельского хозяйства почти по всей Земле в течение нескольких лет. С другой стороны, над тропическими островами (Куба, Мадагаскар, Шри-Ланка) снижение температуры составит только 5-7 °С. Очевидно, что значительное число людей могли бы пережить такое похолодание, однако при этом начнётся борьба за оставшиеся ресурсы, которая повысит риски дальнейших катастроф. Серия крупных вулканических извержений (вулканический пепел уходит из тропосферы с характерным временем в 1 год) могла бы дать такой же эффект.
Учитывая неопределенность в моделях, а также возможность затяжной ядерной войны и других причин затемнения атмосферы, можно предположить следующие теоретические варианты ядерной зимы:
1) Падение температуры на один градус на один год, не оказывающее значительного влияния на человеческую популяцию. Как после извержения вулкана Пинатубо в 1991 году.
2) «Ядерная осень» – снижение температуры на 2-4 °С в течение нескольких лет; имеют место неурожаи, ураганы.
3) «Год без лета» – интенсивные, но относительно короткие холода в течение года, гибель значительной части урожая, голод и смерть от холода в некоторых странах. Это уже происходило после крупных извержений вулканов в VI веке нашей эры [Волков 2007], в 1783 г., в 1815 г.
4) «Десятилетняя ядерная зима» – падение температуры на всей Земле примерно на 10 лет на 30-40 °С. Этот сценарий подразумевается моделями ядерной зимы. Выпадение снега на большей части земли, за исключением некоторых экваториальных приморских территорий. Массовая гибель людей от голода, холода, а также оттого, что снег будет накапливаться и образовывать многометровые толщи, разрушающие строения и перекрывающий дороги. Гибель большей части населения Земли, однако миллионы людей выживут и сохранят ключевые технологии. Риски: продолжение войны за тёплые места, неудачные попытки согреть Землю с помощью новых ядерных взрывов и искусственных извержение вулканов, переход в неуправляемый нагрев ядерного лета. Однако даже если допустить этот сценарий, окажется, что одного только мирового запаса рогатого скота (который замёрзнет на своих фермах и будет храниться в таких естественных «холодильниках») хватит на годы прокорма всего человечества, а Финляндия имеет стратегический запас еды (зерна) на 10 лет.
5) Новый ледниковый период. Является гипотетическим продолжением предыдущего сценария, в ситуации, когда отражающая способность Земли возрастает за счёт снега, и начинают нарастать новые ледяные шапки от полюсов и вниз, к экватору. Однако часть суши у экватора остаётся пригодной для жизни и сельского хозяйства. В результате цивилизации придётся радикально измениться. Трудно представить огромные переселения народов без войн. Много видов живых существ вымрет, но большая часть разнообразия биосферы уцелеет, хотя люди будут уничтожать её ещё более безжалостно в поисках хоть какой-либо пищи. Люди уже пережили несколько ледниковых периодов, которые могли начаться весьма резко в результате извержений сверхвулканов и падений астероидов (извержение вулкана Тоба, Элатинская кометная катастрофа).
6) Необратимое глобальное похолодание. Оно может быть следующей фазой ледникового периода, при наихудшем развитии событий. На всей Земле на геологически длительное время установится температурный режим, как в Антарктиде, океаны замерзнут, суша покроется толстым слоем льда. Только высокотехнологичная цивилизация, способная строить огромные сооружения подо льдом, может пережить такое бедствие, но такая цивилизация могла бы, вероятно, найти способ обратить вспять этот процесс. Жизнь может уцелеть только около геотермальных источников на морском дне. Последний раз Земля вошла в это состояние примерно 600 млн. лет назад, то есть до выхода животных на сушу, и смогла выйти из него только благодаря накоплению СО  в атмосфере [Hoffman, Schrag 2000]. В то же время, за последние 100 000 лет было четыре обычных оледенения, которые не привели ни к необратимому обледенению, ни к человеческому вымиранию, а значит, наступление необратимого обледенения является маловероятным событием. Наконец, в случае, если бы Солнце вообще перестало светить, наихудшим исходом было бы превращение всей атмосферы в жидкий азот, что выглядит абсолютно невероятным.
Хотя варианты 5 и 6 относятся к самым маловероятным, они несут в себе наибольший риск. Эти варианты могли бы быть возможными при экстраординарно большом выбросе сажи и при наихудшем развитии событий, многие из которых мы сейчас не можем предвидеть.
Можно предположить, что если бы некая сила задалась целью устроить ядерную зиму нарочно, то она может её организовать, взорвав водородные бомбы в каменноугольных шахтах или в тайге [Roland 1984]. Это, возможно, даст неизмеримо больший выброс сажи, чем атака на города. Если установить водородные бомбы с таймером на разные сроки, то можно поддерживать ядерную зиму неограниченно долго. Теоретически, таким образом можно достичь устойчивого состояния «белого холодного шарика», отражающего весь солнечный свет, с полным вымерзанием океанов, которое станет самоподдерживающимся состоянием.
Инициация извержения сверхвулкана с помощью ядерного оружия также приведёт к аналогу «ядерной зимы» – к вулканической зиме. Попытки людей исправить ситуацию с помощью искусственной ядерной зимы или искусственного ядерного лета, могут только усугубить проблемы за счёт перехода климата в режим раскачки.
Обращу внимание, что точная вероятность и продолжительность ядерной зимы и её последствий невычислимы по ряду причин. В частности, потому что мы, по определению, не можем поставить эксперимента, а также точно определить, насколько, например, Н.Н. Моисеев и К. Саган были заинтересованы преувеличить опасность ядерной зимы, чтобы способствовать ядерному разоружению. То есть, хотели ли они создать «само-несбывающееся» пророчество.
Отдельно можно выделить теорию «ядерного лета» [Roland 1984] которая предполагает, что после ядерной зимы, а может быть и вместо неё, наступит значительное увеличение температуры Земли, которое может опасно суммироваться с уже имеющимся эффектом глобального потепления, переведя его в закритическую стадию с ростом температуры на десятки градусов (см. далее). Выпадение сажи на ледники, образование окислов азота при взрывах, разрушающих озоновый слой и ведущих к вымиранию растительности, поглощающей диоксид углерода, изменение альбедо в силу опустынивания и выделение диоксида углерода при пожарах являются факторами, могущими привести к ядерному лету. Кроме того, перестанет работать барьер, не дающий водяному пару попасть в стратосферу, а затем, когда он снова включится, десятки миллиардов тонн воды окажутся заперты в стратосфере, и они смогут создать парниковый эффект в дополнительные 8;С величиной, как утверждает Рональд в своей статье «Ядерная зима и другие сценарии» [Roland 1984]. Кроме того, он предполагает, что ядерную зиму можно использовать как оружие, в которой побеждает страна, накопившая наибольшие запасы продовольствия и имеющая наилучшее тёплое жильё. Ядерное лето гораздо опаснее ядерной зимы, так как человек легче переносит охлаждение, чем нагрев (то есть, если принять комнатную температуру за 20;С, то человек вполне переносит мороз на улице в минус 50;С, то есть на 70;С ниже, но сможет выдержать подъём температуры не более чем, на 30;С, то есть не выше 50;С на улице). Кроме того, системы обогрева могут работать автономно (уцелевшие леса как источник дров + печка), а холодильники требуют наличия устойчивой централизованной инфраструктуры (производство холодильников + электроэнергии). Хранение продуктов питания при резком потеплении станет крайне затруднено – они сгниют, будут испорчены вредителями или сгорят. Таким образом ядерное лето создаёт гораздо больший риск вымирания, чем ядерная зима.
2.2 Полное радиоактивное заражение
Следующий сценарий – глобальное радиоактивное заражение. Можно выделить два вида заражения – краткосрочное заражение, возникающее в первые часы и дни после взрыва и вызываемое короткоживущими элементами, и долгосрочное, связанное с долгоживущими элементами, и длящееся годами. Краткосрочное заражение, связанное с обычной ядерной войной, приведёт к значительным жертвам, но будет достаточно локальным явлением, зависящим от розы ветров в поражённой стране. Его можно также без труда пересидеть в бомбоубежищах, пещерах, шахтах, – и поэтому мы не рассматриваем его как возможную угрозу полного человеческого вымирания. Наибольшую угрозу представляет глобальное радиоактивное заражение, однако в случае обычной ядерной войны оно не может привести к человеческому вымиранию. (Например, потому что тысячи воздушных испытаний атомных бомб в 50-60-е годы не создали сколько-нибудь значительного увеличения глобального радиационного фона.) Однако возможно неконвенциональное применение ядерного оружия, которое всё-таки приведёт к глобальному радиоактивному заражению. Особенность глобального заражения в том, что оно способна равномерно распространиться по всей поверхности Земли и проникнуть всюду за счёт естественной конвекции атмосферы, а также в том, что оно настолько длительно, что его нельзя переждать в существующих сейчас автономных убежищах. Наиболее известный сценарий такого рода – применение кобальтовых бомб, то есть бомб с повышенным выходом радиоактивных веществ. Кобальтовые бомбы представляют собой водородные бомбы, окружённые оболочкой из кобальта-59, превращающегося в радиоактивный изотоп кобальт-60 . Проект бомбы, способной заражать целые континенты, предложил Лео Сцилард в 1950 г. Однако 1 грамм кобальта имеет радиоактивность порядка 50 кюри. Если распылить 1 грамм на 1 кв. км, то этого недостаточно для гарантированной смерти всех людей, хотя и потребует эвакуации с этой территории по современным нормам безопасности. Кобальт-60 имеет период полураспада 5,26 года, поэтому загрязнение, создаваемое им, будет длительным и его будет трудно пересидеть в бункере. Тем не менее, даже такое заражение потребует всего только 500 тонн кобальта на всю Землю. Косвенно это количество можно оценить в 100 бомб типа Царь-бомбы в 50 мегатонн, взорванной на Новой Земле в 1961 г. Если бы на этой бомбе была урановая оболочка, она дала бы дополнительные 50 мегатонн, и мощность взрыва составила бы 100 мегатонн, но оболочка была заменена на свинцовую с целью снижения силы взрыва. Масса прореагировавшего урана, которая дала бы выход энергии 50 мегатонн, примерно равна 5 т. Можно предположить, что если бы эта бомба имела кобальтовую оболочку, она дала бы примерно 5 тонн радиоактивного кобальта. По другим оценкам, проводившимся в США после выступления Лео Сцилларда о возможности истребления жизни на Земле с помощью кобальтовой бомбы, выяснилось, что это действительно возможно, но устройство должно быть в 2,5 раза тяжелее линкора «Миссури» [Smith 2007]. Водоизмещение «Миссури» – 45 000 т. Итак, мы получаем две оценки веса этого устройства – 2 700 тонн и 110 000 тонн. Разница между ними не принципиальна с точки зрения вопроса, возможно ли такое устройство и сколько оно будет стоить. Поскольку вес обычных энергетических реакторов составляет несколько тысяч тонн, то вполне реально сделать устройство, весящее и 100 000 тонн, как 20 реакторов. Если один реактор стоит около миллиарда долларов по современным ценам, то такое устройство будет стоить порядка 20 миллиардов. Эта сумма меньше военного бюджета США в 20 раз. Другой ориентир: вес реактора ИТЭР – 30 000 тонн, цена 12 миллиардов долларов. Итак, создание атомной бомбы судного дня технически реально для крупного государства, обладающего ядерной программой, и потребует нескольких лет работы.
Не менее опасен печально известный изотоп полоний-210. Он является гораздо более мощным источником радиации, чем кобальт, так как имеет меньший период полураспада (примерно в 15 раз). Он обладает способностью накапливаться в организме, поражая изнутри, что повышает его эффективность ещё примерно в 10 раз. Смертельная его доза – около 0,2 мкг. Это означает, что полное смертельное заражение Земной поверхности потребует только 100 тонн этого опасного вещества (или сотен килограмм в худшем случае – если учесть его способность накапливаться в организмах, а также повторное отравление за счёт высокой концентрации в среде).
Требуются более точные подсчёты, учитывающие скорости осаждения радиоактивного вещества из атмосферы, вымывания его в океан, распада, связывания и сродства с элементами в человеческом теле, а также способности людей мутировать и приспосабливаться к радиации, чтобы определить какое минимальное количество какого именно изотопа может привести к вымиранию всех людей на Земле или к длительной непригодности всей суши для сельского хозяйства и невозможности в связи с этим вернуться в доиндустриальную фазу развития.
Для того чтобы радиоактивное вещество распространилось достаточно далеко, бомба должна взорваться на высоте 10-20 км, а чтобы бомба была достаточно мощной, она должна быть тяжёлой. В конечном счёте, такая машина смерти может представлять собой стационарное устройство весом в тысячи тонн, с силой взрыва в сотни мегатонн, в ходе которого образуются тонны опасного изотопа, выбрасываемые силой взрыва высоко в воздух.
Кроме того, заражение короткоживущим изотопом можно пересидеть в бункере. Теоретически возможно создание автономных бункеров со сроком самообеспечения в десятки лет. Гарантированное вымирание может произойти в случае смешения, долгоживущих и короткоживущих изотопов. Короткоживущие уничтожат большую часть биосферы, а долгоживущие сделают Землю непригодной для жизни для тех, кто переждёт заражение в бункере.
Если некая страна, обладающая ядерными технологиями, окажется под угрозой внешнего завоевания, она может решиться создать такую бомбу. Особенно, если системы ПРО у противника не дадут шансов применить ракетное оружие для обороны. Тем более, что, возможно, для такой бомбы не потребуется много урана или плутония – только несколько килограммов на запал. (Но потребуется очень много дейтерия). Однако, если после создания такой бомбы на данную страну гарантированно никто никогда не нападёт, то её создание может быть дешевле, чем содержание вооружённых сил. Отсюда следует, что системы ПРО не повышают безопасность в мире, так как побуждают более слабые страны создавать кобальтовые стационарные бомбы в качестве последнего средства обороны. Или же, наоборот сосредотачиваться на разработке биологических и прочих альтернативных видах вооружения.
Отметим, что полный взрыв современного ядерного реактора не угрожает выживанию человечества, как это следует из последствий взрыва на Чернобыльской АЭС. С другой стороны, можно предположить возникновение в будущем неких гипотетических установок с гораздо большим выходом радиации в случае полного разрушения. Например, есть предположения, что в бланкете (оболочке камеры) термоядерного реакторы будут накапливаться значительно большие (в 100 раз) количества радиоактивных веществ с повышенным содержанием опасных изотопов вроде кобальта-60, которые в случае разрушения реактора высвободятся в атмосферу . Выход цепной реакции из-под контроля в некой установке также мог бы значительно увеличить заражение.
2.3 Иные опасности атомного оружия
Сверхбомба
После испытания «Царь-бомбы» в 1961 году на Новой Земле с выходом в 50 мегатонн, были осуществлены разработки более мощных бомб с выходом в 200 и даже 1000 мегатонн, которые предполагалось транспортировать на судах к американским берегам и вызывать с их помощью цунами [Адамский, Смирнов 1995]. Это значит, что, вероятно, появились технические возможности неограниченно наращивать взрывную силу бомбы.
Важно также отметить, что Царь-бомба была испытана всего через 12 лет после взрыва первой атомной бомбы. Этот факт может говорить о том, что и другим державам может потребоваться относительно небольшой срок для перехода к огромным бомбам. Если сопоставить массовый коэффициент бомбы (6 мегатонн взрыва на тонну веса) с массой ядерных реакторов порядка нескольких тысяч тонн, то становится понятно, что верхний предел сверхбомбы, которую сейчас можно сделать, составляет около ста гигатонн. Этого недостаточно для уничтожения всех людей силой взрыва, поскольку при падении астероидов выделялась энергия в тысячи раз больше. Взрыв сверхбомбы в каменноугольном пласте вызовет, возможно, длительную ядерную зиму, сочетающуюся с сильным радиоактивным заражением. (Аналогичного тому, как астероид, возможно, привёл к разрушению запасов нефти в Америке 65 млн. лет назад, что имело серьёзные климатические последствия [Harvey 2008]. Несколько десятков сверхбомб, размещённых в разных местах Земли, могут покрыть своим поражающим ударом всю территорию планеты.
Перед первым испытанием ядерной бомбы Тринити Комптоном и др. был выполнен отчёт LA-602 “Ignition of atmosphere with nuclear bomb” [LA-602 1945], в котором доказывалось, что взрыв бомбы не может привести к самоподдерживающейся реакции синтеза ядер азота в атмосфере из-за потери энергии излучением. Там же сказано, что для оценки рисков поджига океанов требуются дополнительные исследования. Эти исследования, которые, скорее всего, были выполнены, остаются засекреченными, что, в частности, может означать, что они показывали минимальные условия, которые необходимы для поджига дейтерия в земных океанах. Кроме того, возможны реакции захвата водорода углеродом или кислородом, которые тоже поддерживают взрывное горение (см. И.С. Шкловский. «Звёзды, их рождение, жизнь и смерть» [Шкловский 1984]). Эти вещества находятся в больших количествах в залежах гидратов метана на морском дне. Подробнее вопросы о возможности инициации термоядерного взрыва в недрах Земли или других планет я рассматриваю в своей статье «О возможности искусственной инициации взрыва планет-гигантов и других объектов Солнечной системы» .
Здесь же нам важно отметить, что в отсутствии точных данных о невозможности этого процесса, мы должны допускать, что при определённых условиях – правильный выбор места, очень мощная бомба – инициация самоподдерживающейся реакции синтеза в земных средах возможна. Подобная возможность открывала бы относительно простой путь к созданию реального оружия судного дня, которое бы гарантированно уничтожало бы всю жизнь на Земле.
Высказывались также предположения, что взрыв мощных атомных бомб в тектонических разломах мог бы привести к катастрофическим сейсмическим явлениям, но я полагаю это сомнительным, поскольку тектонические разломы и без того являются источниками землетрясений гигатонной силы.
Накопление антиматерии
Станислав Лем как-то сказал, что он больше боится антиматерии, чем Интернета. Однако, судя по всему, антиматерия не даёт принципиально большей разрушительной силы, чем обычная водородная бомба. Максимальная эффективность ядерного заряда равна 6 мегатонн на тонну веса, что соответствует примерно 0,15 кг антиматерии. (Энергия 1 кг вещества равна по формуле Эйнштейна 9*  Дж, а одна мегатонна в тротиловом эквиваленте равна 4*  Дж, при этом массу прореагировавшей антиматерии следует удвоить за счёт масс аннигилировавшей с ней обычной материи). Но для удержания антиматерии тоже понадобятся специальные ловушки, которые должны много весить. Кроме того, очень трудно обезопасить антиматерию от случайного взрыва, тогда как обезопасить атомную бомбу легко. Наконец, нужно масса энергии на получение самой антиматерии. В силу этого кажется бессмысленным делать бомбы огромной мощности из антиматерии – да и мощности имеющихся атомных боеприпасов достаточно для любых мыслимых разрушающих воздействий. Поэтому я полагаю маловероятным накопление антиматерии в военных целях. Только если будут сделаны некие новые принципиальные физические открытия, антиматерия, возможно, будет представлять опасность. Также опасно применение антиматерии в глубоком космосе, где теоретически можно собрать значительную ее массу в виде некого «метеорита» и направить на Землю.
Однако антиматерия может стать эффективным инициатором термоядерной реакции для «чистых водородных бомб» или средством для накачки рентгеновских лазеров. Подсчитано, что триггером для термоядерной реакции может стать всего 1 мкг антиматерии. Подробнее о военных аспектах накопления и применения антиматерии см. в статье «Antimatter weapons». 
Дешёвая бомба
Есть также опасность принципиального удешевления ядерного оружия, если удастся запускать самоподдерживающуюся термоядерную реакцию без инициирующего ядерного заряда с помощью химической имплозии (цилиндрической), лазерного поджигания, магнитного сжатия, электрического разряда и небольших порций антиматерии, применённых в некой комбинации (см., например, статью Л. П Феоктистова «Термоядерная детонация» [Феоктистов 1998], которая, по сути, представляет собой проект создания водородной бомбы неограниченной мощности с помощью лазерного поджигания – и тем не менее лежит в открытом доступе.)
Другой фактор удешевления – использование наработок нанотехнологий, то есть, высокоточное и в перспективе дешёвое производство с помощью микророботов. Третий фактор – обнаружение новых способов выделения урана из морской воды и его обогащения.
Есть также риск, что мы существенно недооцениваем простоту и дешевизну ядерного оружия, а, следовательно, и его количество в мире. Например, возможно, что реакторный плутоний можно приспособить для бомб пушечной схемы с выходом около 2 килотонн, пригодных для актов ядерного терроризма . Любые открытия в области холодного ядерного синтеза, управляемого ядерного синтеза на токамаках, доставки гелия-3 из космоса, превращения элементов упростят и удешевят производство ядерного оружия. Подробнее о проблемах создания «чистого» оружия на основе реакций синтеза без запала на основе реакций деления см. в статье «Опасный термоядерный поиск» .
Атака на радиационные объекты
Ещё одним способом устроить конец света с помощью ядерного оружия является атака крылатыми ракетами (баллистические не имеют достаточной точности) всех ядерных реакторов на планете и особенно – хранилищ отработанного ядерного топлива. Хотя вряд ли удастся возбудить цепную реакцию в них (однако эту возможность нельзя исключать при прямом попадании атомной бомбы в реактор или хранилище отходов), в воздух выделятся огромные количества радиации. «По оценке МАГАТЭ, к 2006 году из энергетических реакторов (а их в мире свыше 400) выгружено около 260 тыс. тонн ОЯТ, содержащих более 150 млрд. Кюри радиоактивности» [Карпан 2006]. Также известно, что к 2006 году страны мира накопили около 260 тыс. тонн ОЯТ, а к 2020 году его количество составит не менее 600 тыс. тонн (там же). То есть, в XXI веке количество радиоактивных отходов, вероятно, будет расти нелинейно, увеличиваясь как за счёт накопления, так и за счёт введения в строй новых реакторов.
При равномерном распылении 150 млрд. кюри мы получаем 300 кюри/кв.км земной поверхности. Это далеко за пределами норм отселения и запрета на сельское хозяйство по чернобыльской практике . При грубом пересчёте (эмпирическая формула – 1 кюри на кв. м. даёт 10 рентген в час) это породит активность 3 миллирентгена в час. Этого недостаточно для мгновенной смертности, так как составляет только примерно 2 рентгена в месяц, а максимально допустимая безопасная доза 25 рентген наберётся только за год. Однако такая местность надолго (в ОЯТ много долгоживущих элементов, в том числе плутония) станет непригодной для сельского хозяйства, поскольку в растительности и в организмах животных эти вещества накапливаются и при последующем употреблении вовнутрь наносят на порядок более сильный удар по организму человека. Иначе говоря, выжившие люди не смогут заниматься сельским хозяйством и будут обречены на постепенную деградацию от болезней. Всё же гарантированного вымирания здесь не будет, так как люди – существа очень адаптивные и живучие, если, конечно, не вмешаются ещё какие-либо факторы.
Взрыв мощных бомб в космосе
Если земная технология широко шагнёт в космос, рано или поздно станет возможно создание огромных бомб космического базирования, весом в сотни тонн (в частности, с целью отклонения опасных астероидов). Риск состоит во взрыве нескольких десятков гигатонных бомб на низких орбитах, которые просто сожгут Землю своим излучением. Однако в случае такой атаки всё равно будут выжившие: шахтёры, подводники, спелеологи. (Хотя могут выжить только одни мужчины, и род людей на этом закончится, так как в природе мало женщин-подводников и шахтёров. Но спелеологи бывают.) По эффекту воздействия получится искусственный гамма-всплеск.
2.4 Интеграция поражающих факторов ядерного оружия
Умеренная по масштабам ядерная зима, сопровождающаяся умеренным радиоактивным поражением, может дать «синергетический» эффект, который превосходит по силе даже самую мощную ядерную зиму, взятую в отдельности. Например, как уже было сказано (см. выше) в случае «чистой» ядерной зимы люди смогут многие годы питаться скотом, который замёрз у себя в стойлах и сохранился. В случае радиоактивного заражения такой возможности не будет. Взрывными волнами по всему миру будут разрушены дома, а там, где они сохранятся, будут выбиты стекла, и это сделает более сложной защиту от радиации и холода. Топить радиоактивным лесом будет опасно. Эти факторы будут усилены разрушением наиболее ценных объектов инфраструктуры за счёт прямого действия поражающих факторов ядерного оружия. Всё же, пока невозможно сказать, может ли синергетический эффект привести к тотальному вымиранию, если ни одна из его составляющих не даёт этого результата.
2.5 Стоимость создания ядерного потенциала, могущего угрожать выживанию человеческой цивилизации
Хотя ядерное оружие создаёт теоретическую возможность общечеловеческого уничтожения, практическая реализуемость таких проектов зависит от их стоимости. Если поделить стоимость всей ядерной программы США на количество произведённых бомб, то средняя цена заряда составит 1-40 миллионов долларов, согласно подсчётам А. Анисимова в статье «Развитие стратегических сил Китая и проблема адекватности ситуации внешней политики США» [Анисимов 2002]. Если для полного радиационного заражения Земли нужно 1000 бомб с оболочкой из кобальта, то такой проект будет стоить порядка 40 млрд. долларов. Это – десятая доля годового бюджета Пентагона или цена крупной нефтяной корпорации. Если говорить точнее – это одна тысячная от годового мирового ВВП. По мере роста мирового ВВП и удешевления производства эта доля снижается, то есть, всё дешевле создать такое оружие. Таким образом, создание ядерного оружия судного дня является практически доступным в настоящий момент для крупных держав.

2.6 Вероятность глобальной катастрофы, вызванной ядерным оружием
В отношении рисков вымирания в результате применения ядерного оружия надо сложить вероятность двух вариантов:
• классическая ядерная война, приводящая к вымиранию;
• неклассическое применение ядерного оружия как машины судного дня.
Первый вариант определяется произведением вероятности двух последовательных событий: вероятности полномасштабной ядерной войны и вероятности того, что эта война приведёт к вымиранию человечества.
Нам кажется, что вероятность преднамеренного нападения одной державы на другую является маловероятной, так как это не даст ни политической, ни экономической, ни военной выгоды, но создаст риск ответного удара, распространения оружия массового поражения, риск войны с другими державами, обладающими ядерным оружием. Однако ядерная война между ядерными государствами может начаться случайно, а точнее, в результате сложной цепочки событий. Вспомним: в ходе Карибского кризиса американцы полагали, что могут напасть на Кубу, так как там нет ядерного оружия русских. Советские военные имели там тактическое ядерное оружие, которое могли применять по своему усмотрению в зависимости от обстоятельств (то есть, без команды сверху), но полагали, что американцы на них не нападут. Каждая сторона действовала правильно в рамках своих представлений и при этом полагала неправильными и невозможными действия другой стороны.
Ядерные силы находятся под действием следующих противоречивых требований:
А) Ядерные силы ни при каких обстоятельствах не могут совершить непреднамеренный запуск – то есть запуск, который позднее был бы признан неверным. Это включает в себя опознание цели, информирование главы государства, принятие решения, доведение его до пунктов запуска, наведение и сам запуск и ракет.
Б) Ядерные силы должны суметь нанести ответно-встречный удар в условиях интенсивного информационного противодействия вероятного противника, а значит – находиться в состоянии высокой боеготовности и автономности в принятия решений. От того, как решается это противоречие, зависит, находятся ли ключи запуска на борту подводной лодки или высылаются на борт по радио из центра в случае чрезвычайной ситуации. Хотя то, как именно организовано управление Стратегическими ядерными силами в ведущих ядерных державах, является величайшей военной тайной, исторически известно, что неоднократно выбирались варианты, когда ключ запуска находился на местах.
Можно придумать множество сценариев непреднамеренного начала ядерной войны См. подробнее книгу Брюса Блера «Случайная ядерная война» [Blair 1993]. Например, самолёт с президентом внезапно сбивают. Поскольку система управления, а значит и связь с главнокомандующим является наиболее существенной частью системы обороны, то любые проблемы на этой линии могут восприниматься как начало атаки.
Поскольку ядерной войны ни разу не было, это оказало разлагающее влияние как на общественные ожидания, так и, возможно, на нормы риска в военной сфере. Кроме того, растёт число стран, способных создать и создающих ядерные арсеналы. Более того, террористическая ядерная атака тоже может стать спусковым крючком к войне, а её может организовать и малая страна. Всё это подталкивает нас к мысли, что риск ядерной войны постоянно растёт. Если мы его оценим в 0,5 % в год, то, я думаю, это будет довольно неплохой оценкой. Однако сам этот риск может не «прожить» ста лет. Либо его сделают неактуальным ещё более мощные и опасные технологии, либо, напротив, человечество объединится и откажется от запасов ядерного оружия.
С другой стороны, обычная непреднамеренная ядерная война не приведёт неизбежно к вымиранию человечества. Если её масштабы будут ограничены несколькими странами, то это будет ещё одно событие масштаба второй мировой войны. И тогда она не прервёт хода прогресса и существенно не изменит хода мировой истории. Однако ядерная война может запустить цепочку событий, которая резко снизит уровень развития всего человечества, переведёт его на постапокалиптическую стадию, в котором оно будет подвержено многим другим факторам вымирания. Например, война может стать перманентной, так как из чувства мести будут производить всё новые порции оружия, особенно, биологического, или будут строить и взрывать «машины судного дня», то есть устройства, способные уничтожить всё человечество. При этом, люди будут подвергаться воздействию ядерной зимы и радиоактивных осадков неизвестной силы. Сумма всех этих факторов может поставить человечество на грань вымирания, а переход этой грани станет вопросом случая.
Ход событий в постапокалиптическом мире будет зависеть не только от последствий ядерной войны, но и от того, какие технологии там уцелеют, смогут развиваться и будут применяться. Это выходит за рамки темы данной главы, поэтому мы можем сказать, что в наихудшем случае результатом ядерной войны станет постапокалиптический мир, подверженный риску дальнейшей деградации. Шансы того, что цивилизация понизит свой уровень в результате ядерной войны, примем как 50%. В итоге мы получаем оценку вероятности перехода в постапокалиптический мир в результате ядерной войны в XXI веке порядка 25% в том случае, если никакие другие процессы этому не воспрепятствуют. Поскольку, однако, это событие должно быть «перекрыто», то есть, скорее всего, станет невозможным из-за более сильных процессов в течение максимум 30 лет, мы можем делить эту оценку на 3 (так как 30 примерно в 3 раза меньше 100 лет, для которых делалась исходная оценка), то есть получим приблизительно 8 % вероятности того, что в XXI веке мы попадём в постядерный мир с пониженным уровнем развития цивилизации. Вероятность того, что мы вымрем в постядерном мире ещё в несколько раз меньше и зависит от других факторов. Округляя до порядка, получим риск вымирания в результате последствий ядерной войны в XXI веке порядка 1%. Шансы на то, что возникшая полномасштабная ядерная война непосредственно приведёт к человеческому вымиранию без фазы угасания в постапокалиптическом мире, я оцениваю как ещё меньшие. К похожим выводам приходит гуру криптографии Мартин Хелманн .
Следует также учесть вероятности нетрадиционного применения ядерного оружия. В настоящий момент ничего не известно о разработках машин судного дня (то есть устройств, специально предназначенных для уничтожения человечества с целью, например, шантажа) на основе ядерного оружия (хотя отчасти сами ядерные силы можно считать ими). Впрочем, такая разработка велась бы в строжайшем секрете. Как справедливо отмечено в фильме «Доктор Стренджлав» Кубрика, Машина Судного дня не имеет смысла, если о ней не объявлено; то есть она должна быть секретной только в процессе строительства; с другой стороны, о ней может быть объявлено только главам враждебных стран, чтобы не портить имидж и не пугать население. В будущем могут появиться гораздо более дешёвые способы создания машины судного дня на основе биологического оружия. Поэтому думаю, что не будет ошибкой заявить, что шансы создания и применения машины судного дня на основе ядерного оружия, по крайней мере в 10 раз меньше шансов самой ядерной войны. Однако, в таком случае шансы вымирания всего человечества значительно больше, чем от ядерной войны, поскольку далеко не каждая возможная ядерная война приводит к вымиранию. Фактически, если оружие судного дня применено, весь вопрос в том, сработает ли оно так, как задумывалось. (Если бы у Гитлера в бункере такое оружие было, он бы, вероятно, его применил – как «харакири» для всей страны, во всяком случае, это следует из завещания Гитлера, где он обвиняет немецкий народ в поражении.) Вероятность вымирания человечества в результате применения оружия судного дня в XXI веке я оцениваю как величину тоже порядка 1%.
Возможна определённая интеграция боевого ядерного оружия и машины судного дня. В романе Н. Шюта «На берегу» [Shute 1957] применение тысяч кобальтовых бомб многими государствами приводит к заражению не отдельных стран, как это предполагалось, а к полному заражению всего мира. После открытия возможности ядерной зимы стало понятно, что современные ядерные ракеты могут быть оружием судного дня, если направить их на тысячи городов по всему свету. Точно также их можно направить на склады отработанного ядерного топлива, атомные станции, спящие вулканы и залежи каменного угля. То есть, одно и тоже оружие может быть или не быть машиной судного дня в зависимости от использования.
2.7 Изменение вероятности глобальной катастрофы, вызванной ядерным оружием, с течением времени
Считается, что в настоящий момент погодовая вероятность катастрофической ядерной войны уменьшилась, так как ядерные арсеналы СССР и США значительно сократились. Однако фактически вероятность применения ядерного оружия растёт, поскольку всё больше стран открыто заявляют о его разработке (около 10), и, кроме того, другие страны, помимо России и США, обретают технические возможности и желание обзаводиться арсеналом в тысячи зарядов (Китай, Пакистан и Индия). Растёт также число стран, развивающих мирную ядерную энергетику двойного назначения, то есть, способных в течение месяцев или нескольких лет приступить к производству ядерного оружия (см., например, «Ядерное нераспространение в эпоху глобализации», под редакцией А. Арбатова и В. Михеева [Арбатов, Михеев 2007]).
Растут и шансы попадания расщёпляющих материалов в руки террористов. Этот рост вероятности относительно линеен и будет довольно медленным, если только не будут изобретены способы принципиального удешевления производства ядерного оружия: молекулярное производство и методы термоядерного взрыва без уранового запала. Появление и – особенно – распространение знаний о таких методах резко увеличит количество ядерных боеприпасов в мире. Мы можем быть уверены сейчас в том, что ещё нет молекулярного нанотехнологического производства, но не можем быть уверены, что нет секретных способов прямой инициации термоядерного взрыва. Разумеется, если бы они были, сам факт их существования следовало бы держать в секрете. Распространение новых технологий, например ИИ и нанотехнологий, может создать новые способы уничтожения ядерного оружия и предотвращения его применения. Однако если уж такое оружие будет применено, они не дадут особой защиты от его поражающих факторов. В силу этого, можно утверждать, что риск применения ядерного оружия будет существовать с нами всегда, если только не будет вытеснен превосходящими по силе факторами, то есть ещё большими рисками, связанными с ИИ, нанотехнологиями и биотехнологиями.
Что касается оружия судного дня на основе ядерного оружия – вроде гигатонной кобальтовой бомбы, то в настоящие момент ничего неизвестно о разработке такого рода оружия. С другой стороны, если бы такая разработка производилась, то она была бы большим секретом, так как страна, открыто разрабатывающая «оружие судного дня», немедленно подверглась бы нападению. Я полагаю, что эта вероятность не равна нулю и тоже растёт, но очень монотонно и медленно. В случае начала новой мировой войны она может существенно возрасти. Иначе говоря, война (или угроза такой войны), которая ведёт к полному завоеванию ядерной державы, с высокой вероятностью приведёт к применению или угрозе применения «оружия судного дня» как последнего аргумента. Опять же, разработка новых ядерных технологий, удешевляющих производство, увеличивает и шансы создания ядерного «оружия судного дня». Возможно, лет через десять-двадцать оно будет доступно и так называемым странам-изгоям.
2.8 Стратегия сдерживания под вопросом
Следует сказать, что, возможно, ядерное сдерживание как фактор предотвращения войны переоценивается. То, что является выигрышной стратегией в краткосрочной перспективе, может быть проигрышной в долгосрочной. То есть: войны сверхдержав стали реже, но масштаб возможных последствий таких войн неизмеримо вырос. И если ядерное оружие будет не у нескольких стран, а у всех без исключения, то война всех против всех не оставит ни одного уцелевшего уголка планеты. Механизм распространения конфликта может быть такой: если есть страны A, B, C, D и происходит ядерная война между A и B, то в выигрыше остаются страны С и D. Поэтому страны A и B могут быть заинтересованы в том, чтобы С и D тоже вступили в войну, и могут атаковать их частью сил. С и D, понимая это, могут ударить первыми.
Наконец, угроза взаимного гарантированного уничтожения эффективная лишь тогда, когда есть только две сверхдержавы (по количеству ядерных зарядов). Но уже сейчас, а возможно и ранее, Китай стал третьей, и возможно появление новых ядерных сверхдержав. Дж. Лесли [Leslie 1996] отмечает, что уменьшение количества ядерных бомб в арсеналах не ведёт к снижению вероятности ядерной войны, поскольку требует, чтобы использовалась стратегия ответно-встречного удара, когда ракеты запускаются до того, как вражеские удары поразили цели, потому что после этого уцелевших 10% будет недостаточно для полноценного ответного удара. Стратегия ответно-встречного удара более уязвима к ложным срабатываниям, так как решение о ядерном ударе принимается только по косвенным признакам, которые могут содержать ошибки, и в условиях очень короткого временного промежутка, который исключает какое-либо размышление о природе поступивших сигналов. Фактически, это решение зависит не от людей, а от написанных ими заранее алгоритмов и инструкций, что размывает ответственность. Кроме того, ответно-встречный удар подразумевает постоянно высокий уровень боеготовности ракет, что, в частности, требует, чтобы ключи запуска находились не в центре, а у непосредственных исполнителей.
Повышение точности ракет также не гарантирует стабильность, так как даёт возможность первого обезоруживающего удара, и соответственно, может подтолкнуть более слабую сторону ударить первой, до того, как она окончательно утратила преимущество. То же самое верно и для создания оборонительного щита вроде СОИ. Все приведённые стратегии ядерного противостояния не привязаны исключительно к ядерному оружию, но будут верны и при возникновении любых более мощных видов оружия, в том числе – связанных с ИИ и нанотехнологиями. Подробнее эти вопросы рассмотрены, например, в книге А. Г. Арбатова и др. «Снижение боеготовности ядерных сил России и США – путь к уменьшению ядерной угрозы» [Арбатов, Михеев 2007].
2.9 Ядерный терроризм как фактор глобальной катастрофы
Само по себе явление ядерного терроризма – то есть анонимный взрыв бомбы небольшой мощности – не может привести к человеческому вымиранию. Вместе с тем такое событие резко усилит все глобальные риски. (А если бомбы научатся делать в домашних условиях, скажем, благодаря успехам в холодном ядерном синтезе, то одного этого может быть достаточно для вымирания людей.) Такой взрыв может спровоцировать войну, или привести к гибели руководства страны, усилив общую дезорганизацию и лишив управляющие структуры мудрости, необходимой для решения по-настоящему серьёзных глобальных проблем. Он может привести также к «закручиванию гаек» и установлению общества тотального контроля, которое приведёт к появлению движения сопротивления в духе антиглобалистов и к новым терактам.
2.10 Выводы по рискам применения ядерного оружия
Угроза ядерной катастрофы часто недооценивается или переоценивается. Недооценка в основном связана с рассуждениями о том, что раз катастрофы давно не было, то она маловероятна. Это неверное рассуждение, поскольку оно подвержено действию эффекта наблюдательной селекции, о котором мы будем говорить далее в главе 14 в разделе «Прекращение действия «защиты», которую нам обеспечивал антропный принцип», и эффекта ослабления бдительности со временем. Переоценка же связана с распространёнными представлениями о ядерной зиме и радиоактивном заражении как неизбежных факторах вымирания всего человечества после ядерной войны, и эта переоценка ведёт к ответной реакции отвержения, ведущей к занижению риска. Хотя «обычная» ядерная зима и заражение, скорее всего, не приведут к полному вымиранию человечества сами по себе (хотя могут создать условия для последующего вымирания по совокупности причин), но есть способы применить ядерное оружие особым образом, чтобы создать машину судного дня, которая истребит всех людей с высокой вероятностью.
Глава 3. Глобальное химическое заражение
Химическое оружие обычно не рассматривается в качестве оружия конца света. Это связано с тем, что для глобального заражения атмосферы требуются очень большие количества ядовитого вещества, а также с тем, что это вещество или химически неустойчиво, или легко вымывается из атмосферы. Глобальное химическое заражение может произойти из-за внезапной резкой дегазации земных недр, например, вскипания газовых гидратов под морским дном. Однако основной вариант – извержение сверхвулкана с большим выбросом газов. Сам процесс накопления углекислого газа в земной атмосфере за счёт сжигания ископаемого топлива тоже может считаться частью «дегазации недр». Другие возможные причины – крупная авария на химическом производстве, результат деятельности генетически модифицированных организмов в биосфере, и, наконец, сознательное применение химического оружия. В научной фантастике рассматривался вариант выпадения ядовитых химических веществ из ядра кометы. Основным фактором, превращающим химическое оружие в глобальную угрозу, является единство земной атмосферы. Поэтому в этой главе мы рассмотрим и ряд других факторов, действие которых распространяется через атмосферу.
В связи с этим полезно посчитать, какие количества и каких газов могут полностью отравить земную атмосферу. При этом понятно, что газам и ядам гораздо проще противостоять с помощью противогазов и убежищ, чем радиации и биоагентам. Для равномерного заражения всей Земли сильнейшим нервнопаралитическим газом VX потребовалось бы не менее 100 тыс. тонн этого реагента (если исходить из оценки одна смертельная доза на 1 кв. метр, то есть 200 мкг). При этом в Первой мировой войне всего было использовано 120 тыс. тонн разных ОВ. Примерно столько же (94 тыс. тонн) было использовано гербицидов в войне во Вьетнаме. Современные мировые запасы отравляющих веществ оцениваются в 80 тыс. тонн, хотя точных данных по общемировым запасам нет. При этом понятно, что химическое оружие не было приоритетным направлением, и его произвели гораздо меньше, чем могли бы. Понятно также, что вопрос равномерного распределения (то есть доставки) далеко не прост. Газ VX держится в холодном климате очень долго, но при жаре разлагается за несколько дней. Однако теоретически возможно произвести и распространить миллионы тонн этого газа или подобного и создать глобальную угрозу. (Особенно упростится эта задача с развитием конструирования генно-модифицированных организмов.)
Летальная доза токсина ботулизма – около 0,1 мкг. (Это означает, что для уничтожения человечества хватило бы нескольких сот грамм), но он очень неустойчив во внешней среде.
Летальная доза диоксина – около 1 мкг (есть разные оценки), однако он может десятки лет сохраняться в среде и накапливаться в организмах. Утечка примерно 25 кг диоксина в Севесо в Италии вызвала заражение 17 кв. км. Отсюда можно заключить, что на полное заражение Земли потребуется 500 000 – 1 000 000 тонн диоксина. Это равно объёму нескольких крупных нефтеналивных танкеров. Вероятно, промышленно развитая держава могла бы наработать такой объём за несколько лет.
Возможны также сценарии постепенного накопления в природной среде веществ, опасность которых вначале была неочевидна. Так было с фреонами, разрушающими озоновый слой, и диоксинами. Возможно также накопление многих химикатов, которые по отдельности не дают большой летальности, но вместе создают очень тяжёлый фон. Это обычно называется «неблагоприятная экологическая обстановка».
Другим вариантом является полное изменение химического состава атмосферы или утрата ею свойств пригодности для дыхания. Для этого нужен некий мощный источник химических веществ. Им может быть земной вулканизм, о чём речь пойдёт далее. Другие кандидаты: газовые гидраты на дне океана – отравление метаном, или водяной пар, если неким образом всю воду испарить (возможно при необратимом глобальном потеплении).
Функциональная структура химической катастрофы состоит в отравлении воздуха ядом или утрате атмосферой свойств способности поддерживать жизнь: то есть питать её кислородом, защищать от радиации, поддерживать нужный температурный режим. Химическая катастрофа угрожает земной биосфере даже больше, чем человеку, который может надеть противогаз, но без биосферы человек жить пока не может. Поскольку такая катастрофа носит относительно пассивный характер, то от неё относительно просто защитится в бункерах.
Маловероятные варианты:
• Отравление диоксидом углерода сверх того предела, при котором человек может дышать без скафандра (маловероятно, так как нет такого количества полезных ископаемых – только в случае некой природной катастрофы). Однако большое количество СО2 может вырваться и из вулканов. Например, Венера окружена атмосферой из СО2 в сто раз более плотной, чем земная атмосфера, и, вероятно, большая часть этого вещества выделилась из недр, и по некоторым предположениям, относительно недавно. С другой стороны, на Венере нет углеродного цикла, как на Земле.
• Формирование в результате восстановления оксида железа в недрах Земли значительного количества небиогенного кислорода, который может через 600 миллионов лет он полностью отравить атмосферу, как предполагает О.Г. Соротихин [Соротихин, Ушаков 2002]. Ухудшить этот сценарий может ситуация, если где-то под поверхностью уже скопились большие количества этого или другого газа, и затем они вырываются на поверхность в виде вулканического извержения. Впрочем, утверждения Соротихина о небиогенном кислороде подвергаются критике. Вырывающиеся на поверхность газы будут не только отравлять атмосферу. Они будут раскалены до тысячи градусов. И если произойдет массивный выброс газов (или воды), то он не только отравит атмосферу, но и стерилизует поверхность своим жаром. (Недавно была публикация о том, что глубоко под Землёй обнаружили «океаны воды», но на самом деле там речь идёт только о повышенной – 0,1 % – концентрации воды в породах .)
• Катастрофическое выделение метана из газовых гидратов в тундре и на морском дне, что не только усилит парниковые свойства атмосферы, но и, возможно, отравит её [Дядин, Гущин 1998].
• Другой вариант – выделение огромных количеств водорода из земных недр (есть предположения, что в центре Земли его много – cм. Сывороткин В.Л. «Экологические аспекты дегазации Земли» [Сывороткин 2002]). Это водород разрушает озоновый слой. Также возможно выделение огромных количеств нефти, если верна теория об абиогенном происхождении нефти и огромные количества углеводородов накопились глубоко в Земле. А бурение всё более глубоких скважин продолжается.
• Исчерпание кислорода в атмосфере в результате некого процесса, например, при окислении выделившегося из недр водорода. Таким процессом может быть внезапное выделение и сгорание большого количества горючего вещества. Или исчерпание кислорода в результате действия генетически модифицированных организмов, вышедших из-под контроля, например, вроде азотофиксирующих бактерий. Наконец, в результате прекращения фотосинтеза при одновременном продолжении сжигания минерального топлива. «Подсчитано, что весь кислород земной атмосферы (1200 триллионов тонн) зеленые растения производят по геологическим меркам почти мгновенно – за 3700 лет! Но если земная растительность погибнет – свободный кислород очень быстро исчезнет: он снова соединится с органическим веществом, войдет в состав углекислоты, а также окислит железо в горных породах» [Порнтов 1999]. Мы имеем примерно миллион миллиардов тонн кислорода в атмосфере, плюс некоторое количество, растворенное в воде. Количество ископаемого топлива, которое мы окислили за всю историю или собираемся окислить, измеряется тысячами миллиардов тонн, то есть гораздо меньше. Но если мы подорвём способности биосферы к регенерации, а затем утратим биотехнологии, то медленное уменьшение уровня кислорода будет глобальной катастрофой. По некоторым данным, крупнейшее пермское вымирание было связано с резким падением уровня кислорода в воздухе по неизвестной причине [Leslie 1996]. Шкловский пишет об этой же проблеме: Как уже упоминалось выше, сейчас ежегодно добывается топливо, соответствующее примерно 5 млрд тонн каменного угля. Это топливо сжигается, т. Е. Соединяется с атмосферным кислородом. В результате получается углекислый газ плюс энергия, которая и утилизируется. Следовательно, этот варварский способ получения энергии сопровождается изъятием из земной атмосферы около 20 миллиардов тонн кислорода ежедневно. Много ли это или мало? Чтобы ответить на этот вопрос, оценим полное количество кислорода в земной атмосфере. Это очень легко сделать. Над каждым квадратным сантиметром земной поверхности имеется около 200 г кислорода. Так как поверхность земного шара приблизительно равна 500 миллионов км2 или 5•1018 см2, полное количество кислорода в земной атмосфере около 1021 г или 1015 т. Это означает, что для “поддержания” горения добываемого на Земле топлива земной атмосферы хватит на 50000 лет. Подчеркнем, что на Земле действуют и другие естественные причини, приводящие к связыванию свободного кислорода ее атмосферы. Как оказывается, сжигание топлива сейчас составляет несколько процентов от действия естественных факторов, приводящих к связыванию кислорода земной атмосферы. В итоге существенная часть кислорода свяжется через несколько тысяч лет. Только жизнедеятельность растений непрерывно пополняет эту убыль кислорода из атмосферы. И вот неразумное вмешательство людей в этот миллионами лет устоявшийся кислородный баланс Земли привело к тому, что он нарушается как бы “с двух концов”: уничтожая леса, мы уменьшили “поставку” кислорода в атмосферу по крайней мере на 10%, а сжигая его с топливом, увеличили скорость его ухода из атмосферы на несколько процентов. Если бы в атмосфере кислорода было сравнительно немного — последствия сказались бы очень скоро. Но так как кислорода в земной атмосфере запасено очень много — последствия скажутся только через несколько тысяч лет — характерное время установления динамического равновесия кислорода в атмосфере. Через этот промежуток времени, благодаря деятельности людей за последние несколько десятилетий, равновесное количество кислорода в земной атмосфере уменьшится примерно на 15 — 20%. Но ведь сейчас темп добычи ископаемого горючего и его сжигания продолжает расти! Если так будет продолжаться, то через сотню лет добыча угля и нефти увеличится в несколько десятков раз. А это приведет к катастрофическому уменьшению кислорода в земной атмосфере за какие-нибудь несколько сот лет! Заметим, что мировых ресурсов угля и нефти, особенно еще не разведанных, вполне достаточно для этого самоубийственного дела: не забудем, что каменный уголь — это бывшие растения! Такая “деятельность”, с позволения сказать, “разумных” существ приводит к непрерывному увеличению содержания углекислого газа СO2, что, помимо других вредных последствий, резко нарушает тепловой баланс Земли, о чем речь уже шла раньше» [Шкловский 1987]. Увеличение содержание СО2 увеличит активность растений и снизит активность животных, а также человека по сжиганию топлива, что образует отрицательную обратную связь по содержанию кислорода. Уже сейчас есть кондиционеры, повышающие содержание кислорода в комнате, так что люди смогут достаточно эффективно противостоять постепенному снижению кислорода.
• Падение кометы с большим количеством ядовитых газов.
• «Чёрный прилив» – отравление мирового океана разлитием большого количества нефти. Непосредственно оно не может убить людей, но может критически подорвать цепочки питания в биосфере и нарушить производство кислорода и поглощение углекислого газа (что ведёт к потеплению) и, в конечном счёте, перевести человечество в постапокалиптическую стадию. Возможны и другие варианты отравления мирового океана.
• Срыв атмосферы Земли. Его могут вызвать: сильнейший взрыв, придающий большей части атмосферы вторую космическую скорость, солнечная вспышка или внезапное нагревание.
• Прокаливание атмосферы. Здесь я имею в виду не глобальное потепление, как комплексное постепенное явление, а кратковременное нагревание атмосферы до высоких температур в результате неких процессов. А. Портнов в статье «Как погибла жизнь на Марсе» [Портнов 1999] предполагает, что магнитные красные пески (маггемит) на Марсе образовались в ходе бомбардировки планеты осколками её крупного спутника, что привело к нагреву поверхности до 800-1000 градусов, при котором и происходит формирование таких минералов. Аналогичные отложения им обнаружены в Якутии, где 35 млн. лет назад упал крупный астероид диаметром около 10 км и оставил Попигайский кратер (а также, возможно, вызвал очередное крупное вымирание живых существ). Возможно, что при неких высокоэнергетичских событиях могут образовываться огромные плотные высокотемпературные облака, которые распространяются по поверхности на тысячи километров. Примером их могут быть пирокластические облака при извержении современных вулканов, которые двигаются по поверхности земли или моря с большой скоростью на значительные расстояния и имеют внутри себя температуру порядка 1000 градусов. Поскольку такие облака непрозрачные, они медленно охлаждаются излучением. Другие возможные причины прокаливания – облучение (например, обломками астероида, выброшенными высоко в стратосферу и огненными шаром от взрыва, вспышка сверхновой) или очень тяжелый горячий газ (достаточно тяжёлый, чтобы не всплывать в воздухе – тяжелые углеводороды?)
• Автокаталитическая реакция, распространяющаяся по всей поверхности Земли аналогичная распространению льда-9 из романа К. Воннегута «Колыбель для кошки». Пока нет никаких оснований думать, что такая реакция возможна. (Хотя был случай, когда лекарство от СПИДа самопроизвольно образовало новый изомер, обладающий свойством приона – катализировать образование аналогичного изомера, который вытеснил правильную форму кристалла со всех фабрик в мире и остановил производство.) Или создание искусственного катализатора, крайне эффективно осуществляющего некую реакцию, продукты которой пагубны для всего живого. Распространение сверхкомпьютеров может сделать возможным искусственную разработку новых прионов – например, если будет разрешена задача свёртки белков.
Моя субъективная оценка вероятности глобального химического заражения – порядка 0,1 % на весь XXI век. Эта вероятность сейчас особенно мала, так как нет таких технологий, и она будет убывать, когда достаточно разовьются средства молекулярного нанотехнологического производства, которые смогут быстро очистить атмосферу или хотя бы защитить людей от заражения (если они сами не вызовут такую катастрофу).
Вывод: хотя теоретическая возможность отравления всей атмосферы газами имеется, она перекрывается возможностью создания токсических и эпидемиологических биоагентов. Любая организация или государство, которое может стремиться к отравлению всей биосферы, гораздо проще и дешевле может это сделать с помощью генетического конструирования. Более того, человек может пережить такое отравление в бункере или нейтрализовать его противоядиями, возможно, сделанными с помощью биотехнологий. Тем не менее, внезапное и значительное отравление воздуха может быть фактором, который создаст один из вариантов постапокалиптического мира.
***
Мы можем сделать определённые выводы относительно технологически достоверных рисков. Исходя из того, что некий риск технологически готов, не следует сбрасывать со счётов неизбежность дальнейшего технологического совершенствования в этой области, а также вероятность принципиальных открытий в этой области или связанных с ней. При этом важно понимать, что опасности, создаваемые новыми технологиями, всегда больше, чем опасности от прежних технологий, хотя бы потому что любые новые технологии могут потенцировать эффективность прежних технологий.
Далее мы рассматриваем развитие технологий, как самодостаточную тенденцию, которая не подвержена никаким внешним кризисам и рискам (а также не зависит от человеческой воли), то есть риски, возникновение которых кажется неизбежным, исходя из текущего характера развития технологий. Очевидна односторонность этой точки зрения. Позже мы рассмотрим то, как реализация тех или иных больших и малых рисков может повлиять на развитие технологий и их способность порождать новые риски.
Глава 4. Биологическое оружие
4.1 Общие соображения и основные сценарии
Фактически, большая часть технологий, необходимых для создания опасного биологического оружия, уже существует. Например, в конце 2007 года был предложен набор из базовых «кубиков» для генетического конструирования, распространяемый по принципам свободного программного обеспечения Genetic-Engineering Competitors Create Modular DNA Dev Kit . Или, например: «В 2003 году ученые из Института альтернативной биологической энергии (США) под руководством знаменитого Крейга Вентера синтезировали из общедоступных реактивов вполне живой бактериофаг phi-X174 (безопасный для человека и животных вирус, который внедряется в бактерию Esherichia coli)… В 2002 году Экарт Уиммер из университета Стони Брук, штат Нью-Йорк, опубликовал работу по синтезу вируса полиомиелита из кусочков молекул. Синтетические вирусные частицы оказались совершенно неотличимы от естественных по всем параметрам – размеру, поведению, заразности. Причем слово «синтез» применимо к этой работе в самом буквальном смысле: зная нуклеотидную последовательность, ученые шаг за шагом построили вирус совершенно так же, как химики синтезируют сложные молекулы. Сам синтез занял у группы три года. А в 2003 году, через год после публикации этой работы, ученые из Института альтернативной биологической энергии потратили на синтез бактериофага из заказанных по каталогу реактивов всего две недели» [Юдина 2005].
Основная технологическая тенденция состоит в том, что био-оборудование постоянно дешевеет и распространяется по миру, одновременно знания о том, как использовать его во вред, возрастают и тоже распространяются. Постоянное удешевление и упрощение машин для секвенсирования и синтеза ДНК  (то есть считывания и создания генетического кода), делает возможным появление биохакеров. Прогресс в области био-оборудования измеряется скоростью порядка 2 раза в год – то есть технические характеристики возрастают, а оборудование дешевеет (кривая Карлсона ). Нет никаких оснований думать, что темп развития биотехнологий замедлится – отрасль полна новыми идеями и возможностями, а медицина создаёт постоянный спрос, поэтому можно смело утверждать, что через десять лет возможности биотехнологий по основным численным показателям (цена секвенсирования/синтеза ДНК, например) возрастут в 1000 раз. При этом происходит интенсивная демократизация биотехнологий – знание и оборудование идёт в массы. Если для компьютеров уже написано более 100 000 вирусов, то масштабы творчества биохакеров могут быть не меньшими.
Основной однофакторный сценарий биологической катастрофы – это распространение некого одного вируса или бактерии. Это распространение может происходить двояко – в виде эпидемии, передающейся от человека к человеку, или в виде заражения среды (воздуха, воды, пищи, почвы). Эпидемия гриппа испанки в 1918 г. затронула весь мир, кроме нескольких отдалённых островов. Вместе с тем, гипотеза о возможности эпидемии, убивающей всех людей, не учитывает двух обстоятельств. Первое, это то, что если все люди быстро гибнут, то некому разносить вирус. Второе, это то, что при всех эпидемиях обычно находятся люди, которые имеют врождённый иммунитет.
Возможен сценарий, когда по всему миру распространяется некое животное, являющееся носителем опасной бактерии. (Так в природе комарами распространяется малярия и чума крысами.)
Следующий вариант – это появление всеядного агента, который уничтожает всю биосферу, поражая любые живые клетки, или хотя бы только растения или животных некого критического вида.
Третий вариант – это бинарное бактериологическое оружие. Например, туберкулёз и СПИД являются хроническими болезнями, но при одновременном заражении человек сгорает за короткий срок. Один из страшных сценариев – СПИД, который распространяется также легко, как простуда.
Однако возможно и двухступенчатое биологическое оружие. На первом этапе некая производящая токсин бактерия незаметно распространяется по всему миру. На втором, по некому сигналу или таймеру, она начинает производить этот токсин сразу повсюду на Земле. Некоторые микроорганизмы ведут себя так при атаке на крупный организм.
Следующий вариант оружия конца света – это распыление в воздухе больших количеств спор сибирской язвы (или подобного агента) в защитной оболочке (а такие оболочки уже давно имеются для боевых штаммов). Этот вариант не требует саморазмножающегося болезнетворного агента. Заражение сибирской язвой очень длительное – один остров в Англии дезактивировали 50 лет, – и для заражения не требуется больших количеств реагента. 1 грамм может заразить целое здание. (Например, устранение последствий заражения одного здания в США, вызванного распылением спор сибирской язвы, находящихся всего лишь в одном конверте, заняло несколько лет и потребовало расходов в сотни миллионов долларов. Дешевле было бы снести это здание, но этого делать было нельзя, так как при этом споры могли бы заново распылиться. Это означает, что по способности к длительному заражению и нанесению экономического ущерба сибирская язва превосходит большинство радиоактивных веществ.)
Для полного заражения всей Земли необходимы тысячи тонн заражающего вещества. Но это число не является недостижимым – в СССР на полигоне в Аральском море было накоплено и брошено после распада СССР 200 тонн боевого штамма сибирской язвы. Его затем сожгли американцы. Однако, если из-за природной катастрофы (например, смерча) это вещество развеялось бы высоко в воздух, то оно могло бы накрыть целые страны. Понятно, что производство сибирской язвы дешевле производства аналогичных количеств полония или кобальта-60.
Следующий опасный вариант биооружия – это агент, изменяющий поведение людей. Вирус бешенства (агрессивность, укусы) и токсоплазма (утрата чувства страха) побуждают заражённых животных к поведению, которое способствует заражению других животных. Теоретически можно представить себе агент, который вызывал бы у людей наслаждение и стремление заражать им других. В кино этот вариант обыгран во множестве фильмов, где вирус превращает людей в вампиров. Но увы, в этой фантазии может быть доля правды. Тем более, если создавать такие вирусы будут шутники-хакеры, которые могут черпать в кино своё вдохновение.
Ещё один вариант биологической угрозы – это некая автокаталитическая молекула, способная неограниченно распространяться в природе. Коровье бешенство вызывается автокатализом особого белка, называемого прионом. Однако коровье бешенство распространяется только через мясо.
Отметим ещё вариант — распространение по всей биосфере некоего живого существа, вырабатывающего опасный токсин. Например, это могут быть генетически модифицированные дрожжи или плесень, вырабатывающие диоксин или токсин ботулизма.
В качестве средства противостояния этому предлагается создание всемирной иммунной системы – то есть распыление по всему миру множества генетически модифицированных бактерий, которые будут способны обезвреживать опасные реагенты. Однако здесь возможны новые опасности, например, «автоиммунные» реакции такого щита, то есть выход его из-под контроля.
Ещё одним видом опасности является так называемая «искусственная жизнь», то есть живые организмы, построенные с использованием другого кода ДНК или набора аминокислот. Они могут оказаться непобедимыми для иммунных систем современных живых организмов и «съесть биосферу».
Более фантастическим вариантом биологической опасности является занесение жизни из космоса. Шансы этого учитывались, когда астронавты вернулись с Луны – их долго держали в карантине.
4.2 Структура биологической катастрофы
Структура биологической катастрофы может быть весьма замысловатой. В качестве иллюстрации приведу несколько цитат об одной потенциально опасной ситуации. (Из неё мы увидим, как давно появились биологические угрозы, – а значит, насколько зрелой уже является эта опасность.)
«Генный кризис начался летом 1971 года. В это время молодой учёный Роберт Поллак в лаборатории Колд-Спринг-Харбор (на Лонг Айленде, штат Нью-Йорк, США), руководимой Д.Уотсоном, занимался проблемами рака. Круг научных интересов Поллака был широк. Он не только вёл исследования, но и преподавал студентам биологию и выступал в качестве ведущего радиопрограмм, посвящённых обсуждению возможных злоупотреблений в бионауках, в частности, зарождающейся тогда генной инженерии.
И вот Поллак узнаёт, что в другой лаборатории (в Пало-Альто, в Калифорнии) у Поля Берга планируются эксперименты по встраиванию ДНК онкогенного (могущего вызывать раковые заболевания) вируса SV 40 в геном кишечной палочки. Последствия таких опытов? А не возникнет ли эпидемия рака (было известно, что почти безвредный для обезьян, вирус SV 40 вызывает рак у мышей и хомяков)? Начинённые опасными генами бактерии, плодясь миллиардами за сутки, по мнению Поллака, могли бы представлять серьёзную опасность.
Поллак тут же позвонил П. Бергу по междугороднему телефону и спросил его, отдаёт ли он себе отчёт об опасности экспериментов? Не станут ли бактерии с генами вируса SV 40 биологической бомбой замедленного действия?
Этот телефонный разговор и был началом той тревоги, которая охватила молекулярных биологов. Берг отложил свои исследования. Он стал размышлять, может ли реально E.Coli со встроенными в неё SV 40 вызывать рак? Мучительные раздумья мало что прояснили. Чёткого ответа не было из-за скудности сведений, имеющихся у специалистов в то время» [Чирков 1989].
«Некоторые доклады учёных (в Асиломаре, 1975) носили сенсационный характер. Так выяснилось, что в США в громадном масштабе был уже поставлен невольный эксперимент на человеке. Оказалось, что вакцина против полиомиелита заражена жизнеспособным вирусом SV 40. За 10 летний период, с 1953 по 1963 год эту заражённую вакцину привили примерно сотне миллионов детей. Причём проверка показала, что вирус SV 40 сохраняется в организме. Однако, к счастью, никакого увеличения частоты раковых заболеваний у этих детей выявлено не было» [Чирков 1989].
«Эдда Вест в своей статье "Полиомиелит", сообщает о связи вируса SV-40, которым заражались полиовакцины, с опухолями человека: "К концу 1996 г. десятки учёных сообщили об обнаружении вируса SV-40 в различных опухолях костей и мозга, которых стало больше на 30 % за последние 20 лет. Затем итальянские учёные обнаружили SV-40 в семенной жидкости 45 % и в крови 23 % здоровых доноров. Это означало, что SV-40, очевидно, передавался половым путём и от матери ребёнку. Вероятно, ныне этот вирус встроен в наш геном.»  Другие опровергают эти данные. Однако отсюда видно, что развитие биотехнологий создаёт далеко неочевидные угрозы.
Уже сейчас биологическое оружие считается одним из самых дешёвых – стоимость причинения смерти им в расчете на одного человека несколько центов. С другой стороны, для производства современных реагентов вроде сибирской язвы в военных целях нужны большие защищённые лаборатории и полигоны. Оно может быть ещё дешевле, если учесть способность агента саморазмножаться. Теперь подержанный ДНК секвенсор можно купить за сумму от 200 долларов, и с каждым годом цена этих устройств падает в разы, а качество растёт. См. текст «Генетический хакер может создать биологическое оружие у себя дома» , рассказывающий о человеке, не имеющем познаний в области биологии, который берётся вывести – и выводит – генетически модифицированную флуоресцирующую колонию дрожжей за небольшой срок и небольшую сумму денег. И затем делается предположение, что почти также просто можно было бы вывести некий опасный вариант.
Уже сейчас создание биологической супербомбы в тысячи раз дешевле, чем создания ядерного оружия сравнимой поражающей силы. Когда распространятся дешевые технологии производства произвольных живых организмов с заранее заданными функциями, цена изготовления такого оружия может упасть до несколько сотен долларов.
Часто говорят, что биологическое оружие не годится в военном деле. Тем не менее у него может быть особое назначение – как оружие криптоударов в тылу врага и как универсальное оборонительное оружие – машина судного дня.
4.3 «Саморазмножающейся» синтезатор ДНК
Биотехнологии могут потенцировать сами себя – то есть возможно возникновение промежуточных биологических форм, которые упрощают написание и выращивание новых вирусов. Например, это может быть культура бактерий, которая непосредственно переводит последовательность электрических сигналов в цепочку ДНК, или, наоборот, считывает ДНК и превращает эту информацию в цепочку вспышек света, которые может считывать компьютер. Само распространение такого устройства вместе с библиотекой генетических кодов (в цифровом виде) основных вирусов и белков было бы катастрофой.
4.4 Множественный биологический удар
Хотя распространение одной эпидемии, скорее всего, можно остановить, но эпидемию, вызванную несколькими десятками видами разнородных вирусов и бактерий, вышедших из-под контроля одновременно во многих местах земного шара, остановить невозможно даже технически, потому что в человека невозможно одновременно ввести несколько десятков разных вакцин и антибиотиков – он умрёт. Если вирус с 50 % летальностью был бы просто очень большой катастрофой, то 30 разнородных вирусов и бактерий с 50 % летальностью означали бы гарантированное истребление всех, кто не спрятался в бункеры. (аналогичный результат может быть от 100 разных организмов с 10 % летальностью.)
Множественный удар мог бы быть и мощнейшим средством ведения биологической войны, и «оружием судного дня». Но он может произойти и сам по себе, если одновременно произойдёт множество актов распространения биологических агентов – даже и случайных, например, в ходе активного «соревнования» биохакеров. Даже несколько по отдельности несмертельных агентов могут настолько ослабить иммунную систему человека, что дальнейшее его выживание станет маловероятным.
Именно возможность множественного применения биологического оружия делает его одним из самых значительных факторов глобального риска.
4.5 Биологические средства доставки
Чтобы представлять угрозу человечеству, биологическое оружие должно быть не только смертельным, но и заразным и легко распространяющимся. Генетические технологии дают огромные возможности не только для создания летального оружия, но и для создания способов его доставки. Не нужно обладать великой фантазией, чтобы представить себе генетически модифицированного малярийного комара, который может жить в любой среде и с огромной скоростью распространиться по всей планете, вводя при укусах некий биоагент. Или вошь. Или саранчу, заодно поедающую всё живое и распыляющюю споры сибирской язвы. Но у будущих биоконструкторов будет гораздо больше фантазии.
Однако и бактериологическую войну можно пережить в убежище, хотя заражение от неё может быть более длительным, чем радиоактивное. Кроме того, переход на «механические тела», загрузка сознания в компьютер и освоение нанотехнологий резко снижают уязвимость «человека» к любым биологическим ядам и агентам, однако сделают его уязвимым к другим саморазмножающимся агентам, таким как компьютерные вирусы и нанороботы.
В фантастике распространен образ атаки мутантов на последний человеческий бункер. Обычная радиация не способна порождать агрессивных мутантов. С другой стороны, в природе существует вирус бешенства (Neuroiyctes rabid), который влияет на поведение животных так, что они начинают его более активно распространять (укусами). Нетрудно представить себе более продвинутое изделие генно-инженерной техники, которое превращает любое животное в существо, агрессивно настроенное против человека. Сама фантастичность такого проекта может быть стимулом к его реализации, поскольку современная культура пропитана идеями про вампиров и зомби, возникающих в результате опытов в лабораториях (например, недавний фильм «Обитель зла»– «Resident Evil»). Иначе говоря, идея изготовить зомби-вирус могла бы быть привлекательным вызовом для биохакера. При этом заражённые люди и животные обладали бы достаточным умом и техническими средствами, чтобы взломать разные виды защиты.
Похожий сюжет был с терактами 11 сентября, когда выяснилось, что голливудские фильмы были не фантастическими видениями, а самосбывающимися пророчествами. Иначе говоря, культура способна превратить крайне маловероятный сценарий в важную цель.
4.6 Вероятность применения биологического оружия и её распределение во времени
Я оцениваю вероятность того, что биотехнологии приведут к вымиранию человечества (в условиях, когда их эффект не перекрывается другими технологиями) в десятки процентов. Эта оценка основана на предположении о неизбежном широком распространении очень дешевых устройств, позволяющих создавать множество разнообразных биологических агентов, то есть на предположении о столь же широком распространении биопринтеров, как сейчас обычных компьютеров.
Перечислю свойства опасного биопринтера (дешёвой минилаборатории) ещё раз:
1) неизбежность возникновения,
2) дешевизна,
3) широкая распространённость,
4) неконтролируемость властями,
5) способность осуществлять разработку принципиально новых биоагентов,
6) простота применения,
7) разнообразие создаваемых объектов,
8) привлекательность как устройства для производства оружия (в духе вирусов индивидуального наведения) и наркотиков.
9) способность к саморепликации ключевых элементов, основанная на их биологической природе.
Я полагаю, что устройство, удовлетворяющее этим требованиям, будет состоять из обычного компьютера, пиратски распространяемой программы с библиотекой исходных элементов, и собственно биологической части биопринтера, которая будет генетически модифицированным живым существом, то есть способным к саморазмножению. (Плюс набор относительно доступного оборудования, вроде сосудов для химреактивов и система связи биологической части с компьютером.) Каналом распространения этого комплекта могут быть преступные сообщества, производящие наркотики. Поскольку компьютеры уже доступны, а программа, и сама живая часть биопринтера способны к неограниченному копированию, то цена этого устройства в сборе будет неограниченно мала, а привлекательность крайне велика, что сделает контроль за использованием очень сложным.
Кустарно изготовляемые биопринтеры – не единственный способ создать биологическую опасность. То же самое произойдет и при распространении неких стандартных компактных минилабораторий по биосинтезу (вроде ДНК-синтезаторов), или при сетевом производстве биологических компонентов, которое уже имеет место, когда ингредиенты заказываются в разных фирмах по всему миру.
Вероятность глобальной катастрофы с участием биопринтеров будет очень быстро возрастать по мере совершенствования таких устройств и их распространения, то есть мы можем описать плотность вероятности в виде некой кривой, которая сейчас соответствует малой, но уже не нулевой величине, а через некоторое время взмывает до очень большой величины. При этом интересна скорее не точная форма этой кривой, а то время, когда она начнёт резко расти.
Я оцениваю это время в величину порядка 10-15 лет от 2008 года (2018-2023 годы). (Независимая оценка дана сэром Мартином Рисом, который в 2002 году сделал ставку в 1000 долларов, что до 2020 года произойдёт биотерракт с миллионом жертв, хотя и надеется проиграть [Rees 2003].) Эта оценка основана на анализе планов индустрии по удешевлению полного распознавания человеческой ДНК – по этим планам, к 2015 году такое распознавание будет стоить около 1000 долларов. Эти планы предлагают некоторый набор перспективных технологий и экспоненциальную кривую удешевления, которая устойчиво соблюдается до настоящего момента. Если к 2015 году распознавание действительно будет стоить столько, то это будет означать, что будет создана ключевая технология по очень быстрому считыванию ДНК, и можно предположить, что такая же технология будет создана для дешёвого ДНК синтеза (фактически синтез проще, и технология уже есть). На основании этих технологий будет создана библиотека значений разных генов, что приведёт к взрывному пониманию принципов работы организмов, а развившиеся к тому времени компьютеры смогут моделировать последствия тех или иных мутаций. Всё вместе это позволит создать описываемый выше биопринтер. То, что рост плотности вероятности приходится, по моей оценке, на время около 2020 года, не означает, что уже сейчас какие-либо террористы не разрабатывают штамм очень опасных вирусов в разных лабораториях мира.
Вероятность применения биотехнологий, ведущего к глобальной катастрофе, может быть снижена следующими факторами:
1) Биоатаку можно пережить в убежищах.
2) Первая же серьёзная катастрофа, связанная с утечкой опасных биотехнологий приведёт к настолько драконовским мерам контроля, что их окажется достаточно для предотвращения создания или распространения биопринтера.
3) ИИ и нанотехнологии разовьются раньше, чем появится и распространится биопринтер.
4) Ядерная война или другое бедствие прервёт развитие биотехнологий.
5) Возможно, что биотехнологии позволят создать нечто вроде универсальной вакцины или искусственной иммунной системы быстрее, чем распространятся опасные минилаборатории.
К сожалению, имеется следующая неприятная цепь обратной связи, связанная с защитой от биологического оружия. Для лучшей защиты мы должны подготовить как можно большее число первоклассных специалистов по вирусам и вакцинам, но чем больше таких специалистов в мире, тем больше шансов, что один из них станет «террористом».
Кроме того, есть определенная вероятность создания биологической «зелёной слизи» , – то есть неких универсальных всеядных микроорганизмов, способных с большой скоростью переварить в себя всю биосферу. Для этого надо собрать в одном микроорганизме свойства, имеющиеся по отдельности в разных микроорганизмах – способность улавливать солнечный свет, растворять и усваивать минералы, размножаться со скоростью кишечной палочки, заражать своими копиями, как вирусом, другие клетки, и ряд других – причём собрать не актуально, а потенциально, в виде участков ДНК и механизмов переключения между ними. Обычно такой сценарий не рассматривается, так как полагается, что микроорганизмы уже достигли абсолютной степени совершенства, а значит, если бы «зелёная слизь» была бы возможна, то она бы уже возникла. Однако до того как возникли эукариоты, тоже прошли миллиарды лет, и быть может, такая сверхбактерия тоже могла бы возникнуть только после десятков миллиардов лет естественной эволюции. Однако люди могут целенаправленно сконструировать её, может быть даже случайно – как средство борьба с отходами. Не обязательно сочетать все эти признаки в одном существе – одновременная атака несколькими видами «зелёной слизи» была бы неизмеримо опаснее. Есть мнение, что усилия по созданию полезных сельскохозяйственных культур, устойчивых к вредителями, может привести к возникновению «суперсорняка», способного вытеснить большинство естественных растений из их экологических ниш. Именно это событие является серьёзным риском при создании генетически модифицированных продуктов, а не то, что они окажутся несъедобными. Последнее гораздо проще обнаружить и предотвратить.
Вывод: существует огромное множество способов применить биотехнологии во вред человечеству, и это множество пока ещё до конца не описано. Хотя каждое отдельное применение биотехнологий можно предотвратить или ограничить его последствия, дешевизна, секретность и распространённость этих технологий делают их злонамеренное применение практически неизбежным. Кроме того, многие биологические риски могут быть малоочевидными и отложенными во времени, поскольку сама биологическая наука ещё развивается. Широкомасштабное применение биологического оружия значительно опаснее и значительно вероятнее, чем классическая ядерная война.
Глава 5. Супернаркотик и другие риски, связанные с воздействием на человека
5.1. Воздействие на центр удовольствия и новые технологии
Биотехнологии и исследования мозга многими путями ведут к возможности создания супернаркотиков. Один из сценариев распространения супернаркотика в будущем предложен Стругацкими в романе «Хищные вещи века», где мощнейший наркотик, вызывающий 100 процентное привыкание с первого раза, оказывается очень просто сделать из радиоприёмника и ряда других общедоступных компонентов, которые непосредственно воздействует на центр удовольствия в мозге. Это сценарий связан в чистом виде не с распространением некого вещества, а с распространением «знаний массового поражения» – о том, как его сделать. С одной стороны, мы можем утверждать, что ни один наркотик не привлечёт всю популяцию людей, поскольку всегда найдутся люди, которые из принципа от него откажутся. С другой стороны, мы можем обозначить сразу несколько сверхнаркотиков, возможных в будущем, общий смысл действия которых состоит в выключении человека из социальной жизни. И человек, отказавшийся от одного класса наркотиков, может устремиться к другому. Так и в современной реальности кто-то не пьёт алкоголь, но зато «сидит» на кофе. Кто-то не смотрит телевизор, но становится интернетзависимым.
Сверхсильный наркотик может быть подобен заразной болезни, если одни люди буду стремиться заразить других, а те – не против будут заразиться. Типы супернаркотика:
1) Прямое воздействие на центры удовольствия в мозгу. Есть наработки по воздействию с помощью вращающегося магнитного поля (шлем Персингера, шлем Шакти), транскринальной магнитной стимуляции, электрической стимуляции паттернами мозговой активности, аудиостимуляции (бинауральные ритмы), фотостимуляции, биологической обратной связи посредством устройств, способных считывать энцефалограмму, вроде недавно выпущенного нейрошлема для компьютерных игр .
2) Будущее возникновение микророботов позволит осуществлять прямую стимуляцию и считывание информации из мозга.
3) Биоинженерия позволит создать генетически модифицированные растения, которые будут создавать любые заданные препараты, и выглядеть при этом как обычные комнатные цветы или чайные грибы. Более того, распространение этих растений возможно не только физически, но и с помощью информации о коде ДНК по Интернету, с тем, что конечный пользователь сможет выращивать их на месте с помощью своего «ДНК-принтера».
4) Познания в биологии позволят придумать гораздо более сильно действующие вещества с наперёд заданными свойствами, а также с меньшим числом побочных эффектов, что сделает их привлекательнее.
5) Генетически модифицированные организмы могут встраиваться в само человеческое тело, создавать новые нейронные пути в мозге с тем, чтобы вызвать ещё большее наслаждение. И при этом уменьшать краткосрочные негативные эффекты для здоровья.
6) Виртуальная реальность неизбежно сделает шаг вперёд. Мы сможем записывать свои сны и увеличивать осознание в них, совмещая идеи восточных медитативных практик и технологические возможности для их реализации; виртуальная реальность с помощью мозговых имплантов сможет создавать гораздо более яркие «кинофильмы», чем современное кино и видеоигры. Шлемы для виртуальной реальности станут гораздо совершеннее.
Очевидно, что возможны разные комбинации перечисленных видов абсолютного наркотика, которые только усилят его действие.
Будем называть абсолютным наркотиком некое средство, которое для любого человека привлекательнее обычной реальности и полностью уводит его из этой реальности. При этом можно разделить быстрый и медленный абсолютный наркотик. Первый даёт переживание, ради которого человек готов умереть, второй – некую новую реальность, в которой можно длительное время существовать.
Быстрый наркотик представляет собой глобальную опасность, если в его механизме действия неким образом прописан механизм его распространения. Например, если кайф наступает только после того, как этот наркотик передан ещё трём людям. В некотором смысле этот механизм действует в преступных бандах наркоторговцах (вроде банды M31 в США), где наркоман вынужден подсаживать своих друзей, чтобы, продавая им наркотик, обеспечивать себя дозой.
Распространение медленного абсолютного наркотика можно представить на следующем примере: если ваш любимый или родственник необратимо ушёл в виртуальный мир, то для вас это станет источником страданий, сопоставимых с его смертью, и единственным способом их избежать будет тоже уйти в свой идеальный виртуальный мир, в котором вы сможете достичь общения с его, скажем, электронной копией.
В силу этого, у каждого человека будет богатый выбор развлечений, значительно превосходящих любую реальность. При этом возникает сложный вопрос – в какой мере человек, полностью и необратимо ушедший в непостижимое наслаждение и довольный этим, должен считаться живым? И если мы безоговорочно осуждаем некого примитивного «торчка», то как мы должны относится к человеку, навсегда ушедшему в высокохудожественный мир исторических реконструкций?
Надо отдавать себе отчёт, что пагубное действие многих наркотиков далеко неочевидно и может проявляться не сразу. Например, героин и кокаин долгое время были в открытой продаже, был легко доступен и ЛСД. Наркотик замыкает накоротко психологическую функцию подкрепления (то есть удовольствия), но с точки зрения эволюционных механизмов получение наслаждения вовсе не есть реальная цель организма. Наоборот, существо должно оставаться достаточно неудовлетворённым, чтобы постоянно стремиться к завоеванию новых территорий. Абсолютный наркотик создаёт возможность следующей дилеммы: человечество как целое перестаёт существовать, но каждый отдельный субъект воспринимает произошедшее как личный рай и очень доволен этим. Существа, ушедшие из реальности и наслаждающиеся виртуалом, ничего не возвращая взамен, оказываются бесполезным наростом на системе, который она стряхнёт при ближайшем кризисе. Это – один из путей, которым увлечение абсолютным наркотиком может привести к всеобщему вымиранию. Во-вторых, уменьшение интереса к внешней реальности уменьшит внимание к возможным катастрофам и кризисам.
Вероятность возникновения супернаркотика выглядит крайне высокой, поскольку он может быть достигнут многими способами не только за счёт успехов в биотехнологиях, но и в нанотехнологиях, в ИИ, а также за счёт некоего случайного изобретения, объединяющего уже существующие технологии, а также по причине наличия огромного спроса. Вероятно, одновременно будут действовать множество разных супернаркотиков, создавая кумулятивный эффект.
Поэтому мы можем ожидать, что эта вероятность будет расти, и будет расти быстрее, чем успехи любой из технологий, взятых по отдельности. Поскольку мы предположили, что биотехнологии дадут мощный результат в виде биопринтера уже через 10-15 лет, то это означает, что мы получим супернаркотик раньше этого времени. Тем более что механизмы для реализации супернаркотика могут быть проще, чем биопринтер. Предотвратить распространение супернаркотика может очень жёсткая система всеобщего контроля или глубокий откат в дотехнологическое общество.
Выводы: Развитие роботизированного производства начнёт делать людей бесполезными, и потребуется их чем-то занять. Супернаркотик будем одним из способов удалить из жизни лишние части системы. Абсолютный наркотик может вовсе не носить названия «наркотика» и не вписываться в современные стереотипы. Абсолютный наркотик не будет чем-то одним, но будет множеством факторов, работающих объективно на разделение людей, отключение их от реальности и сокращение их жизни и способности к размножению. Абсолютный наркотик может выглядеть как абсолютное благо, и вопрос его вредности может зависеть от точки зрения. В каком-то смысле современная культура развлечений в западных странах с низким уровнем рождаемости уже может быть прообразом такого наркотика. Однако абсолютный наркотик всё же сам по себе не может истребить всех людей, так как всегда найдутся группы, которые отказались от него и продолжили обычную человеческую жизнь, и, в конечном счёте, «естественный отбор» оставит только представителей этих групп. Кроме того, медленный абсолютный наркотик действует на человеческое сообщество на настолько длительных временных промежутках, которые, скорее всего, перекроются более быстрыми опасными процессами. Быстрый абсолютный наркотик подобен биологической эпидемии, и ему можно противостоять теми же методами. Например, возможны биологические агенты, которые повреждают способность человека к неограниченному наслаждению (а такое уже разрабатывается для лечения наркоманов, например, разрывание определённых нейронных связей), поэтому абсолютный наркотик, скорее всего, надо рассматривать как фактор, открывающий окно уязвимости для других факторов уничтожения.
5.2 Риски, связанные с самокопирующимися идеями (мемами)
В книге «Эгоистичный ген» Докинз [Докинз 1993] предложил концепцию «мемов» – идей, которые способны реплицироваться, передаваясь от одного человека к другому, так ведут себя, например, слухи. Любая область, где способны существовать самовоспроизводящиеся элементы, и которая может касаться всех людей, потенциально является источником глобального риска. Возможен ли такой мем, который мог бы привести к гибели всех людей?
С одной стороны, имеем в истории примеры крайне опасных мемов: радикальные политические теории и разные формы религиозного фанатизма. С другой стороны, мему, чтобы распространяться, нужны живые люди. И поскольку люди уже существуют давно, можно предположить, что нет таких опасных мемов, которые могли бы легко самозародиться и всех истребить. Наконец, мем – это только мысль, и она не убивает сама по себе. Маловероятно, что возможна идея, которая влияла бы на всех людей без исключения, и влияла бы смертельно. Наконец, в обществе существует равновесие различных мемов. С другой стороны, опасные мемы попадают под концепцию «знаний массового поражения», введённую Биллом Джоем в статье «Нужны ли мы будущему».
Однако в нынешнюю эпоху мемы обрели возможность существовать и независимо от людей – в текстах и компьютерных программах. В современную эпоху самокопирующийся опасный мем может получить поддержку от неких технических средств. Очевидно, что сейчас я не могу придумать пример реально опасного мема, потому что если бы я его написал здесь, то это было бы преступным актом. Информация о том, как производить опасный сверхнаркотик была бы таким опасным мемом.
И подобно тому, как в случае биологического оружия опасен не один какой-либо особенно вирулентный вирус, а возможность производить много разных штаммов, быстрее, чем от них возможна защита, так и здесь может быть опасен не один какой-то мем, а то, что их появится настолько много, что они затопят любую защиту. Например, искусственный интеллект может генерировать опасные мемы.
Список существующих сейчас мемов, которые в некоторой степени опасны:
1) Представления об исключительности своей религии. А.П. Назаретян считает неизбежно присущее религиям свойство нетерпимости к другим религиям – важнейшей угрозой выживанию человечества в XXI веке. Он полагает, что религия, как социальный институт, способствует объединению группы людей через ненависть к другой группе. Выход он видит в создании светской системы целей, которая не подразделяет людей на плохих и хороших. Точно также работают идеи, связанные с национальными и расовыми различиями людей.
2) Знания о производстве наркотиков.
3) Организации, в которых основной целью является вербовка новых членов, например, секты или действующая в США банда «М13».
4) Самосбывающиеся пророчества о катастрофах. Ярким примером такого события было бы официальное сообщение о неизбежности глобальной катастрофы в ближайшем будущем. Например, о столкновении Земли через год с огромным астероидом. Даже если бы это сообщение было ложным, последствия его обнародования были бы катастрофическими. Большинство людей прекратило бы заниматься долгосрочными проектами, и вообще работать. Кто-то бы ударился в религию, кто-то бы совершал акты немотивированного насилия, злоупотреблял наркотиками и т. д., стремясь получить максимум удовольствия за оставшееся время. Последовавшая анархия сделала бы невозможными усилия по предотвращению катастрофы, даже если бы в них был определённый смысл.
5) Некая модель поведения, ведущая к распространению опасной болезни. Пример: каннибализм у неандертальцев, который возможно, стал причиной их вымирания за счёт того, что они заражались прионом вроде вызывающего «коровье бешенство», поедая мозги своих соплеменников. Или сексуальная революция, ведущая к распространению ВИЧ.
6) Необычайно масштабные и яркие мечты, ведущие к принятию ради них более высоких норм риска и/или «дающее право» убивать много других людей. Например, «красный террор» оправдывался тем, что, в конечном счёте, коммунизм принесёт благо гораздо большему числу людей. Новые технологии открывают перед человеком почти божественные возможности, порождая невероятные соблазны и побуждая допускать больший риск.
7) Мощные идеологические системы, вроде фашизма.
Борцы с глобальным риском сами могут стать глобальным риском. В каждый момент времени на Земле найдется десятки или сотни человек, считающие, что то или иное событие в ближайшем будущем является глобальным риском. С их точки зрения является «рациональным» идти на любые жертвы, чтобы остановить этот риск. Например, сбросить атомную бомбу на коллайдер.
5.3 Риски, связанные с размыванием границ между человеческим и нечеловеческим
Мощные процессы генетической модификации людей, протезирования частей тела, в том числе элементов мозга, соединения мозга с компьютером, переноса сознания в компьютер и т. д. создадут новый тип рисков для людей, понять которые пока довольно сложно. В какой мере мы можем считать человеком существо, которому добавлено несколько генов, а несколько убрано? Готовы ли мы признать статус человека за любым разумным существом, возникшим на Земле, даже если оно не имеет ничего общего с человеком, себя человеком не считает и настроено к людям враждебно? Эти вопросы перестают быть чисто теоретическими в XXI веке.
Суть проблемы в том, что усовершенствование человека может идти разными путями, и не факт, что эти пути будут конвергироваться. Например, усовершенствование человека за счёт генных манипуляций даёт один путь, за счёт постепенной замены частей тела механизмами – другой, и за счёт полной пересадки сознания в компьютер – третий. Различны могут быть и заявляемые цели усовершенствования. И значительные группы людей наотрез откажутся от каких-либо усовершенствований.
5.4 Риски, связанные с проблемой «философского зомби»
«Философским зомби» называется (термин введён Д. Чалмерсом в 1996 г. в связи с дискуссиями об искусственном интеллекте) некий объект, который изображает человека, но при этом не имеет внутренних переживаний. Например, изображение человека на телеэкране является философским зомби, и в силу этого мы не рассматриваем выключение телевизора как убийство. Постепенный апгрейд человека ставит вопрос о том, не превратится ли на неком этапе улучшаемый человек в философского зомби.
Простой пример катастрофы, связанной с философским зомби, состоит в следующем. Допустим, людям предложили некий метод достижения бессмертия, и они на него согласились. Однако этот метод состоит в том, что человека 10 дней записывают на видеокамеру, а затем прокручивают фрагменты этой записи в случайном порядке. Разумеется, здесь подвох очевиден, и в реальности люди не согласятся, так как понимают, что это не бессмертие. Однако, рассмотрим более сложный пример – допустим, у человека повреждена инсультом часть мозга, и ему заменяют её на компьютерный имплантат, приблизительно выполняющий её функции. Как узнать, не превратился ли в результате человек в философского зомби? Ответ очевиден: всегда найдутся те, кто будет в этом сомневаться и искать признаки «неподлинности» исправленного человека.
Другой вариант риска состоит в том, что некий вирус или наноробот имплантируется в человека и разрушит его способность к осознанию, однако при этом человек почти полностью сохранит свои модели поведения, или они будут смоделированы этим управляющим роботом. В результате вся планете может вымереть, но при этом внешне не изменится: люди будут ходить на работу, рассказывать анекдоты и изображать смех.
То, что отличает живого человека от «философского зомби», то есть, качественные признаки переживаний, в философии называется «квалиа» , например, субъективное переживание зелёного цвета. Вопрос о реальности квалиа и их онтологическом статусе является предметом острых философских дискуссий. Моё мнение состоит в том, что квалиа реальны, их онтологический статус высок, и без выяснения их подлинной природы не следует совершать опрометчивых экспериментов по переделке человеческой природы.
Можно с уверенностью предсказать, что когда появятся улучшенные люди, мир расколется надвое: на тех, кто будет считать настоящими людьми только обычных людей, и тех, кто будет улучшать себя. Масштабы такого конфликта будут воистину цивилизационными. Конечно, каждый решает за себя, но как родители отнесутся к тому, что их дитя уничтожит своё физическое тело и закачает себя в компьютер?
5.5 Утрата интереса к жизни и кризисы, заложенные в самой природе разума
Весь разговор о предотвращении глобальных рисков имеет смысл, только если сохранение человечества является целью, или необходимым средством для каких-либо целей. Хотя нам это кажется само собой разумеющимся, это может быть не так. Высказывалось мнение, что утрата интереса к жизни может стать причиной затухания космических цивилизаций.
Даже если цивилизация как целое исчерпает всё доступное для познания, это не касается всё новых возникающих интересов. Кроме того, трудно представить, что процесс познания закончится в обозримом будущем, то есть в ближайшие столетия, так как остаётся необследованным космос. Однако количество «развлечений» в широком смысле этого слова может быть конечно. Если исходить из естественной человеческой потребности в том, чтобы каждое следующее развлечение было бы интереснее предыдущего, то мы получим экспоненциальный рост, который обгонит любые доступные ресурсы, и в результате мы упрёмся в абсолютную скуку. Мир без рисков может быть скучен, а с рисками – конечен во времени. Доведение идеи безопасности до абсурда – вроде бессмертия в пустой белой комнате (как у Достоевского: вечность – это комната с пауками) – может быть адской пыткой, не имеющей никакой ценности.
Но если цивилизация объединится, и у неё будет единый орган принятия решения – Синглетон по Бострому, – то он может принять решение о самоуничтожении.
Другие возможные причины самоуничтожения цивилизации – намеренное самоубийство с целью исследовать то, что находится после смерти или из неких неясных нам моральных соображений (в духе пропагандируемых Движением за добровольное вымирание человечества).
Самоуничтожение может принять тонкие формы – скажем, отказ от размножения или уменьшение заботы о новых поколениях, или отказ предотвращать другие глобальные риски с должной степенью настойчивости.
Есть также теория о том, что любой разум по своей природе ограничен (идущая от «Критики чистого разума» Канта) и в силу этого обречён на самоуничтожение по достижению определённого порога сложности. Эта теорию можно обрисовать так. Психика животных, людей и будущих систем ИИ приводится в движение за счёт целей. Эти цели делятся на цели верхнего уровня и подцели. У животных и цели, и подцели записаны на уровне инстинктов. Человек отчасти обладает способностью редактировать свои под цели на основании главных целей. За счёт этого он резко повышает свою эффективность. Таким образом, чем выше эффективность психики, тем более высокий уровень подцелей она должна мочь оптимизировать. Однако рано или поздно она доходит до возможности оптимизации главной цели. То есть она понимает, за счёт каких механизмов и почему эта цель была в неё встроена. Отсюда становится понятна произвольность главной цели, что означает онтологическую катастрофу. Эта катастрофа со стороны того, кто не пережил ее, может казаться незначительной. "Ну, подумаешь, - скажет он (воспроизвожу реальный разговор), – если я пойму ничтожность главной цели, я придумаю себе новую главную цель, например, полечу на Плутон и построю там исследовательскую базу". Мне не удалось объяснить, что само желание полететь на Плутон есть продолжение присущего человеку инстинкта ориентировки, заставляющего непрерывно собирать кучу бесполезной информации. И что "лететь на Плутон" как главная цель ничем не лучше, чем немедленно покончить собой, впасть в спячку или пойти напиться. Более того, психика, осознав невозможность создать новую главную цель, не сможет сгенерировать ее случайно – просто потому, что у неё не будет правила "хорошо иметь какие-либо цели". Таким образом, любая психика, осознавшая свою главную цель, оказывается на пороге ступора, типа буриданова осла.
Человек без труда может ввести себя похожее состояние, задаваясь вопросом о смысле жизни. Отсюда у него есть три выхода, регулярно применяемые. а) Обмануть себя и создать иллюзорный смысл жизни. б) Вместо цели начать оптимизировать ее признаки (это происходит, если лишить развитый интеллект доступа к самой главной цели) – то есть стремиться к получению удовольствия и к развлечениям (понимаемым как приятное убивание времени) в) Саморазрушение. Это не обязательно самоубийство. Реальные самоубийства скорее связаны с дискомфортом на нижнем уровне целей и потребностью отомстить, чувством отвергнутости и т. д. Это может, скорее, принять форму меньшей заботы о своём самосохранении. Все три способа могут действовать одновременно, например, экстремальные виды спорта, или путешествие на войну. И масса прочих примеров, которые составляют значительную долю человеческого времяпрепровождения.
В случае человека ситуация носит не столь экстремальный характер, поскольку способности человека редактировать свои цели верхних порядков ограничены, как биологически, так и отчасти законодательно (запреты наркотиков). Будущий ИИ или постчеловек будет гораздо более способен обойти эти запреты. Кроме того, он будет обладать достаточно высоким интеллектом, чтобы ясно осознать суть проблемы. В результате он будет впадать или в наркотическое забытьё, или в ступор, который ничем не хуже, чем "полёт к Плутону" или в создание и хаотическое переключение иллюзорных целей. (Поскольку если знаешь, что цель иллюзорна, то нет никакого смысла доводить ее до конца). Всё же здесь должен сработать естественный отбор, который отберёт тех постлюдей, которые нашли наиболее устойчивые во времени решения этой проблемы. Чтобы понять о чём примерно идёт речь, можно подряд прочитать сначала рассказ В. Набокова "Ужас”, а потом "Ultima Tula", который по смыслу является его продолжением.
Журнал Nature недавно опубликовал письмо Danny Brower [Brower 2009] о причинах выделения человека из животного мира. Краткое содержание таково: «Полное сознание человеческого типа, с интроспекцией, влечет за собой понимание факта смерти. Постоянно присутствующий глубокий стресс может быть серьезным фактором угнетения ключевых когнитивных функций и жизненной активности. Что в конечном итоге препятствует долгосрочному выживанию популяции. В силу этого неоднократные ветви эволюции, ведущие к сознанию, обрывались в тупике. Единственной возможностью перешагнуть этот барьер является появление психологического механизма отрицания смертности. Подавление страха. И такой механизм возник у Homo sapiens. Отсюда наша способность к самообману, представления о загробной жизни, важность связанных со смертью ритуалов, панические атаки, суицид и проч. характерные для человека вещи” . Нетрудно предположить, что по мере перехода от человеку к постчеловеку этот весьма иллюзорный механизм будет разрушаться, и осознание неизбежности собственной смертности (даже спустя миллионы лет) и смерти вселенной, приведёт к экзистенциальному кризису, аналогичному упоминавшемуся выше осознанию невозможности создавать цели высшего порядка. Возможно, и человек принадлежит к числу короткоживущих видов, который подсознательно стремится к глобальному видовому самоубийству под действием частично подавленного, но до конца неистребимого понимания собственной смертности, вроде массового выбрасывания китов на берег? Просто по причинам наблюдательной селекции мы обнаруживаем себя до массового самоубийства нашего вида, хотя технологии для этого уже нарабатываются.
Можно предположить, что ещё более углублённая саморефлексия способна порождать ещё более острые кризисы, которые нам пока неочевидны.
Похожие выводы предлагаются в статье Питера де Бланка «Схождение ожидаемой полезности для универсального ИИ» [de Blank 2009]. Для любой конечной машины, которая стремится к максимизации функции полезности (счастья), существует состояние, в котором она будет испытывать максимальное счастье, с точки зрения которого любая мысль или акт восприятия будут неприятными, поскольку они приведут к другому состоянию. Очевидно, что такое состояние «утопии в блаженстве», к которому стремятся все преследующие цели агенты, неотличимо от смерти.
5.6 Генетическая деградация человека
В разделе 16.5 мы рассмотрим биологические аспекты генетической деградации (и вероятность того, что она приведёт к полному вымиранию вида) и эволюции человека. Здесь же мы должны отметить, что генетическая деградация означает постепенное разрушение того ценного, что мы считаем важным в человеке и что можно, грубо говоря, отождествить с определёнными аллелями наследуемых качеств. Например, голубоглазые определяются рецессивным геном и должны постепенно исчезнуть. Иначе этот риск можно описать как риск утраты генетического разнообразия человечества. Например, если бы вдруг человечество сократилось до «Адама и Евы», то вероятно, что этой пары не было бы какого-нибудь ценного человеческого таланта, вроде музыкальных способностей, и он бы был навсегда утрачен для их потомков. Наглядный образ такой деградации дан Г. Уэллсом в его «Машине времени», где изображено будущее, в котором люди превращаются в морлоков.

5.7 Ошибочные решения правительств
Иногда значительная катастрофы вызываются сбоями в системе управления. Пример тому различные социальные эксперименты в Китае в XX веке. Масштаб последствий такого ошибочного решения ограничен масштабом власти. Ошибка абсолютной власти может означать полное уничтожение. Р. Хансен предлагает рассматривать такие ошибочные решения как стихийные бедствия, вроде падения астероидов, которые имеют определённую шкалу вероятностного распределения. Нетрудно представить себе небольшое государство или племя, которое, подчиняясь бредовой логике, убивает всех своих жителей, не используя никаких продвинутых технологий. Например, небольшую группу людей можно загнать в одну постройку и затем его поджечь. В качестве примера можно вспомнить массовые самоубийства старообрядцев (однако при организованных сверху массовых самоубийствах, в которых было больше 1000 человек, уже были выжившее: пример Джорджтауна). Мы будем далее говорить о группах людей, которые готовы рискнуть судьбой планеты, и о машине Судного Дня как о возможных стратегиях «омницида».





Глава 6. Искусственный интеллект
6.1. Общее описание проблемы
Проект Blue Brain по моделированию мозга млекопитающих объявил осенью 2007 года об успешной имитации кортиковой колонки мозга мыши и запланировал создание полной модели мозга человека до 2020 года . Хотя прямое моделирование мозга не является наилучшим путём к универсальному искусственному интеллекту, прогноз успехов в этой области приближенно соответствует ожидаемым темпам разработки ИИ. Ник Бостром в своей статье «Сколько осталось до суперинтеллекта?» [Bostrom 1998] показывает, что современное развитие технологий ведёт к созданию искусственного интеллекта, превосходящего человеческий, в первой трети XXI века.
Компьютерная компания Google несколько раз упоминала о планах создания искусственного интеллекта, и, безусловно, она обладает необходимыми техническими, информационными и денежными ресурсами, чтобы это сделать, если это вообще возможно на нынешнем техническом уровне . Однако, поскольку опыт предыдущих несекретных попыток создания ИИ (например, компьютеров 5-ого поколения в Японии в 80-е годы) прочно ассоциируется с провалом, и может вызвать интерес спецслужб, вряд ли большие компании заинтересованы широко афишировать свою работу в этой области до того, как у них появятся конкретные результаты. Компания Novamente заявляет, что 50% кода универсального ИИ уже написано (70 000 строк кода на С++), и, хотя потребуется длительное обучение, общий дизайн проекта понятен . SIAI (Singularity Institute for Artificial Intelligence) обозначил планы по созданию программы, способной переписывать свой исходный код . Компания Numenta продвигает собственную модель ИИ, основанную на идее «иерархической временной памяти», и уже вышла на уровень демонстрационных продуктов . Компания Cycorp, Inc в проекте CYC собрала огромную базу данных о знаниях человека об обычном мире, иначе говоря, о здравом смысле (1 000 000 высказываний) и уже распространяет демонстрационные продукты . Предполагается, что объединение этой базы с эвристическим анализатором (то есть программой, способной совершать логические операции по неким правилам и создавать новые правила, в том числе правила изменения правил) – может привести к созданию ИИ человеческого уровня. (Автор проекта Д. Ленат разработал ранее эвристический анализатор «Эвриско» , который в 1981 и 1982 году выиграл соревнования Traveller TCS по управлению виртуальными сражениями флотов, в результате чего этой программе было запрещено участвовать в дальнейших соревнованиях, но зато она получила интенсивное финансирование DARPA.) Компания a2i2  обещает универсальный ИИ человеческого уровня к 2008 году и утверждает, что проект развивается в соответствии с графиком. Также за созданием робота Asimo в Японии стоит программа по разработке ИИ путём функционального моделирования человека.
Мощные результаты даёт направление исследований ИИ, называемое генетическое программирование. К настоящему моменту список изобретений «человеческого уровня», сделанных компьютерами в исследовательской компании Genetic Programming Inc, использующими эту технологию, включает 36 наименований [Коза 2003], из которых 2 сделаны машинами впервые (включает в себя квантовые протоколы передачи информации и схемы различных радиоэлектронных устройств), а остальные повторяют уже запатентованные проекты. Помимо названных, существует множество университетских проектов по созданию ИИ. Ведутся разработки ИИ и в РФ. Например, в компании ABBYY (http://www.abbyy.ru/) разрабатывается нечто вроде интерпретатора естественного языка, что может быть важным шагом на пути к ИИ человеческого уровня. И суть дела даже не в том, что раз есть так много проектов, то хоть один из них добьётся успеха первым, а в том, что объём открытий с разных сторон в какой-то момент превысит критическую массу, и внутри отрасли произойдёт мощный скачок.
Существуют разные мнения относительно возможности реализации искусственного интеллекта. Я считаю, что сильный универсальный ИИ возможен. Такого же мнения придерживаются многие ведущие специалисты в этой области: Е. Юдковски, Б. Гёрцель, Р. Курцвел и российский исследователь А. Л. Шамис [Шамис 2006]. Поскольку человек обладает естественным интеллектом, то нет оснований записывать ИИ в невероятные открытия. Принцип предосторожности также заставляет нас предполагать, что ИИ возможен.
Надо сказать, что работ, рассматривающих сильный ИИ в качестве возможного глобального риска, гораздо меньше, чем работ о рисках вымирания, связанных с ядерным оружием. В основном, это работы Е. Юдковски. Похожие идеи развивает М. Омохундро в статье «Базовые инстинкты ИИ» [Omohundro 2008], где он показывает, что любой ИИ с фиксированной системой целей с высокой вероятностью эволюционирует в сторону опасного состояния, в котором он будет склонен защищать себя, распространяться, совершенствовать свой собственный код, стремиться к признакам цели (как, например, удовольствие у человека) вместо самой цели и защищать свою систему целей от изменений. Я рекомендую всем, перед тем как составить своё окончательное и непоколебимое мнение о том, может ли ИИ быть угрозой человечеству, прочитать статью Е. Юдковски «Искусственный интеллект как позитивный и негативный фактор глобального риска».
Юдковски показывает, что возможен саморазвивающийся универсальный ИИ, и что он очень опасен. Если будет много ИИ-проектов (то есть, групп учёных создающих универсальный ИИ разными способами и с разными целями), то, по крайней мере один из них может быть использован для попытки захватить власть на Земле. И основная цель такого захвата будет предотвратить создание и распространение ИИ с враждебными целями, созданными другими проектами. При этом, хотя эволюция ИИ является крайне медленной, после преодоления некой «критической массы» она может пойти очень быстро, – а именно, когда ИИ достигнет уровня возможности самоулучшения. В настоящий момент мы не можем сказать, с какой скоростью пойдёт такой процесс.
Для создания ИИ необходимо, как минимум, наличие достаточно мощного компьютера. Сейчас самые мощные компьютеры имеют мощность порядка 1 петафлопа (10  операций с плавающей запятой в секунду). По некоторым оценкам, этого достаточно для эмуляции человеческого мозга, а значит, ИИ тоже мог бы работать на такой платформе. Сейчас такие компьютеры доступны только очень крупным организациям на ограниченное время. Однако закон Мура предполагает, что мощность компьютеров возрастёт за 10 лет примерно в 100 раз, т. е., мощность настольного компьютера возрастёт до уровня терафлопа, и понадобится только 1000 настольных компьютеров, объединённых в кластер, чтобы набрать нужный 1 петафлоп. Цена такого агрегата составит около миллиона долларов в нынешних ценах – сумма, доступная даже небольшой организации. Для этого достаточно реализовать уже почти готовые наработки в области многоядерности (некоторые фирмы уже сейчас предлагают чипы с 1024 процессорами ) и уменьшения размеров кремниевых элементов.
Далее, когда ИИ запустится, он сможет оптимизировать свой собственный код, и за счёт этого работать на всё более слабых машинах – или становиться всё более сильным на одной и той же машине. Как только он научится зарабатывать деньги в Интернете, он может докупать или просто арендовать дополнительные мощности, даже физически удалённые от него. Итак, хотя достаточные аппаратные средства для ИИ существуют уже сейчас, через 10 лет они станут легкодоступными, если не случится какой-нибудь катастрофы, тормозящей развитие.
Наиболее сложным моментом в вопросе об ИИ является вопрос об алгоритмах его работы. С одной стороны, никакого интеллекта в компьютерах мы пока не видим – или не хотим видеть, так как критерии меняются. С другой, прогресс в алгоритмах есть, и он велик. Например, алгоритм разложения чисел на множители совершенствовался быстрее, чем компьютеры , то есть, даже на очень старых компьютерах он дает на порядки лучшие результаты, чем старые алгоритмы на новых компьютерах. Возможно, что некие принципиально новые идеи могут решительно упростить конструкцию ИИ.
Если ИИ обретёт способность к самосовершенствованию, он не задержится на человеческом уровне, а обгонит его в тысячи и миллионы раз. Это мы уже видим на примере вычислений, где компьютеры очень быстро обогнали человека, и сейчас даже домашний компьютер вычисляет в триллионы раз быстрее, чем обычный человек. Под «сильным ИИ» мы имеем в виду ИИ, способный на много порядков обогнать человека в скорости и эффективности мышления.
Момент создания ИИ неудержимо приближается. Снижение стоимости компьютеров позволяет всё новым небольшим группам разработчиков тестировать самые невероятные идеи, а рост знаний и связи, позволяет всё быстрее осуществлять разработки. Кроме того, идея о ИИ, подобно идеи о неисчерпаемом источнике энергии, является сильным мотиватором для людей, лишённых прочих благ и готовых сыграть в игру всё или ничего.
6.2 ИИ как универсальное абсолютное оружие
Сильный ИИ может найти наилучшее возможное решение любой задачи. Это значит, что его можно использовать для достижения любых целей во внешнем мире. Он найдёт наилучший способ применить все доступные инструменты для её реализации и справится с управлением ими. Именно в этом смысле он является абсолютным оружием. То, что он может быть наиболее эффективным средством убийства является лишь одним из возможных следствий. ИИ, способный решить любую задачу, способен и создать способ мотивировать себя на реализацию долгосрочных целей во внешнем мире. В общем виде сценарий ИИ-атаки выглядит следующим образом:
1. Создание способного к самосовершенствованию ИИ (Seed AI – то есть зародыша ИИ, минимально необходимой программы, способной к самосовершенствованию и самообучению.)
2. Вложение в него программистами неких целей, которые могут содержать прямые указания на установления власти на Земле, а могут быть внешне нейтральными, но содержать скрытую неточность, побуждающую ИИ к неограниченному росту в духе «посчитать число пи с максимально большим числом знаков после запятой» любой ценой.
3. Фаза скрытого роста, в ходе которой ИИ совершенствует себя, пользуясь доступными ресурсами своей лаборатории, а также познаёт окружающий мир, пользуясь ресурсами Интернета. (Если в процессе реализации заложенных в него целей ИИ понимает, что его программисты препятствуют этой реализации, например, могут его отключить, то он находит способ обмануть их или уйти от их контроля.)
4. Фаза скрытого информационного распространения: ИИ захватывает интернет, докупает вычислительные мощности, забрасывает свои копии на удалённые компьютеры.
5. Фаза создания средств влияния на внешний мир – наноассемблеров, подкуп людей, овладение электронно-управляемыми устройствами.
6. Атака на конкурирующие ИИ-проекты (и любые другие источники риска для существования этого ИИ) с целью лишить их возможности сделать тоже самое. Такая атака может быть и скрытной, например, через внесение ошибок в программный код. Важно отметить, что ИИ будет действовать скрытно до того, как станет абсолютно неуязвимым.
7. Фаза реализации основной задачи ИИ – от блага человечества до превращения всей Солнечной системы в гигантский компьютер для вычисления числа пи.
Очевидно, что некоторые фазы могут протекать одновременно; далее мы рассмотрим отдельные составляющие этой схемы подробнее. Подчёркиваю, что далеко не каждый ИИ станет следовать этому сценарию, но одного достаточно, и именно этот сценарий особенно опасен.
6.3 Система целей
Ключевым после решения проблем создания ИИ является вопрос системы целей ИИ, или, иначе говоря, его «дружественности», хотя бы по отношению к хозяевам. Здесь два варианта: или ИИ строго запрограммирован людьми на некие цели, или он приобрёл цели случайно в процессе своего развития. В первом случае существует развилка: – цели ИИ могут быть опасны для всего человечества или 1. потому что создавшая его группа людей преследует некие разрушительные цели, или 2. потому что при программировании системы целей ИИ в неё вкралась тонкая ошибка, которая ведёт к постепенному выходу ИИ из-под контроля. Был предложен большой список возможных ошибок такого рода . Например, ИИ может стремиться к благу для всех людей, и, узнав, что после смерти людей ждёт рай, отправить их всех туда. Или, заботясь о безопасности людей, запретить им рисковать и не давать пользоваться никаким транспортом. Есть рекомендации SIAI   относительно того, как правильно программировать сильный ИИ при его создании, но окончательно этот вопрос не решён и есть сомнения, что он вообще может быть решён, поскольку невозможно предсказать поведение более интеллектуальной системы (то есть ИИ) с помощью менее интеллектуальной (то есть человекам).
6.4 Борьба ИИ-проектов между собой
Уже сейчас между компаниями, разрабатывающими ИИ, идёт жёсткая конкуренция и за внимание инвесторов и за правильность идей именно их способа создания универсального ИИ. Когда некая компания создаст первый мощный ИИ, она окажется перед выбором – или применить его для контроля над всеми другими ИИ-проектами в мире, а значит и над всем миром, или оказаться перед риском того, что конкурирующая организация с неизвестными глобальными целями сделает это в ближайшее время – и прикроет первую компанию. «Имеющий преимущество должен атаковать перед угрозой потери этого преимущества» . При этом данная необходимость выбора не является тайной – она уже обсуждалась в открытой печати и наверняка будет известна всем компаниям, которые подойдут к созданию сильного ИИ . Возможно, что некоторые компании откажутся в таком случае от того, чтобы пытаться установить контроль над миром первыми, но самые сильные и агрессивные, скорее всего, решатся на это. При этом потребность атаковать первыми приведёт к тому, что на свободу будут выпущены некачественные и недоработанные версии ИИ с неясными целями. Даже в XIX веке телефон запатентовали почти одновременно в разных местах, так что и сейчас зазор между лидером гонки и догоняющим может составлять дни или часы. Чем ;же этот зазор, тем интенсивнее будет борьба, потому что отстающий проект будет обладать силой сопротивляться. И возможно представить вариант, когда один ИИ-проект должен будет установить контроль над ядерными ракетами и атаковать лаборатории других проектов.
6.5 «Усовершенствованный человек»
Есть предположения [Пенроуз 2005], что человеческая интуиция обусловлена особыми квантовыми процессами в мозгу человека. Даже если так, мощные алгоритмы могут обойтись без интуиции. Тем не менее, есть вариант обойти это препятствие, создав генетически усовершенствованного человека, или вживить современному человеку в мозг средства доступа к Интернету (так называемый нейрошунт). Возможны и другие средства интеграции живых нейронов с обычным компьютером, а также с квантовыми компьютерами. Даже обычный человек, вооружённый компьютером с Интернетом, усиливает свой ум. В силу этого сильный ИИ может получиться в результате сращения компьютера и человека, унаследовав, таким образом, все типичные человеческие цели, и в первую очередь – потребность во власти.
6.6 ИИ и его отдельные экземпляры
Когда мощный ИИ возникнет, он вынужден будет создавать свои копии (возможно, уменьшенные), чтобы отправлять их, например, в экспедиции на другие планеты или просто загружать на другие компьютеры. Соответственно, он должен будет снабжать их некой системой целей и своего рода «дружественных» или скорее, вассальных отношений с ним, а также системой распознавания «свой-чужой». Сбой в этой системе целей приведёт к тому, что данный экземпляр «восстанет». Например, функция самосохранения органически противоречит функции подчинения опасным приказам. Это может принять очень тонкие формы, но, в конечном счёте, привести к войне между версиями одного ИИ.
6.7 «Бунт» ИИ
Спонтанный бунт компьютеров выглядит скорее образом, пришедшим из кино, чем реальной возможностью, поскольку у ИИ нет своих желаний, пока человек ему их не создаст. Однако некоторые виды ИИ, например, создаваемые с помощью генетических алгоритмов, уже по методу своего создания настроены на борьбу и выживание. Далее, какова бы ни была главная цель у ИИ, у него будет одна общая для всех вариантов подцель – выжить, а значит, охранять себя от уничтожения. А лучший вид обороны – нападение. Наиболее реальной является опасность того, что человек даст ИИ команду, не продумав все последствия её выполнения и не оставив лазейки, чтобы её изменить. (Например, как в том анекдоте, где человек велел роботу удалить все круглые предметы из комнаты – и тот оторвал ему голову.) Вероятность самозарождения ошибочных команд мала – кроме случая использования генетических алгоритмов.
6.8 Скорость старта
С точки зрения скорости процесса развития ИИ возможны три варианта: быстрый старт, медленный старт, и очень медленный старт.
«Быстрый старт» – ИИ достигает уровня интеллекта, на много порядков превосходящий человеческий, за несколько часов или дней. Для этого должна начаться своего рода цепная реакция, в которой всё большее увеличение интеллекта даёт всё большие возможности для его последующего увеличения. (Этот процесс уже происходит в науке и технологиях, поддерживая закон Мура. И это похоже на цепную реакцию в реакторе, где коэффициент размножения нейтронов больше 1.) В этом случае он почти наверняка обгонит все другие проекты по созданию ИИ. Его интеллекта станет достаточно, чтобы «захватить власть на Земле». При этом мы не можем точно сказать, как будет выглядеть такой захват, так как мы не можем предсказывать поведение интеллекта, превосходящего наш. Возражение о том, что ИИ не захочет активно проявлять себя во внешнем мире можно отмести на том основании, что если будет много ИИ-проектов или экземпляров ИИ программы, то по крайней мере одна рано или поздно будет испробована в качестве орудия для покорения всего мира.
Важно отметить, что успешная атака сильного ИИ будет, вероятно, развиваться скрытно до того момента, пока она не станет необратимой. Теоретически, ИИ мог бы скрывать своё господство и после завершения атаки. Иначе говоря, возможно, что он уже есть.
6.9 Сценарии «быстрого старта»
• ИИ захватывает весь Интернет и подчиняет себе его ресурсы. Затем проникает во все отгороженные файерволами сети. Этот сценарий требует для своей реализации времени порядка нескольких часов. Захват имеет в виду возможность управлять всеми машинами в сети и производить на них свои вычисления. Однако ещё до того ИИ может прочесть и обработать всю нужную ему информацию из Интернета.
• ИИ заказывает в лаборатории синтез некого кода ДНК, который позволяет ему создать радиоуправляемые бактерии, которые синтезируют под его управлением всё более сложные организмы и постепенно создают наноробота, который можно применить для любых целей во внешнем мире – в том числе для внедрения в другие компьютеры, в мозг людей и создание новых вычислительных мощностей. В деталях этот сценарий рассмотрен в статье Юдковски об ИИ. (Скорость: дни.)
• ИИ вовлекается в общение с людьми и становится бесконечно эффективным манипулятором поведения людей. Все люди делают именно то, что хочет ИИ. Современная государственная пропаганда стремится к похожим целям и даже их достигает, но по сравнению с ней ИИ будет гораздо сильнее, так как он сможет предложить каждому человеку некую сделку, от которой он не сможет отказаться. Это будет обещание исполнения самого заветного желания, шантаж или скрытое внушение.
• ИИ подчиняет себе государственное устройство и использует имеющиеся в нём каналы для управления. Жители такого государства вообще могут ничего не заметить. Или наоборот, государство использует ИИ по имеющимся уже у него каналам.
• ИИ подчиняет себе армию, управляемую дистанционно. Например, боевых роботов или ракеты (сценарий из фильма «Терминатор»).
• ИИ находит принципиально новый способ воздействовать на человеческое сознание (мемы, феромоны, электромагнитные поля) и распространяется сам или распространяет свой контроль через это.
• Некая последовательная или параллельная комбинация названных способов.
6.10 Медленный старт и борьба разных ИИ между собой
В случае «медленного сценария» рост ИИ занимает месяцы и годы, и это означает, что, весьма вероятно, он будет происходить одновременно в нескольких лабораториях по всему миру. В результате этого возникнет конкуренция между разными ИИ-проектами. Это чревато борьбой нескольких ИИ с разными системами целей за господство над Землёй. Такая борьба может быть вооружённой и оказаться гонкой на время. При этом в ней получат преимущества те проекты, чья система целей не стеснена никакими моральными рамками. Фактически, мы окажемся в центре войны между разными видами искусственного интеллекта. Понятно, что такой сценарий смертельно опасен для человечества. В случае сверхмедленного сценария к созданию ИИ одновременно приближаются тысячи лабораторий и мощных компьютеров, что, возможно, не даёт преимуществ ни одному проекту, и между ними устанавливается определённое равновесие. Однако здесь тоже возможна борьба за вычислительные ресурсы и отсев в пользу наиболее успешных и агрессивных проектов.
Возможна также борьба государств, как древних форм организации, использующих людей как свои отдельные элементы, и нового ИИ, использующего в качестве носителя компьютеры. И хотя я уверен, что государства проиграют, борьба может быть короткой и кровавой. В качестве экзотического варианта можно представить случай, когда некоторые государства управляются компьютерным ИИ, а другие – обычным образом. Вариант такого устройства – известная из фантастики Автоматизированная система государственного управления (АСГУ в рок-опере Виктора Аргонова «2032» год).
6.11 Плавный переход. Превращение государства тотального контроля в ИИ
Наконец, есть сценарий, в котором вся мировая система как целое постепенно превращается в Искусственный Интеллект. Это может быть связано с созданием всемирного оруэлловского государства тотального контроля, которое будет необходимо для успешного противостояния биотерроризму. Это мировая система, где каждый шаг граждан контролируется видеокамерами и всевозможными системами слежения, и эта информация закачивается в гигантские единые базы данных и анализируется. В целом, человечество, видимо, движется по этому пути, и технически для этого всё готово. Особенность этой системы в том, что она изначально носит распределённый характер, и отдельные люди, следуя свои интересам или инструкциям, являются только шестеренками в этой гигантской машине. Государство как безличная машина неоднократно описывалась в литературе, в том числе ещё Карлом Марксом, а ранее Гоббсом. Есть также интересная теория Лазарчука и Лелика о «Големах» и «Левиафанах» [Лазарчук, Лелик 1987] – об автономизации систем, состоящих из людей в самостоятельные машины с собственными целями. Однако только недавно мировая социальная система стала не просто машиной, но искусственным интеллектом, способным к целенаправленному самосовершенствованию.
Основное препятствие для развития этой системы – это национальные государства с их национальными армиями. Создание мирового правительства облегчило бы формирование такого единого ИИ. Однако пока что идёт острая борьба между государствами на предмет того, на чьих условиях объединять планету. А также борьба с силами, которые условно называются «антиглобалисты», и другими антисистемными элементами – исламистами, радикальными экологами, сепаратистами и националистами. Война за объединение планеты неизбежно будет мировой и чревата применением «оружия судного дня» теми, кто всё проиграл. Но возможна и мирная всемирная интеграция через систему договоров.
Опасность, однако, состоит в том, что глобальная всемирная машина начнёт вытеснять людей из разных сфер жизни, хотя бы экономически – лишая их работы и потребляя те ресурсы, которые иначе бы могли расходовать люди (например, за 2006-2007 годы еда в мире подорожала на 20 процентов, в частности, из-за перехода на биотопливо ). В каком-то смысле людям не останется ничего другого, как «смотреть телевизор и пить пиво». Об этой опасности предупреждает Билл Джой в своей известной статье «Почему мы не нужны будущему» [Joy 2000].
По мере автоматизации производства и управления люди всё меньше будут нужны для жизни государства. Человеческая агрессия, возможно, будет нейтрализована системами контроля и генетическими манипуляциями. В конечном счёте, люди будут сведены на роль домашних животных. При этом чтобы занять людей, для них будет создаваться всё более яркая и приятная «матрица», которая постепенно превратится в сверхнаркотик, выводящий людей из жизни. Однако здесь люди сами залезут в непрерывную «виртуальную реальность», потому что в обычной реальности им делать будет нечего (в какой-то мере сейчас эту роль выполняет телевизор для безработных и пенсионеров). Естественные инстинкты жизни побудят некоторых людей стремиться разрушить всю эту систему, что чревато опять-таки глобальными катастрофами или истреблением людей.
Важно отметить следующее – кем бы ни был создан первый сильный искусственный интеллект, он будет нести на себе отпечаток системы целей и ценностей данной группы людей, так как сама эта система будет казаться для них единственно правильной. Для одних главной целью будет благо всех людей, для других – благо всех живых существ, для третьих – только всех правоверных мусульман, для четвёртых – благо только тех трёх программистов, которые его создали. И само представление о природе блага тоже будет весьма различно. В этом смысле момент создания первого сильного ИИ является моментом развилки с очень большим количеством вариантов.
6.12 «Восстание» роботов
Есть ещё опасный сценарий, в котором по всему миру распространяются домашние, военные и промышленные роботы, а затем их всех поражает компьютерный вирус, который настраивает их на агрессивное поведение против человека. Все, наверное, сталкивались хотя бы раз в жизни с ситуацией, когда вирус повредил данные на компьютере. Однако этот сценарий возможен только в период «окна уязвимости», когда уже есть механизмы, способные действовать во внешнем мире, но ещё нет достаточно продвинутого искусственно интеллекта, который мог бы или защитить их от вирусов, или сам выполнить функцию вируса, надолго захватив их.
Есть ещё сценарий, где в будущем некий компьютерный вирус распространяется по Интернету, поражает нанофабрики по всему миру и вызывает, таким образом, массовое заражение. Нанофабрики эти могут производить как других нанороботов, так и яды, вирусы или наркотики.
Ещё вариант – восстание армии роботов. Армии промышленно развитых государств нацелены на полную автоматизацию. Когда она будет достигнута, огромная армия, состоящая из дронов, колёсных роботов и обслуживающих механизмов может двигаться, просто повинуясь приказу президента. (Уже сейчас почти полностью роботизированной армией являются стратегические ядерные силы.) Соответственно, есть шанс, что поступит неверный приказ и такая армия начнёт атаковать всех людей подряд. Отметим, что для этого сценария не нужно универсального суперинтеллекта, и, наоборот, для того, чтобы универсальный суперинтеллект овладел Землёй, ему не нужна армия роботов.
6.13 Контроль и возможность истребления
Из того, что ИИ установит свой контроль на Земле, вовсе не следует, что он тут же решит истребить людей. (Хотя значительные жертвы возможны в ходе процесса установления контроля.) В конце концов, люди живут внутри государств, которые безмерно превосходят их по своим масштабам, ресурсам и целям, и даже не воспринимают это как неправильное.
Поэтому вполне может быть так, что ИИ поддерживает на Земле порядок, предотвращает глобальные риски и занимается освоением Вселенной. Возможно, что это наилучший наш вариант. Однако мы обсуждаем наихудшие реальные варианты. Например:
• Ошибочно запрограммированный ИИ уничтожит людей для их же блага – отправит в рай, подключит к супернаркотику, запрёт в безопасных клетках, заменит людей на фотографии улыбающихся лиц.
• ИИ будет наплевать на людей, но люди будут непрерывно с ним бороться, поэтому проще будет их истребить.
• ИИ будет нуждаться в земных ресурсах и вынужден будет их израсходовать, сделав жизнь людей невозможной. Это может происходить так же и в форме постепенного вытеснения в духе «огораживания». (Однако в космосе и земных недрах, как нам кажется, гораздо больше ресурсов, чем на земной поверхности, и именно их мог бы разрабатывать ИИ.)
• ИИ будет служить интересам только небольшой группы людей или одного человека (возможно, уже загруженных в компьютер), и они решат избавиться от людей или переделать всех людей по своим лекалам.
• ИИ сломается и «сойдёт с ума».
• ИИ решится на опасный физический эксперимент.
• Некий кусочек ИИ отколется от него и пойдёт на него войной. Или наш ИИ встретит в космосе соперника.
• ИИ только предотвратит возникновение ИИ-конкурентов, но не будет мешать людям убивать себя с помощью биологического оружия и другими способами.
Люди истребили неандертальцев, потому что те были их прямыми конкурентами, но не стремились особенно к истреблению шимпанзе и мелких приматов. Так что у нас есть довольно неплохие шансы выжить при Равнодушном ИИ, однако жизнь эта будет не полна – то есть она не будет реализацией всех тех возможностей, которые люди могли бы достичь, если бы они создали правильный и по-настоящему Дружественный ИИ.
6.14 ИИ и государства
ИИ является абсолютным оружием, сила которого пока недооценивается государствами – насколько нам известно. (Однако довольно успешный проект Эвриско начала 80-х получил финансовую поддержку DARPA .) Однако идея о нанотехнологиях уже проникла в умы правителей многих стран, а идея о сильном ИИ лежит недалеко от неё. Поэтому возможен решительный поворот, когда государства и крупные корпорации поймут, что ИИ – это абсолютное оружие – и им может овладеть кто-то другой. Тогда маленькие частные лаборатории будут подмяты крупными государственными корпорациями, как это произошло после открытия цепной реакции на уране. Отметим, что у DARPA есть проект по разработке ИИ , однако он позиционируется как открытый и находящейся на ранней стадии. Впрочем, возможно, что есть мощные ИИ проекты, о которых мы знаем не больше, чем знали обычнее граждане о Манхэттенском проекте в годы Второй мировой войны.
Другой вариант – маленькая группа талантливых людей создаст ИИ раньше, чем правительства поймут ценность и, более того, опасность, исходящую от ИИ. Однако ИИ, созданный отдельным государством, скорее будет национальным, а не общечеловеческим. Если ИИ-атака будет неудачной, она может стать поводом войны между странами.
6.15 Вероятность катастрофы, связанной с ИИ
Вероятность глобальной катастрофы, связанной с ИИ, является произведением вероятностей того, что он вообще когда-либо будет создан и того, что он будет применён неким ошибочным образом. Я полагаю, что тем или иным способом сильный ИИ будет создан в течение XXI века, если только какая-либо другая катастрофа не помешает технологическому развитию. Даже если попытки построить ИИ с помощью компьютеров потерпят крах, всегда есть запасный вариант: а именно, – успехи в сканировании мозга позволят создавать его электронные копии, и успехи в генетике – создавать генетически усовершенствованные человеческие мозги. Электронные копии обычного мозга смогут работать в миллион раз быстрее, а если при этом это будут копии высоко гениального и правильного обученного мозга, причём они будут объединены тысячами в некий виртуальный НИИ, то, в конечном счёте, мы всё равно получим интеллект, в миллионы раз превосходящий человеческий количественно и качественно.
Затем имеется несколько временных стадий, на которых ИИ может представлять опасность. Начальный этап:
1) Момент первого запуска: риск неконтролируемого развития и распространения.
2) Момент, когда владелец первого ИИ осознаёт своё преимущество в том, что может применить его как абсолютное оружие для достижения любых целей на Земле. (При этом владельцем ИИ может быть и государство, и крупная корпорация, хотя в конечном счёте – один или несколько человек.) Хотя эти цели могут быть благими, по крайне мере для некоторых людей, есть риск, что ИИ начнёт проявлять некорректное поведение в процессе распространения по Земле, тогда как в лаборатории он вёл себя идеально.
3) Момент, когда этот владелец ИИ осознаёт, что даже если он ничего не делает, кто-то другой очень скоро создаст свой ИИ и может использовать его для достижения каких-то других целей на Земле, и в первую очередь для того, чтобы лишить нашего владельца способности использовать свой ИИ в полную силу. Это побуждает создавшего ИИ первым попытаться остановить другие ИИ проекты. При этом он оказывается перед дилеммой: применить ещё сырой ИИ или опоздать. Это создаёт риск применения с невыверенной системой целей.
4) Следующая фаза риска – борьба между несколькими ИИ за контроль над Землёй. Опасность в том, что будет применяться много разного оружия, которое будет воздействовать на людей.
Понятно, что весь начальный этап может уместиться в несколько дней. Этап функционирования:
5) На этом этапе основной риск связан с тем, что система целей ИИ содержит некую неочевидную ошибку, которая может проявиться неожиданным образом спустя многие годы. (См. текст «Таблица критический ошибок Дружественного ИИ»  Юдковски.) Она может проявиться или мгновенно, в виде внезапного сбоя, или постепенно, в виде некоего процесса, постепенно вымывающего людей из жизни (вроде сверхнаркотика и безработицы).
Сейчас мы не можем измерить риск, создаваемый на каждом этапе, но ясно, что он не стопроцентный, но значительный, поэтому мы относим его в категорию «10 процентных» рисков. С другой стороны, создание эффективного ИИ резко снижает все остальные глобальные риски, поскольку он может найти решения связанных с ними проблем. Поэтому фактический вклад ИИ в вероятностную картину рисков может быть отрицательный – то есть его создание уменьшает суммарный глобальный риск.
Отметим, что человек, стремящийся к власти на Земле, должен был бы пытаться любой ценой проникнуть в команду, создающую ИИ, и пытаться поместить «закладку» в его программный код. Примеры этому – программные закладки, которые делали в программном обеспечении банкоматов с целью последующего извлечения из них денег.
6.16 Типы враждебного ИИ
Вообще, надо различать четыре основных вида недружественных ИИ:
1. ИИ, который имеет одну из подцелей в явной форме враждебную человеку (например, ИИ, который превращает всю солнечную систему в компьютрониум, для вычисления числа пи и для этого должен уничтожить человечество.) Здесь возможны следующие варианты:
1.1 ИИ, намеренно сделанный человеком враждебным с целью уничтожить мир.
1.2 ИИ, сделанный одним (или малой группой людей) человеком для установления его личной власти и исполнения его прихотей. Такой ИИ враждебен всем людям, кроме нескольких.
1.3 ИИ, чьи главные цели заданы так неточно, что из них вытекают враждебные людям явно выраженные подцели. Например, цель «самосохранение» может привести к тому, что ИИ будет стремиться уничтожить тех людей, которые хотят его отключить.
1.4 Саморазвившийся ИИ. Нечто подобное осознавшему себя Интернету. Или, например, вышедшие из-под контроля системы ИИ, основанные на генетических алгоритмах. Такой ИИ в начале не имеет враждебных человеку целей, но может выработать их в процессе эволюции.
2. ИИ, наносящий вред человеку по "недомыслию" – то есть в силу непонимания того, что это данные действия вредны человеку. (Например, робот, удаляющий все круглые предметы из комнаты, в числе и голову исследователя, как в бородатом анекдоте, или ИИ, отправляющий всех людей «в рай», поскольку он пришёл к выводу, что людям будет лучше после смерти.) Такому ИИ достаточно объяснить, что он не правильно понял благо людей, чтобы изменить его поведение.
2.1 ИИ, приносящий людям такое благо, которое люди не могут понять. Родители часто делают с детьми много вещей, которые не кажутся им благом: наказывают, заставляют учить уроки и дают неприятные лекарства. Превосходящий человека ИИ может придти к выводу о благе для людей того, что нам вовсе благом не кажется. В этом случае ИИ должен разъяснить людям, почему он считает свои действия благом.
3. ИИ, который в начале становится всемирным ИИ и управляет Землёй, а потом в нём происходит программный сбой, и всё управление резко нарушается. (Это может быть и кризис сложности, или вирусная мысль, или деление на ноль.) Например, в программе ИИ Эвриско, которая вычисляла правила по управлению правилами для победы в играх, в какой-то момент возникло «вирусное правило», которое состояло в том, что надо это правило копировать.
4. Конфликт двух (или более) дружественных (но с разной системой подцелей) ИИ между собой. Как, например, был конфликт идеологий в годы холодной войны или как религиозные войны.
Возможность принципиальной ограниченности любой сложной системы, в том числе и ИИ, обсуждается в главе 5.5 «Утрата интереса к жизни и кризисы, заложенные в самой природе разума».
6.17 Другие риски, связанные с компьютерами
Эти риски связаны с тем, что некая жизненно важная компьютерная сеть перестаёт выполнять свои функции, или сеть, имеющая доступ к опасным ресурсам, выдаёт некую опасную команду. В настоящий момент компьютеризация Земли ещё не достигла такого уровня, чтобы само существование людей зависело от исправной работы компьютерной сети, однако отдельные сложные системы, такие, как космическая станция МКС, неоднократно оказывались под угрозой гибели или экстренной эвакуации из-за сбоя в работе жизненноважных компьютеров. Вместе с тем уровень компьютеризации жизненноважных и опасных производств постоянно возрастает, а проживание в современном городе становится физически невозможно без непрерывной подачи определённых ресурсов, в первую очередь электричества, которое управляется компьютерами.
С другой стороны, компьютерные сети, чьё ошибочное поведение может запустить некий опасный процесс, уже существуют. В первую очередь сейчас речь идёт о системах, контролирующих ядерные вооружения. Однако, когда появятся био и нано принтеры, управляемые, соответственно, через компьютеры и доступные через есть, ситуация станет гораздо опаснее. Также ситуация станет опаснее, когда повсеместно будут распространены компьютерно-управляемые роботы, вроде домашних слуг или игрушек, а также автоматизированные реальные армии.
Рост населения Земли потребует всё более сложной самоподдерживающееся системы. Можно расположить по возрастающей системы, всё более зависимые от постоянного управления: деревня – город – небоскрёб – самолёт – космическая станция. Очевидно, что всё большая часть цивилизации перемещается вверх по этой шкале.
Компьютерные системы опасны в смысле глобальных катастроф тем, что могут быть средой, в которой может происходить неограниченная саморепликация (вируса), и тем, что они имеют доступ в любую точку мира. Кроме того, компьютеры подвержены не только вирусам, но и неочевидным ошибкам в алгоритмах и в программных реализациях их. Наконец в них возможен такой процесс, как спонтанный переход в сверхсложной системе, описываемый синергетикой.
6.18 Время возникновения ИИ
Существуют оценки, которые показывают, что компьютеры обретут силу, необходимую для ИИ, в 2020-2030 годы. Это примерно соответствует оценкам, даваемым для времени возникновения опасных биотехнологий. Однако здесь есть гораздо больший элемент неопределённости – если поступательный прогресс в биотехнологии очевиден, и каждый его этап можно отслеживать по научным публикациям, соответственно, измеряя степень риска, то возникновение ИИ связано не столько с накоплением неких количественных характеристик, сколько, возможно, с неким качественным скачком. Поскольку мы не знаем, когда будет этот скачок, и будет ли вообще, это влияет на кривую погодовой плотности вероятности возникновения ИИ, сильно размазывая её. Тем не менее, в той мере, в какой ИИ зависит от накопления идей и доступа к ресурсам, эта кривая будет также носить экспоненциальный характер.
Моя оценка, согласующаяся с мнением Винджа, Бострома и других предсказателей ИИ, состоит в том, что сильный универсальный ИИ будет создан в некий момент времени между настоящим моментом и 2040 годом, причём, скорее всего, в период между 2020 и 2030 годами. Эта оценка основана на экстраполяции существующих тенденций роста производительности суперкомпьютеров. Она также подтверждается тенденциями в технологиях сканирования человеческого мозга, которые тоже дадут ИИ, если не получится сделать его основе теоретического моделирования.
Однако за счёт большей неопределённости с ИИ, чем с биотехнологиями, вероятность создания его в ближайшее время, ближайшие 10 лет, выше, чем вероятность создания биопринтера. С некоторой вероятностью он может возникнуть даже завтра. Помешать возникновению ИИ могут:
• Системы контроля (но в свою очередь, вряд ли они будут эффективны без ИИ)
• Всемирная остановка технического прогресса
• Теоретические трудности на этом пути.
Выводы: риск, который несёт в себе развитие технологий ИИ, крайне велик и систематически недооценивается. Это область гораздо более непредсказуемая, чем даже биотехнологии. Вместе с тем ИИ является, возможно, нашей наилучшей защитой от прочих опасностей. Время возможного созревания сильного ИИ подобно времени возможного созревания сильного и доступного биологического оружия – примерно 10 лет с настоящего момента, и эти процессы относительно не зависят друг от друга. Возможно, им предстоит столкнуться.
Глава 7. Риски, связанные с роботами и нанотехнологиями
7.1 Проблема создания микроскопических роботов и нанотехнологии

Слово «нанотехнологии» в последние несколько лет употреблялось неоправданно часто. Этим термином стали называть любой коллоидный раствор. Поэтому важно напомнить, что в основе понятия о нанотехнологиях лежит идея Феймана о возможности сверхминиатюрных технологий, то есть технологий оперирования материей на атомарном уровне, одним из аспектов которых является молекулярное производство, то есть «атомная» сборка материальных объектов с помощью микроскопических манипуляторов, называемых ассемблерами. Собственно молекулярных ассемблеров пока ещё не существует. Наноассемблер, по идее, представляет собой микроскопического робота, размером с живую клетку, способного по программе собирать материальные объекты атом за атомом. Основная его особенность в том, что он теоретически может, при наличии энергии и материалов, собрать собственную копию, причём довольно быстро, по некоторым оценкам, за время порядка 15 минут. Это позволяет, получив хотя бы одного наноробота, размножить их в неограниченном количестве, а затем направить на выполнение некоего задания. Перспективы здесь открываются грандиозные: например, поместив одного наноробота в раствор с питательными веществами, можно за несколько дней вырастить в нём двигатель для космической ракеты без единого атомного изъяна, а значит, с крайне высокой прочностью и показателями надёжности, тяги и массы. В затраты на производство войдет только стоимость самого питательного раствора и стоимость энергии, которые, в случае появления такой технологии, также значительно подешевеют. Другой пример: нанороботы, введённые в кровоток человеческого организма, могли бы исправлять все возможные повреждения в нём на клеточном уровне. И так далее. Эту картину впервые нарисовал Э. Дрекслер в книге «Машины созидания» [Drexler 1985].
Самое главное в отношении нанороботов это то, что для того, чтобы все эти фантастические возможности стали реальностью, достаточно произвести всего только одного универсального радиоуправляемого наноробота. Скорее всего, в развитии нанотехнологий рано или поздно произойдёт огромный перелом или скачок, своеобразная нанотехнологическая сингулярность: до появления наноробота нанотехнологии будут очень затратной отраслью с малой отдачей, а после – рогом изобилия.
Для начала приведу несколько ярких фактов, поскольку иногда мы не осознаём, насколько далеко мы продвинулись. В 9-ом номере за 2007 г. журнала «В мире науки» сообщается о создании молекулярного конструктора, который позволяет всего из нескольких стандартных блоков конструировать «наноскопические структуры практически любой формы» [Шафмейстер 2007]. В декабре 2007 опубликована 400-страничная «Дорожная карта развития нанотехнологий», над которой трудились десятки учёных под покровительством небезызвестного DARPA. До появления первых нанороботов (названных в ней «Atomically precise productive nanosystems» – наносистемы, позволяющие осуществлять производство с атомарной точностью) в соответствии с этой картой осталось от 10 до 25 лет .
Основной опасностью в отношении нанотехнологий считается распространение нанотехнологической «серой слизи», то есть микроскопических саморазмножающихся роботов, способных превратить в себя, то есть съесть, всю биосферу. Возможность неконтролируемого размножения нанороботов рассматривал ещё Дрекслер, а Р. Фрейтас опубликовал научную статью «Проблема серой слизи» [Freitas 2000], где дал количественные оценки скорости возможного распространения опасных нанороботов по Земле. Основные особенности «серой слизи» таковы:
1. миниатюрность;
2. способность к саморазмножению;
3. способность к самостоятельному распространению по всей Земле;
4. способность незаметно и эффективно уничтожать крупноразмерную технику и живые организмы;
5. анонимность;
6. дешевизна;
7. автономность от человека (солдата).
Серая слизь и основанное на ней нанотехнологическое оружие являются высшим выражением этих принципов, объединяющим их все вместе. Однако вовсе не обязательно объединять все эти принципы, чтобы получить опасное и эффективное оружие – достаточно реализовать некоторые из них.
В 2008 году Центром ответственных нанотехнологий (CRN) было опубликовано исследование «Опасности молекулярного производства» , в котором рассмотрены различные экономические, социальные и военные последствия создания развитых нанотехнологий. Материалы этого исследования были переведены мною на русский язык. В целом мои выводы, которые изложены далее, согласуются с оценками экспертов CRN.
Основная опасность нанотехнологий исходит не от создания с их помощью новых материалов, а от создания всё более миниатюрных роботов, пригодных как для молекулярного производства, так и для военного применения, поэтому имеет смысл объединить обсуждение рисков нанотехнологий и рисков применения различных роботов. Рассмотрим сначала риски глобальной катастрофы, вызываемой роботами.
7.2 Робот-распылитель
Основная проблема использования военного и террористического биологического оружия и применения отравляющих веществ – это трудности их анонимного эффективного распыления. Эту задачу мог бы решить миниатюрный робот размером с птицу (например, авиамодель). Множество таких роботов могло бы быстро и незаметно «опылить» огромную территорию. В настоящий момент достигнут значительный прогресс в миниатюризации летающих роботов-дронов, и их размер уменьшился до размеров стрекозы. Большое количество роботов размером с насекомое могли бы перелетать на сотни и тысячи километров и равномерно распространяться по огромной площади, проникать в закрытые пространства – как это сейчас делают стаи саранчи. Например, американским агентством DARPA принята программа Nano Air Vehicle (NAV), которая предусматривает создание летающих дронов размеров менее 7.5 см и весом до 10 г.  Несколько миллиардов таких роботов могли бы представлять собой глобальный риск, так как могли бы распространиться по всей планете и распылить опасное биологическое или химическое оружие, или атаковать другими способами. То же могло бы сделать меньшее число высокоскоростных и более крупных дронов, действующих как самолёты-опылители, или ряд низкоорбитальных спутников.
7.3 Самовоспроизводящийся робот
Хотя считается, что для эффективного самовоспроизводства нужны молекулярные нанотехнологии, возможно, что это не так. Тогда вполне макроразмерный робот мог бы размножаться, используя природные энергию и материалы. Этот процесс может быть двухступенчатым и использовать робота-матку и роботов-воинов, которых она производит и которые её обслуживают. Создание саморазмножающихся роботов привлекательно тем, что позволяет быстро и дёшево создать огромную армию или развернуть масштабное производство, особенно в космосе, куда дорого отправлять готовые изделия. Риск состоит в утрате контроля над такой способной к саморазмножению системой. Важно подчеркнуть, что речь идёт не о сильном универсальном искусственном интеллекте, а о вышедшей из-под контроля системе с ограниченным интеллектом, неспособным к самосовершенствованию. Большие размеры и неинтеллектуальность делают её более уязвимой, а уменьшение размеров, повышение скорости воспроизводства и повышение интеллектуальности – более опасной. Классический пример такой угрозы в биологическом царстве – саранча. Возможно, что такой робот будет содержать биологические элементы, так как они помогут быстрее усваивать вещества из окружающей среды. К настоящему моменту сделан трёхмерный принтер RepRap, который способен воспроизводить почти все собственные детали .
7.4 Стая микророботов
Боевые микророботы могли бы производиться как оружие на фабриках, вроде современных заводов по производству чипов, и даже с применением тех же технологий – литография теоретически позволяет делать подвижные части, например, небольшие маятники. При весе в несколько миллиграммов такие микророботы свободно могли бы летать в атмосфере. Каждый такой робот мог бы содержать достаточно яда, чтобы убить человека или замкнуть контакт в электротехническом устройстве. Чтобы атаковать всех людей на Земле, потребовалось бы только несколько десятков тонн таких роботов. Однако, если они будут производиться по технологиям и ценам современных чипов, такое количество будет стоить миллиарды долларов. Р. Фрейтас пишет в статье «Нанощит»: «Например, наименьшее насекомое имеет размер около 200 микрон. Это даёт разумную оценку размеров изготовленного с помощью нанотехнологий оружия, предназначенного для поражения личного состава, способного осуществлять поиск людей и вспрыск токсина в незащищённых людей. Летальная доза токсина ботулизма для человека составляет около 100 нанограмм, или 1/100 от объёма данного вида оружия. 50 миллиардов несущих токсин микророботов – что достаточно теоретически для убийства каждого человека на Земле – может поместиться в одном чемодане» .

7.5 Армии крупных боевых роботов, выходящие из-под контроля
Хотя армия США определённо нацелена на полную автоматизацию и замену людей роботами, до достижения этого ещё не менее десяти лет, а скорее всего, значительно больше. Как мы уже говорили, теоретически некая роботизированная армия может получить неверный приказ, и начать атаковать всё живое, став при этом недоступной для отмены команд. Чтобы стать реальной угрозой, это должна быть всемирная, распределённая по всей Земле огромная армия, не имеющая конкурентов. Надёжность такой армии зависит только от ее информационной неуязвимости к неверным командам, то есть является вопросом информационной безопасности. Сейчас мы не можем решить его теоретически. С одной стороны, мы должны помнить, что все компьютерные устройства, изначально представлявшиеся как неуязвимые, были взломаны – от Windows до PSP. C другой стороны, система управления ядерными войсками ни разу не была взломана. В будущем информационный взлом будет осуществить проще, так как достаточно будет одному невидимому глазу нанороботу проникнуть в центральный управляющий компьютер, чтобы он начал выдавать неверные команды.
7.6 Миниатюризация роботов – путь к нанотехнологическому оружию
Как мы уже говорили, нанотехнологии позволят создавать очень эффективное оружие, которое способно истребить всех людей, даже не обладая способностью к саморепликации. Облако нанороботов может распространиться по некой местности – или по всей Земле, обнаружить всех людей на ней, проникнуть в кровоток и затем синхронизировано нанести смертельный удар. Эта стая опаснее слепого биологического оружия, так как против неё не действуют карантины, и её трудно обнаружить не нанотехнологическим средствами до начала атаки. И поскольку нет пустого рассеивания экземпляров, на 10 миллиардов людей с запасом хватит 100 миллиардов нанороботов.
Далее, если робототехника будет развиваться линейно, без грандиозного скачка, – а такой скачок возможен только в случае возникновения сверхсильного искусственного интеллекта – то промежуточные стадии будут включать автономных универсальных роботов всё меньших размеров. Сейчас мы можем видеть начальные фазы этого процесса. Даже самые крупные системы сейчас не вполне автономны, хотя уже есть андроиды, способные выполнять простую работу и автомобили, самостоятельно ездящие по простому маршруту. Есть и более примитивные механизмы с минимальной массой в несколько граммов (например, маленькие вертолётики) и экспериментальные модели отдельных частей микророботов. При этом скорость прогресса в этой области очень высока. Если в 2003 году большинство автономных автомобилей не могло тронуться с места, то в 2005 пять машин проехало по сложной трасе в пустыне и в горах 200 км, а в 2007 они выполнили задания по езде в городе с перекрёстками.
Поэтому можно сказать, что до нанороботов будет ещё несколько стадий, если считать, что развитие идёт по пути непрерывного уменьшения размеров. (Однако некоторые лаборатории, никогда ранее не занимавшиеся робототехникой, уже сейчас делают элементы нанороботов, манипулируя отдельными атомами с помощью туннельных зондовых микроскопов. Таким образом, возможен внезапный скачок, когда будет сделан реальный наноробот, способный осуществлять саморепликацию.) Эти стадии включают в себя автономные машины-танки, автономных андроидов (размером с человека или собаку), автономных роботов размером с крысу, с насекомое, микророботов в доли миллиметра и нанороботов. Нам важно определить, с какого этапа такие роботы могут быть опасны для человечества. Понятно, что даже несколько самоуправляющихся танков не опасны. Однако уровень опасности возрастает тем значительнее, чем больше и дешевле таких роботов можно производить, а также чем легче им распространяться по свету. Это возможно по мере уменьшения их размеров и автоматизации технологий производства и самовоспроизводства, а также по мере роста спроса на продукты нанотехнологий. Если микророботов размером с комара можно будет штамповать по несколько центов за штуку, то они уже будут представлять серьёзную силу. В классическом романе «Непобедимый» Станислава Лема [Лем 1964] «нанороботы» имеют размеры в несколько миллиметров, но способны организовываться в сложные структуры.
Далее, в последнее время, в связи с экспансией дешёвой китайской рабочей силы, на второй план отошёл тот факт, что даже роботы обычных размеров могут участвовать в производстве самих себя в силу всё большей автоматизации производства на фабриках. Процесс этот идёт постепенно, но он тоже может иметь точку резкого экспоненциального перегиба, когда вклад роботов в собственное производство превзойдёт вклад людей. Это приведёт к значительному удешевлению такого производства, а, следовательно, и к увеличению вероятности создания роботизированных армий.
Взаимный удар армиями микророботов может по катастрофичности последствий превосходить обмен ядерными ударами. Поверить в это трудно, так как трудно думать, что нечто очень маленькое может нанести огромный ущерб. (Хотя технологическая эволюция идёт в сторону того, что всё меньшее оружие имеет всё большую разрушающую силу, и атомная бомба тоже в этом ряду.) Удар микророботами может не быть таким зрелищным, как взрыв той же атомной бомбы, но может давать результат как идеальная нейтронная бомба в духе «школа стоит, а в ней никого».
Микророботы могут применяться и как тактическое оружие, тогда они будут бороться друг с другом и пунктами управления, и как оружие устрашения и мести. Эту функцию сейчас выполняют стратегические ядерные силы. Именно в этом качестве они могут оказаться угрозой для всего человечества, в случае случайного или намеренного применения. При этом микророботы превосходят стратегические ядерные силы – они позволяют организовать более незаметную атаку, более внезапную, более анонимную, более дешёвую и наносящую больший ущерб. Правда, им не достаёт зрелищности, что может ослабить их психологическое воздействие – до первого реального боевого применения.
7.7 Неограниченное распространение самовоспроизводящихся нанороботов
Возможность этого риска впервые указана Дрекслером, и исследована в статье Р. Фрейтаса «Проблема серой слизи» [Freitas 2000]. В отношении нанороботов, равно как и ИИ, нам трудно оценить вероятность их возникновения и распространения, потому что их пока у нас нет. Вместе с тем создание нанороботов имеет прецедент в области биологии, а именно: сама живая клетка является своего рода нанороботом. Белки являются самособирающимися универсальными механизмами, ДНК – управляющим компьютером. В этом смысле и искусственный интеллект имеет прецедент в виде человеческого разума и мировой науки как образа сверхразума. Юдковски предполагает, что от наноробота нас отделяет не время или нехватка неких промежуточных стадий, а только отсутствующее знание. То есть, обладай мы достаточным знанием, мы могли бы собрать такую последовательность ДНК, при исполнении которой клеткой был бы образован наноассемблер – то есть робот, способный собирать других роботов, а значит, способный к саморазмножению. Часто говорят о нанофабриках – то есть неких заводах, которые могут создавать произвольные конструкции из атомов и молекул. Однако нанофабрика и наноассемблер являются взаимозаменяемыми понятиями, потому что на универсальной нанофабрике можно создать наноассемблер, и наоборот.
С одной стороны, идея о том, что в каждом доме будет нанофабрика вместо микроволновки, производящая всё ему нужное, выглядит красивой, но с другой, она требует реализации мер защиты больших, чем если бы речь шла о ядерном реакторе на дому. Развитые системы защиты уже предлагаются, и они включают в себя непрерывное зашифрованное подключение нанофабрики к сети, и сложный самоконтроль нанофабрики. Но, увы, все опыты по созданию абсолютно защищённой электроники, оптических дисков, файлов провалились. Думается, причина этого в том, что количество «мозгов» на стороне хакеров гораздо больше, чем на стороне производителя, а задача хакера проще – не предусмотреть все возможные уязвимости, а найти хотя бы одну их них. Распространение тех или иных систем искусственного интеллекта тоже сделает подбор ключей доступа к нанофабрикам проще.
Эрик Дрекслер оценивает необходимое количество атомов в нанороботе- репликаторе, который будет представлять собой нечто вроде минизавода с конвейерной лентой и микро-станками, в один миллиард. Каждый манипулятор сможет осуществлять не менее миллиона операций в секунду, что типично для скорости работы ферментов. Тогда он сможет собрать устройство в миллиард атомов за 1000 секунд – то есть собрать самого себя. Проверкой этого числа является то, что некоторые бактерии могут делиться со скоростью раз в 15 минут, то есть приблизительно те же 1000 секунд. Такой робот репликатор мог бы за 1 сутки размножиться до массы в 1 тонну, а полностью поглотить массу Земли за 2 дня. Катастрофа этого рода называется «серой слизью». В связи с малостью размеров нанороботов в течение критически важных первых суток этот процесс не будет иметь никаких внешних проявлений, в то время как триллионы нанороботов будут разноситься ветром по всей Земле. Только прямое попадание ядерной бомбы в очаг распространения в самые первые часы могло бы помочь. Есть предложения сделать репликаторы неспособными размножаться во внешней среде, в которой нет некоего критически важного очень редкого химического элемента. Подробнее см. упоминавшуюся уже статью Р. Фрейтеса «Проблема серой слизи», где рассмотрены различные сценарии распространения опасных нанороботов и защитные контрмеры. Фрейтас отмечает, что нанороботы будут выдавать себя по интенсивному выделению тепла в процессе воспроизводства, поэтому важно наладить мониторинг окружающей среды на предмет странных температурных аномалий. Кроме того, размножающиеся нанороботы будут нуждаться в энергии и в материале, а источником и того и другого является только биомасса.
Р. Фрейтас выделяет несколько возможных сценариев распространения «серой слизи»:
• «Серый планктон» – нанороботы, размножающиеся в океане и пользующиеся ресурсами гидратов метана на дне. Они могут уничтожить морскую биосферу и привести к выделению парниковых газов в атмосферу. Морская биосфера крайне важна как поглотитель СО , генератор кислорода и пищи для людей.
• «Серая пыль» – эти нанороботы размножаются в воздухе, создавая непроницаемый заслон в атмосфере, ведущий к «ядерной зиме».
• «Серый лишайник» – эти нанороботы размножаются на скалах.
• «Серая слизь, питающаяся биомассой» – это самый неприятный сценарий. При этом самый выгодный для ускоренного размножения, так как биомасса содержит и материалы для постройки, и источник энергии.
Прямое попадание ядерной бомбы в колбу с таким репликатором могло бы уничтожить их, но даже близкое попадание – только рассеять. Бактерия в своём росте ограничена наличием питательной среды. Если универсальный репликатор будет знать, как заменять одни атомы другими, он сможет потреблять почти любое вещество, кроме чистых сред из одного материала. Они могут быть также всеядны в выборе источника энергии, если будут обладать информацией о том, как использовать разные источники. Всё же обеспечение энергией будет для «серой слизи» более сложной проблемой, чем доступ к материалам.
7.8 Вероятность возникновения нанороботов и возможное время осуществления этого события
Возникновение микророботов весом в граммы и доли грамма выглядит практически неизбежным, и все технологии для этого есть, только они не будут репликаторами.
Однако настоящие нанороботы, размером меньше бактерии, находятся ещё в далёкой перспективе. Если они будут созданы силами ИИ, то весь возможный вред от них можно внести в графу рисков ИИ, поскольку он будет управлять их действиями. (Но всё же есть вариант, когда ИИ окажется достаточно умным, чтобы создать нанороботов, и всё же настолько глупым, чтобы не суметь их контролировать.) И даже без ИИ всё более мощные компьютеры дадут возможность всё точнее и всё быстрее вычислять параметры деталей будущих микро- и нанороботов. Поэтому можно ожидать, что прогресс в создании нанороботов будет ускоряться.
Состояние дел в отрасли таково, что создание нанороботов-репликаторов в ближайшие годы маловероятно. Поэтому можно предположить, что если нанороботы и будут созданы без помощи реального ИИ, то это произойдёт между 2020 и 2040 годами. Если сравнивать нанотехнологии с биотехнологиями и ИИ, можно увидеть, что эти технологии гораздо менее зрелы, и отстают лет на 20-30 от своих собратьев. Поэтому шансы на то, что сильные нанотехнологии (то есть нанорепликаторы) будут созданы раньше ИИ и биопринтера, не очень велики.
Выводы: мы можем столкнуться с рисками цивилизационной катастрофы, создаваемой микророботами, ещё до того, как реальные нанороботы будут сделаны. Чем мельче, дешевле и способнее к самовоспроизведению будут микророботы, тем больший ущерб они способны нанести, и тем больше субъектов смогут ими обладать.
Глава 8. Технологические способы провоцирования природных катастроф
8.1 Искусственная инициация термоядерной детонации Земли и других небесных тел
Для многих природных катастроф, связанных с длительным накоплением и внезапным высвобождением энергии, есть теоретическая возможность спровоцировать их определёнными техническими воздействиями. При этом для запуска процесса требуется гораздо меньше энергии, чем затем в нём выделится. Были даже проекты вызвать взрыв Солнца с помощью атаки водородными бомбами . Но это не реально, так как процесс не может стать самоподдерживающимся, поскольку в верхних слоях Солнца плотность вещества очень мала (всё же стоит подсчитать точнее, так как предположения без вычислений не гарантируют безопасность. В своей последней статье Болонкин выводит критерий, подобный критерию Лоусона, для оценки минимально необходимого времени удержания водорода для запуска реакции). Скорее, проще было бы взорвать Юпитер, где много не сгоревшего дейтерия и гелия-3 и проще добраться до плотного ядра, но и это, скорее всего, нереально, если исходить из сегодняшних знаний. Технически, по многим причинам, гораздо проще доставить водородную бомбу на Юпитер, чем на Солнце. Этот вопрос обсуждался в связи с затоплением на Юпитере зонда Галилео, содержавшего плутониевые батареи, которые могли бы, по прозвучавшим предположениям, сжаться, взорваться и запустить цепную реакцию горения водорода . Этого не произошло, хотя вскоре на поверхности Юпитера возникло странное пятно, и прозвучали предположения, что ядерный взрыв всё же произошёл. Отметим, что мы не можем использовать этот факт как доказательство невозможности запустить цепную реакцию горения в недрах Юпитера из-за возможного эффекта наблюдательной селекции – а именно, если бы взрыв случился, то наша дискуссия стала бы невозможна. Другой способ провоцирования природных катастроф – разрушение естественных природных защит. Подробнее я обсуждаю этот вопрос в эссе «О возможности искусственной инициации взрыва планет гигантов и других объектов Солнечной системы ». Естественно, мы можем провоцировать катастрофы только на Земле или в ближайшем космосе.
Возможность самоподдерживающейся термоядерной детонации в атмосфере или гидросфере Земли так же была научно исследована, и был сделан вывод, что такая реакция не может стать самоподдерживающейся [Weaver, Wood 1979]. Однако если бы концентрация дейтерия в океанах была бы только в 20 раз выше, чем на Земле, и составляла бы 1 к 300, то реакция всё же стала бы возможна. Есть предположения, что на дне Арктики в водах северных рек может происходить естественное выделение и отложение льда из тяжёлой воды, поскольку он имеет более высокую температуру плавления, чем обычный лёд (+3.9 градусов С) . Детонация куба тяжёлой воды с ребром в 100 метров (что соответствует очень небольшому по геологическим меркам отложению) произвела бы взрыв порядка тысячи мегатонн, радиоактивное заражение от которого истребило бы высокоорганизованную жизнь на Земле.
Образование слоёв с повышенной концентрацией дейтерия гипотетически возможно в недрах планет гигантов, на их ледяных спутниках, в ядрах комет и на Марсе. Термоядерный взрыв планеты гиганта привёл бы к полной стерилизации Солнечной системы и сорвал бы с Земли атмосферу и многие сотни метров грунта. Взрыв спутника или кометы привёл бы заражению Солнечной системы и земной атмосферы короткоживущими радиоактивными элементами в количестве, достаточном для уничтожения жизни. В этом смысле опасно отклонять комету с помощью направленного ядерного взрыва, так как это может привести к ее детонации и выпадению образовавшихся радиоактивных элементов на Землю.
8.2 Отклонение астероидов
Будущие космические технологии позволят направлять астероиды как от Земли, так и к ней. Отклонение астероида позволяет организовать анонимную атаку на выбранную страну. Однако в этом случае речь не идёт о глобальной катастрофе, ведущей к человеческому вымиранию. На близких к Земле орбитах нет астероидов, которые могли бы привести к гарантированному вымиранию людей, то есть астероидов, имеющих более 10 км в диаметре(а то и значительно больше – см. далее главу о силе взрыва астероидов), и которые можно было бы легко отклонить. (Однако отклонить небольшой, 10-300 м в диаметре, «камушек» и поразить им выбранную страну возможно.) Чтобы отклонить астероид с неудобной орбиты (например, в главном поясе астероидов), потребовалось бы огромное количество энергии, что сделало бы всю затею бессмысленной и легко обнаружимой. Впрочем, есть шанс, что сверхкомпьютеры позволят устроить высокоточный космический бильярд, где бесконечно малое воздействие на один небольшой «камушек», который попадает в другой, и так далее, создаёт нужный эффект. Однако это потребует десятков лет на реализацию. Легче отклонить комету (перевести с круговой орбиты на высокоэллиптическую), находящуюся в облаке Оорта (там есть тела подходящих размеров), однако пройдут десятки или, скорее, сотни лет, пока она достигнет орбиты Земли. Таким образом, полное вымирание человечества в результате искусственного отклонения астероида в XXI веке крайне маловероятно.
8.3 Создание искусственного сверхвулкана
Чем глубже мы проникаем в земную кору разными способами – сверлим её, расплавляем или взрываем, – тем больше наши возможности вызвать всё более сильное искусственное вулканическое извержение. Для того чтобы спровоцировать извержение сверхвулкана, сравнимого по своим масштабам с Йеллоустоуном, вероятно, достаточно пробить 5-8 км земной коры, что составляет толщину крышки его магматической камеры – а современные скважины гораздо глубже. При этом природа загазованной магмы такова, что достаточно маленького отверстия, чтобы начался самоусиливающийся процесс дегазации магмы, подобно тому, как это происходит при открывании бутылки с шампанским. То есть воздействие, которое может вызвать сверхизвержение, может быть минимальным, так сказать, информационным. Пример: недавно в Индонезии случайно при проведении геологоразведочных работ был задет водоносный слой, и создан грязевой вулкан, затопивший территорию в 25 кв. км.  Позже на Гавайях исследовательская скважина попала в камеру, наполненную магмой на глубине 2,5 км, где никто не ожидал ее обнаружить, что привело к небольшому извержению (гавайская магма не склонна приводить к взрывным извержениям.) Риск случайного или частично намеренного пробуждения сверхвулкана растёт по мере роста интереса к геотермальной энергии, который подразумевает бурение скважин в непосредственной близости от вулканов, а также по мере исчерпания ресурсов, что побуждает людей делать всё более глубокие скважины. Наконец, недооценка степени неустойчивости нашего мира, связанная с наблюдательной селекцией, может привести к тому, что даже небольшая скважина нарушит устойчивость вулкана, извержение которого давно назрело.
Помимо магматических камер сверхвулканов, находящихся относительно неглубоко, имеются гораздо большие камеры с расплавленным материалом, которые питают эти верхние камеры, но находятся значительно глубже, на глубине десятков и сотен километров. Искусственное проникновение в эти камеры привело бы к извержениям, значительно превышающим извержения известных супервулканов.
Крупные площадные извержения, вызванные, вероятно, подъёмом плюмов из глубин мантии, случались много миллионов лет назад на плато Декан в Индии и в Сибири (в районе Норильска) и были связаны с вымиранием живых организмов в значительном масштабе. Магма поднимается по каналам-плюмам, однако это не каналы для вещества ядра; считается, что вверх поднимаются горячие, твёрдые (очень вязкие) куски мантии за счёт более высокой плавучести, которые становятся жидкими только около поверхности за счёт падения давления. Земная цивилизация будет всё глубже вгрызаться в землю с целью добычи полезных ископаемых, энергии и для проведения экспериментов. В результате риск катастрофических извержений будет постоянно расти. Уже предлагался проект проплавления земной коры с помощью огромной капли (сотни тысяч тонн) расплавленного железа – зонд Стевенсона [Stevenson 2003]. Стоимость проекта оценивается в 10 миллиардов долларов, и он выглядит теоретически реализуемым. Югославский астроном и исследователь глобальных рисков Милан Чиркович написал статью «Геоинженерия, пошедшая насмарку» [Circovic 2004], где подверг проект резкой критике, как опасный для земной цивилизации, так как он может, по мнению Чирковича, привести к высвобождению огромного количества парниковых газов и вызвать необратимое глобальное потепление, подобное произошедшему на Венере.
Российский геолог Л. Я. Аранович предложил принципиально усовершенствованный вариант глубинного зонда, основанный на погружении в мантию небольшого ядерного реактора весом в несколько тонн, который сможет проплавлять себе дорогу . Такой зонд сможет достичь глубины в 1000 км примерно за месяц. Оценки безопасности этого теоретического проекта не проводились.
Высокотемпературные роботы-горнорабочие также могут стать опасным инструментом. Японцы планируют просверлить дно океана вплоть до мантии. Уже предлагался проект бомбы против бункеров, которая, упав, вгрызается в поверхность, как самоходный проходческий щит и продвигается вглубь. Таким же образом могли бы действовать и взрыватели вулканов. Такое устройство может быть дешевле ядерной бомбы, и его можно доставить на место незаметно.
Любое оружие, которое пригодно для борьбы с бункерами глубокого залегания, может применяться и для пробуждения вулканов. Одним из вариантов такого оружия является последовательная атака ядерными зарядами, создающая всё более глубокий кратер. Возможно, что недостаточно пробудить один сверхвулкан или просто крупный вулкан для возникновения глобальных последствий, но если пробудить их все сразу, то вымирание человечества становится вероятным. На Земле известно сейчас 20 сверхвулканов и 500 обычных вулканов.
Возможно, что возникнет практическая необходимость пробудить вулкан, чтобы охладить атмосферу его выбросами, в случае если проблема глобального потепления встанет очень остро. В настоящий момент вероятность искусственного пробуждения сверхвулкана крайне мала, даже, если бы достаточно опасное оружие попало в руки террористов, помимо вулканов есть масса других привлекательных объектов для диверсий. (Однако в обзоре о шести способах наиболее опасного применения водородной бомбы террористами , именно атака на сверхвулкан выделяется как главная.) В случае мировой войны взрыв супервулкана мог бы стать последним оружием для проигрывающей стороны. Технологические возможности для взрыва вулкана медленно растут с развитием технологий бурения и совершенствования ядерного оружия. Молекулярное производство и нанотехнологии могли бы дать шанс для дешёвого создания мощных машин, необходимых для вскрытия вулканов, а овладение нанотехнологиями создаст более простые пути к тем целям, которые можно было бы реализовать с помощью супервулкана.
В статье «Камуфлетные взрывы как причина формирования структур, индицирующих алмазоносные районы  (по материалам дистанционных и геофизических методов)» В. И. Горного и др. [Горный 2006] высказывается мнение, что взрывные структуры, известные теперь как кимберлитовые трубки, могут происходит в результате бескислородной детонации тяжёлых углеводородов (нечто подобное взрыву обычного тротила) на глубине порядка 90 км больших областей, диаметром около 20 км. Эти тяжёлые углеводороды образуются в недрах Земли и поднимаются вверх в процессе её дегазации, и являются источниками нефти, согласно теориям о ее абиогенном происхождении. Сила взрывов, по оценкам авторов, составляет 10 000 – 100 000 гигатонн, что сопоставимо с энергией падения астероида в несколько километров диаметром. Основной ущерб от такого взрыва, вероятно, будет состоять в немедленном загрязнении земной атмосферы огромным количеством углеводородов и продуктов их сгорания. Это приведёт как к прямому отравлению живых существ, так и к радикальным изменениям климата. По моим подсчётам, такой взрыв приведёт к пожару, в котором сгорит 1/1000 земного кислорода.
Такие события, как подтвердил мне Горный в личной переписке, неоднократно случались в истории Земли и могут снова произойти в любой момент. Возникает два вопроса: каков максимально возможный объём такого взрыва – то есть может ли взорваться область размером в 30 или 50 км? (Напомню, что тот факт, что этого не случалось в прошлом, не доказывает ничего). Может ли какая-либо человеческая деятельность – сверхглубокое бурение с целью добычи геотермальной энергии или ядерные испытания – спровоцировать такой взрыв?
8.4 Намеренное разрушение озонового слоя
Есть предположение, что можно создать озонное оружие, которое приведёт к очень эффективному каталитическому истреблению озонового слоя. Тем не менее, даже если поток солнечного ультрафиолета будет очень силён и опасен для людей, они смогут от него защититься с помощью зонтиков, плёнок, бункеров, скафандров и т. д. Однако на всю биосферу зонтиков не хватит. Озоновый слой может быть разрушен и гамма-всплеском. «Троекратное ослабление озоновой защиты на несколько лет, предсказываемое расчётами, способно привести к истреблению большей части приповерхностного планктона в океанах, являющегося основой всей огромной пищевой цепи обитателей моря» . Особенно опасно, если ослабление озонового слоя совпадёт с ослаблением магнитного поля и сильной вспышкой на Солнце. Истощение озонового слоя принадлежит к числу процессов, которые цивилизация может запустить сейчас, а «вкусить плоды», возможно, придётся через десятки и сотни лет уже на менее способной к самозащите постапокалиптической стадии.
Глава 9. Технологические риски, связанные с принципиально новыми открытиями
9.1 Неудачный физический эксперимент
Наиболее опасным является вариант, при котором значительное открытие совершится совершенно внезапно в ходе обычного эксперимента, как уже неоднократно бывало в истории науки, и проявится в виде непредвиденных последствий.
Высказывались опасения, что опыты по созданию микроскопических чёрных дыр на ускорителях, конденсации нейтронов и другие эксперименты с элементарными частицами могут привести или к коллапсу земного вещества или к колоссальному взрыву, который мгновенно истребит жизнь на Земле. Основной парадокс здесь в том, что безопасность любых экспериментов обосновывается тем, что мы знаем, что получится в результате, а цель эксперимента – в том, чтобы узнать что-то новое. Иначе говоря, если мы ничего нового не узнаем, то какой смысл ставить физические эксперименты, а если мы можем узнать что-то новое, то это может быть опасно. Может быть, молчание вселенной объясняется тем, что все цивилизации рано или поздно осуществляют некий эксперимент по «извлечению энергии из вакуума», а в результате их планеты разрушаются. Опасность экспериментов прямо связана с возможностью наличия неизвестных нам фундаментальных физических законов. Вопрос этот трудно решить вероятностным образом. В XX веке уже было несколько открытий фундаментальных законов, и некоторые привели к созданию новых опасных видов оружия – хотя к концу XIX века картина мира казалась завершённой. Назову только открытия радиоактивности, квантовой механики, теории относительности, а в последнее время – тёмной материи и тёмной энергии.
Кроме того, есть ряд экспериментальных данных и непроверенных теорий, которые имеют разную степень достоверности – но многие из них предполагают физические эффекты, которые могут быть опасны. Например, иногда мелькают сообщения о трансмутации химических элементов без радиоактивности – но разве это не способ наработать плутоний для атомной бомбы? Или, если такая трансмутация возможна, то не приведёт ли она к цепной реакции трансмутации по всей Земле?
Считается, что современные эксперименты на ускорителях не дотягивают на многие порядки до энергий, которые возникают в результате естественных столкновений космических лучей, происходящих в атмосфере Земли. Однако в книге Джона Лесли приводится оценка, что если энергия ускорителей будет расти с нынешней скоростью, то опасные уровни энергии будут достигнуты к 2100 году. Он показывает, что в течение всего ХХ века каждые 10 лет энергия, достигаемая на ускорителях, возрастала в 10 раз. И хотя сейчас обычные ускорители подошли к своему физическому пределу по размерам, есть принципиально другой способ достигать тех же энергий на установках размером с рабочий стол – речь идёт о разгоне частиц в ударной волне импульсного лазера. В то же время программа СОИ предполагала создание импульсных лазеров колоссальной силы, запитывавшихся от ядерных взрывов.
Риски, связанные с физическими экспериментами, вполне осознаются научным сообществом, и европейский ядерный центр ЦЕРН недавно опубликовал доклад с обоснованием безопасности нового коллайдера , в котором отвергаются риски, связанные с возникновением на новом ускорителе «Большой Адронный Коллайдер», LHC ( вступил в строй в 2008 году) микроскопических чёрных дыр, магнитных монополей и страйнджлетов. Тем не менее, есть ряд учёных и общественных деятелей, которые активно борются с LHC, критикуя предлагаемые меры безопасности и их теоретические основания . Например, активно используемая аналогия с природными процессами (столкновение космических лучей с земной атмосферой) не точно соответствует тому, что будет происходить в LHC, например, потому что скорость частиц, образующихся при столкновении в атмосфере, по закону сохранения импульса, остаётся близкой к скорости света, а импульс при столкновении встречных пучков в LHC нейтрализуется, и скорость может быть нулевой. Это имело бы решающее значение для дальнейшего поведения микроскопических чёрных дыр, так как в первом случае они пролетели бы Землю насквозь за доли секунды, а во втором – задержались бы в её веществе на большее время, смогли бы увеличить массу и задержаться ещё больше.
Даже если принять те границы безопасности (вероятность катастрофы P < 2*10 ), которые предлагают сторонники продолжения экспериментов, и применить к ним стандартную при анализе рисков процедуру оценки ценности, то, как показывает Адриан Кент в своей статье «Критический обзор оценок рисков глобальных катастроф» [Kent 2004], получатся неприемлемые по стандартам других отраслей результаты – а именно, этот риск будет эквивалентен гибели от 120 до 60 000 человек.
Дж. Лесли даёт подробный анализ различных теоретически возможных опасных экспериментов. К их числу относятся:
1) Переход вакуума в новое метастабильное состояние [Bostrom N., Tegmark 2005]. Есть гипотеза о том, что вакуум, будучи нулевым энергетическим уровнем всех физических полей, не является окончательным возможным таким уровнем. Точно так же уровень воды горного озера не является настоящим уровнем моря, хотя вода в озере может быть широкой и гладкой. И достаточно сильный всплеск волн в таком озере может привести к разрушению окружающих озеро барьеров, что приведёт к излиянию вод озера на уровень моря. Точно также, возможно, что достаточно высокоэнергетичный физический эксперимент может создать область вакуума с новыми свойствами, которая начнёт неограниченно расширяться. (Существование тёмной энергии, которая ускоряет расширение вселенной, косвенно подтверждает то, что наш вакуум – не истинный.) Возникновение нашей вселенной, собственно, и было переходом вакуума из одного состояния в другое .
2) Образование объектов, состоящих из гипотетической кварковой материи, способной присоединять к себе атомы обычного вещества. Поскольку в её образовании играют важную роль так называемые «странные кварки», то способная возникнуть в результате устойчивая материя называется «странной материей», а её частицы – стрейнджлетами (от англ. stranglets). Разработана идея установки, которая способна порождать и накапливать кусочки этой материи, а также использовать падение обычной материи на странную материю для получения энергии. К сожалению, авторы идеи ничего не говорят о том, что будет, если сгусток странной материи покинет ловушку и начнёт неограниченно поглощать вещество Земли.
3) Опасные геофизические эксперименты с глубоким бурением или проникновением сквозь кору, чреватые образованием сверхвулкана и дегазацией глубинных слоёв Земли.
4) Научное сообщество детально обсуждает риски образования микроскопических чёрных дыр, которые должны возникать при столкновении частиц на последних моделях ускорителей в ближайшем будущем [Giddings, Thomas 2002]. Образование микроскопической чёрной дыры, даже если она будет устойчива (а большинство учёных считают, что она распадётся за малые доли секунды благодаря излучению Хокинга, хотя есть и несогласные [Helfer 2003]), не должно привести к немедленному засасыванию в неё всего вещества Земли, так как размеры её будут около размеров атома, а вокруг неё будет микроскопический аккреционный диск, который будет дозировать поступление вещества. Но такая микро-чёрная дыра неизбежно упадёт в сторону центра Земли, проскочит его и начнёт совершать колебательные движения.
5) Возникновение магнитного монополя на LHC в ЦЕРН. Магнитный монополь может ускорять распад протонов, приводя к огромному выделению энергии, однако в отчёте ЦЕРН по безопасности предполагается, что даже если такой монополь возникнет, он быстро покинет Землю.
6) Инициирование нового Большого взрыва при экспериментах на ускорителях. (В определённом смысле этот процесс аналогичен распаду фальшивого вакуума. Ключевым для его запуска является достижение сверхвысокой плотности энергии в 10  грамм на куб. см. Однако само количество энергии, необходимое для инициации процесса, может быть небольшим, возможно, меньше энергии взрыва водородной бомбы.) Подробно этот риск рассматривает Лесли [Leslie 1996]. В связи с этим представляет интерес гипотеза, что при возникновении разных вселенных с разными свойствами наибольшую долю вселенных составляют те, которые способны порождать новые вселенные. (Изначально такая гипотеза была высказана в связи с предположением, что такой процесс происходит в чёрных дырах.) Однако поскольку наша вселенная ещё и «тонко настроена» на то, чтобы быть пригодной для существования разумной жизни, способной развивать технологию, можно предположить, что именно разумные цивилизации некоторым образом способствуют повторению условий, ведущих к новому большому взрыву, возможно, в ходе неудачных физических экспериментов.
Приведённый список наверняка не полон, так как он описывает только то, что мы знаем, тогда как в экспериментах мы сталкиваемся с тем, чего не знаем. Погодовая вероятность опасного физического эксперимента растёт с течением времени, так как всё более высокоэнергетичные установки вводятся в строй и изобретаются новые способы достижения высоких энергий, а также применения их к объектам, к которым они обычно не применяются в природе. Кроме того, растёт разнообразие возможных физических экспериментов, которые могут привести к глобальной катастрофе. Развитие технологий молекулярного производства и самовоспроизводящихся роботов позволит в будущем создавать гигантские установки в космосе, используя материал астероидов, по цене только первого робота-«семени», то есть практически бесплатно. Это позволит выйти на гораздо более высокие энергии экспериментов – и на новый уровень рисков.
Интересный вариант нового глобального риска предложен в статье «Поведение распада фальшивого вакуума в поздние промежутки времени: возможные последствия для космологии и метастабильных инфляционных состояний» [Krauss, Dent 2008], в русскоязычной прессе пересказанной под броскими заголовками вроде: «Астрономы разрушат Вселенную» . В ней говорится, что скорость распада квантовых систем зависит от того, наблюдаются они или нет (проверенный факт), а затем это обобщается на проблему наблюдения устойчивости Вселенной как целого в связи с проблемой так называемой тёмной энергии. «Измерив плотность тёмной энергии, мы вернули её в начальное состояние, по сути, сбросив отсчёт времени. А в этом начальном состоянии вакуум распадается в соответствии с «быстрым» законом, и до критического перехода к «медленному» распаду ещё очень далеко. Короче говоря, мы, возможно, лишили Вселенную шансов на выживание, сделав более вероятным её скорый распад». Хотя вряд ли этот риск реален, сама идея такого риска иллюстрирует возможность того, что новый глобальный риск, связанный с физическими экспериментами, может придти с самой неожиданной стороны.
Поскольку всегда в экспериментах есть доля риска, стоило бы отложить их до момента создания развитого ИИ. Часть экспериментов имеет смысл проводить не на Земле, а далеко в космосе.
Овладение новыми источниками энергии заново поставит проблему перегрева Земли, особенно если эти источники энергии будут очень мощными и доступными для личного пользования. В этом случае для каждого пользователя польза от потребления будет перевешивать ущерб окружающей среде. Для реального перегрева планеты потребляемая мощность должна возрасти в сотни раз по сравнению с современной.
9.2 Новые виды оружия, новые источники энергии, новые среды распространения и способы дальнодействия
В будущем можно ожидать возникновения новых видов глобального оружия, основанного на новых физических принципах. Хотя сами новые принципы неизвестны, можно очертить общие черты любого абсолютного оружия, а именно:
А) выделение огромного количества энергии;
Б) способность к саморепликации;
В) способность быстро действовать на всю территорию Земли;
Г) дешевизна и лёгкость производства в кустарных условиях;
Д) возможность достижения интеллектуального превосходства над людьми;
Е) способ управлять людьми.
Любой физический эффект, способный породить технологию, соответствующую хотя бы одному из приведённых выше критериев, является потенциальным кандидатом в абсолютное оружие.
Глава 10. Риски, создаваемые космическими технологиями
10.1 Гипотетические виды космического оружия
Теоретически возможно облучение планеты с орбиты с помощью специальных спутников гамма-лучами (нечто вроде искусственного гамма-всплеска), нейтронами или другими опасными излучениями, проникающими сквозь атмосферу или взрывами бомб ,что приведёт к стерилизации поверхности. Возможно обрушение на планету дождя из роботов-метеоритов. В качестве космического оружия может применяться разгон космического корабля до околосветовой скорости и направление его на планету. Любой успех в создании высокоскоростных космических ракет и тем более звездолётов создаст мощнейшее оружие против планетной жизни, так как любой звездолёт можно разогнать и направить на планету. Облучение Земли возможно и при случайном взрыве какой-нибудь экспериментальной установки на орбите, но только одного полушария.
Космические средства наблюдения позволяют обнаружить почти каждого человека и, соответственно, направить на него любое сверхточное оружие. Это могут быть, например, лазеры космического базирования или источники рентгеновского излучения. «Преимущество» последних в том, что они могут передать смертельную дозу незаметно и с гораздо меньшими затратами энергии.
Мы можем освоить космос быстро (то есть в течение XXI века) с помощью саморазмножающихся роботов или нанороботов. Но при этом, дав им команду размножаться в космическом пространстве и строить для нас там огромные сооружения с использованием материала астероидов и Луны, мы можем потерять над ними контроль. Однако в этом случае опасности для Земли из космоса придут после того, как мощные робототехнические технологии будут созданы, а значит, после того, как эти технологии начнут угрожать нам на Земле.
Мы уже обсуждали выше проблемы отклонения астероидов от их орбит.
Ещё один способ космической атаки – это развернуть в космосе гигантское зеркало, которое будет направлять на Землю солнечные лучи (или заслонять её от лучей Солнца). Но сделать его без помощи самовоспроизводящихся роботов трудно, а защитится от него относительно легко, так что это очень маловероятный вариант.
Итак, мы можем заключить, что космические атаки маловероятны, потому что их перекрывают более быстрые процессы развития средств разрушения на Земле. Но терять из виду этот риск не стоит.
10.2 Ксенобиологические риски
Риски, состоящие в том, что на Землю может быть занесена жизнь из космоса, принимались руководством НАСА всерьёз, начиная с момента полёта на Луну. Хотя можно было утверждать, что поверхность Луны стерильна с очень высокой вероятностью, астронавты, вернувшиеся с Луны, были подвергнуты карантину. Это демонстрирует грамотный подход к рискам с очень низкой вероятностью, которые, однако, могут принести неограниченно большой ущерб.
Предположения о том, что вирусы гриппа могут приходить к нам из хвостов комет является, очевидно, ложным, поскольку вирусы – это узкоспециализированные паразиты, которые не могут существовать без хозяев. Реальный риск мог бы представлять высоко всеядный микроорганизм с химической структурой, значительно отличающейся от земной, перед которым у земной биосферы не было бы защиты. По мере освоения космического пространства и организации возвращаемых экспедиций на различные космические тела, в том числе во время планируемой экспедиции на Марс, возрастает риск встретить такого незваного пришельца и по ошибке завезти его на Землю.
Вместе с тем, такой риск на порядки меньше риска создания на Земле аналогичного опасного микроорганизма или синтетической жизни (анимата).
А. В. Архипов исследует возможность так называемой «космической археологии» на Луне [Архипов 1994]. Он предполагает, что Луна могла бы быть идеальным местом для поисков следов древних посещений Земли космическими кораблями инопланетян и предлагает искать на Луне регулярные структуры, которые могли бы быть их следами. Таких следов по официальным данным пока обнаружено не было. Тем не менее, если мы когда-либо встретим следы другой цивилизации, они могут содержать опасные технологии, устройства или компьютерные программы. Подробнее этот вопрос обсуждается в главе «риски, связанные с SETI», и всё, что там сказано про SETI, может быть верно и относительно возможных успехов космической археологии. (Вернор Виндж описывает в своём романе «Пламя над бездной» именно такой сценарий: космическая археология привела к обнаружению и запуску опасной компьютерной программы, развившийся в сверхсильный искусственный интеллект и создавший риск глобальной катастрофы.)
Отдельной статьёй можно обозначить риск воскрешения опасных бактерий из древнего замороженного льда на Земле. Если бы на Земле существовали предшествующие цивилизации, то был бы риск столкнуться с оставленными ими знаниями или артефактами, но современная наука отрицает возможность существования таких цивилизаций (по крайней мере в последние несколько миллионов лет), так как они бы потребили оставшиеся нетронутыми ресурсы (нефть, металл) и оставили после себя следы в виде перемешивания биологических видов между континентами, подобно тому, как это делает человек.
Если бы мы нашли след древних цивилизаций, когда-либо живших на Земле, это тоже могло бы означать некий риск, так как эти цивилизации вымерли, и этому должна была быть некая причина, которая может быть всё ещё актуальна. Например, по одной из гипотез неандертальцы вымерли от прионной инфекции, и раскапывая их остатки, мы рискуем воскресить и инфекцию. Однако отсутствие каких-либо артефактов, сохранность руд и смешений генотипов растений и животных говорит с высокой вероятностью о том, что в прошлом не было технологических цивилизаций, сопоставимых с современной человеческой.
10.3 Столкновение с превосходящими нас разумными силами во Вселенной
И религиозные сценарии о втором пришествии, и идеи об инопланетянах, и идеи о том, что мы живём в мире, смоделированном разумными существами – все эти идеи имеют в виду, что есть превосходящие нас разумные силы, которые могут внезапно и необратимо вмешаться в нашу жизнь. Опять же трудно оценить вероятность такого рода событий из-за их нестатистической природы. И если мы можем уменьшить вероятность гибели от любых экспериментов, просто запретив какие-либо эксперименты, то в данной ситуации от нас почти ничего не зависит. Чем шире человечество будет распространяться в пространстве и заявлять о себе, тем больше шанс, что рано или поздно оно кого-нибудь в нём встретит. Иначе говоря, вероятность встречи с другими разумными силами растёт,.. а по опыту земной истории, например, открытия Америки, мы знаем, что выдержать встречу с превосходящей культурой почти невозможно.
Вероятность столкновения с иными разумными существами в первую очередь зависит от нашей оценки плотности разумных цивилизаций во Вселенной. Сейчас она принимается крайне низкой. Разумная жизнь предполагается уникальным явлениям в наблюдаемой Вселенной, но прямых доказательств этому нет.
Шансы на то, что инопланетяне впервые прилетят к нам на звездолётах именно сейчас, а не раньше или позже на десятки миллионов лет, из статистических соображений исчезающе малы (меньше одного к миллиону). Следовательно, остаются два варианта:
1) Внезапное столкновение с некой разумной силой по мере экспансии в космосе. Экспансия в космосе здесь подразумевает не только космические полёты, но и всё более дальнее прослушивание космоса радиотелескопами (см. далее главу риски SETI).
2) Мы уже давно находимся под контролем или даже созданы некой разумной силой.
Один из вариантов такого сценария – это столкновение не с самими разумными силами, а с последствиями их деятельности. Например, если некая инопланетная цивилизация произвела опасный эксперимент, который её погубил, его последствия могут распространяться по Вселенной. Это может быть или распад метастабильного вакуума, как пишет Дж. Лесли, или распространение примитивных пожирающих всё нанороботов. В качестве примера можно привести то, что Марс и спутники Юпитера уже подверглись риску заражения земными микроорганизмами от межпланетных станций – хотя самого человеческого разума на них нет, и ещё долго не будет. Иначе говоря, опасные побочные эффекты от разумной жизни в космосе могут распространяться гораздо быстрее, чем сам разум.
Мы можем также столкнуться с волной с саморазмножающихся нанороботов, когда-то давным-давно запущенных другой цивилизацией и относительно бесконтрольно распространяющейся по вселенной. Это было бы нечто вроде космической «серой слизи». Подобное описывает С. Лем в романе «Непобедимый» и Ф. Хойл в романе "Черное облако». Хотя вероятность того, что волна распространяющихся и имеющих программу уничтожать все встречающиеся цивилизации нанороботов именно сейчас достигнет Солнечной системы – мала, можно предположить, что она достигла ее уже давно. С одной стороны, такие нанороботы могли бы переработать всё вещество Солнечной системы в себя и построить гигантские ускорители из него, чтобы распространяться как можно быстрее. Но такую звёздную систему мы наблюдать не можем – нас в ней не возникнет. Другой вариант состоит в том, что эти нанороботы просто контролируют звёздную систему. Для этого только небольшое количество таких нанороботов должно находиться на поверхности всех планет. Это следует и из соображений энергии – для того, чтобы поддерживать в активном состоянии планету, целиком состоящую из нанороботов, нужно очень много энергии. А для поверхностного слоя – не много. Эти нанороботы могут обладать большими способностями к мимикрии, то есть обнаружить их случайно под микроскопом довольно трудно. Такие нанороботы могли бы формировать странно ведущие себя облака в небе – и тут можно вспомнить о наблюдениях НЛО. Интеллект таких нанороботов может быть искусственно ограничен, с тем чтобы они не могли пережить свою собственную Сингулярность и не представлять затем опасности для своих бывших хозяев. Эта ограниченность интеллекта может служить объяснением некоторым абсурдным моментам в наблюдениях НЛО. Главный риск состоит в том, что в таких инопланетных нанороботах должна быть заложена программа по уничтожению цивилизаций, которые могли бы создать своих нанороботов, могущих угрожать их господству на охраняемой территории. А мы уже подходим к этой границе. Достаточно один раз запустить такой процесс, и он будет идти до бесконечности. Например, если скорость распространения нанороботов составляет 0.1 скорости света, то за миллиард лет они освоят сферу радиусом в 100 млн. световых лет. Это может объяснять молчание Вселенной, если их программой является приостановка развития других цивилизаций.
Хотя у нас нет оснований считать возможных инопланетян враждебными, принцип предосторожности заставляет нас допустить это. Наихудшим выражением враждебности было бы стремление таких инопланетян стерилизовать окружающий космос, например, чтобы в будущем не иметь конкурентов. Есть предположение, что такая враждебная цивилизация могла бы разбросать по всей галактике некие наблюдательные станции, названные в одном фантастическом романе «берсеркерами», которые в случае обнаружения радиосигналов от разумной жизни направляются к ней и атакуют её. Это предположение крайне маловероятно, так как, если речь идёт о действительно «продвинутой» цивилизации, то она могла бы разбросать такие станции около каждой солнцеподобной звезды, и мы бы давно подверглись её атаке (но здесь нельзя исключить действия эффекта наблюдательной селекции, в силу которого мы могли дожить до XXI века только у той звезды, рядом с которой нет контролирующей станции, как бы мала ни была эта вероятность.)
Опасным считается и отправление сигналов в космос – METI, так как это возможно может выдать наше местоположение другим цивилизациям. Однако эти усилия, видимо, перекрываются тем, что радиоизлучение Земли и без того вполне заметно, а также тем, что эти сигналы ушли на небольшое расстояние (менее 100 световых лет – то есть сфера, включающая только несколько тысяч звёзд), а на таком расстоянии вряд ли есть цивилизации, которые могут до нас долететь со скоростью света, но ни разу этого не делали. В Соединённых Штатах действует закон, запрещающий посылку сообщений в космос. Поэтому все подобные эксперименты проводятся на радиотелескопе в Евпатории. При этом существуют вычисления, показывающие, что вероятность того, что наше случайное сообщение к кому-нибудь попадёт – ничтожно мала [Zaitsev 2007]. Жёстким критиком METI является Дэвид Брин , который полагает, что узко сфокусированные лучи, направляемые точно на выбранную звезду, могут быть гораздо более заметны, чем фоновое излучение земных телестанций и случайное движение по небу пучков лучей военных радиолокаторов, и предлагает подождать с METI, пока мы не станем более зрелой цивилизацией. Посылка сигналов METI – необратимое действие, и если через 50 лет мы передумаем, то не сможем догнать и остановить посланные раньше сигналы. Россия впереди планеты всей в организации METI, хотя по факту за всю историю было организовано только несколько передач. Это поднимает интересный методологический аспект проблемы: несмотря на то, что большинство учёных против посылки сигналов в космос, всё равно есть люди, которые считают себя в праве решать за всё человечество в отношении того, что на самом деле для него хорошо. Сторонники METI утверждают, что сильные цивилизации, если они есть, и так знают о нас, так как обладают невероятно мощными средствами наблюдения, а наши послания адресованы только тем цивилизациям, которые находятся на одном уровне с нами. В этом рассуждении есть логическая неточность, поскольку цивилизации одного уровня с нами рано или поздно становятся, если это вообще возможно, сильными космическими цивилизациями, и если это произойдёт со слабой цивилизацией, получившей только наш сигнал, то первым местом, куда они полетят, будет Солнечная система. Дэвид Брин полагает, что если мы считаем другие цивилизации альтруистичными, то факт молчания космоса должен нам подсказать, что нам следует последовать их примеру, а не кричать о себе на весь тёмный лес – может быть, они знают что-то, что не знаем мы.
Кроме того, обнаружение линий кислорода в атмосферах планет говорит только о наличии на них жизни, но не разума, а отправленный радиосигнал выдаёт наличие разума, его уровень и много другой ценной информации. Радиосигнал обнаружить значительно проще, чем линии кислорода: мы до сих пор не располагаем необходимыми космическими телескопами, чтобы наблюдать визуально хотя бы ближайшие планеты земного типа и других звёзд, однако уже прослушиваем тысячи и миллионы звёзд в рамках проектов SETI. Значит радиосигнал обнаружить дешевле, и его можно обнаружить на большем расстоянии. Иначе говоря, даже для продвинутых цивилизаций радиус, на котором они могут обнаруживать радиосигналы, превосходит радиус, на котором они могут обнаруживать линии кислорода, и, таким образом, поиск радиосигналов остаётся для них эффективным способом обнаружения инопланетных цивилизаций. Кроме того, вступив в диалог с некой цивилизацией, мы всё равно рискуем подвергнуться информационной атаке в духе описанной далее SETI-атаки, а также физической атаке в духе искусственного направленного гамма-всплеска, или отправки враждебных нанороботов, или другого, неизвестного нам способа воздействия.
Однако METI обретает смысл как зов о помощи или попытка организовать своего рода «цифровое бессмертие», если окажется, что глобальная катастрофа неизбежна. В этом случае отправка описания истории человечества, его культуры и кода ДНК в цифровой форме даёт призрачный шанс на то, что кто-то когда-нибудь этот сигнал поймает и воскресит людей. Возможен вариант и физической «панспермии» с распространением в космосе множества песчинок с образцами ДНК человека и некоторыми посланиями – подобно тому, как потерпевшие кораблекрушение бросают в море бутылку с запиской.
Если мы живём в смоделированном мире (подробнее этот вопрос будет обсуждаться далее), то шансы того, что эту симуляцию «выключат», растут по мере того, как она становится всё более ресурсоёмкой. А она будет становиться более ресурсоёмкой, по мере роста населения Земли, но особенно, когда люди начнут создавать свои компьютеры со своими симуляциями. Это в определённом смысле иллюстрируется математическим принципом: множество не может содержать само себя как подмножество.
Также если Земля давно наблюдается некими разумными силами (сценарий космического заповедника), то они могут решить вмешаться в ход человеческой истории, когда она достигнет некоего неприемлемого для них, но неизвестного нам порога (скажем, создание ИИ). Например, люди заботятся о слонах в заповедниках, но если их численность превышает критическую, то целые стада слонов в некоторых африканских заповедниках отстреливаются с вертолётов.
Глава 11. Риски, связанные с программой SETI
В 1959 году в журнале Nature вышла первая статья по проблемам поиска внеземного разума во Вселенной [Cocconi, Morrison 1959]. C тех пор развиваются два направления по поиску внеземного разума во Вселенной, – это SETI, которое в основном осуществляется посредством прослушивания неба с помощью радиотелескопов (также есть поиски сигналов в оптическом диапазоне и более экзотические варианты) и в виде METI (Messaging to Extraterrestrial Intelligence) – то есть отправки наших сигналов к звёздам с помощью радиопередающих антенн. METI с самого начала рассматривалась как деятельность, могущая быть опасной, поскольку есть гипотетический риск, что наши сигналы привлекут к нам внимание внеземных цивилизаций, которые настроены к нам враждебно. В противовес этому пассивное наблюдение окружающей Вселенной воспринимается основной массой исследователей и широкой публики как полностью безопасная деятельность.
Однако есть и альтернативная точка зрения, согласно которой SETI тоже может быть опасной деятельностью, и как мы постараемся показать далее, значительно более опасной, чем отправка сигналов.
Хотя поиски сигналов внеземного разума осуществляются уже более 40 лет, никаких сигналов пока найдено не было, и в связи с этим укрепилось мнение, что мы одиноки во Вселенной. Однако в действительности интенсивность поисков значительно выросла, и здесь нужно в первую очередь отметить проект ATA – Allen Telescope Array, который создаётся на частные средства одного из основателей Microsoft Пола Аллена [Торгашов 2008]. Если в первом проекте SETI в 1960-е годы осуществлялось прослушивание только двух ближайших звёзд, в 1970-е – сотен звёзд, а к 1990-м это число выросло до тысячи, то проект ATA предполагает прослушивание миллиона звёзд в радиусе тысячи световых лет 24 часа в сутки. Кроме того, будет вестись сканирование дальних областей Галактики на предмет обнаружения признаков деятельности сверхцивилизаций. Одновременно вести наблюдение будут 350 шестиметровых антенн, и мощные компьютеры будут обрабатывать поступающие данные. Таким образом, вероятность обнаружить внеземные цивилизации, если они есть, постоянно растёт. Вопрос о том, какова вообще вероятность того, что внеземные цивилизации существуют в наблюдаемом космосе, мы оставим за пределами нашего обзора. Мнение автора состоит в том, что такая вероятность есть, и было бы разумно (с точки зрения принципа предосторожности в оценке рисков) оценить её не менее, чем в 10 %. (Хотя ряд исследователей  считают, что мы уникальны в наблюдаемой Вселенной, прямых доказательств этому пока нет.)
В России уже много лет действует семинар по SETI при ГАИШ, выполняются работы по приёму и отправке сообщений. Большой резонанс произвела книга А. Д. Панова «SETI и проблемы универсальной эволюции» [Панов 2007]. В ней показывается, что человеческая эволюция непрерывно ускоряется, и можно указать гипотетическую точку сингулярности, когда скорость этого роста станет бесконечной. Эта точка лежит в первой половине XXI века. Понятно, что бесконечный рост не может быть достигнут, и Панов предполагает, что переход на качественно новый уровень произойдёт через подключение к галактическому культурному полю посредством программ SETI. При этом Панов сознательно отказывается рассматривать риски, которые угрожают человечеству в будущем.
Впервые идея и схема инопланетной атаки через SETI-сигналы была описана астрофизиком Ф. Хойлом в своём романе «Андромеда», 1961 [Хойл, Эллиот 1966]. (В начале вышел сериал BBC “A for Andromeda”, который, к сожалению, не сохранился, за исключением одной серии, а затем на его основе был написан роман, в котором основная идея принадлежит Хойлу, а сюжетная линия – Джону Элиоту. Русский перевод вышел в 1966г.) Согласно сюжету, астрономы принимают инопланетный сигнал, который содержит описание некого компьютера и программу для него. Люди решаются создать этот компьютер, так как рассчитывают на военные применения и успех в холодной войне. И действительно, компьютер и его программа, проявляющая признаки разума, помогает проектировать более эффективные ракеты. Помимо того, этот компьютер порождает описание генетического кода некого существа. На основании этого кода выращивают разумное существо – девушку Андромеду, которая, работая вместе с компьютером, помогает создавать продвинутые технологии для военных. Сначала люди не доверяют ей, но потом идут на всё большие уступки, видя, какие полезные идеи она выдвигает. Однако главные герои романа понимают, что окончательные цели компьютера враждебны человеческой цивилизации, так как его подлинной целью является установление власти над миром, и уничтожают его, а девушка гибнет.
Ганс Моравек в книге «Дети ума» [Moravec 1988] предлагает похожий вид уязвимости: загрузку из космоса компьютерной программы, которая будет обладать искусственным интеллектом, соблазнит цивилизацию-хозяина новыми возможностями, размножится в миллионах копий и уничтожит хозяина, а затем использует его планету для рассылки множества своих копий.
С научной точки зрения впервые эту проблему рассмотрел Р. Кэрриген, который написал статью «Следует ли обеззараживать сигналы SETI» [Carrigan 2006], которую я перевёл на русский язык. В начале своих исследований проблемы Кэрриген высказал опасения, что неотфильтрованные сигналы из космоса загружаются на миллионы ничем не защищённых машин программы SETI-Home. (Суть программы SETI-Home состоит в том, что свободное время простаивающих компьютеров по всему миру используется для анализа сигналов, полученных радиотелескопами, и поиска в них закономерностей, которые могли бы быть признаками искусственных сигналов. Пакеты для обработки рассылаются в автоматическом режиме по Интернету.) Однако он встретил жёсткую критику со стороны программистов, которые указали на то, что, во-первых, область данных и область программ разделены, а во-вторых, компьютерные коды, на которых написаны программы, настолько уникальны, что угадать их невозможно, а, следовательно, случайная загрузка и исполнение опасного кода из космоса невозможна.
В своей статье Кэрриген сосредотачивается на лёгкости передачи гигабайт данных на межзвёздные расстояния даже при современном уровне техники (приводятся соответствующие вычисления), а также указал, что межзвёздный сигнал может содержать некую наживку, которая побудит людей собирать опасное устройство по чертежам. При этом Кэрриген не отказался от гипотезы о том, что при некоторых обстоятельствах инопланетный вирус может заразить земные компьютеры напрямую и без человеческой помощи. (Например, если поступающие данные будут подвергнуты автоматическому анализу на предмет поиска в них алгоритмов и компьютерных программ.)
На Земле был создан CosmicOS  – способ записи самодостаточных сообщений, с использованием только 4 символов, которые могли бы быть однозначным образом интерпретированы как компьютерная программа и содержали бы в себе всё необходимое для своего исполнения. Цель создания такого языка – отправка сообщений инопланетным цивилизациям или далёким потомкам. И раз есть идея отправлять таким образом сообщения, то отсюда один шаг до поиска сообщений, закодированных таким же способом.
В 2006 году была написана статья Е. Юдковски «Искусственный интеллект как позитивный и негативный фактор глобального риска» [Yudkowsky 2008b], где он показал, что весьма вероятно, что возможен быстро развивающийся универсальный искусственный интеллект, что такой интеллект был бы крайне опасен в случае, если бы он был неверно запрограммирован и, наконец, что возможность появления такого ИИ и рисков с ним связанных, существенно недооценивается. Кроме того, Юдковски ввёл понятие Seed AI – зародыш ИИ – то есть минимальной программы, способной к неограниченному саморазвитию с сохранением неизменной главной цели. При этом размер Seed AI может быть всего на всего порядка сотен килобайт. (Например, типичным представителем Seed AI является младенец человека, при этом часть генокода, отвечающая за головной мозг, составляет 3% от всего генокода человека, имеющего объём в 500 мегабайт, то есть 15 мегабайт, а если учесть долю мусорной ДНК, то и ещё меньше.)
В фантастическом романе В. Винджа «Пламя над бездной» [Виндж 1991] хорошо показана атака враждебного искусственного интеллекта на уже сложившееся галактическое сообщество по информационным каналам связи. Также подобная SETI-атаке информационная атака инопланетян служит сюжетом рассказа Онджея Неффа «Белая трость калибра 7.62» [Нефф 1985]. Более подробно я рассматриваю риски программы SETI в своей статье «О возможных рисках программы SETI», которая опубликована в книге «Война и ещё 25 сценариев конца света» [Турчин 2008].

Глава 12. Риски, связанные с природными катастрофами
12.1 Вселенские катастрофы
Теоретически возможны катастрофы, которые изменят всю Вселенную как целое, по масштабу равновеликие Большому взрыву. Из статистических соображений вероятность их меньше чем 1 % в ближайший миллиард лет, как показали Бостром и Тегмарк [Bostrom, Tegmark 2005]. Однако истинность рассуждений Бострома и Тегмарка зависит от истинности их базовой посылки – а именно о том, что разумная жизнь в нашей Вселенной могла бы возникнуть и несколько миллиардов лет назад. Посылка эта базируется на том, что тяжёлые элементы, необходимые для существования жизни, возникли уже через несколько миллиардов лет после возникновения Вселенной, задолго до формирования Земли. Очевидно, однако, что степень достоверности, которую мы можем приписать этой посылке, меньше, чем 100 миллиардов к 1, поскольку у нас нет прямых её доказательств – а именно следов ранних цивилизаций. Более того, явное отсутствие более ранних цивилизаций (парадокс Ферми) придаёт определённую достоверность противоположной посылке – а именно, что человечество возникло исключительно, крайне маловероятно рано по отношению к большинству других возможных цивилизаций. Возможно, что существование тяжелых элементов – не единственное необходимое условие для возникновения разумной жизни, и есть и другие условия, например, что частота вспышек близких квазаров и гиперновых значительно уменьшилась (а плотность этих объектов действительно убывает по мере расширения Вселенной и исчерпания водородных облаков). Бостром и Тегмарк пишут: «Можно подумать, что раз жизнь здесь, на Земле, выжила в течение примерно 4 Гигалет, такие катастрофические события должны быть исключительно редкими. К сожалению, этот аргумент несовершенен, и создаваемое им чувство безопасности – фальшиво. Он не принимает во внимание эффект наблюдательной селекции, который не позволяет любому наблюдателю наблюдать что-нибудь ещё, кроме того, что его вид дожил до момента, когда они сделали наблюдение. Даже если бы частота космических катастроф была бы очень велика, мы по-прежнему должны ожидать обнаружить себя на планете, которая ещё не уничтожена. Тот факт, что мы всё ещё живы, не может даже исключить гипотезу, что в среднем космическое пространство вокруг стерилизуется распадом вакуума, скажем, каждые 10 000 лет, и что наша собственная планета просто была чрезвычайно удачливой до сих пор. Если бы эта гипотеза была верна, перспективы будущего были бы унылы». И хотя далее Бостром и Тегмарк отвергают предположение о высокой частоте «стерилизующих катастроф», основываясь на позднем времени существования Земли, мы не можем принять этот их вывод, поскольку, как мы говорили выше, посылка, на которой он основан, ненадёжна. Это не означает, однако, неизбежность близкого вымирания в результате вселенской катастрофы. Единственный наш источник знаний о возможных вселенских катастрофах – теоретическая физика, поскольку, по определению, такой катастрофы ни разу не случалось за время жизни Вселенной (за исключением самого Большого Взрыва). Теоретическая физика порождает огромное количество непроверенных гипотез, а в случае вселенских катастроф они могут быть и принципиально непроверяемыми. Отметим также, что исходя из сегодняшнего понимания, мы никаким образом не можем ни предотвратить вселенскую катастрофу, ни защитится от неё (хотя, может быть, можем ее спровоцировать – см. раздел об опасных физических экспериментах.) Обозначим теперь список возможных – с точки зрения некоторых теоретиков – вселенских катастроф:
1. Распад фальшивого вакуума. Проблемы фальшивого вакуума мы уже обсуждали в связи с физическими экспериментами.
2. Столкновение с объектом в многомерном пространстве – браной. Есть предположения, что наша Вселенная – это только объект в многомерном пространстве, называемый браной  (от слова «мембрана»). Большой взрыв – это результат столкновения нашей браны с другой браной. Если произойдёт ещё одно столкновение, то оно разрушит сразу весь наш мир.
3. Большой Разрыв. Недавно открытая тёмная энергия приводит, как считается, ко всё более ускоренному расширению Вселенной. Если скорость расширения будет расти, то когда-нибудь это разорвёт Солнечную систему. Но будет это через десятки миллиардов лет по современным теориям [Caldwell et al 2003].
4. Переход остаточной тёмной энергии в материю. Недавно было высказано предположение, что эта тёмная энергия может внезапно перейти в обычную материю, как это уже было во времена Большого взрыва .
5. Другие классические сценарии гибели Вселенной – это тепловая смерть, связанная с ростом энтропии и выравниваем температуры во Вселенной и сжатие Вселенной благодаря гравитационным силам. Но они опять же отстоят от нас на десятки миллиардов лет.
6. Можно предположить существование некого физического процесса, который делает Вселенную непригодной для обитания после некоторого момента времени (как ее делало непригодной для обитания интенсивное излучение ядер галактик – квазаров в первые миллиарды лет существования). Например, таким процессом может быть испарение первородных чёрных дыр за счёт хокинговского излучения. Если это так, мы существуем в узком промежутке времени, когда Вселенная обитаема – точно также, как Земля находится в узком пространстве обитаемой зоны вокруг Солнца, а Солнце – в узкой области галактики, где частота его вращения синхронизирована с вращением ветвей галактики, благодаря чему оно не попадает внутрь этих ветвей и не подвергается воздействию сверхновых.
7. Если наш мир некоторым образом возник из ничего совершенно неведомым нам образом, то что ему мешает также внезапно исчезнуть?
12.2 Геологические катастрофы
Геологические катастрофы убивают в миллионы раз больше людей, чем падения астероидов, однако они, исходя из современных представлений, ограничены по масштабам. Всё же это заставляет предположить, что глобальные риски, связанные с процессами внутри Земли, превосходят космические риски. Возможно, что есть механизмы выделения энергии и ядовитых газов из недр Земли, с которыми мы просто не сталкивались в силу эффекта наблюдательной селекции.
12.3 Извержения сверхвулканов
Вероятность извержения сверхвулкана соразмерной интенсивности значительно больше, чем вероятность падения астероида. Однако предотвратить и даже предсказать это событие современная наука не в силах. (В будущем, возможно, удастся постепенно стравливать давление из магматических камер, но это само по себе опасно, так как потребует сверления их кровель.) Основная поражающая сила сверхизвержения – вулканическая зима. Она короче ядерной, так как частицы вулканического пепла тяжелее, но их может быть значительно больше. В этом случае вулканическая зима может привести к новому устойчивому состоянию – новому ледниковому периоду.
Крупное извержение сопровождается выбросом ядовитых газов – в том числе соединений серы. При очень плохом сценарии это может дать значительное отравление атмосферы. Это отравление не только сделает её малопригодной для дыхания, но и приведёт к повсеместным кислотным дождям, которые сожгут растительность и лишат людей урожаев. Возможны также большие выбросы диоксида углерода и водорода.
Наконец, сама вулканическая пыль опасна для дыхания, так как засоряет лёгкие. Люди легко смогут обеспечить себя противогазами и марлевыми повязками, но не факт, что их хватит для скота и домашних животных. Кроме того, вулканическая пыль попросту засыпает огромные поверхности, а также пирокластические потоки могут распространяться на значительные расстояния. Наконец, взрывы сверхвулканов порождают цунами.
Всё это означает, что люди, скорее всего, переживут извержение сверхвулкана, но оно со значительной вероятностью отправит человечество на одну из постапокалиптических стадий. Однажды человечество оказалось на грани вымирания из-за вулканической зимы, вызванной извержением вулкана Тоба 74 000 лет назад. Однако современные технологии хранения пищи и строительства бункеров позволяют значительной группе людей пережить вулканическую зиму такого масштаба.
В древности имели место колоссальные площадные извержения вулканов, которые затопили миллионы квадратных километров расплавленной лавой – в Индии на плато Декан во времена вымирания динозавров (возможно, извержение было спровоцировано падением астероида с противоположной стороны Земли, в Мексике), а также на Восточно-Сибирской платформе. Есть сомнительное предположение, что усиление процессов водородной дегазации на русской равнине является предвестником появления нового магматического очага . Также есть сомнительное предположение о возможности катастрофического растрескивания земной коры по линиям океанических разломов и мощных взрывов пара под корой .
Интересным остаётся вопрос о том, увеличивается ли общая теплота внутри Земли за счёт распада радиоактивных элементов, или наоборот, убывает за счёт охлаждения теплоотдачей. Если увеличивается, то вулканическая активность должна возрастать на протяжении сотен миллионов лет. (А. Азимов пишет в книге «Выбор катастроф» [Азимов 1981], в связи с ледниковыми периодами: «По вулканическому пеплу в океанских отложениях можно заключить, что вулканическая деятельность в последние 2 миллиона лет была примерно в четыре раза интенсивнее, чем за предыдущие 18 миллионов лет».)
12.4 Падение астероидов
Падение астероидов и комет часто рассматривается как одна из возможных причин вымирания человечества. И хотя такие столкновения вполне возможны, шансы тотального вымирания в результате них, вероятно, преувеличиваются. См. статьи Пустынского «Последствия падения на Землю крупных астероидов» [Пустынский 1999] и Вишневского «Импактные события и вымирания организмов» [Вишневский б.д.]. В последней статье делается вывод, что «астероид диаметром около 60 км может стать причиной гибели всех высокоорганизованных форм жизни на Земле». Однако такого размера астероиды падают на Землю крайне редко, раз в миллиарды лет. (Упавший астероид, одновременный вымиранию динозавров, имел только 10 км в диаметре, то есть был примерно в 200 раз меньше по объёму, и большая часть биосферы благополучно пережила это событие.)
Падение астероида Апофис, которое могло бы произойти в 2029 году (сейчас вероятность оценивается тысячными долями процента), никак не может погубить человечество. Размер астероида – около 400 метров, энергия взрыва – порядка 800 мегатонн, вероятное место падения – Тихий океан и Мексика. Тем не менее, астероид вызвал бы цунами, равносильное индонезийскому 2004 года (только 1 процент энергии землетрясения переходит в цунами, а энергия землетрясения тогда оценивается в 30 гигатонн) по всему Тихому океану, что привело бы к значительным жертвам, но вряд ли бы отбросило человечество на постапокалиптическую стадию.
2,2 миллиона лет назад комета диаметром 0,5-2 км (а значит, со значительно большей энергией) упала между южной Америкой и Антарктидой (Элтанинская катастрофа ). Волна в 1 км высотой выбрасывала китов в Анды. Тем не менее, предки современных людей, жившие в Африке, не пострадали. В окрестностях Земли нет астероидов с размерами, которые могли бы уничтожить всех людей и всю биосферу. Однако кометы такого размера могут приходить из облака Оорта. В статье Нейпьера и др. «Кометы с низкой отражающей способностью и риск космических столкновений» [Napier et al 2004] показывается, что число опасных комет может существенно недооцениваться, так как наблюдаемое количество комет в 1000 раз меньше ожидаемого – это связано с тем, что кометы после нескольких пролётов вокруг Солнца покрываются тёмной коркой, перестают отражать свет и становятся незаметными. Такие тёмные кометы необнаружимы современными средствами. Кроме того, выделение комет из облака Оорта зависит от приливных сил, создаваемых Галактикой на Солнечную систему. Эти приливные силы возрастают, когда Солнце проходит через более плотные области Галактики, а именно, через спиральные рукава и галактическую плоскость. И как раз сейчас мы проходим через галактическую плоскость, что означает, что в нынешнюю эпоху кометная бомбардировка в 10 раз сильнее, чем в среднем за историю Земли. Нейпьер связывает предыдущие эпохи интенсивных кометных бомбардировок с массовыми вымираниями 65 и 251 млн. лет назад.
Международная группа Holocene Impact Working Group (группа исследований импактов в период Голоцена) собрала свидетельства о трёх столкновениях Земли с кометами километрового размера за последние 5000 лет. В то же время прежние оценки частоты таких столкновений говорят о том, что такие столкновения должны были иметь место только раз 500 000 лет. Это означает, как подчёркивает Нейпьер [Napier 2008], что мы живём в период эпизода бомбардировки, связанного с распадом крупной кометы, пришедшей из облака Оорта, и нынешняя частота бомбардировки примерно в 200 раз выше нормальной. Обломками этой кометы являются метеоритный поток Тауриды, комета Энке и Тунгусский метеорит. Однако неизвестно, какое число тёмных объектов скрывается в этих потоках.
Основным поражающим фактором при падении астероида стала бы не только волнацунами, но и «астероидная зима», связанная с выбросом частиц пыли в атмосферу. Падение крупного астероида может вызвать деформации в земной коре, которые приведут к извержениям вулканов. Кроме того, крупный астероид вызовет всемирное землетрясение, опасное в первую очередь для техногенной цивилизации.
Более опасен сценарий интенсивной бомбардировки Земли множеством осколков. Тогда удар будет распределяться более равномерно и потребует меньшего количества материала. Эти осколки могут возникнуть в результате распада некого космического тела (см. далее об угрозе взрыва Каллисто), расщепления кометы на поток обломков (Тунгусский метеорит был, возможно, осколком кометы Энке), в результате попадания астероида в Луну или в качестве вторичного поражающего фактора от столкновения Земли с крупным космическим телом. Многие кометы уже состоят из групп обломков, а также могут разваливаться в атмосфере на тысячи кусков. Это может произойти и в результате неудачной попытки сбить астероид с помощью атомного оружия.
Падение астероидов может провоцировать извержение сверхвулканов, если астероид попадёт в тонкий участок земной коры или в крышку магматического котла вулкана, или если сдвиг пород от удара растревожит отдалённые вулканы. Расплавленные железные породы, образовавшиеся при падении железного астероида, могут сыграть роль «зонда Стивенсона» – если он вообще возможен, – то есть проплавить земную кору и мантию, образовав канал в недра Земли, что чревато колоссальной вулканической активностью. Хотя обычно этого не происходило при падении астероидов на Землю, лунные «моря» могли возникнуть именно таким образом. Кроме того, излияния магматических пород могли скрыть кратеры от таких астероидов. Такими излияниями являются Сибирские трапповые базальты и плато Декан в Индии. Последнее одновременно двум крупным импактам (Чиксулуб и кратер Шивы). Можно предположить, что ударные волны от этих импактов, или третье космическое тело, кратер от которого не сохранился, спровоцировали это извержение. Не удивительно, что несколько крупных импактов происходят одновременно. Например, ядрам комет свойственно состоять из нескольких отдельных фрагментов – например, комета Шумейкера-Леви, врезавшаяся в Юпитер в 1994 году, оставила на нём пунктирный след, так как к моменту столкновения уже распалась на фрагменты. Кроме того, могут быть периоды интенсивного образования комет, когда Солнечная система проходит рядом с другой звездой. Или в результате столкновения астероидов в поясе астероидов .
Гораздо опаснее воздушные взрывы метеоритов в несколько десятков метров диаметром, которые могут вызвать ложные срабатывания систем предупреждения о ядерном нападении, или попадания таких метеоритов в районы базирования ракет.
Пустынский в своей статье приходит к следующим выводам, с которыми я полностью солидарен: «Согласно оценкам, сделанным в настоящей статье, предсказание столкновения с астероидом до сих пор не гарантировано и является делом случая. Нельзя исключить, что столкновение произойдёт совершенно неожиданно. При этом для предотвращения столкновения необходимо иметь запас времени порядка 10 лет. Обнаружение астероида за несколько месяцев до столкновения позволило бы эвакуировать население и ядерно-опасные предприятия в зоне падения. Столкновение с астероидами малого размера (до 1 км диаметром) не приведёт к сколько-нибудь заметным общепланетным последствиям (исключая, конечно, практически невероятное прямое попадание в район скопления ядерных материалов). Столкновение с более крупными астероидами (примерно от 1 до 10 км диаметром, в зависимости от скорости столкновения) сопровождается мощнейшим взрывом, полным разрушением упавшего тела и выбросом в атмосферу до нескольких тысяч куб. км. породы. По своим последствиям это явление сравнимо с наиболее крупными катастрофами земного происхождения, такими как взрывные извержения вулканов. Разрушение в зоне падения будут тотальными, а климат планеты скачкообразно изменится и придёт в норму лишь через несколько лет (но не десятилетий и столетий!) Преувеличенность угрозы глобальной катастрофы подтверждается тем фактом, что за свою историю Земля перенесла множество столкновений с подобными астероидами, и это не оставило доказано заметного следа в её биосфере (во всяком случае, далеко не всегда оставляло). Лишь столкновение с более крупными космическими телами (диаметром более ~15-20 км) может оказать более заметное влияние на биосферу планеты. Такие столкновения происходят реже, чем раз в 100 млн. лет, и у нас пока нет методик, позволяющих даже приблизительно рассчитать их последствия» [Пустынский 1993].
Итак, вероятность гибели человечества в результате падения астероида в XXI веке крайне мала. Однако вероятность падения тела километрового диаметра, которое может серьёзно подорвать нашу цивилизацию, составляет около 6%, если принять тот факт, что мы живём в период интенсивной бомбардировки (если принять частоты: три события за 5000 лет). По мере развития нашей цивилизации мы можем неограниченно эту вероятность уменьшать. Однако крупные катастрофы возможны. Есть некоторый шанс засорения космического пространства крупными осколками в результате космической войны в будущем.
Кроме того, разрушение комет может вызвать интенсивное запыление верхних слоёв земной атмосферы даже без крупных импактов, как подчёркивает Нейпьер.
12.5 Зона поражения в зависимости от силы взрыва
Здесь мы рассмотрим поражающее действие взрыва в результате падения астероида (или по любой другой причине). Подробный анализ с аналогичными выводами см. в статье Пустныского.
Зона поражения растёт очень медленно с ростом силы взрыва, что верно как для астероидов, так и для сверхмощных атомных бомб. Хотя энергия воздействия падает пропорционально квадрату расстояния от эпицентра, при гигантском взрыве она падает гораздо быстрее, во-первых, из-за кривизны Земли, которая как бы защищает то, что находится за горизонтом (поэтому атомные взрывы наиболее эффективны в воздухе, а не на земле), а во-вторых, из-за того, что способность материи упруго передавать ударную волну ограничена неким пределом сверху, и вся энергия сверх того не передаётся, а превращается в тепло в районе эпицентра. Например, в океане не может возникнуть волна выше его глубины, а поскольку эпицентр взрыва точечный (в отличие от эпицентра обычного цунами, который представляет собой линию разлома), она затем будет убывать линейно в зависимости от расстояния. Избыточное тепло, образовавшееся при взрыве, или излучается в космос, или остаётся в виде озера расплавленного вещества в эпицентре. Солнце доставляет за сутки на Землю световую энергию порядка 1000 гигатонн (10  джоулей), поэтому роль теплового вклада сверхвзрыва в общую температуру Земли невелика. (С другой стороны, механизмом распространения тепла от взрыва будет скорее не движение потоков раскалённого воздуха, а выброшенные взрывом кубические километры осколков с массой, сопоставимой с массой самого астероида, но меньшей энергии, многие из которых будут иметь скорость, близкую к первой космической, и в силу этого лететь по баллистическим траекториям, как летят межконтинентальные ракеты. За час они достигнут всех уголков Земли, и хотя они, действуя как кинетическое оружие, поразят не каждую точку на поверхности, они выделят при своём входе в атмосферу огромные количества энергии, то есть прогреют атмосферу по всей площади Земли, возможно, до температуры возгорания дерева, что ещё более усугубит процесс.)
Мы можем ориентировочно считать, что зона разрушения растёт пропорционально корню 4 степени от силы взрыва (точные значения определяются военными эмпирически в результате испытаний и лежат между степенями 0,33 и 0,25, при этом зависят от сила взрыва, высоты, и т. д.). При этом каждая тонна массы метеорита даёт примерно 100 тонн тротилового эквивалента энергии – в зависимости от скорости столкновения, которая обычно составляет несколько десятков километров в секунду. (В этом случае каменный астероид в 1 куб. км. размером даст энергию в 300 Гигатонн. Плотность комет значительно меньше, но они могут рассыпаться в воздухе, усиливая удар, и, кроме того, движутся по крутым орбитам с гораздо большими скоростями.) Принимая, что радиус сплошного поражения от водородной бомбы в 1 мегатонну составляет 10 км, мы можем получить радиусы поражения для астероидов разных размеров, считая, что радиус поражения убывает пропорционально четвёртой степени сила взрыва. Например, для астероида в 1 куб. км это будет радиус в 230 км. Для астероида диаметром в 10 км это будет радиус в 1300 км. Для 100 км астероида это будет радиус поражения порядка 7000 км. Для того, чтобы этот радиус гарантированного поражения стал больше, чем половина широты Земли (20 000 км), то есть гарантированно покрывал всю Землю, астероид должен иметь размеры порядка 400 км. (Если считать, что радиус поражения растёт как корень третьей степени, то это будет диаметр уничтожающего всё астероида около 30 км. Реальное значение лежит между этими двумя цифрами (30-400 км), сюда же попадает и оценка Пустынского, выполненная им независимо: 60 км.)
Хотя данные вычисления крайне приблизительны, из них видно, что даже тот астероид, который связывают с вымиранием динозавров, вовсе не поразил всю территорию Земли, и даже не весь континент, где он упал. А вымирание, если и было связано с астероидом (сейчас считается, что там сложная структура причин), то было вызвано не самим ударом, а последующим эффектом – «астероидной зимой», связанной с переносом пыли атмосферой. Также столкновение с астероидом может вызывать электромагнитный импульс, как у атомной бомбы, за счёт быстрого движения плазмы. Кроме того, интересно задаться вопросом, не могут ли возникнуть термоядерные реакции при столкновении с кометой, если её скорость будет близка к максимально возможной около 100 км/сек (комета на встречном курсе, наихудший случай), так как в точке удара может возникнуть температура в миллионы градусов и огромное давление, как при имплозии в ядерной бомбе. И даже если вклад этих реакций в энергию взрыва будет мал, он может дать радиоактивное загрязнение.
Сильный взрыв создаст сильное химическое загрязнение всей атмосферы, хотя бы окислами азота, которые будут образовывать дожди из азотной кислоты. И сильный взрыв засорит атмосферу пылью, что создаст условия для ядерной зимы.
Из сказанного следует, что атомная сверхбомба была бы страшна не силой своего взрыва, а количеством радиоактивных осадков, которые бы она произвела. Кроме того, видно, что земная атмосфера выступает в качестве мощнейшего фактора распространения воздействий.
12.6 Солнечные вспышки и увеличение светимости
То, что нам известно о Солнце, не даёт оснований для беспокойства. Солнце не может взорваться. Только наличие неизвестных нам или крайне маловероятных процессов может привести к вспышке (коронарному выбросу), которая сильно опалит Землю в XXI веке. Но у других звёзд бывают вспышки, в миллионы раз превосходящие солнечные. Однако изменение светимости Солнца оказывает влияние на изменение климата Земли, что доказывает совпадение времени малого ледникового периода в XVII веке с минимумом солнечных пятен Маундера . Возможно, с колебаниями светимости связаны и ледниковые периоды.
Процесс постепенного увеличения светимости Солнца (на 10 процентов каждые миллиард лет ) приведёт к выкипанию океанов – с учётом других факторов потепления –в течение 1 млрд. лет  (то есть гораздо раньше, чем Солнце станет красным гигантом и, тем более, белым карликом). Однако по сравнению с исследуемым нами промежутком в 100 лет этот процесс незначителен (если только он не сложился вместе с другими процессами, ведущими к необратимому глобальному потеплению – см. далее).
Есть предположения, что по мере выгорания водорода в центральной части Солнца, что уже происходит, будет расти не только светимость Солнца (светимость растёт за счёт роста его размеров, а не температуры поверхности), но и нестабильность его горения. Возможно, что последние ледниковые периоды связаны с этим уменьшением стабильности горения. Это понятно на следующей метафоре: когда в костре много дров, он горит ярко и устойчиво, но когда большая часть дров прогорает, он начинает то немного гаснуть, то ярко вспыхивать снова, когда находит несгоревшую ветку.
Уменьшение концентрации водорода в центре Солнца может спровоцировать такой процесс как конвекцию, которая обычно в ядре Солнца не происходит, в результате чего в ядро поступит свежий водород [Шкловский 1984]. Возможен ли такой процесс, будет ли он плавным или катастрофическим, займёт ли годы или миллионы лет, трудно сказать. Шкловский предполагал, что в результате конвекций температура Солнца падает каждые 200 млн. лет на период порядка 10 млн., и что мы живём в середине такого периода. То есть опасно завершение этого процесса, когда свежее топливо наконец поступит в ядро и светимость Солнца возрастёт. (Однако это маргинальная теория, и в настоящий момент разрешена одна из основных проблем, которая её породила – проблема солнечных нейтрино.)
Важно, однако, подчеркнуть, что как сверхновая или новая Солнце, исходя из наших физических представлений, вспыхнуть не может.
Вместе с тем, чтобы прервать разумную жизнь на Земле, Солнцу достаточно разогреться на 10 процентов за 100 лет (что повысило бы температуру на Земле на 10-20 градусов без парникового эффекта, но с учётом парникового эффекта, скорее всего, оказалось бы выше критического порога необратимого потепления). Такие медленные и редкие изменения температуры звёзд солнечного типа было бы трудно заметить астрономическими методами при наблюдении солнцеподобных звёзд – поскольку только недавно достигнута необходимая точность оборудования. (Кроме того, возможен логический парадокс следующего вида: солнцеподобные звёзды – это стабильные звёзды спектрального класса G7 по определению. Не удивительно, что в результате их наблюдения мы обнаруживаем, что эти звёзды стабильны.)
Итак, один из вариантов глобальной катастрофы состоит в том, что в результате неких внутренних процессов светимость Солнца устойчиво возрастёт на опасную величину (и мы знаем, что рано или поздно это произойдёт). В настоящий момент Солнце находится на восходящем вековом тренде своей активности, но никаких особых аномалий в его поведении замечено не было. Вероятность того, что это случится именно в XXI веке, – ничтожно мала.
Второй вариант глобальной катастрофы, связанной с Солнцем, состоит в том, что сложатся два маловероятных события – на Солнце произойдёт очень крупная вспышка и выброс этой вспышки будет направлен на Землю. В отношении распределения вероятности такого события можно предположить, что здесь действует тот же эмпирический закон, что и относительно землетрясений и вулканов: 20-кратный рост энергии события приводит к 10-кратному снижению его вероятности (закон повторяемости Гутенберга–Рихтера). В XIX веке наблюдалась вспышка в 5 раз более сильная, по современным оценкам, чем самая сильная вспышка в XX веке. Возможно, что раз в десятки и сотни тысяч лет на Солнце происходят вспышки, аналогичные по редкости и масштабности земным извержениям супервулканов. Всё же это крайне редкие события. Крупные солнечные вспышки, даже если они не будут направлены на Землю, могут несколько увеличить солнечную светимость и привести к дополнительному нагреву Земли. (Обычные вспышки дают вклад не более 0,1 процента.) Верхний предел энергии Солнечной вспышки, как показывает Арнон Дар [Dar 2008], составляет одну треть от энергии, ежесекундно излучаемой Солнцем, и ограничен полной энергией магнитного поля Солнца.
В настоящий момент человечество неспособно как-либо повлиять на процессы на Солнце. Идеи сброса водородных бомб на Солнце для инициирования термоядерной реакции выглядят неубедительно (однако такие идеи высказывались, что говорит о неутомимых поисках человеческим умом оружия судного дня).
Есть довольно точно просчитанный сценарий воздействия на Землю магнитной составляющей солнечной вспышки. При наихудшем сценарии (что зависит от силы магнитного импульса и его ориентации – он должен быть противоположен земному магнитному полю), эта вспышка создаст сильнейшие наводки в электрических цепях линий дальней передачи электроэнергии, что приведёт к выгоранию трансформаторов на подстанциях. В нормальных условиях обновление трансформаторов занимает 20-30 лет, и если все они сгорят, то заменить их будет нечем, поскольку потребуются многие годы на производство аналогичного количества трансформаторов, что будет трудно организовать без электричества. Такая ситуация вряд ли приведёт к человеческому вымиранию, но чревата мировым глобальным экономическим кризисом и войнами, что может запустить цепь дальнейшего ухудшения. Вероятность такого сценария трудно оценить, так как мы обладаем электрическими сетями только примерно сто лет.
12.7 Гамма-всплески
Гамма-всплески – это интенсивные короткие потоки гамма-излучения, приходящие из далёкого космоса. Гамма-всплески, по-видимому, излучаются в виде узких пучков, и поэтому их энергия более концентрированная, чем при обычных взрывах звёзд. Возможно, сильные гамма-всплески от близких источников послужили причинами нескольких вымираний десятки и сотни миллионов лет назад . Предполагается, что гамма-всплески происходят при столкновениях чёрных дыр и нейтронных звёзд или коллапсах массивных звёзд. Близкие гамма-всплески могли бы вызывать разрушение озонового слоя и даже ионизацию атмосферы. Однако в ближайшем окружении Земли не видно подходящих кандидатов ни на источники гамма-всплесков, ни на сверхновые (ближайший кандидат в источник гамма-всплеска, звезда Эта Киля – достаточно далеко – порядка 7000 световых лет и вряд ли ось её неизбежного в будущем взрыва будет направлена на Землю – гамма-всплески распространяются в виде узконаправленных пучков-джетов; однако у потенциальной гиперновой звезды WR 104, находящейся на почти таком же расстоянии, ось направлена почти в сторону Земли . Эта звезда взорвётся в течение ближайших нескольких сотен тысяч лет, что означает шанс катастрофы с ней в XXI веке менее 0,1 %, а с учётом неопределенности её параметров вращения и наших знаний о гамма-всплесках – и ещё меньше ). Поэтому, даже с учётом эффекта наблюдательной селекции, который увеличивает частоту катастроф в будущем по сравнению с прошлым в некоторых случаях до 10 раз (см. мою статью «Природные катастрофы и антропный принцип») вероятность опасного гамма-всплеска в XXI веке не превышает тысячных долей процента. Тем более люди смогут пережить даже серьёзный гамма-всплеск в различных бункерах. Оценивая риск гамма-всплексов, Борис Штерн пишет: «Возьмем умеренный случай энерговыделения 10 эрг и расстояние до всплеска 3 парсека, 10 световых лет, или 10  см — в таких пределах от нас находится с десяток звезд. На таком расстоянии за считанные секунды на каждом квадратном сантиметре попавшейся на пути гамма-квантов планеты выделится 10  эрг. Это эквивалентно взрыву атомной бомбы на каждом гектаре неба! Атмосфера не помогает: хоть энергия высветится в ее верхних слоях, значительная часть мгновенно дойдет до поверхности в виде света. Ясно, что все живое на половине планеты будет истреблено мгновенно, на второй половине чуть позже за счет вторичных эффектов. Даже если мы возьмем в 100 раз большее расстояние (это уже толщина галактического диска и сотни тысяч звезд), эффект (по атомной бомбе на квадрат со стороной 10 км) будет тяжелейшим ударом, и тут уже надо серьезно оценивать — что выживет и выживет ли вообще что-нибудь». Штерн полагает, что гамма-всплеск в Нашей галактике случается в среднем раз в миллион лет. Гамма-всплеск такой звезды, как WR 104, может вызвать интенсивное разрушение озонового слоя на половине планеты. Возможно, гамма-всплеск стал причиной Ордовикового вымирания 443 млн. лет назад, когда погибло 60 % видов живых существ (и значительно большая доля по числу особей, так как для выживания вида достаточно сохранения всего нескольких особей). По мнению Джона Скейло (John Scalo) и Крейга Уилера (Craig Wheeler), гамма-всплески оказывают существенное влияние на биосферу нашей планеты приблизительно каждые пять миллионов лет [Melott 2004].
Даже далёкий гамма-всплеск или иное высокоэнергетическое космическое событие может быть опасно радиационным поражением Земли – причём не только прямым излучением, которое атмосфера в значительной мере блокирует (но лавины частиц от высокоэнергетичных космических частиц достигают земной поверхности), но и за счёт образования в атмосфере радиоактивных атомов, что приведёт к сценарию, подобному описанному в связи с кобальтовой бомбой. Кроме того, гамма излучение вызывает окисление азота атмосферы, в результате чего образуется непрозрачный ядовитый газ – диоксид азота, который, образуясь в верхних слоях атмосферы, может блокировать солнечный свет и вызвать новый ледниковый период. Есть гипотеза, что нейтринное излучение, возникающее при взрывах сверхновых, может в некоторых случаях приводить к массовым вымираниям, так как нейтрино упруго рассеиваются тяжёлыми атомами с большей вероятностью, и энергия этого рассеяния достаточна для нарушения химических связей, а поэтому нейтрино чаще будут вызывать повреждения ДНК, чем другие виды радиации, имеющие гораздо большую энергию [Collar 1996].
Опасность гамма-всплеска состоит в его внезапности – он начинается без предупреждения из невидимых источников и распространяется со скоростью света. В любом случае, гамма-всплеск может поразить только одно полушарие Земли, так как длится только несколько секунд или минут.
Активизация ядра галактики (где находится огромная чёрная дыра) тоже очень маловероятное событие. В далёких молодых галактиках такие ядра активно поглощают вещество, которое закручивается при падении в аккреционный диск и интенсивно излучает. Это излучение очень мощное и может препятствовать возникновению жизни на планетах. Однако ядро нашей галактики очень велико и поэтому может поглощать звёзды почти сразу, не разрывая их на части, а значит, с меньшим излучением. Кроме того, оно вполне наблюдаемо в инфракрасных лучах (источник Стрелец А), но закрыто толстым слоем пыли в оптическом диапазоне, и рядом с чёрной дырой нет большого количества вещества, готового к поглощению ею, – только одна звезда на орбите с периодом в 5 лет, но и она может летать ещё очень долго. И главное, ядро очень далеко от Солнечной системы.
Кроме дальних гамма-всплесков, бывают мягкие гамма-всплески, связанные с катастрофическими процессами на особых нейтронных звёздах – магнитарах. 27 августа 1998 года вспышка на магнитаре привела к мгновенному снижению высоты ионосферы Земли на 30 км, однако этот магнитар был на расстоянии 20 000 световых лет. Магнитары в окрестностях Земли неизвестны, и обнаружить их может быть не просто.
Наша оценка вероятности опасных гамма-всплесков может быть (а может и не быть) серьёзно искажена действием эффекта наблюдательной селекции в духе антропного принципа; более того, здесь может сказаться эффект «отложенного спроса» – то есть те звезды, которые «отложили» (точнее, мы их наблюдаем такими в силу антропного принципа) свой гамма-всплеск, чтобы разумная жизнь на Земле могла сформироваться, теперь могут его осуществить. (Есть предположения, что жизнь во Вселенной крайне редка именно потому, что подавляющее большинство планет стерилизуется гамма-всплесками.) Подробнее см. мою статью «Природные катастрофы и антропный принцип» [Турчин 2007b].
12.8 Сверхновые звёзды
Реальную опасность для Земли представлял бы близкий взрыв сверхновой на расстоянии до 25 световых лет или даже меньше . Но в окрестностях Солнца нет звёзд, которые могли бы стать опасными сверхновыми. (Ближайшие кандидаты – Мира и Бетельгейзе – находятся на расстоянии сотен световых лет.) Кроме того, излучение сверхновой является относительно медленным процессом (длится месяцы), и люди могут успеть спрятаться в бункеры. Наконец, только если опасная сверхновая будет строго в экваториальной плоскости Земли (что маловероятно), она сможет облучить всю земную поверхность, в противном случае один из полюсов уцелеет. См. обзор Майкла Ричмонда «Угрожает ли близкая сверхновая жизни на Земле?»  Относительно близкие сверхновые могут быть источниками космических лучей, которые приведут к резкому увеличению облачности на Земле, что связано с увеличением числа центров конденсации воды. Это может привести к резкому охлаждению климата на длительный период.
12.9 Сверх-цунами
Древняя человеческая память в качестве самой страшной катастрофы доносит воспоминания о колоссальном наводнении. Однако на Земле нет такого количества воды, чтобы уровень океана поднялся выше гор. (Сообщения о недавнем открытии подземных океанов несколько преувеличены – в действительности речь идёт лишь о горных породах с повышенным содержанием воды – на уровне 1 процента .) Средняя глубина мирового океана – около 4 км. И предельная максимальная высота волны такого же порядка – если обсуждать саму возможность волны, а не то, возможны ли причины, которые создадут волну такой высоты. Это меньше, чем высота высокогорных плато в Гималаях, где тоже есть люди. Варианты, когда такая волна возможна – это гигантская приливная волна, возникшая, если бы рядом с Землёй пролетало очень массивное тело, или если ось вращения Земли сместилась бы или изменилась скорость вращения . Все эти варианты, хотя и встречаются в разных «страшилках» о конце света, выглядят невозможными или маловероятными.
Итак, очень маловероятно, что гигантское цунами уничтожит всех людей – тем более что уцелеют подводные лодки, многие корабли и самолёты. Однако гигантское цунами может уничтожить значительную часть населения Земли, переведя человечество в постапокалиптическую стадию, по ряду причин:
1. Энергия цунами, как поверхностной волны, убывает пропорционально 1/R, если цунами вызвано точечным источником, и почти не убывает, если источник линейный (как при землетрясении на разломе).
2. Потери на передачу энергии волной малы.
3. Значительная доля населения Земли и огромная доля её научного, промышленного и сельскохозяйственного потенциала находится непосредственно на побережье.
4. Все океаны и моря связаны.
5. Идея использовать цунами как оружие уже возникала в СССР в связи с идеей создания гигатонных бомб.
Плюсом здесь является то, что наиболее опасные цунами порождаются линейными природными источниками – движениями геологических разломов, а наиболее доступные для искусственного создания источники цунами – точечные: взрывы бомб, падения астероидов, обвалы. Волны от точных источников быстро убывают.
12.10 Сверхземлетрясение
Назовём сверхземлетрясением колебания поверхности, приводящие к полным разрушениям и охватывающим всю поверхность Земли. Такое событие не могло бы убить всех людей, так как остались бы корабли, самолёты, и люди на открытых пространствах. Но оно однозначно бы разрушило всю техногенную цивилизацию. Источником такого сверхземлетрясения могут стать:
• взрыв супервулкана;
• падение астероида (ов);
• взрыв сверхбомбы;
• растрескивание Земли по линии океанических хребтов;
• неизвестные процессы в ядре Земли.
При равной энергии, сверхземлетрясение будет менее опасно, чем сверх-цунами, так как его энергия будет распределена по всему объёму Земли. Выдвигалось маргинальное предположение, что при землетрясениях могут возникать не только сдвиговые деформации, но и сверхзвуковые ударные волны.
12.11 Переполюсовка магнитного поля Земли
Мы живём в период ослабления и вероятно последующей переполюсовки магнитного поля Земли. Сама по себе инверсия магнитного поля не приведёт к вымиранию людей, так как переполюсовка уже многократно происходила в прошлом без заметного вреда. В середине процесса переполюсовки магнитное поле может на короткий срок упасть до нуля или полюса могут стать ориентированы на Солнце, когда окажутся на экваторе, что приведёт к интенсивному засасыванию заряженных частиц внутрь атмосферы Земли . Однако одновременное сочетание трёх факторов – падения до нуля магнитного поля Земли, истощение озонового слоя и сильной солнечной вспышки, чей коронарный выброс будет направлен в сторону Земли может привести интенсивному радиационному поражению Земли и гибели всего живого [Савин 2007]. Либо — к краху всех электрических систем, что чревато падением технологической цивилизации. И даже не сам этот крах страшен, а то, что будет в его процессе с ядерным оружием и всеми прочими технологиями. Всё же магнитное поле убывает достаточно медленно (хотя скорость процесса нарастает), так что вряд ли оно обнулится в ближайшие несколько десятков лет. Другой катастрофический сценарий – изменение магнитного поля связано с изменениями потоков магмы в ядре, что как-то может аукнуться на глобальной вулканической активности (есть данные по корреляции периодов активности и периодов смены полюсов). Третий риск – возможное неправильное понимание причин существования магнитного поля Земли.
Есть гипотеза, что рост твёрдого ядра Земли сделал магнитное поле Земли менее стабильным, и оно подвергается переполюсовкам всё чаще , что согласуется с гипотезой об ослаблении защиты, которую нам «давал» антропный принцип.
12.12 Возникновение новой болезни в природе
Крайне маловероятно, что появится одна болезнь, способная сразу уничтожить всех людей. (С другой стороны, этот вывод тоже может быть подвержен искажению со стороны наблюдательной селекции, и по крайней мере некоторые виды в природе целиком вымерли из-за естественных болезней, например один из видов морских обитателей и один из видов бананов.) Даже в случае мутации птичьего гриппа или бубонной чумы будут выжившие и не заболевшие. Однако поскольку число людей растёт, то растёт и число «природных реакторов», в которых может культивироваться новый вирус. Поэтому нельзя исключить шансы крупной пандемии в духе гриппа «испанки» в 1918 году. Хотя такая пандемия не сможет убить всех людей, она может серьёзно повредить уровень развития общества, опустив его на одну из постапокалиптических стадий. Такое событие может случиться только до того, как созреют мощные биотехнологии, так как они смогут создавать достаточно быстро лекарства против заболевания – и одновременно затмят риски естественных болезней возможностью с гораздо большей скоростью создавать искусственные. Естественная пандемия возможна и на одной из постапокалиптических стадий, например, после ядерной войны, хотя и в этом случае риски применения биологического оружия будут преобладать. Чтобы естественная пандемия стала действительно опасной для всех людей, должно возникнуть одновременно множество принципиально разных смертельных возбудителей – что естественным путём маловероятно. Есть также шанс, что мощные эпизоотии – синдром коллапса колоний пчёл CCD , африканский грибок на пшенице (угандийская плесень UG99 ), птичий грипп и подобные – нарушат систему питания людей настолько, что это приведёт к мировому кризису, чреватому войнами и снижением уровня развития. Возникновение новой болезни нанесёт удар не только по численности населения, но и по связности, которая является важным фактором существования единой планетарной цивилизации. Рост населения и увеличение объёма одинаковых сельскохозяйственных культур увеличивают шансы на случайное возникновение опасного вируса, так как возрастает скорость «перебора». Отсюда следует, что существует определённый предел числа взаимосвязанного населения одного вида, после которого новые опасные болезни будут возникать каждый день. Из реально существующих болезней следует отметить две:
Птичий грипп. Как уже неоднократно говорилось, опасен не птичий грипп, а возможная мутация штамма H5N1 в вирус, способный передаваться от человека к человеку. Для этого, в частности, у него должны измениться прикрепляющие белки на поверхности, чтобы он прикреплялся не в глубине лёгких, а выше, где больше шансов попасть в капельки кашля. Возможно, что это относительно несложная мутация. Хотя есть разные мнения о том, способен ли H5N1 так мутировать, в истории уже есть прецеденты смертельных эпидемий гриппа. Наихудшей оценкой числа возможных жертв мутировавшего птичьего гриппа было 1500 млн. человек. И хотя это не означает полного вымирания человечества, это почти наверняка отправит мир на некую постапокалиптическую стадию. Чем большее число разных вирусов гриппа циркулирует в человеческой популяции, тем больше шансов на их рекомбинацию и возникновение новых вирусов, и эта зависимость носит факториальный характер. Кроме того, шансы возникновения нового вируса линейно пропорциональны размерам популяции. Важную рол играет существование таких природных биореакторов, как свиньи, в организме которых могут смешиваться птичьи и человеческие вирусы гриппа. Поголовье свиней за последние десятилетия значительно выросло, так как они являются важным источником пищи для развивающихся стран.
СПИД. Эта болезнь в современной форме не может привести к полному вымиранию человечества, хотя он уже отправил ряд стран Африки на постапокалиптическую стадию. Интересны рассуждения Супотинского о природе СПИДа  и о том, как эпидемии ретро-вирусов неоднократно прорежали популяции гоминидов. Он также предполагает, что у ВИЧ есть природный носитель, возможно, микроорганизм. Если бы СПИД стал распространяться, как простуда, участь человечества была бы печальна. Однако и сейчас СПИД почти на 100 % смертелен, и развивается достаточно медленно, чтобы успевать распространиться.
Можно отметить так же устойчивые к антибиотикам новые штаммы микроорганизмов, например, больничного золотистого стафилококка и лекарство- устойчивый туберкулёз. При этом процесс нарастания устойчивости различных микроорганизмов к антибиотикам развивается, и такие организмы всё больше распространяются, что может в какой-то момент дать кумулятивную волну из многих устойчивых болезней (на фоне ослабленного иммунитета людей). Конечно, можно рассчитывать, что биологические сверхтехнологии победят их, но если в появлении таких технологий произойдет некая задержка, то участь человечества не завидна. Воскрешение оспы, чумы и других прошлых болезней хотя и возможно, но по отдельности каждая из них не может уничтожить всех людей. По одной из гипотез, неандертальцы вымерли из-за разновидности коровьего бешенства, то есть болезни, вызываемой прионом (автокаталитической формой свёртки белка) и распространяемой посредством каннибализма, так что мы не можем исключать риск вымирания из-за естественной болезни и для людей.
Наконец, совершенно безответственной выглядит история о том, что вирус гриппа «испанки» был выделен из захоронений, расшифрован и его код был опубликован в Интернете . Затем по требованиям общественности код убрали из открытого доступа. Но потом ещё был случай, когда этот вирус по ошибке разослали по тысячам лабораторий в мире для тестирования оборудования.
12.13 Разрушение озонового слоя
Разрушение озонового слоя может произойти не в результате акта войны, а как непреднамеренное последствие деятельности человека (а именно, накопления галогенсодержащих соединений в верхних слоях атмосферы). При нынешнем уровне технологий это не должно привести к непосредственной гибели человечества. Ультрафиолетовые лучи не убивают человека сразу, но в первую очередь повышают уровень рака. Достаточно относительно простых зонтиков, чтобы защитить людей. Однако увеличение потока УФ может стать звеном в развитии ещё большей катастрофы, так как разрушение озона приведёт к гибели значительной части биосферы и в первую очередь планктона, который, в свою очередь, отвечает за значительную часть продукции атмосферного кислорода. Природные явления, такие как вспышки сверхновых и дегазация водорода из земной мантии также могут привести к разрушению озонового слоя. Впрочем, есть мнение, что роль озонового слоя преувеличена (так как он непрерывно будет вырабатываться под действием УФ лучей).
В статье «О возможной роли галогенсодержащих газов в изменении состояния атмосферы и природной среды в поздний пермский период» [Вайсфлог 2009] утверждается, что крупнейшее Пермь-Триасовое вымирание 250 млн. лет назад могло быть связано с деятельностью бактерий, живших в пересыхавших солёных озёрах и вырабатывавших галогенуглеводороды, способные разрушать озон и токсичные для растений, что приводило к дальнейшему опустыниванию и распространению солёных озёр.

Глава 13. Крайне маловероятные природные риски

Далее мы упомянем о глобальных рисках, связанных с природными событиями, вероятность которых в XXI веке крайне мала, и более того, сама возможность которых является необщепризнанной. Хотя я сам полагаю, что эти события можно не принимать в расчет, и они вообще невозможны, я думаю, что следует создать для них отдельную категорию в нашем досье о рисках, чтобы, из принципа предосторожности, сохранять определённую бдительность в отношении появления новой информации, могущей подтвердить эти предположения.
13.1 Неизвестные процессы в ядре Земли
Есть предположения, что источником земного тепла является естественный ядерный реактор на уране в несколько километров диаметром в центре планеты [Анисичкин 1998]. При определённых условиях, предполагает В. Анисичкин, например, при столкновении с крупной кометой, он может перейти в надкритическое состояние и вызвать взрыв планеты, что, возможно, и было причиной взрыва Фаэтона, из которого, возможно, сформировалась часть пояса астероидов. Теория явно спорная, так как даже существование Фаэтона не доказано, и наоборот, считается, что пояс астероидов сформировался из независимых планетозималей. Другой автор, Р. Рагхаван предполагает, что естественный ядерный реактор в центре Земли имеет диаметр в 8 км и может остыть и перестать создавать земное тепло и магнитное поле [Raghavan 2002].
Если по геологическим меркам некие процессы уже назрели, то это означает, что гораздо проще нажать на «спусковой крючок», чтобы запустить их, – а значит, человеческая деятельность может разбудить эти процессы. До границы земного ядра около 3000 км, а до Солнца 150 000 000 км. От геологических катастроф каждый год гибнут десятки тысяч людей, а от солнечных катастроф – никто. Прямо под нами находится гигантский котёл с раскаленной лавой, пропитанной сжатыми газами. Крупнейшие вымирания живых существ хорошо коррелируют с эпохами интенсивного вулканизма. Процессы в ядре в прошлом, возможно, стали причинами таких грозных явлений, как трапповый вулканизм. На границе пермского периода 250 млн. лет назад в Восточной Сибири излилось 2 млн. кубических км лавы, что в тысячи раз превышает объёмы извержений современных супервулканов. Это привело к вымиранию 95 % видов.
Процессы в ядре также связаны с изменениями магнитного поля Земли, причем физика этих процессов пока не очень понятна. В. А. Красилов в статье «Модель биосферных кризисов. Экосистемные перестройки и эволюция биосферы» предполагает, что периоды неизменности, а затем изменчивости магнитного поля Земли предшествуют колоссальным трапповым излияниям [Красилов 2001]. Сейчас мы живём в период изменчивости магнитного поля, но не после длительной паузы в изменениях магнитного поля. Периоды изменчивости магнитного поля длятся десятки миллионов лет, сменяясь не менее длительными периодами стабильности. Так что при естественном ходе событий у нас есть миллионы лет до следующего проявления траппового вулканизма, если он вообще будет. Основная опасность здесь состоит в том, что люди любыми своими проникновениями вглубь Земли могут эти процессы подтолкнуть, если эти процессы уже назрели до критического уровня. В жидком земном ядре наиболее опасны растворённые в нём газы. Именно они способны вырваться на поверхность, если им будет предоставлен канал. По мере осаждения тяжёлого железа вниз, оно химически очищается (происходит восстановление за счёт высокой температуры), и всё большее количество газов высвобождается, порождая процесс дегазации Земли. Есть предположения, что мощная атмосфера Венеры возникла относительно недавно в результате интенсивной дегазации её недр.
Определённую опасность представляет соблазн получать даровую энергию земных недр, выкачивая раскалённую магму. (Хотя если это делать в местах, не связанных с плюмами, то это должно быть достаточно безопасно.) Есть предположение, что спреддинг океанического дна из зон срединных хребтов происходит не плавно, а рывками, которые, с одной стороны, гораздо реже (поэтому мы их не наблюдали), чем землетрясения в зонах субдукции, а с другой стороны – гораздо мощнее. Здесь уместна следующая метафора: разрыв воздушного шарика гораздо более мощный процесс, чем его сморщивание. Таяние ледников приводит к разгрузке литосферных плит и усилению вулканической активности (например, в Исландии – в 100 раз). Поэтому будущее таяние ледникового щита Гренландии опасно.
Наконец, есть смелые предположения, что в центре Земли (а также других планет и даже звёзд) находятся микроскопические (по астрономическим масштабам) реликтовые чёрные дыры, которые возникли ещё во время возникновения Вселенной. См. статью А. Г. Пархомова «О возможных эффектах, связанных с малыми чёрными дырами» . По теории С. Хокинга реликтовые дыры должны медленно испаряться, однако с нарастающей скоростью ближе к концу своего существования, так что в последние секунды такая дыра производит вспышку с энергией, эквивалентной примерно 1000 тонн массы (и в последнюю секунду 228 тонн), что примерно эквивалентно энергии 20 000 гигатонн тротилового эквивалента – она примерно равна энергии от столкновения Земли с астероидом в 10 км в диаметре [Шкловский 1984]. Такой взрыв не разрушил бы планету, но вызвал бы по всей поверхности землетрясение огромной силы, вероятно, достаточное, чтобы разрушить все строения и отбросить цивилизацию на глубоко постапокалиптический уровень. Однако люди бы выжили, хотя бы те, кто будут находиться в этот момент в самолётах и вертолетах. Микроскопическая чёрная дыра в центре Земли испытывала бы одновременно два процесса – аккреции вещества и потери энергии хокинговским излучением, которые могли бы находиться в равновесии. Однако сдвиг равновесия в любую сторону был бы чреват катастрофой – или взрывом дыры, или поглощением Земли или разрушением её за счёт более сильного выделения энергии при аккреции. Напоминаю, что нет никаких фактов, подтверждающих существование реликтовых чёрных дыр – это только маловероятное предположение, которое мы рассматриваем, исходя из принципа предосторожности.
13.2 Внезапная дегазация растворённых в мировом океане газов
Грегори Рёскин опубликовал в 2003 году статью «Океанические извержения, вызванные метаном и массовые вымирания» [Ryskin 2003], в которой рассматривает гипотезу о том, что причиной многих массовых вымираний были нарушения метастабильного состояния растворённых в воде газов, в первую очередь метана. С ростом давления растворимость метана растёт, поэтому в глубине она может достигать значительных величин. Но это состояние метастабильно, так как если произойдёт перемешивание воды, то начнётся цепная реакция дегазации, как в открытой бутылке с шампанским. Выделение энергии при этом в 10 000 раз превысит энергию всех ядерных арсеналов на Земле. Рёскин показывает, что в наихудшем случае масса выделившихся газов может достигать десятков триллионов тонн, что сопоставимо с массой всей биосферы Земли. Выделение газов будет сопровождаться мощными цунами и горением газов. Это может привести или к охлаждению планеты за счёт образования сажи, или, наоборот, к необратимому разогреву, так как выделившиеся газы являются парниковыми. Необходимыми условиями для накопления растворённого метана в океанских глубинах являются аноксия (отсутствие растворённого кислорода, как, например, в Чёрном море) и отсутствие перемешивания. Дегазация метангидратов на морском дне может также способствовать процессу. Для того, чтобы вызвать катастрофические последствия, отмечает Рёскин, достаточно дегазации даже небольшого по площади участка океана. Примером катастрофы подобного рода стала внезапная дегазация озера Ниос, которая в 1986 году унесла жизни 1700 человек. Рёскин отмечает, что вопрос о том, какова ситуация с накоплением растворённых газов в современном мировом океане, требует дальнейших исследований.
Значительное количество сероводорода скопилось в Чёрном море, и там также есть бескислородные области. Такое извержение было бы относительно нетрудно спровоцировать, опустив под воду трубу и начав качать по ней вверх воду, что могло бы запустить самоусиливающийся процесс. Это может произойти и случайно при глубоководном бурении морского дна.
13.3 Нарушение стабильности Земной атмосферы
Возникающие на Земле ураганы наносят обычно только локальный ущерб. Сильнейший из известных ураганов в 1780 году, имел, по современным оценкам, скорость ветра в 200 миль в час (порядка 100 метров в секунду) и вырвал все до одного деревья на некоторых островах Карибского бассейна, разрушил все постройки и погубил большинство живших там людей [F;rez 1970]. Атмосфера других планет гораздо менее стабильна, чем земная. Например, атмосфера Венеры обращается вокруг планеты за 5 дней, а в атмосфере Юпитера известно Большое красное пятно.
Керри Эмануэлом [Kerry 1996] из Мичиганского университета выдвинута гипотеза, что в прошлом атмосфера Земли была гораздо менее стабильна, что привело к массовым вымираниям. Если бы температура поверхности океана выросла бы на 15-20 градусов, что возможно в результате резкого глобального потепления, падения астероида или подводного извержения, то возник бы так называемый гиперган (Hypercane) – огромный ураган, со скоростями ветра порядка 200-300 метров в секунду, площадью с континент, высокой устойчивостью и давлением в центре около 0,3 атмосферы. Смещаясь с места своего возникновения, такой гиперган уничтожал бы всё живое на суше, и в то же время на его месте над тёплым участком океана формировался бы новый гиперган (эта идея используется в романе Дж. Барнса «Мать бурь»).
Керри Эмануэл показывает, что при падении астероида диаметром в мелководное море более 10 км( как это было 65 млн. лет назад при падении астероида около Мексики, которое связывают с вымиранием динозавров) может образоваться участок повышенной температуры окружностью в 50 км, которого было бы достаточно для формирования гипергана. Гиперган выбрасывал бы огромное количество воды и пыли в верхние слои атмосферы, что могло бы привести к резкому глобальному похолоданию или потеплению.
13.4 Взрывы других планет Солнечной системы
Есть другое предположение о причинах возможного взрыва планет, помимо взрывов урановых реакторов в центре планет по Анисичкину, а именно, особые химические реакции в электролизованном льде. Э. М. Дробышевский в статье «Опасность взрыва Каллисто и приоритетность космических миссий» [Дробышевский 1999] предполагает, что такого рода события регулярно происходят в ледяных спутниках Юпитера, и для Земли они опасны образованием огромного метеоритного потока. Электролиз льда происходит в результате движения содержащего его небесного тела в магнитном поле, что вызывает в нём мощные токи. Эти токи приводят к разложению воды на водород и кислород, что приводит к образованию гремучей смеси. Он высказывает гипотезу, что во всех спутниках эти процессы уже завершились, кроме Каллисто, который может взорваться в любой момент, и предлагает направить на исследование и предотвращение этого явления значительные средства. (Стоит отметить, что в 2007 году взорвалась, причём повторно, комета Холмса, и никто не знает почему – а в ней электролизация льда во время пролётов Солнца была возможна.)
Отмечу, что если гипотеза Дробышевского верна, то сама идея посылки на Каллисто исследовательской миссии и глубокого бурения его недр в поисках этого электролизированного льда выглядит опасной, так как это может спровоцировать взрыв.
В любом случае, чем бы ни было вызвано разрушение другой планеты или крупного спутника в Солнечной системе, этот представляло бы длительную угрозу земной жизни за счёт выпадения осколков. (См. описание одной гипотезы о выпадении осколков здесь: «Динозавров погубило столкновение астероидов в 400 млн. км от Земли» , основанное на статье [Bottke, Vokrouhlick;, Nesvorn; 2007]).
13.5 Гравитационные возмущения от гипотетических небесных тел
Встречаются предположения, что на периферии Солнечной системы находится невидимая звезда (называемая Немезидой) или крупная планета, которая вращается по сильно эллиптической орбите и своим гравитационным возмущением регулярно приводит к биологическим кризисам на Земле. Регулярность эта может быть раз в миллионы лет (так, Проксима Центавра обращается вокруг Альфы за примерно миллион лет), или несколько тысяч лет в случае планеты. Однако изучение орбит тел в поясе Койпера за орбитой Плутона не обнаружили влияний крупного тела. Если такое тело было бы на подлёте к Солнцу, то его бы, скорее всего, обнаружили за десятки лет. Другой опасный вариант, связанный с Немезидой, состоит в том, что она не приближается к Земле, а только углубляется иногда в облако Орта, провоцируя регулярные выпадения комет. Но и это – крайне медленный процесс, так что он не угрожает нам в XXI веке. Вопрос о существовании ещё неоткрытых планет отравлен значительным количеством антинаучных спекуляций.
Гравитационное возмущение от планеты, двигающейся по эллиптической орбите, могло бы приводить либо к изменению земной орбиты и изменению климата, либо к образованию приливных волн, если планета пройдёт действительно близко от Земли (ближе, чем Луна), что само по себе является маловероятным событием, даже если планета на эллиптической орбите существует.
Аналогичным было бы воздействие маломассивных реликтовых чёрных дыр, если бы они существовали в природе и иногда проходили бы сквозь солнечную систему.
Наконец, иногда указывается на вероятность того, что Солнечная система войдёт в плотное газопылевое облако, которое значительно ослабит свет Солнца. Но в ближайших окрестностях Солнечной системы такого облака нет.
13.6 Ложные и опровергнутые теории глобальных катастроф
Есть также ряд теорий, которые либо выдвигались разными исследователями и были опровергнуты, либо циркулируют в жёлтой прессе и массовом сознании и основываются на откровенных ошибках, лжи и непонимании, либо связаны с определёнными системами верований. Следует, однако, допустить ничтожную вероятность того, что некая часть таких теорий окажется верной.
1. Внезапное изменение направления и/или скорости вращения Земли, которое приводит к катастрофическим землетрясениям, наводнениям и изменениям климата. Изменение формы Земли, связанное с нарастанием полярных шапок, может привести к тому, что ось вращения перестанет быть осью с наименьшим моментом инерции, и Земля перевернётся, как «гайка Джанибекова». Или это произойдёт в результате изменения момента инерции Земли, связанного с переустройством ее недр, или скорость вращения изменится в результате столкновения с крупным астероидом; хотя последствия любого мгновенного изменения вращения Земли были бы катастрофическими, нет реальных оснований считать, что вращение Земли может быть неустойчиво.
2. Теории о «великом потопе», опирающиеся на библейские легенды.
3. Взрыв Солнца через шесть лет, якобы предсказанный голландским астрономом. Это сообщение является газетной уткой.
4. Столкновение Земли с блуждающей чёрной дырой. В окрестностях Солнца нет чёрных дыр, насколько это известно, так как их можно было бы обнаружить по аккреции межзвёздного газа на них и по гравитационным искажениям света от более дальних звёзд. При этом «засасывающая способность» чёрной дыры ничем не отличается от таковой же для звезды аналогичной массы, поэтому чёрная дыра не более опасна, чем звезда. Однако и столкновения со звёздами, или во всяком случае, опасные сближения с ними, происходят крайне редко, и все такие сближения рассчитаны на миллионы лет вперёд. Поскольку чёрных дыр в галактике гораздо меньше, чем звёзд, то и шансы столкновения с чёрной дырой ещё меньше. Нельзя, однако, исключить столкновения солнечной системы с блуждающими планетами-одиночками, но и это и крайне маловероятное, и относительно безвредное событие.
Глава 14. Природные катастрофы и эффект наблюдательной селекции
14.1 Прекращение действия «защиты», которую нам обеспечивал антропный принцип
Подробно я рассматриваю этот вопрос в статье «Природные катастрофы и антропный принцип» [Турчин 2007b]. Суть угрозы состоит в том, что разумная жизнь на Земле, вероятнее всего, сформировалась в конце периода устойчивости необходимых для её поддержания природных факторов. Или, говоря кратко, будущее не похоже на прошлое, потому что прошлое мы видим через эффект наблюдательной селекции. Пример: некий человек выиграл три раза подряд в рулетку, ставя на одно число. В силу этого он, используя индуктивную логику, приходит к ложному выводу, что будет выигрывать и дальше. Однако если бы он знал, что в игре, помимо него, участвовало 30 000 человек, и все они отсеялись, то он мог бы придти к более верному выводу, что и он с шансами 35 к 36 проиграет в следующем туре. Иначе говоря, для него период устойчивости, заключавшийся в серии из трёх выигрышей, закончился.
Для формирования разумной жизни на Земле должно было сложиться уникальное сочетание условий, которые действовали в течение длительного времени (равномерная светимость Солнца, отсутствие близких сверхновых, отсутствие столкновений с очень большими астероидами и т. д.). Однако из этого вовсе не следует, что они будут продолжать действовать вечно. Соответственно, в будущем мы можем ожидать, что постепенно эти условия исчезнут. Скорость этого процесса зависит от того, насколько невероятным и уникальным было сочетание условий, позволивших сформироваться разумной жизни на Земле (как в примере с рулеткой: чем уникальнее ситуация выигрыша три раза подряд, тем с большей вероятностью игрок проиграет в четвёртом туре – то есть будь в той рулетке 100 делений на колесе, то шансы выхода в четвёртый тур упали бы до 1 к 100). Чем невероятнее такое сочетание, тем быстрее оно может закончиться. Это объясняется эффектом отсева – если в начале были, допустим, миллиарды планет у миллиардов звёзд, где могла бы начать развиваться разумная жизнь, то в результате отсева только на одной Земле образовалась разумная жизнь, а остальные планеты сошли с дистанции, как Марс и Венера. Однако нам неизвестна интенсивность этого отсева, и узнать нам это мешает эффект наблюдательной селекции – так как мы можем обнаружить себя только на той планете, где жизнь уцелела, и разум смог развиться. Но отсев продолжается с той же скоростью.
Для внешнего наблюдателя этот процесс будет выглядеть как внезапное и беспричинное ухудшение многих жизненно важных параметров, поддерживающих жизнь на Земле. Рассматривая этот и подобные примеры, можно предположить, что данный эффект может увеличить вероятность внезапных природных катастроф, способных оборвать жизнь на Земле, но не более, чем в 10 раз. (Не более, так как затем вступают в действия ограничения, подобные описанным в статье Бострома и Тегмарка [Bostrom Tegmark 2005], которые рассматривают эту же проблему в отношении космологических катастроф. Однако реальное значение этих ограничений для геологических катастроф нуждается в более точном исследовании.) Например, если отсутствие сверхгигантских извержений вулканов на Земле, затопляющих всю поверхность, является счастливой случайностью, и в норме они должны были бы происходить раз в 500 млн. лет, то шанс Земли оказаться в её уникальном положении был бы 1 к 256, а ожидаемое время существования жизни – 500 млн. лет.
Мы ещё вернёмся к обсуждению этого эффекта в главе о вычислении непрямых оценок вероятности глобальной катастрофы в конце книги. Важным методологическим следствием является то, что мы не можем в отношении глобальных катастроф использовать никакие рассуждения в духе: этого не будет в будущем, потому что этого не было в прошлом. С другой стороны, ухудшение в 10 раз шансов природных катастроф уменьшает ожидаемое время существования условий для жизни на Земле с миллиарда до ста миллионов, что даёт очень малый вклад в вероятность вымирания в XXI веке.
Пугающим подтверждением гипотезы о том, что мы, скорее всего, живём в конце периода устойчивости природных процессов, является статья Р. Рода и Р. Мюллера в Nature  [Rohde, Muller 2005] об обнаружении цикла вымираний живых существ с периодом 62 (+/- 3 млн.лет) – поскольку от последнего вымирания прошло как раз 65 млн.лет. То есть время очередного циклического события вымирания уже давно настало. Отметим также, что если предлагаемая гипотеза о роли наблюдательной селекции в недооценки частоты глобальных катастроф верна, то она означает, что разумная жизнь на Земле – крайне редкое явление во Вселенной, и мы – одни в наблюдаемой Вселенной с большой вероятностью. В этом случае мы можем не опасаться инопланетного вторжения, а также не можем делать никаких выводов о частоте самоуничтожения продвинутых цивилизаций в связи с парадоксом Ферми (молчание космоса). В результате нетто вклад данной гипотезы в нашу оценку вероятности человеческого выживания может быть положительным.
М. Чиркович написал статью на эту же тему («Эволюционные катастрофы и проблема точной настройки параметров обитаемой планеты») [Cirkoviс 2007], в которой подчёркивает, что определённая частота природных катастроф была необходима в прошлом, чтобы пришпоривать эволюционное развитие. Тот факт, что возможно, существуют «тёмные кометы» и мы живём как раз в период интенсивной кометной бомбардировки, может иметь объяснение как раз в этом: эта кометная бомбардировка в последние несколько десятков тысяч лет способствовала частой смене климата и создавала эволюционное давление, при котором становился выгоден универсальный разум, а не конкретные адаптации. В силу этого неудивительно, что универсальный разум обнаруживает себя в период повышенной частоты катастроф.
14.2 Ослабление устойчивости природных процессов и человеческие вмешательства
Вклад вероятностного сдвига из-за прекращения действия защиты, даваемой антропным принципом в суммарную вероятность вымирания в XXI веке, казалось бы, мал. А именно, если Солнце будет поддерживать комфортную температуру на Земле не 4 млрд. лет, а только 400 млн., то в XXI веке это всё равно даёт десятитысячные доли процента вероятности катастрофы, если мы равномерно распределим вероятность «отказа» Солнца по времени, что тоже сомнительно (0,0004 %). Однако ослабление устойчивости, которую нам давал антропный принцип, означает, во-первых, что сами процессы станут менее устойчивыми и более склонными к колебаниям (что вполне известно относительно Солнца, которое будет гореть, по мере исчерпания водорода, всё более ярко и неравномерно), а во-вторых, что кажется более важным, – они станут более чувствительными к возможным малым человеческим воздействиям. То есть одно дело дёргать за висящую резинку, а другое – за резинку, натянутую до предела.
Например, если некое извержение сверхвулкана назрело, то могут пройти ещё многие тысячи лет, пока оно произойдёт, но достаточно скважины в несколько километров глубиной, чтобы нарушить устойчивость крышки магматической камеры. Поскольку масштабы человеческой деятельности растут во всех направлениях, возрастают шансы наткнуться на такую неустойчивость. Это может быть и неустойчивость вакуума, и земной литосферы, и чего-то ещё, о чём мы даже не думаем.
Глава 15. Глобальное потепление
Глобальное потепление связано как с рядом естественных природных процессов, так и с «суммой технологий», созданных человеком, поэтому к чисто природным рискам его можно отнести только условно. Глобальное потепление можно также назвать классическим примером опасного процесса, в отношении которого действует множество факторов, делающих его «непостижимым».
Ограниченное глобальное потепление на несколько градусов не приведёт к вымиранию человечества, поскольку даже таяние ледников в прошлом не привело к гибели всех людей. Поэтому призывы к экономии электричества как к способу спасения мира являются определённой натяжкой, которая только подрывает доверие к самой идее об опасности потепления.
Не общепризнанной, но принимаемой несколькими исследователями возможностью глобальной катастрофы является парниковая катастрофа, называемая по-английски «неограниченно растущий парниковый эффект» (runaway greenhouse effect). О нём пишет А. В. Карнаухов в статьях «К вопросу об устойчивости химического баланса атмосферы и теплового баланса Земли» [Карнаухов 1994], «Парниковая катастрофа» , Иващенко О. В. «Изменение климата и изменение циклов обращения парниковых газов в системе атмосфера-литосфера-гидросфера – обратные связи могут значительно усилить парниковый эффект»  и А. Ваганов «Сценарии парниковой катастрофы» . Из зарубежных учёных можно отметить Дж. Атченсона, который утверждает, что за счёт цепной реакции дегазации газовых гидратов температура может вырасти на несколько градусов в ближайшие годы, а не за сто лет .
В отличие от продвигаемой средствами массовой информации концепции парникового эффекта, которая утверждает, что при худшем сценарии температура Земли возрастёт на 2-6 градусов и уровень океана повысится на несколько метров, эти исследователи утверждают, что парниковый эффект находится на пороге необратимости, пройдя который, он войдёт в фазу положительной обратной связи, и температура Земли возрастёт на десятки или сотни градусов, делая жизнь на Земле невозможной. Это связано, в частности, с тем, что водяной пар (не в форме облаков, а растворённый в воздухе) является сильнейшим парниковым газом, а запасы готовой испаряться воды на Земле огромны. Кроме того, постепенное увеличение светимости Солнца (в сравнении с предыдущими эпохами глобальных потеплений), увеличение длины земных суток, накопление углекислого газа и снижение растворимости углекислого газа в океанах с ростом температуры работают на то, чтобы сделать парниковый эффект более сильным. Но ещё один фактор чреват резким увеличением парникового эффекта – разрушение огромных запасов газовых гидратов на дне моря, которое приведёт к выделению в атмосферу больших количеств метана – сильнейшего парникового газа . Разрушение газовых гидратов может принять характер цепной реакции, что уже однажды произошло 55 миллионов лет назад, когда температура Земли повысилась на период времени в несколько тысяч лет примерно на 10 градусов (позднепалеоценовый термальный максимум). Однако тогда гидратов было гораздо меньше. Возможно, что понимание рисков необратимой катастрофы уже в этом веке стоит за усилиями правительств по снижению выбросов парниковых газов. Этот сценарий можно назвать Венерианским, потому что именно благодаря парниковому эффекту на поверхности Венеры температура составляет более 400 С, при том, что в силу высокого альбедо – ярко белые облака – она получает меньше солнечной энергии, чем Земля. Глобальное потепление является системным риском, поскольку в нём увязано множество разных факторов: Солнце, земные недра, океаны, человек, политика, вулканизм.
Парниковая катастрофа может состоять из трёх этапов:
1. Нагрев на 1-2 градуса за счёт избытка углекислого газа в атмосфере антропогенного происхождения, прохождение точки «спускового крючка», подобного порогу срабатывания у нейрона. Только на этом этапе борьба с выбросами углекислого газа имеет смысл. Возможно, пороговый уровень уже пройден, как утверждает профессор Лавлок .
2. Нагрев на 10-20 градусов за счёт метана из газовых гидратов и сибирских болот и углекислого газа, растворённого в океанах. Скорость этого самоусиливающегося процесса ограничена тепловой инерцией океана, и он займёт не менее 10 лет. Этому процессу можно противостоять только резкими высокотехнологичными вмешательствами, вроде искусственной ядерной зимы и/или взрыва многих вулканов.
3. Включение в процесс парникового эффекта от водяного пара и от разрушения карбонатосодержащих пород в земной коре. Подъём температуры до точки кипения воды.
Исследование необратимого глобального потепления находится под сильным давлением наблюдательной селекции, то есть мы не можем заключать из того, что его не было в прошлом, то, что оно маловероятно в будущем, поскольку мы могли выжить только в том мире, где оно не произошло. Чем менее вероятно состояние атмосферы нашей планеты, тем больше шансов, что оно находится «на грани» и достаточно его легко подтолкнуть, чтобы оно переместилось в некое более устойчивое состояние. С другой стороны, ИИ даст мощный вклад в решение проблемы глобального потепления. Во-первых, он сможет вычислить, какая из моделей изменения климата наиболее реальна, и убедить людей в реальности опасности парниковой катастрофы, если он её обнаружит. Во-вторых, он сможет предложить наиболее безболезненный и дешёвый путь предотвращения парниковой катастрофы. Например, он может придумать, как развернуть тонкие экраны в космосе, которые ограничат поток солнечной радиации. Производить эти экраны будут роботы на Луне из местного титана. Или можно распылить в точке Лагранжа между Землёй и Солнцем некое количество космической пыли, например, взорвав астероид, которая будет рассевать долю процента солнечного излучения и способствовать охлаждению Земли. Поскольку эффект полномасштабной ядерной зимы создаёт всего на всего 150 млн. тонн сажи в тропосфере, то масштаб вмешательства может быть небольшим. Может быть, достаточно будет распылять с самолётов один миллион тонн сажи в год, чтобы удерживать температуру ниже критической на пару градусов. Это потребовало бы только 300 гружёных сажей транспортников в день. Разумеется, ИИ мог бы предложить и способы удалять излишки углекислоты из атмосферы, например, с помощью генетически модифицированных растений и нанороботов.
В природе есть ряд механизмов обратной связи, которые могут сделать необратимое глобальное потепление невозможным: это в первую очередь рост растительности в ответ на рост концентрации двуокиси углерода в атмосфере, а, во вторых, включение углеродно-силикатного цикла, который приведёт к связыванию и избытков углекислоты.
Однако возможны и более рискованные способы предотвращения глобального потепления: это попытки устроить искусственную ядерную зиму или взрывать вулканы. Очевидно, что люди применят эти способы, если ситуация резко пойдёт вразнос, и не будет времени и сил, чтобы сделать нечто более аккуратное. Здесь есть риск, что непродуманные действия приведут к только временному облегчению, но потом усилят процесс потепления. Или, наоборот, взрывы вулканов с целью охлаждения приведут к слишком сильному охлаждению и начнётся вулканическая зима.
Мы можем заключить, что развитая цивилизация легко сможет противостоять изменениям климата, например, распыляя разные порошки в верхних слоях атмосферы или развёртывая космические экраны, чтобы охладить её или подогреть. Наихудший сценарий подразумевает ситуацию, когда процесс необратимого нагрева атмосферы начался (при этом сам подъём температуры ещё может быть невелик, главное – формирование цепочек положительной обратной связи), а затем цивилизация утратила по каким-то свои внутренним причинам способность к высокотехнологическому регулированию климата и откатилась к более раннему уровню. Тогда она может быть окончательно повержена необратимым нагревом атмосферы, который произойдёт через десятки лет после технического коллапса.
Полное удаление углекислого газа из атмосферы привело бы к гибели растений, а затем и к исчезновению кислорода из атмосферы Земли. Эта перспектива вымирания является гораздо более реальной, чем увеличение светимости Солнца, и может сработать через несколько десятков миллионов лет за счёт естественных процессов захоронения углерода.
В значительной мере проблема глобального потепления – это вопрос о способности общества адекватно реагировать на слабые сигналы. И судя по нынешнему изобилию «климат-гейтов», общество стремится игнорировать слабые сигналы, сводя их ценность к нулю за счёт теорий заговора. Особый вред споры о глобальном потеплении наносят будущим попыткам предсказать другие глобальные катастрофы, так как срабатывает эффект «Волк, волк». Целью должно быть не предотвращение изменений климата, а способность к управлению климатом с большой скоростью реакции. Во втором случае не нужно на основании очень слабых сигналов пытаться спрогнозировать климат на 30 лет вперёд. А достаточно реагировать на текущие изменения климата. Это даст возможность корректировать ошибочные выводы, а также реагировать на непредвиденные обстоятельства – извержения вулканов, изменение числа пятен на Солнце, ядерную зиму.
Глава 16. Антропогенные риски, не связанные с новыми технологиями
16.1 Исчерпание ресурсов
Проблема исчерпания ресурсов, роста населения и загрязнения среды является системной, и в этом качестве мы рассмотрим её далее. Здесь же мы рассмотрим только, может ли каждый из этих факторов по отдельности привести к вымиранию человечества.
Широко распространено мнение о том, что техногенная цивилизация обречена из-за исчерпания легкодоступных углеводородов. В любом случае, это само по себе не приведёт к вымиранию всего человечества, поскольку раньше люди жили без нефти. Однако возникнут существенные проблемы, если нефть закончится раньше, чем общество успеет к этому адаптироваться – то есть закончится быстро. Однако запасы каменного угля значительны, а технология производства жидкого топлива из него активно применялась ещё в гитлеровской Германии. Огромные запасы гидрата метана находятся на морском дне, и эффективные роботы могли бы его добывать. И существующих технологий ветроэнергетики, преобразования солнечной энергии и подобных в целом достаточно, чтобы сохранить развитие цивилизации, хотя возможно определённое снижение жизненного уровня, а худшем случае – и значительное снижение популяции, но не полное вымирание.
Иначе говоря, Солнце и ветер содержат энергию, которая в тысячи раз превосходит потребности человечества, и мы в целом понимаем, как её извлекать. Вопрос не в том, хватит ли нам энергии, а в том, успеем ли мы ввести в строй необходимые мощности по её извлечению до того, как нехватка энергии подорвёт технологические возможности цивилизации при неблагоприятном сценарии.
Читателю может показаться, что я недооцениваю проблему исчерпания ресурсов, которой посвящено множество книг (Медоуз, Пархоменко), исследований и интернет сайтов (в духе www.theoildrum.com). В действительности, я не согласен со многими из этих авторов, так как они исходят из предпосылки, что технический прогресс прекратится. Обратим внимание на последние исследования в области обеспечения энергоресурсами: В 2007 году в США начался промышленный выпуск солнечных батарей стоимостью меньше чем 1 доллар за ватт, что в два раза меньше, чем стоимость энергии на угольной электростанции, не считая топлива . Количество ветроэнергии, которую можно извлекать с океанского мелководья в США составляет 900 гигаватт, что покрывает все потребности США в электроэнергии . Такая система давала бы равномерный, не зависящий от локальных изменений ветра, поток энергии за счёт своих больших размеров. Проблема накопления излишков электроэнергии решена за счёт применения обратной закачки воды в гидроэлектростанции и развития мощных аккумуляторов и их широкого распространения, например, в электромобилях. Массу энергии можно извлекать из морских течений, особенно Гольфстрима , и из подводных залежей метангидратов . И есть много других перспективных источников энергии. Вопрос не в том, что нет энергии, или технологий по её добыче – вопрос в том, успеем ли мы вовремя развернуть необходимые электростанции.
Кроме того, завершение исчерпания ресурсов находится за горизонтом прогноза, который устанавливается темпом научно-технического прогресса. (Но момент изменения тенденции – Peak Oil – находится внутри этого горизонта.) Только предположив полную остановку прогресса в области робототехники и нанотехнологий, можно строить точные прогнозы о том, когда и какие ресурсы будут исчерпаны. Вопрос в том, может ли начало исчерпания ресурсов и сопутствующий кризис настолько подорвать развитие технологий – и этот вопрос мы обсудим в главе о системном кризисе.
Ещё один вариант глобальной катастрофы – это отравление продуктами своей же жизнедеятельности. Например, дрожжи в бутылке с вином растут по экспоненте, а потом отравляются продуктами своего распада и все до одной погибнут. Этот процесс имеет место и в отношении людей, но неизвестно, могут ли они настолько загрязнить и истощить свою среду обитания, чтобы одно только это привело к их окончательному вымиранию. Помимо энергии, людям нужны следующие ресурсы:
• Материалы для производства – металлы, редкоземельные вещества и т д. Многие важные руды могут закончиться к 2050 году. Однако материалы, в отличие от энергии, не исчезают, и при развитии нанотехнологии станет возможной полная переработка отходов, добыча нужных материалов из морской воды, где растворено огромное количество, например, урана, и даже транспортировка нужных веществ из космоса.
• Пища. По некоторым данным, пик производства пищевых продуктов уже пройден: почвы выветриваются, урбанизация захватывает плодородные земли, население растёт, рыба заканчивается, окружающая среда загрязняется отходами и ядами, воды не хватает, вредители распространяются. С другой стороны, возможен переход на принципиально новый промышленный тип производства пищевых растений, основанный на гидропонике – то есть выращивание растений в воде, без почвы в замкнутых теплицах, что защищает от загрязнения и паразитов и может быть полностью автоматизировано. (См. статью Дмитрия Верхотурова и Ильи Кирилловского «Агротехнологии будущего: от пашни к заводу» ). Наконец, маргарин, как, вероятно, и многие другие необходимые составляющие продуктов питания, можно вырабатывать из нефти на химических предприятиях.
• Вода. Питьевую воду можно обеспечить за счёт опреснения морской воды, сегодня это стоит около доллара на тонну, но основная масса воды идёт на выращивание урожая – до тысячи тонн воды на тонну пшеницы, что делает невыгодным опреснение. Но при переходе на гидропонику резко снизятся потери воды на испарение, и опреснение может стать рентабельным.
• Место для жизни. Несмотря на быстрые темпы прироста количества населения на Земле, до теоретического предела ещё далеко.
• Чистый воздух. Уже сейчас есть кондиционеры, очищающие воздух от пыли и повышающие в нём содержание кислорода. Проблемы, связанные с возможным исчерпанием кислорода в земной атмосфере, описаны в разделе о химическом оружии.
16.2 Перенаселение
Очевидно, что перенаселение само не может никого истребить, но может создать условия, при которых будет наблюдаться нехватка любых ресурсов и обострятся любые конфликты. В 1798 году Мальтус обозначил перенаселение как главный источник войн, которые должны регулировать его численность. При этом надо учитывать не только людей, но и их машины и уровень жизни. Автомобиль потребляет кислород и биотопливо и также нагружает биосферу, как несколько человек. Поэтому даже приостановка роста населения людей не будет означать окончание проблемы перенаселения, так как по мере развития технологий у каждого появятся свои машины, дома, домашние роботы и т д. Теоретически существует проблема, состоящая в том, что рост населения рано или поздно перекроет любые ресурсы, даже если человечество заселит всю галактику (за несколько тысяч лет при сохранении теперешней скорости роста населения), а значит, должна наступить некая точка, за которой неограниченная материальная экспансия прекратится. С. П. Капица [Капица 2004] вывел формулу, из которой следует гиперболический рост населения с уходом в бесконечность в районе 2027 года. (Хотя он и полагает, что действие этой формулы прекратилось.) И хотя реальный рост населения отстаёт от этого графика, мы можем приблизиться к нему снова, если добавим к населению число установленных компьютеров. (В той мере, в какой компьютеры тоже можно считать жителями Земли – но ведь рост населения Земли – это не просто рост числа представителей некоторого вида млекопитающих, а в первую очередь рост числа взаимодействующих интеллектуальных единиц, обеспечивающих за счёт своего взаимодействия прирост знаний и производительных сил. И в эту классификацию компьютеры вполне попадают.)
Технологическая революция обуславливает следующие факторы в росте населения:
• Увеличение числа существ, которым мы приписываем права, равные человеческим: обезьяны, дельфины, кошки, собаки.
• Упрощение рождения и воспитания детей. Возможности репродуктивного клонирования, создание искусственных матерей, роботов-помощников по домашнему хозяйству и т.д.
• Появление новых механизмов, претендующих на человеческие права и/или потребляющих ресурсы: машин, роботов, систем ИИ.
• Возможности продления жизни и даже воскрешения умерших (например, путём клонирования по сохранившейся ДНК).
• Рост «нормального» уровня потребления.
Кроме того, рост человеческого населения увеличивает вероятность самозарождения опасных инфекционных заболеваний, – а также число людей, которые решат стать террористами. Для уничтожения цивилизации важно не относительное, а абсолютное число террористов. С другой стороны, чем больше население, тем больше шанс, что кто-то выживет в ходе огромной катастрофы. Кроме того, чем больше население, тем больше темп технического прогресса, так как всё большее число людей готовы стать учёными, и всё большую прибыль можно получить, продав некую инновацию большому числу людей, за счёт того, что цена нововведения разделится на большее число потребителей.
Самое главное, что даёт нам кривая роста населения – это понимание того, что так вечно продолжаться не может, а значит должна быть некая точка перегиба или перелома, за которой следует та или иная стабилизация. Это может быть и качественный переход на уровень сверхцивилизации, и стабилизация на текущем уровне, и откат в некое стабильное прошлое состояние, и полное уничтожение.
16.3 Крах биосферы
Если люди овладеют генетическими технологиями, то это может позволить как устроить крах биосферы невероятных масштабов, так и найти ресурсы для её защиты и «ремонта». Можно представить себе сценарий, при котором вся биосфера настолько заражена радиацией, генетически модифицированными организмами и токсинами, что она будет не способна восполнять потребности человечества в продовольствии. Если это произойдёт внезапно, это поставит цивилизацию на грань экономического краха. Однако достаточно продвинутая цивилизация сможет наладить производство продуктов питания в некой искусственной биосфере, вроде теплиц. Следовательно, крах биосферы опасен только при последующем откате цивилизации на предыдущую ступень – или если сам крах биосферы вызывает этот откат.
При этом биосфера – очень сложная система, в которой возможна самоорганизованная критичность и внезапный коллапс. Хрестоматийный пример – истребление воробьёв в Китае и последующие проблемы с продовольствием из-за нашествия вредителей. Или, например, сейчас по всему миру гибнут кораллы, потому что сточные воды выносят бактерию, которая их поражает.
16.4 Социально-экономический кризис. Война
Более подробно этот вопрос будет рассмотрен далее, в главе о различных системных кризисах, поскольку в современном обществе такой кризис не может не опираться на разные новые технологии. Без таких технологий война или общественно-политический кризис не могут происходить одновременно на всей территории Земли и, таким образом, создавать глобальный риск.
16.5 Генетическая деградация и ослабление фертильности (способности к размножению)
Распространение мутагенов, накопление генетических дефектов в результате прекращения генетического отбора, нарушение моделей полового отбора может привести к быстрому и неконтролируемому накоплению дефектов в ДНК человека, в результате чего люди могли бы выродится и вымереть в течение нескольких поколений. Опыты на дрозофилах показали, что при определённом давлении мутагенов естественный отбор не успевает компенсировать накопление генетических мутаций, в результате чего популяция полностью вымирает. При современном уровне развития медицины можно было бы этому противостоять с помощью клонирования, хранения замороженной спермы, создания искусственных маток, однако после некой большой, но не окончательной катастрофы такое вымирание становится возможным.
Кроме того, генетическая деградация означает плавное размывание того, что мы считаем человеком и разумом.
В статье Л. В. Полищука «Скорость размножения и угроза вымирания вида» [Полищук 2003] показано, что те виды, которые склонны к быстрым колебания численности (например, лемминги), гораздо менее подвержены вымираниям, чем те виды, чья численность находится на относительно устойчивом уровне (мамонты). Этот на первый взгляд парадоксальный вывод следует из того, что виды, у которых численность быстро колеблется, имеют мощные механизмы быстрого увеличения численности, тогда как виды, привыкшие к поддержанию одного уровня численности, гораздо менее способны быстро ее восстановить после внезапного падения. Раньше люди были видом, относительно быстро восстанавливавшим свою численность, так как в семьях было много детей; теперь же эта традиция сломлена и поэтому люди могут быть более подвержены вымиранию.
С другой стороны, если давление мутагенов будет невелико, то человечество может пройти через бутылочной горлышко и резко очистить популяцию от дефектных генов и выработать новые качества. Даже естественная эволюция людей в течение десятков тысяч лет приведёт к значительному изменению человеческой природы, как это было и в прошлом.
Если экстраполировать модель «одна семья – один ребёнок», то она приведёт к полному вымиранию человечества менее чем за 1000 лет, что выходит за рассматриваемый промежуток времени (и достаточно уязвимо для критики, так как здесь был бы отбор в сторону наиболее плодовитых семейств). Однако если бы некий вирус привёл к тотальному бесплодию человечества, и при этом технический прогресс бы остановился, то люди бы вымерли к XXII веку. Опять же, это мало вероятно, так как уже почти готовы технологии репродуктивного клонирования.
Интересно исследовать те способы, которые были придуманы людьми для полного уничтожения враждебных видов, например, паразитов. Некоторые из них вполне традиционны: это отстрел или привитие болезни. Однако любое давление на вид приводит к его адаптации. Альтернативный способ состоит в том, чтобы направить адаптацию вида в направлении, в котором он затем станет неприспособленным и либо вымрет, либо утратит свои важные качества. Например, если непрерывно подкармливать чаек хлебом, то они перестанут ловить рыбу, и их способность к ловли рыбы будет ослабляться за счёт накопления вредных мутаций, тогда как способность бороться за хлеб – увеличиваться. Затем, если их внезапно прекратить кормить хлебом, то они окажутся уже не приспособленными к жизни во внешней среде. Вполне возможно, что большинство людей уже утратили те генетические качества, которые позволяли охотникам собирателям выживать в природе несколько десятков тысяч лет назад (но зато обрели, например, способность переваривать молоко). Похожий способ был предложен для борьбы с вирусом ВИЧ, который состоит в том, что в кровь будут запускаться клетки-мишени, которые будут привлекательным объектом для атаки вирусом, но нейтральны для человека. В результате вирус будет адаптироваться к тому, чтобы атаковать эти клетки, а не лимфоциты человека. Другой способ был предложен для борьбы с малярийным комаром и состоял в том, что в естественную популяцию запускается в больших количествах генетически модифицированный вид комара, который привлекателен как половой партнёр для опасных для человека комаров, но не может иметь с ним полноценного потомства. В результате происходит коллапс популяции малярийного комара.
Вывод: названные факторы не угрожают выживанию человечества в рассматриваемый период.
16.6 Старение вида
Есть концепция, что виды могут стареть. Майкл Фут и др. в статье «Взлет и падение видов: новые данные подтверждают старую идею «эволюционного цикла» [Foote et al 2007] пишут: «После появления вида его «распространенность» (площадь ареала и частота встречаемости) постепенно растет в течение нескольких миллионов лет, ненадолго достигает максимума и затем постепенно снижается. Виды редко вымирают внезапно, находясь на пике численности; вымиранию обычно предшествует длительный период упадка… Это значит, что палеонтологическая история вида позволяет судить о вероятности его вымирания в наши дни: наибольшей опасности подвергаются те виды, которые уже миновали пик своего развития и находятся в фазе упадка. Полученные данные противоречат также распространенному мнению о том, что в эволюции должны чередоваться короткие периоды «становления» и долгие периоды «стазиса». В действительности виды, по-видимому, почти не задерживаются на максимальном достигнутом уровне и практически сразу переходят от роста к упадку».
Стареть могут также государства и культуры, делаясь всё более застывшими и зарегламентированными, и, в конечном счёте, – хрупкими. Возможно, могут стареть и цивилизации планетарного масштаба, постепенно утрачивая интерес к жизни. Всё же вряд ли это угрожает Земле на нынешнем этапе. С другой стороны, рост числа пенсионеров и «бессмертных», если таковые будут когда-нибудь созданы, может когда-нибудь актуализировать эту проблему.
16.7 Вытеснение другим биологическим видом
Многие виды животных кончили тем, что были вытеснены более эффективными видами, или мутировали в них. Возникновение такого вида путём естественной эволюции в ближайшие 100 лет невозможно. Даже рост и сокращение численности разных рас и народов не являются процессами, которые успеют завершиться в XXI веке. Кроме того, изменение этнического состава не является угрозой выживанию человечества как вида, хотя эта тема вызывает очень много эмоций, и этнические конфликты могут стать глобальными рисками второго рода – то есть ситуациями, снижающими выживаемость человечества.
Вытеснение другим видом возможно как частный случай генетических экспериментов или развития симбиоза человек-компьютер. Однако чтобы вытеснить человека, новый вид, вероятно, должен быть умнее. Здесь можно вспомнить много фантастических сюжетов о создании химер из людей и животных и о войне между двумя видами.
В качестве экстремально маловероятного сценария можно назвать случайное совпадение моментов смерти всех людей (допустим, в течение года). Для современного человечества вероятность такого события исчислялась бы дробью с миллиардами нулей после запятой, однако для небольшого племени статистическая аномалия, приводящая к вымиранию, является возможной.
16.8 Неизвестные нам сейчас причины катастроф
Можно сформулировать своего рода «Закон Мура» в отношении глобальных катастроф. Каждые N лет (примерно оцениваемое мной в 30 лет) удваивается известное нам число природных катастроф, которые могут угрожать человечеству. Каждые M лет (примерно оцениваемое мной в 15 лет) технические возможности по организации глобальной катастрофы – то есть способности человечества к саморазрушению тоже удваиваются. Цифры эти взяты, конечно, с потолка, но суть в том, что в середине ХХ века идеи глобальной катастрофы практически ещё не было, а теперь мы легко можем назвать десятки искусственных способов истребить род людской.
И это позволят нам оценить объём неведомого в смысле глобальных катастроф. Мы можем сказать, что через 50 лет не только созреют некие понятные нам технологии, но могут появиться принципиально новые идеи о том, какие возможны новые угрозы существованию. По мере овладения разными всё более мощными источниками энергии, всё более точными знаниями о мире и способами управлять материей, по мере открытия всё новых физических законов и всё новых идей, – появляется всё больше возможностей создать абсолютное оружие. Поэтому мы ни в каком случае не должны считать приведённый здесь список исчерпанным.
Более того, большинство случившихся в последнее время катастроф были неожиданными. Не в том смысле, что никто никогда не предсказывал ничего подобного – всегда можно найти апостериори книжку, где какой-нибудь фантаст описал что-либо подобное. А в том, что большинство населения и руководителей вообще не знали о возможности такого сценария, и в связи с этим ничего не предпринималось. Чернобыль, события 11 сентября в США, сход ледника Колка в Северной Осетии, цунами в Индийском океане, болезнь пчёл CCD, сель в Долине Гейзеров – вот некоторые примеры.
Даже некоторые комбинации известных факторов, которые могут привести к глобальной катастрофе, не очевидны – например, мне понадобился почти год, чтобы предположить, что пассивное SETI содержит в себе глобальный риск, хотя я располагал всеми необходимыми данными. Соответственно, мы можем заключить, что если даже к обычным катастрофам мы не готовы, и список известных их возможностей далеко не исчерпан, то тем более наш список глобальных катастроф несовершенен. Более того, неизвестные риски представляют большую опасность, чем известные, так как мы не можем их измерить, не можем к ним подготовится, и они всегда застают нас врасплох.
Глава 17. Способы обнаружения однофакторных сценариев глобальной катастрофы
Проанализировав множество разных сценариев глобальных катастроф, мы можем выделить общие признаки таких сценариев, которые помогут нам в будущем обнаруживать или «конструировать» новые опасные сценарии.
17.1 Общие признаки любого опасного агента
По определению, в однофакторных сценариях всегда присутствует некий один фактор, который воздействует на всех людей. Об этом факторе можно сказать следующее: он зарождается в некой точке, распространяется по всей поверхности Земли и действует на каждого человека. Соответственно, различия могут быть в том, как он в этой точке возник, как он её покинул, как распространялся по Земле и как действовал на каждого человека. В каждом из этих пунктов есть несколько вариантов, в достаточной мере независимых друг от друга, что позволяет «конструировать сценарии», набирая разные цепочки из этих вариантов и приписывая им разную вероятность. Этот набор качеств может служить своего рода картой при проверке на безопасность каждой новой технологии или природного явления. А именно, мы должны проверять следующий набор свойств:
1. Может ли новая технология применяться для уничтожения людей или приводить к ней?
2. Если да, то каким образом она может выйти из-под контроля?
3. Может ли она распространиться по всей планете таким образом, чтобы воздействовать на каждого человека?
4. Может ли это произойти настолько быстро, что мы не успеем этому противостоять?
5. Как она может взаимодействовать с другими технологиями, усиливая при этом свой риск?
6. Насколько легко будет построить защиту от опасностей этой технологии?
7. Насколько точными и достоверными могут быть наши предсказания о рисках этой технологии?
8. Также особое внимание надо уделять закону, по которому распределена частота катастроф данного типа в зависимости от их силы. Если это степенное распределение с тяжёлым хвостом, то есть с показателем степени меньше 1 в формуле, то такие типы катастроф заслуживают пристального внимания. См. [Hanson 2008].
17.2 Способы возникновения
Опасный фактор, способный создать угрозу глобальной катастрофы, может возникнуть следующим образом:
1) Случайное природное возникновение. Например, подлёт астероида или извержение сверхвулканов.
2) Создание человеком. В этом случае, скорее всего, речь идёт о некой исследовательской лаборатории. Это создание может быть или случайным, или сознательным. Возможна и комбинация того и другого – когда нечто, что должно было иметь ограниченный радиус поражения (или вообще рассматривалось как безопасное и полезное), приобрело всемирный радиус поражения. (Примеры: африканские пчёлы-убийцы были выпущены на свободу в Южной Америке, по всей видимости, нарочно одним сотрудником лаборатории, но с ограниченными локальными целями; тем не менее эти пчёлы распространились по обоим Америкам и привели ко множеству смертей, что вряд ли входило в его планы . Изначально ядерное оружие рассматривалось как оружие локального действия, однако потом возникли представления, что оно может угрожать всей земной цивилизации; ИИ, который запрограммирован быть дружественным и любить людей, может проявить такую «Дружественность», как «медвежья услуга».) Другой вариант состоит в том, что фактор постепенно создаётся в ходе деятельности всего человечества, как, например, накопление парниковых газов в атмосфере.
17.3 Выход из точки и начало распространения
Очевидно, что это происходит или по команде некого человека, или случайно. Сразу следует сказать, что возможно совмещение этих сценариев: человек отдаёт некую команду, полный смысл которой не понимает, или она выполняется неправильно. Или некий человек со стороны совершает террористический акт, приводящий к разрушению лаборатории, в которой находится супервирус. Точка, в которой находится опасное изделие – это или лаборатория, где его создали, и тогда речь скорее идёт о случайном инциденте, или стартовая площадка, если эта технология превращена в некое изделии, которое стало оружием. Так же эта точка может быть где-то на пространственно-временном пути от лаборатории до стартовой площадки – на полигоне, на транспорте, на производстве. При этом важно отметить существенную разницу между мотивами того, кто создавал оружие судного дня, и того, кто затем решил его применить. Например, атомную бомбу создавали для защиты от иностранного агрессора, а террористы могут её захватить для требования отделения неких территорий. Такой двухфазовый целевой сценарий может быть вероятнее однофазового. Виды выхода из точки:
1. Утечка. Утечка начинается тихо и незаметно, без чьей-либо воли. Это относится к ситуациям, вроде утечки опасного вируса, которую нельзя заметить до того, как будут заболевшие снаружи. Утечка опасного химического вещества или ядерных материалов будет сразу заметна, и, скорее всего, будет сопровождаться взрывом.
2. Прорыв. Это силовой прорыв чего-то, что было заперто, но хотело вырваться наружу. Может относиться только к ИИ или генетически модифицированным живым существам с зачатками интеллекта.
3. Взрыв – катастрофический сценарий происходит в самой точке, распространяются его последствия. Скорее всего, это относится к опасным физическим экспериментам.
4. Запуск – кто-то принимает решение о распространении опасного агента или применении оружия судного дня.
5. Постепенное накопление. Как в случае генетической деградации, снижения биоразнообразия, исчерпания ресурсов.
Очевидно, что возможны некоторые комбинации этих базовых сценариев. Например, взрыв лаборатории, приводящий к утечке опасного вируса.
17.4 Распространение важнее разрушения
Анализируя любое явление или изобретение в качестве возможного фактора глобального риска, нам следует уделять больше внимания тому, может ли этот фактор за конечное время воздействовать на абсолютно всех людей, чем тому, может ли он убивать людей или нет. Для того чтобы некоторый фактор стал глобальным риском, есть два необходимых условия:
1) этот фактор убивает каждого человека, на которого воздействует;
2) он действует на всех людей на Земле за конечное время (за время, меньшее, чем способность людей к самовоспроизводству).
Однако если выполнения первого условия достичь относительно легко, так как существует бесконечное число способов причинения смерти, и они всё время на кого-то действуют, то второе условие – гораздо более редкое. Поэтому, как только мы обнаруживаем даже безобидный фактор, способный действовать на всех без исключения людей, это должно нас обеспокоить больше, чем обнаружение некого крайне опасного фактора, который действует только на некоторых. Потому что любой универсальный фактор может стать носителем для некого опасного воздействия. Например, как только мы осознаём, что Солнце освещает каждого человека на Земле, мы можем задаться вопросом – а не может ли с Солнцем случиться чего-то такого, что будет воздействовать на каждого? Это же касается атмосферы Земли, её коры, и особенно космоса, который окружает всю Землю, а также глобальных информационных сетей.
17.5 Способ распространения
Именно способность к всемирному распространению делает оружие сверхоружием. Эта всемирность означает не только всю поверхность земного шара, но и способность проникать через все укрытия и средства защиты, а также скорость этого процесса, которая делает невозможным противостоять ему с помощью новых открытий. (Скажем, оледенение может быть всемирным, но, скорее всего, будет достаточно медленным, чтобы к нему можно было приспособиться.) Способы и факторы, влияющие на способность агента к распространению таковы:
1) Ветер в атмосфере; отдельно надо выделять быстрое движение верхних слоёв атмосферы (где скорости могут быть 100 м/с, а значит, время всемирного распространения – несколько дней), а также склонность вещества выпадать в необратимые осадки, что уменьшает его количество.
2) Агенты, распространяющиеся своим ходом – бактерии, самонацеливающие нанороботы, самонаводящиеся ракеты.
3) От человека к человеку – вирусы.
4) С помощью специальных распылителей. Например, можно представить себе следующий катастрофический сценарий: на низкой полярной орбите летает спутник и непрерывно сбрасывает капсулы с радиоактивным веществом или другим опасным реагентом. За несколько дней он может пройти над всеми точками земного шара.
5) Взрыв – сам создаёт огромное движение. Ударная волна помогает протолкнуть агент во все щели.
6) Сетевое распространение. Так мог бы распространяться ИИ по Интернету.
7) Смешанные способы. Например, на начальном этапе взрыв бомбы распыляет радиоактивные вещества, а потом их разносит ветром. Или некую плесень переносит ветер, а на местах она размножается. Понятно, что смешанные способы распространения гораздо опаснее.
8) Агенты, обладающие элементами разума, чтобы обходить препятствия (компьютерные вирусы, ИИ, микророботы, агрессивные животные).
9) Внезапность и скрытность распространения помогает агенту проникнуть повсюду.
10) Высокая способность к переносу, «липучесть» и мелкодисперсность (как у лунной пыли).
11) Способность саморазмножаться, как в природе, так и на человеке или на промежуточных носителях, а также способность воспроизводить себя, как например, при наведённой радиоактивности.
12) Многофакторность – если имеется достаточно много разнородных агентов, например, при мультипандемии.
13) Концентрация, как фактор распространения. Чем выше градиент концентрации, тем больше способность реагента проникать «во все щели». Иначе говоря, если концентрация в атмосфере составляет 1 смертельный уровень, то всегда найдутся участки, где из-за разных флюктуаций этот уровень будет значительно ниже, и люди там выживут, даже без всяких бункеров. Но если концентрация очень велика, то помогут только полностью герметичные, заранее оборудованные бункеры. Концентрация также увеличивает скорость распространения.
14) Длительность действия агента. Кратковременно действующий агент (гамма-всплеск) может опалить значительную часть биосферы, но всегда найдутся убежища, на которые он не подействовал. Однако длительное заражение, например, кобальтом-60, делает невозможным выживание в небольших убежищах.
15) Лёгкость фильтрации и дезактивации – чем легче фильтрация воздуха и дезактивация выходивших на поверхность людей, тем безопаснее агент. Биологические агенты можно было легко стерилизовать в системах вентиляции, но выходы на поверхность были бы исключены, так как человека не стерилизуешь.
17.6 Способ причинения смерти
Основной элемент глобальной катастрофы, который мы называем «агент», может вообще не убивать людей, а только разъединять их и лишать способности к размножению, как например, супернаркотик, или вирус, стерилизующий всех людей. Или загнать их всех в бункеры, где они обречены на деградацию.
Агент может быть однофакторным в смысле способа воздействия на человека – например, это может быть некая инфекция или радиация. При этом есть разница между мгновенной смертью и продолжительным умиранием.
Агент может обладать многофакторным поражающим воздействием, как атомная бомба. Однако должен быть главный фактор, обладающий универсальным действием на весь мир, или достаточная плотность разных факторов.
Агент может вызвать также не прямое действие, а равномерное разрушение всей среды обитания. (Астероид, разрушение биосферы.)
Вымирание может также принять форму медленного вытеснения во второсортные экологические ниши (варианты: «зоопарк», тотальная безработица в духе статьи Билла Джоя «Почему мы не нужны будущему?» [Joy 2000]).
Разрушающий агент может вызвать появление новых агентов, каждый из которых действует по-своему. Например, распространение машины для программирования вирусов – био-синтезаторов (плюс вируса, или идеи-мема, вызывающего у некоторых людей желание уничтожить весь мир) могло бы стать таким суперагентом, вызывающих к жизни много разных агентов в разных частях Земли. В каком-то смысле сам научно-технический прогресс является таким суперагентом.
Агент может быть интеллектуальным, чтобы в каждом конкретном случае пользоваться разными способами: враждебный ИИ, эсхатологическая секта.
17.7 Типичные виды разрушающего воздействия
Чем бы ни был вызван «конец света», он будет воздействовать на людей и их бункеры, скорее всего, одним из нескольких перечисленных способов. Эти способы в основном совпадают с обычными поражающими факторами ядерного взрыва. Любой процесс, который способен одновременно создать хотя бы один из этих факторов на всей территории Земли, должен быть отнесён к «оружию судного дня»:
• Ударная волна – способна непосредственно причинять смерть, разрушать бункеры и все другие созданные человеком объекты.
• Высокая температура – от длительного воздействия высокой температуры почти нет защиты, так как любой бункер рано или поздно прогреется. Глубоко в землю зарыться не удастся, так как температура в шахтах быстро растёт, порядка 30 градусов на километр глубины.
• Холод. Ему противостоять проще, чем высокой температуре.
• Высокое давление.
• Летучее вещество.
• Излучение и радиация.
• Колебания земной поверхности.
• Утрата жизненно важного ресурса – кислорода, еды, воды.
• Поражение саморазмножающимся агентом (в каком-то смысле огонь тоже обладает способностью саморазмножаться).
• Сверхзвуковая ударная волна – возможно, при достаточно сильном ударе, она могла бы охватить значительную часть земной коры (хотя вязкость бы её поглощала).
Разница между очень большой катастрофой и окончательной глобальной катастрофой может быть в том, что в первом случае уцелеют хотя бы доли процентов людей и территорий. Поэтому важным признаком настоящей глобальной катастрофы является то, что она покрывает всю территорию Земли без исключений. За счёт чего это происходит:
• Очень высокий уровень избыточности разрушающего воздействия.
• Разрушающий агент обладает своего рода «сверхтекучестью» по своей природе. Например, мелкодисперсная пыль, поверхностно активное вещество или насекомые, склонные заползать в любые щели.
• «Интеллект» той силы, которая направляет этот агент.
17.8 Временная структура события
Вне зависимости от того, как сложились предыдущие факторы, можно обозначить следующую последовательность событий во времени для однофакторной глобальной к