Мой новый сайт, на котром есть вся информация по рискам вымирания человечества:
http://www.humanextinction.ru/
Сингулярности и кошмары.
Дэвид Брин
Singularities and Nightmares
by David Brin
Перевод: Алексей Валерьевич Турчин
Разрешено некоммерческое использование перевода.
avturchin ----- mail.ru
Приближающаяся сингулярность включает в себя следующие варианты: саморазрушение цивилизации, позитивная сингулярность, негативная сингулярность (машины берут верх) и возвращение к традиционному образу жизни. Нашей срочной целью является: найти ошибочные образы действий (и избежать их), используя предвидение (мысленные эксперименты), и усилить жизнеспособность – создать мощные системы, которые могут справляться почти с любой проблемой при её возникновении.
Опубликовано в «Представление нанотехнологий: Обзор сверхточного проектирования и нанотехнологии».
(Nanotechnology Perceptions: A Review of Ultraprecision
Engineering and Nanotechnology, Volume 2, No. 1, March 27 2006.1 Reprinted with permission on KurzweilAI.net March 28, 2006).
Чтобы у вас сегодня были приятные сны, позвольте мне предложить вам описание нескольких возможностей ближайшего будущего, которое скоро наступит – перемен, которые могут произойти в течение следующих примерно двадцати лет, приблизительно за одно человеческое поколение. Возможностей, которые принимаются всерьёз некоторыми лучшими современными умами. Потенциальная трансформация человеческой жизни на Земле, и, может быть, даже самого смысла слова «человек».
Например, что если биологи и органические химики смогут сделать для своих лабораторий то, что кибернетики сумели сделать для компьютеров? Сжать свои огромные биохимические лаборатории от бегемотов размером со здания до крайне компактных устройств, сделав их меньше, дешевле и мощнее, чем кто-либо может себе представить. Не это ли случилось с гигантскими компьютерами в недавнем прошлом? Вплоть до того, что сейчас ваш карманный сотовый телефон содержит столько же вычислительной мощности и конструктивной сложности, сколько было у НАСА во времена лунных запусков. Люди, которые предвидели эти перемены, скользили на гребне технологической волны. Некоторые из них заработали много денег.
Биологи уже прошли большой путь к достижению такой же трансформации. Возьмём, например, Human Genome Project, который ускорил расшифровку ДНК на столько порядков, что большая часть этого процесса автоматизирована и миниатюризирована. Скорость выросла до небес, в том время как цена упала вниз, обещая нам, что вскоре каждый может иметь собственную генетическую карту в день обращения, за ту же цену, что ЭКГ. Продолжение этой тенденции в воображении, путём простой экстраполяции, уменьшит полную биохимическую лабораторию размером с дом до дешёвого агрегата на вашем столе. MolecuMac, если вы хотите. Возможности – и прекрасные, и ужасные.
Мы все окажемся в выигрыше, когда сконструированные лекарства и методы терапии будут легко модифицируемы образованными медицинскими работниками. Но будет ли биохимический эквивалент «хакеров»? Что мы собираемся делать, когда дети во всём мире смогут анализировать и синтезировать любые органические соединения по своей воле? В этом случае нам лучше рассчитывать на соответствующий прогресс в области искусственного интеллекта и роботов… во всяком случае, в приготовлении наших фаст-фуд гамбургеров. Я не собираюсь есть ни в одном ресторане, который нанимает злопамятных подростков, которые обмениваются забавными рецептами для своих молекулярных синтезаторов через Интернет. А вы?
Но не поймите меня неправильно. Если мы когда-нибудь получим MolecuMac на наш рабочий стол, я готов поспорить, что 99 процентов его изделий будут нейтральны или позитивны, как и большая часть программ, создаваемых молодыми новаторами сегодня. Но если мы сейчас беспокоимся об одном проценте вредителей в мире битов и байтов – о хакерах и кибер-саботажниках – то что случится, когда этот вид «креативности» будет направлен на саму жизнь? И мы ещё не упомянули о возможности намеренного причинения вреда более крупными образованиями – террористическими сетями, интригующими диктаторами или мошенническими корпорациями.
Эти страхи становятся ещё более беспокоящими, когда мы задумываемся о следующей за биотехом стадии. Уже сейчас распространяется глубокое беспокойство о том, что случится, когда нанотехнологии – микромашины, создающие продукты атом за атомом по сверхточным правилам - наконец достигнут успеха. Молекулярное производство может привести к созданию сверхэффективных заводов, которые будут создавать блага с ошеломительной эффективностью. Ремонтные нанороботы можно будет вводить в ваши кровеносные сосуды, чтобы лечить болезни или тонко настраивать функции тела. Провидцы предполагают, что эта технология поможет спасти планету от более ранних человеческих ошибок, например, путём катализа повторного использования устойчивых загрязнителей. Эти настольные устройства, в конце концов, могут стать универсальными производителями, которые будут превращать почти любой исходный материал в почти любой продукт, который вы захотите…
… или (тревожатся некоторые) наномашины могут вырваться на свободу и стать окончательным загрязнением. Саморазмножающаяся бяка, пожирающая всё на своём пути и вероятно, превращающую всю земную поверхность в серую слизь. (gray goo) (2).
Другие уже рассматривали эту проблему раньше, и некоторые – в очень ярких красках. Возьмём, например, великолепный роман «Жертва» (Prey) Майкла Кричтона (Michael Crichton), который изображает секретное агентство, высокомерно продвигающее самонадейную новую технологию, не обращая внимания на возможные изъяны и последствия. Этот типичный Кричтовский тревожащий сценарий о нанотехнологиях следует модели, почти идентичной его ранним триллерам о вырвавшихся на свободу динозаврах, роботах, и десятках других технических угроз, каждая из которых рассмотрена с отрефлексированным подозрительным отвращением. (Разумеется, в каждой ситуации опасные эксцессы случались в результате секретности, - тема, к которой мы позже вернёмся)
Более ранний и лучший роман, «Музыка Крови» (Blood Music), Грега Бира (Greg Bear) представляет с большой живостью позитивные и негативные возможности нанотехнологий. Особенно возможность, которая больше всего беспокоит даже оптимистов в нанотехнологическом сообществе - что скорость инноваций может обогнать нашу способность справляться с ними.
И, на некотором уровне, это древний страх. Если вы хотите выбрать единственное клише, которое распространенно повсеместно, пересекая все грани идеологии и веры – например, левое против правого, или даже религиозное против мирского – наиболее общим из всех будет следующее:
«Разве это не позор, что наша мудрость отстаёт от нашей технологии?»
Хотя это клише абсолютно верно на уровне отдельных человеческих существ и даже массовых объединений, таких, как корпорации, государственные учреждения или политические партии, ситуация нигде так не ясна, как на самом верхнем уровне человеческой цивилизации. В другом месте я предположил, что «мудрость» должна определяться, исходя из результатов и процессов, а не восприятия или проницательности любого отдельного гуру или мудреца. Возьмём, например, исход Холодной Войны - первый известный пример, когда человечество обрело средство массового уничтожения и затем в целом отошло от этой пропасти. Да, это средство уничтожения по-прежнему с нами. Но два поколения беспрецедентного самоограничения предполагают, что мы сделали некоторый прогресс по крайне мере в одном виде «мудрости». И это так, когда средства массового уничтожения контролируются несколькими избирательно отобранными высшими государственными лицами обеих сторон в ситуации простого противостояния.
Но готовы ли мы к новой эре, когда дилеммы вовсе не так просты? В наступающее время самые худшие опасности для цивилизации могут возникать не от идентифицируемых и исчислимых противников, – которые стремятся победить в ясном, точно просчитанном соревновании – а от общей доступности средств нанесения вреда.
Новые технологии, распространяемые через интернет и усиливаемые легко доступными инструментами, предложат всё большему числу разъяренных людей доступ к разными видам разрушительных сил, которые будут использованы по причине оправданной обиды, алчности, возмущения, или просто потому что они есть.
СТАРИННЫЙ РЕЦЕПТ: ОТКАЗ ОТ ПРАВ.
(THE RETRO PRESCRIPTION—RENUNCIATION).
Осознавая разгон технологий в биотехе, нанотехе, ИИ и т. д., некоторые искренние люди – вроде Билл Джоя (Bill Joy), бывшего ведущего учёного фирмы Sun – видят мало шансов для выживания полностью отрытого общества. Возможно, вы читали грустный манифест Джоя в журнале ‘Wired’ (3), в котором он цитирует Унабомбера (не кого-нибудь, а именно его) в поддержку предположения, одновременно старого и нового – что нашей единственной надеждой на выживание может быть отказ, уничтожение или остановка нескольких видов технологического прогресса.
Идея об отказе получила поддержку повсюду на философской и политической карте, особенно на крайне правых и левых её краях.
Возьмём, например, романы и высказывания Маргарет Атвуд (Margaret Atwood), чьи основные сюжетные линии почти идентичны тем, что у Майкла Кричтона, несмотря на их различия в поверхностной политике. Оба автора постоянно выражают беспокойство, которое часто переходит настоящее отвращение по отношению к самонадейной гордыне технологических инноваторов, которые просто не могут предоставить природу в достаточной мере самой себе.
На другой стороне спектра правых и левых стоит Фрэнсис Фукуяма, который занимает пост Bernard L. Schwartz Professor of International Political Economy at the Paul H.
Nitze School of Advanced International Studies of Johns Hopkins University. Наиболее известная работа доктора Фукуямы, «Конец истории и последний человек» (1992) с триумфом воспринимает коллапс коммунизма как, вероятно, последнее волнующее событие, стоящее занесения в летопись историков. С этого момента мы увидим цветение либеральной демократии без значительного соревнования или столкновений. Больше не будет «интересных времён». (4) Но этот жизнерадостный взгляд заканчивается, когда Фукуяма начинает замечать потенциально опасную «историю» разрушительных эффектов новых технологий. Будучи придворным интеллектуалом Администрации Буша и членом Президентского Совета по Биоэтике, он сейчас осуждает значительную часть биологической науки как разрушительную и даже аморальную.
Нельзя, согласно Фукуяме, доверять людям в принятии качественных решений об использовании – например – генетической терапии. Человеческая «недоказуемость» столь опасная концепция, что она должна быть отвергнута почти без всяких исключений. В «Нашем постчеловеческом будущем: Последствия Биотехнологической Революции» (2002), Фукуяма предписывает индустриальным отделам отечественного правительства контролировать или запретить целые направления научных исследований, производя все действия, которые они полагают для этого необходимыми.
Вы можете подозревать, что я сомневаюсь. С одной стороны, должны ли мы распространить этот запрет на исследования на весь мир? Возможно ли истребить такие инструменты навсегда? Как для элит, так и для масс? И если да, то как?
Хотя некоторые из режимов разрушения, упоминаемых Биллом Джоем, Ральфом Петерсом (Ralph Peters) и Фрэнсисом Фукуямой выглядят убедительными и стоящими исследования, всё же не понятно, как мы можем справиться со всем, став нео-луддитами. Законы, которые направлены на ограничение технологического продвижения, наверняка будут нарушаться экстремистскими группами, где как раз и сконцентрированы наибольшие опасности. Даже если будут введены свирепые репрессии – вероятно, усиленные всевидящим и универсальным контролем – это не предотвратит исследования и использование таких технологий элитами. (Корпорации, правительства, аристократы, преступники, иностранцы – выберете на свой вкус богему с неограниченной властью.) Годами я бросал вызов отрицателям прогресса - привести хотя бы один пример из всей человеческой истории, когда власть имущие позволяли такому случиться. Особенно, когда они наверняка оставались на месте, чтобы выиграть от чего-то нового.
Будучи неспособными ответить на этот вызов, некоторые отрицатели возражали, что новые мега-технологии – включая биотех и нанотехнологию – могут быть лучше использованы и продвигаемы, если контроль будет ограничен известными элитами, возможно даже в секрете. Когда на кону так много, не должны ли лучшие и самые искренние люди принимать решения за всех? В действительности, по справедливости, я должен допустить, что один исторический пример, который я дал раньше – насчёт ядерного вооружения – не даёт особой поддержки этой идее. Определённо, главным обстоятельством здесь, которое спасло нас, было ограниченное число лиц, принимающих решения, которые могли начать бедственную войну.
И ещё, не был ли весь политический процесс тогда под внимательным наблюдениям публики? Не были ли эти лидеры контролируемы публикой, хотя бы с одной стороны? Более того, решения об атомных бомбах не были сильно подвержены влиянию эгоистических интересов. (Говард Хьюз не стремился иметь и использовать частный ядерный арсенал.) Но эгоистический интерес определённо будет воздействовать на правящие элиты, когда они будут оценивать огромные преимущества и потенциальную цену биотехнологий и нанотехнологий.
И с другой стороны, не является ли элитарная секретность в точности тем создающим ошибки режимом, который Кричтон, Атвуд и многие другие изобразили столь живо, снова и снова, когда выступали против технологической гордыни?
История кишит примерами бредовых сборищ самоуверенных мелких дворян, рассказывающих друг другу воодушевляющие истории и избегающих при этом какой-либо критики, которая могла бы обнаружить расчеты в Плане (мятежа). Предписывая возвращение к патернализму – контролю элитами, которые остаются замкнутыми и неподотчётными – не предлагают ли таким образом отрицатели именно тот самый сценарий, который – справедливо – все боятся больше всего?
Вероятно, это одна из причин того, почему отрицатели – словоохотливые и конкретные, когда речь идёт о возможных путях катастрофы – редко выражаются ясно о том, какие именно контролирующие организации должны выполнить грязную работу по подавлению технологического прогресса. Или о том, как именно эта остановка разработок будет реализована повсеместно. В действительности, сторонники этой теории не могут указать ни одного исторического примера, где подавление знаний вело бы к чем-нибудь большему, чем ещё большие человеческие страдания. До сих пор нет ни одного предложения о том, как предотвратить жульничество некой элитарной группой. А возможно, и всеми элитами.
В результате, только огромное количество нормальных людей будет исключено, отвлекая их мириады глаз, ушей и префронтальных лобных долей от всецивилизационной сети обнаружения ошибок.
И, прежде всего, самоограничение выглядит мерой отчаяния, полностью противоположной характером оптимистичной, прагматичной, могучей культуре.
РЕДКО УПОМИНАЕМАЯ АЛЬТЕРНАТИВА - ВЗАИМНАЯ ПОДОТЧЁТНОСТЬ.
(THE SELDOM-MENTIONED ALTERNATIVE—RECIPROCAL ACCOUNTABILITY )
И всё же, несмотря на весь скептицизм, я в действительности гораздо больше поддерживаю Джоя, Атвуда, Фукуяму и др. , чем кто-то мог бы ожидать. В Прозрачном Обществе, я общался с большим числом социальных критиков, которые затыкались, когда осознавали потенциальные опасности на пути. Превыше всего, подтверждение с высоким уровнем критики – единственный известный антидот к ошибкам. Эта коллективная версия «мудрости» - почти наверняка то, что спасало нас до сих пор. У него нет почти никакого сходства с индивидуальной мудростью, которую мы привыкли ассоциировать со священниками, гуру и бабушками… но он менее зависим от совершенства. Менее склонен к катастрофе, когда миропомазанный Центр Мудрости делает неизбежный просчёт.
В силу этого, на самом деле, я нашёл живительными раздражающих торговцев беспокойством! Одно только их присутствие помогает прогрессу продвигаться вперёд с помощью озадачивания легковерных энтузиастов. Это процесс, называемый взаимная подотчётностью (reciprocal accountability). Без искренних ворчунов, стремящихся указать на потенциальные виды аварий, мы действительно окажемся в в той опасности, в которой мы, по их словам, находимся. Забавно, что в открытом обществе – где брюзги-Кассандры прекрасно слышны – вряд ли потребуются самоограничения, или драконовский контроль, который они предписывают.
Итак, я приближаюсь к главной идее ограничителей. Если общество останется столь же глупым, как некоторые люди думают – или даже если оно столь же умно, как я полагаю, но не становится ещё умнее – то тогда немногое получится из того, что народ планирует на тысячах исполненных благих намерений футурологических конференциях. Получится не более, чем отсрочка неизбежного.
В этом случае, мы будем иметь ответ на давнюю загадку науки – почему нет подлинных следов внеземных цивилизаций среди звёзд. (5) Ответ будет прост. Где бы ни возникала технологическая цивилизация, она всегда разрушает себя. Эта возможность всегда таится в засаде в углу нашего взгляда, напоминая нам, каковы ставки.
С другой стороны, я вижу все причины верить, что у нас есть шанс опровергнуть эту суровую тревогу. Как члены открытой и вопрошающей цивилизации – которая использует взаимную подотчётность, чтобы находить и проверять любой возможный источник ошибок – мы можем быть уникально экипированы, чтобы справится с предстоящими задачами.
В любом случае, верить в это гораздо более весело.
ОПТИМИСТИЧЕСКИЙ СЦЕНАРИЙ – СИНГУЛЯРНОСТЬ.
(THE UPSIDE SCENARIO—THE SINGULARITY )
Мы выслушали грустных ограничителей. Давайте посмотрим на другое будущее. Сценарий тех, кто – буквально – верит, что только небо им предел. Среди многих наших великих мыслителей вращается одна мысль – новый «мем», если вы хотите, - который говорит, что мы готовимся к старту. Я имею в виду идею о Технологической сингулярности. Фантаст Вернор Виндж считается главным популяризатором этой идеи, хотя она уже существовала во многих формах в течение поколений. Недавно, Рэй Курцвайль в книге «Сингулярность рядом» доказывал, что наша научная компетентность и технологическая сила скоро резко возрастут, направив человечество в полностью новую эру. Можно назвать это современной хай-тек версией апотеоза ноосферы Тейяра де Шардена (Teilhard De Chardin) – приближающееся время, когда человечество может перейти, ярко и решительно, на более высокий уровень осознания или бытия. Однако, вместо достижения трансцендентности через медитацию, хорошую работу или благородство духа, идея нынешнего времени состоит в том, что мы можем использовать ускоряющийся цикл образования, творчества и компьютерно-опосредованного знания для достижения интеллектуального господства как на окружающей средой, так и над нашими примитивными носителями.
Иными словами, взять под контроль «колесо жизни» Брахмы, а затем учиться крутить его туда, куда мы хотим. Чем бы ещё вы это назвали …
Когда мы начнём использовать нанотехноогии, чтобы ремонтировать тела на клеточном уровне?
Когда, при получении последних исследований по самой интересной вам теме, автономные программные агенты доставят её вам, настолько быстро и легко, как ваша рука сейчас движется, куда вы хотите?
Когда производство по запросу станет таким обыденным, что богатство и бедность станут почти бессмысленными словами?
Когда опыт виртуальной реальности – скажем, посещение далёкой планеты, - станет трудно различим от реальной вещи?
Когда каждый из нас сможет иметь столько «слуг» - как роботов, так и программных – сколько захочет, таких же послушных, как наша правая рука?
Когда усиленный человеческий интеллект взмоет вверх – и, обмениваясь прозрениями с другими умами на скорости света – поможет нам достичь абсолютно новых уровней мысли?
Конечно, стоит задуматься о том, как эта идея о «сингулярности» соотносится с давней традиции размышлений о выходе за пределы человеческого. В действительности, идея перехода на другой уровень существования навряд ли новая! Она представляет одну из самых устойчивых тем в истории культуры, а значит, происходит из нашей исходной природы.
В действительности, многие оппоненты науки и технологии вцепились в свои собственные образы мессианской трансформации, образы, которые – говоря по правде – смешивают множество эмоциональных потоков с технологически нагруженными восприятием, даже если они различаются в вопросе о средствах достижения трансформации.
В течение истории, большая часть этих размышлений задерживались на духовном пути, на идее о том, что человеческие существа могут достичь более высокого состояния посредством молитвы, морального поведения, ментальной дисциплины, или повторения правильных заклинаний. Возможно, потому что молитва и заклинания были единственными доступными средствами. В последнем веке, интеллектуальная традиция, которая может быть названа «Техно-трансцендентализм», добавила пятое колесо. Идею о том, что новый уровень бытия или более притягательное качество жизни может быть достигнуто посредством знания и умения.
Но какими именно видами знания и умений?
В зависимости от эпохи, в которой вам довелось жить, техно-трансцендентализм смещался от одного мимолётного увлечения к другому, направляя пылкие надежды на научную моду недели. Например, сто лет назад марксисты и фрейдисты сплетали сложные модели человеческого общества – или ума – предсказывая, что рациональное применение этих моделей будет иметь результатом гораздо более высокие уровни общего счастья. (6)
Впоследствии, на фоне популярных новостей об успехах в сельском хозяйстве и эволюционной биологии, некоторые группы были увлечены евгеникой – соблазном улучшения человеческого животного. Время от времени, это приводило к неправильным и даже ужасающим последствиям. И эта повторяющаяся мечта недавно ожила в новых формах, вместе с перспективами генетической инженерии и нейротехнологии. Энтузиасты ядерной энергетики в 1950-е годы обещали энергию, слишком дешёвую, чтобы её мерить. Часть этой же страсти можно увидеть в широко распространившемся энтузиазме в отношении космических колоний в 1970-е и 80-е годы, и в теперешнем продолжающемся кибертрадиционализме, который обещает неограниченную свободу и приватность каждому, стоит нам только зашифровать каждое интернет сообщение, используя анонимность он-лайн, чтобы совершенным образом замаскировать хилые создания, которые в действительности печатают на реальной клавиатуре. В дальней перспективе некоторые держатся надежды, что человеческие умы можно будет загружать на компьютеры или огромную новую осваиваемую область кибер-пространства середины 21 века, освобождая людей от всякой остающейся рабской зависимости от грубых и ненадёжных органических тел.
Эта давняя традиция – искренних людей, направляющих свою веру и энтузиазм на трансцендентные мечты – говорит многое об одном аспекте нашей натуры, о характерной особенности, которая пересекает все культуры и эпохи. Довольно часто этот энтузиазм сопровождается презрением к современному обществу - вере, что некий вид спасения может быть достигнуть только за пределами обычной культурной среды, - среды, которая часто недобра к искренним философам – и к отщепенцам. Крайне редко обсуждается, как много эти энтузиасты имеют общего - во всяком случае эмоционально – с теми, кто верит более старые, более традиционные виды апотеоза (apotheosis - богоуподобление), которые настаивают на методах, которые являются в большей мере ментальными или духовными.
Мы должны помнить всю эту длинную историю, когда мы обсуждаем последнюю фазу: веру в исключительно позитивные эффекты экспоненциального роста способностей вычислительных устройств. В то, что ускоряющаяся мощь вычислений предложит соответственно глубокое увеличение наших знаний и сил. Нашей мудрости и нашего счастья.
Вызов, который я неоднократно бросал, состоит в следующем: «Назовите хотя бы один пример в истории, когда эти верования действительно сбывались. Помня все прошлые поколения, которые были уверены в своей идее изменения, не должны ли вы подходить к своему новомодному набору с некоторой предосторожностью… и может быть небольшим сомнением?»
ЭТО МОЖЕТ БЫТЬ ЛИШЬ МЕЧТОЙ.
(IT MAY BE JUST A DREAM )
Не заносит ли слегка тех, кто верит в сингулярность и ограничителей? Давайте дадим место сомнению. Может быть, все эти разговоры о решительной трансформации при нашей жизни, подобны нашим прошлым эпизодам: более основаны на мышлении, обусловленном желаниями (или страхами), чем на чём-либо доказуемом или прагматичным.
Возьмём, например, Джонатана Хьюбнера (Jonathan Huebner), физика, который работал в военном центре Пентагона (Pentagon's Naval Air Warfare Center in China Lake, California). Рассматривая в целостности понятие об ускорении технического прогресса, он исследовал частоту «значительных нововведений на человека». Используя в качестве источника книгу «История науки и техники», Хьюбнер сделал вывод, что пик инноваций пришёлся на 1873 год и с тех пор только убывал. Фактически, наше теперешний уровень инноваций – который Хьюбнер определил как 7 важных технологических перемен на миллиард человек в год, примерно тот же, что и в 1600 году. К 2024 году он упадёт до того уровня, каким он был в Тёмные века, около 800 года. «Число нововведений не увеличивается экспоненциально, я не увидел их столь много, как ожидал». Хьюбнер предложил два возможных объяснения: экономика и размер человеческого мозга. Как по причине того, что просто не стоит продвигать определённые инновации, если за них не будут платить – одна из причин, почему затормозились космические экспедиции – или потому что мы уже знаем большую часть того, что мы можем знать, и потому открытие нового стало чрезвычайно трудным.
Бен Джонс (Ben Jones) из Northwestern University in Illinois в целом соглашается с находками Хьюбнера, сравнивая проблему с аналогичной проблемой Красной Королевы из Алисы в Зазеркалье: мы должны бежать быстрее и быстрее, просто чтобы оставаться на месте. Но Джонс имеет другое мнение о причинах этого. Его теория состоит в том, что ранние исследователи выщипали все легко достижимые идеи. Или, возможно, огромный объём накопленного знания означает, что новаторы должны иметь более длительные периоды обучения, чтобы узнать достаточно, чтобы изобрести что-то новое, и в результате, меньшую часть своей жизни они могут посвятить изобретательству.
«Я заметил, что нобелевские лауреаты становятся старше», - говорит он. В действительности, легко отбросить все четыре аргумента от Хьюбнера и Джонса. (7) Например, это вполне естественно для нововведений и прорывов казаться менее очевидными для невооружённого взгляда, - теперь, когда мы расширили пространство наших исследований от размеров кванта и до края космоса. В биологии только несколько событий привлекли исключительное внимание как «прорывы» - вроде соревнования вокруг расшифровки человеческого генома. Трудно замечать путевые вехи на столь сложном и туманном поле исследований. Но из этого не следует, что биологические открытия не быстры и не существенны. Более того, в той мере, как многие исследователи получают, по-видимому, свои награды в более позднем возрасте, не является ли это в частности отражением того факта, что продолжительность жизни возросла, и меньше людей умирает до того, как начинается рассмотрение вопроса о призах?
И, есть кое-что ещё, что следует сказать о сомневающихся в сингулярности. В действительности, ещё в 1930-х было несколько известных фантастических произведений, которые предполагали замедление прогресса, исходя из простой логики. Потому что прогресс выглядит своим худшим врагом. Чем больше становится известно, тем в большей мере специалисты в каждой области должны знать всё больше и больше о всё меньшем и меньшем – или о постоянно сужающейся области науки – чтобы продвигать знание малюсенькими шажками.
Когда я был студентом в калифорнийском технологическом институте, в 1960-х, мы обсуждали эту проблему тревожащей длины. Например, каждый год абсолютный размер, занимаемый на полках библиотеки реферативным журналом по химии ("Chemical Abstracts") рос ошеломляюще, и он становился всё более неподъёмным для любого человека, ищущего нужные ему статьи.
И всё же эта тенденция в последующие десятилетия так и не стала бедствием, как мы того ожидали. В частности, потому что реферативные журналы по химии и их братья – факт – исчезли с библиотечных полок, все вместе! Проблема свободного места в библиотеке была разрешена просто путём помещения каждого автореферата в сеть. Определённо, поиск литературы для эффективной работы даже в отдалённых областях знания происходит сейчас быстрее и эффективнее, чем когда-либо раньше, особенно благодаря использованию программных агентов и ассистентов, которые станут ещё более эффективны в ближайшие годы. Эта противоположная сила определённо впечатляюща. Но моё собственное мнение склоняется к другой тенденции, которая, кажется, предупредила коллапс производительности науки. Это мнение, я должен предупредить, полностью субъективно. И оно, по моему опыту, выглядит даже более важным, чем продвижение в технологии онлайн поиска. Потому что мне кажется, что лучшие и самые толковые учёные становятся умнее, несмотря на то, что проблемы, с которыми они стакиваются, становятся всё более сложными.
Я не могу подтвердить это с помощью статистики или анализа. Только моим наблюдением, что многие профессора и исследователи, которых я знал в течение моей жизни, теперь выглядят гораздо более живыми, более свободно мыслящими и более интересующимися областями науки за пределами их собственной, чем они были, - даже с учётом их прогресса за прошедшие годы - когда я в первый раз встретил их. А некоторых я встретил ещё десятилетия назад. Физики кажутся более заинтересованными в биологии, биологи в астрономии, инженеры в кибернетике, и так далее, - чем это было раньше. Это находится в абсолютном контрасте с тем, что можно было бы ожидать, если бы специализация устойчиво сужалась. Но это согласуется с идеей, что культура может мощно влиять на нашу способность быть творческими. И культура, которая освобождается от избитых старых предположений и цеховых границ, может быть, находится в процессе высвобождения ментальных ресурсов, чем закрытия их.
Фактически, эта тенденция – к преодолению стандартного разделения дисциплин – сознательно воспитывается во многих местах. Например, новый Sixth College of the
University of California at San Diego, чья официально установленная миссия – «построить мост между науками и искусствами», вбивая гвоздь в старую концепцию C.P. Snow о том, что две культуры не могут встретиться. Никогда ранее не было столько совместных усилий между технически сообразительными художниками (tech-savvy artists) и учёными, которые принимают эстетические и творческие стороны жизни. (8)
Хьюбнер и Джонс, кажется, упускают то, что сложные препятствия обычно преодолеваются сложными структурами. Даже если Эйнштейн и другие собрали все низко висящие фрукты, которые доступны отдельным людям, это не мешает группам – организациям, командам и коммерческим начинаниям – путём построения сотрудничающих человеческих пирамид отправляться за ценностями, которые висят выше на дереве. Особенно, когда эти пирамиды включают в себя новые виды участников, программных агентов и поисковых методологий, всемирные ассоциативные сети и даже участие заинтересованных любителей на основе работы с открытыми источниками. Или когда место творения мириадов областей исследований распылены по множеству недорогих настольных компьютеров, как раньше это произошло с программами. (9)
Американо-голландский историк экономики Джоел Мокир (Joel Mokyr) в книге «Влияние сокровищ и дары Афины» (The Lever of Riches and The
Gifts of Athena) поддерживает этот прогрессивный взгляд, что мы в действительно делаем нечто правильное, нечто, что даёт нашей либерально-демократической цивилизации уникальную способность создавать непрерывный прогресс. Мокир полагает, что с эпохи Просвещения 18 века, в балансе человеческих сил появился новый фактор: накопление и свободный рынок знаний. Как говорит Мокир, мы не обезглавливаем теперь людей за то, что они говорят неправильные вещи – мы выслушиваем их. Такое «социальное знание» является прогрессивным, поскольку оно позволяет идеям тестироваться и выживать наиболее эффективным из них. Это знание воплощается в учреждениях, которые, в отличие от отдельных людей, могут подняться над нашей человеческой природой. Но Мокир предупреждает, что, хотя общество может прогрессировать, человеческая натура – нет. Наша агрессивная, стадная природа жёстко впечатана в нас, нереформирована и нереформируема. Индивидуально каждый из нас является животным, и как животное, неспособен к прогрессу. Трюк состоит в том, чтобы посадить эти животные натуры в рамки эффективных организаций: образование, закон, правительство. Но это может пойти по неправильному пути. «То, что меня пугает, - говорит он, - это то, что эти организации могут промазать».
Хотя я не использую слова вроде «посадить», я должен согласиться, что Мокир улавливает существенную черту наших недавних и кратких экспериментов с Просвещением: Отрицание Джоном Локком романтического сверхупрощения в пользу прагматических учреждений, которое гибко максимализирует эффективность наших наилучших усилий – ангелов нашей природы – позволяет нашим творческим силам взаимно усиливаться. В то же время, те же самые учреждения и процессы могут ограничить наших «дьяволов» - всегда присутствующую человеческую тенденцию к самообману и жульничеству. Конечно, человеческая природа стремится вырваться из этих ограничений. Склонные к самообману и мошенничеству люди постоянно стремятся найти поводы к обходу соглашений Просвещения и выиграть от того, что эти институции станут менее эффективны. Если мы позволим этому случится, нет более надёжного способа провалить любую сингулярность. Но затем, если посмотреть с другой стороны, что если вскоре станет возможным не только сохранять творческие просвещённый институции, но сделать то, что Мокир считает невозможным? Что если мы на самом деле сможем улучшать человеческую природу?
Предположим, что человеческие компоненты обществ и организаций тоже могут быть сделаны лучше, хотя бы немножко? Я уже утверждал, что это уже происходит, в умеренной форме. Представьте последствия даже маленького скачка вверх общей человеческой интеллектуальности, как врождённой, так и просто функциональной, посредством всего, начиная от образования и «умных лекарств» до технологически усиленных органов чувств и новых методов самообучения.
Не потребуется очень большого усиления человеческого интеллекта, чтобы рынки, наука, демократия и т. д. заработали гораздо лучше, чем сейчас. Определённо, это один из факторов, на который рассчитывают ревнители сингулярности.
То, с чем мы остались, - это образ, который скрывает простое и чистое понятие о кривой «сингулярности»… которая неумолимо взмывает в небеса, как простая математическая функция, где знания и мастерство постоянно усиливают сами себя, как если бы их вёл некий природный закон. Даже наиболее разрекламированный пример такой кривой, закон Мура, - который успешно моделирует увеличение компьютерной силы при уменьшающейся цене – никогда не был гладким феноменом. Ряд критических и своевременных решений – ряд из них чисто случайных – спасли закон Мура от многих столкновений как с технологическими барьерами, так и с жестокими рыночными силами.
Это правда, что нам везло до сих пор. Кибернетика, образование и мириады других факторов помогли преодолеть «ловушку специализации». Но как мы увидим в этом разделе, прошлый успех не гарантирует будущий. Те, кто предвидит восходящие кривые продолжающимися до бесконечности, как если бы это был предмет веры, имеют на это не больше оснований, чем другие трансценденталисты, которые уверенно предсказывают другие воодушевляющие свершения, в своё время.
УСТРАШАЮЩАЯ ЗАДАЧА ПО ПЕРЕСЕЧЕНИЮ МИННОГО ПОЛЯ.
После всего сказанного выше, позвольте мне поспешить добавить, что я верю в высокую вероятность наступающей сингулярности!
Я верю в это, потому что альтернативы слишком ужасны, чтобы их принять. Потому что, как мы обсуждали выше, средства массового уничтожения, от атомной бомбы до бактериологического оружия, всё больше «демократизируются» - распространяются столь быстро среди наций, групп и индивидуумов - что нам стоило бы обнаружить скорое распространение благоразумия и мудрости, иначе мы все обречены.
В действительности, подавляя полностью преобладающее клише цинизма, я предполагаю, что есть твёрдые свидетельства, дающие некоторые основания для предварительного оптимизма. Восходящий тренд уже полностью в силе. Суммарный уровень образованности, знания и мудрости в Западной цивилизации – и у составляющих её граждан – никогда не был столь высок, и уровень этот может продолжить быстро улучшаться в следующем веке. Возможно, достаточно быстро, чтобы исключить некоторые наиболее распространённые представления о катастрофе, с которыми вы выросли. Например, мы не увидим будущего в духе фильма «Бегущий по лезвию бритвы» или любой другой киберпанк-антиутопии. Такие миры, – в которых мощь технологий не соответствует мудрости и ответственности, – просто не смогут сами себя поддерживать.
Перед нами, кажется, открыты четыре широких категории возможностей.
1. Саморазрушение. Жертвоприношение или разорение или массовое уничтожение. Или экологическое самоубийство. Выберете себе вариант на вкус. Последующая долгая эра, в которой немногие выжившие (если будут) оглядываются на нас с завистью. Для чудесно депрессивного и информативного взгляда на этот вариант, смотрите книгу Джареда Даймонда «Коллапс: Как общества выбирают рухнуть или процветать». (Jared Diamond. Collapse: How Societies Choose to Fail or Succeed.) (Отметьте, что Даймонд ограничивает себя экологическими катастрофами, которые напоминают цивилизационные крахи прошлого; в силу этого он только чуть-чуть касается всего разнообразия катастрофических режимов.) Мы привыкли представлять, что саморазрушение происходит из-за ошибок правящих элит. Но в этой статье мы рассмотрели, как это может случиться, если общество вступит в эпоху всеобщей демократизации средств массового уничтожения – или, как Томас Фридман обозначил это, «сверхусиления злых молодых людей», без дополняющего продвижения в социальной зрелости и всеобщей мудрости.
2. Достигнуть некой формы «Позитивной Сингулярности» - или, по крайней мере, фазового перехода к более высокому и знающему обществу (которое может иметь свои собственные проблемы, которые мы не можем представить.) Позитивные сингулярности могут, в целом, предоставить каждому нормальному человеческому существу возможность участвовать колоссальных прорывах, пережить добровольное, решительное самоулушение, без какого-либо принуждения… или предательства базовых ценностей, которые мы все разделяем.
3. Затем идёт «Негативная Сингулярность» - та версия самоуничтожения, в которой происходит резкий рост технологического прогресса, но таким образом, который представители нашего поколения сочли бы горьким. Конкретные сценарии, которые попадают в эту категорию, могут включать ущерб, наносимый нам новыми, сверхинтеллектуальными наследниками (как в Терминаторе или Матрице), или мы можем быть просто «оставлены позади» некими сверхобъединениями, которые похлопают нас по голове и направятся к великим вещам, которые мы никогда не сможем понять. Даже самые мягкие и умеренные версии такой «Негативной Сингулярности» воспринимаются как мерзость некоторыми отрицателями, такими, как Билл Джой, которые мрачно смотрят на перспективу того, что люди могут стать чем-то меньшим, чем вершиной эволюции жизни на Земле. (10)
4. Наконец, имеется крайний исход, предполагаемый любым ограничительным сценарием: возвращение к некой более традиционной форме человеческого общества, подобной тем, что поддерживали статичное единообразие посредством пирамиды иерархического контроля, по крайней мере, четыре тысячелетия. Исход, в котором сокрушаются технологии, которые могут привести к результатам 1 или 2 или 3. Имея 4 тысячи лет опыта в этом процессе, сверхконсервативные иерархии, вероятно, смогут справиться с соответствующей задачей, если мы дадим им достаточную власть. То есть, они смогут делать это определённое время.
Когда различные пути разложены таким образом, становится понятно, какое ошеломительное будущее нас ждёт. Возможно, эпоха, когда решится всё человеческое будущее. И определённо не эпоха, которая исключена из «истории». Читатель может обратиться к прекрасной книге Джоела Гарро «Радикальная эволюция» (Joel Garreau, Radical Evolution) за похожими, но более детально проработанными идеями. Она даёт прекрасный обзор двух экстремальных сценариев будущего – «Небес» и «Ада», а затем постулирует третий – «Преодоление», который смотрится наиболее правдоподобным.
Итак, какой из этих исходов кажется наиболее достоверным?
Во-первых, несмотря на то, что это может выглядеть привлекательным и соблазнительным для многих, я должен выразить сомнение в том, что 4-ый исход может быть успешным в течение продолжительного периода. Да, он резонирует с тайной нотой, которую каждый из нас чувствует внутри себя и которая унаследована от бессчётных тысячелетий феодализма и бесспорной феодальной преданности иерархии, нотой, которая нынче отражена во множестве популярных историях и фильмах в духе фэнтези. Несмотря на то, что мы воспитаны держать некоторые элиты под подозрением, имеется заметная тенденция для каждого из нас закрывать глаза на другие элиты – или фаворитов – и предполагать, что они будут править мудро.
Определённо, квази-Конфуцианская социальная модель, которая реализуется бывшими коммунистическими правителями Китая, кажется убедительным, твёрдым и новаторским походом к усовершенствованию авторитарного правления, так, чтобы в нём сочетались преимущества как капитализма, так и меритократии (теория об управлении обществом элитой одарённых – прим. пер.). (12) Эти решительные усилия предполагают, что усовершенствованная и модернизированная версия иерархизма может преуспеть в подавлении всего беспокоящего, в то же время позволяя существовать прогрессу, который правильным образом проверен. Это, очевидно, является отвержением Просвещения и всего, за что оно борется, включая установку Джона Локка о том, что процесс регулируемого, но в целом свободного человеческого взаимодействия может решать проблемы лучше, чем элитарные принимающие решения касты.
В действительности, мы уже убедились, в одной только этой статье, что есть более чем достаточно причин, чтобы понять, почему откат в развитии просто не может работать в течение длительного времени. Человеческая природа обуславливает то, что никогда не было успешного правления просветлённого, бесстрастного и мудрого «короля-философа». Этот подход подвергался справедливой проверке – в течение, по крайней мере, 40 столетий – и почти по любому счёту он провалился.
Что же касается оставшихся трёх путей, ни каким образом никто – начиная с наибольших энтузиастов, сторонников «экстопии» и утопических трансценденталистов, вплоть до наиболее скептических и пессимистических предсказателей гибели – никто не может доказать, что один путь более вероятен, чем другой. (Как могут модели, созданные более ранней и грубой системой, симулировать и предсказывать поведение более поздней и сложной системы?) Всё, что мы можем сделать – это пытаться понять, какие процессы могут улучшить наши шансы на достижение благоприятных,более жизнеспособных исходов. Эти процессы наверняка будут как технологическими, так и социальными. Они будут, в большой степени, зависеть от нашей способности избегать ошибок.
Мой тезис – противоречащий многим предписаниям как справа, так и слева - состоит в том, что мы должны продолжать доверять Локку. Наша цивилизация уже обладает набором уникальных методик, чтобы справляться с быстрыми изменениями. Если мы обратим пристальное внимание на то, как эти методы работают, они могут значительно улучшиться, возможно, в достаточной степени, чтобы мы могли справиться с проблемами и даже процветать. Более того, наименее полезной модификацией может оказаться та, на которой настаивают сторонники Профессиональных Каст – увеличение патерналистского контроля. (13)
Фактически, если вы посмотрите на нашу современную культуру с исторической перспективы, она выглядит глубоко аномальной в своей склонности к индивидуализму, прогрессу, и, более всего, подозрительностью к властям (suspicion of authority (SOA)). Эта тема активно подавлялись в огромном большинстве человеческих культур, потому что она угрожала стабильному равновесию, от которого правящие классы всегда зависели. В Западной Цивилизации - наоборот – кажется, будто каждое творение масс-медиа, от фильмов до песен и романов, продвигает SOA как центральную человеческую ценность. (14) И это может быть в действительности наиболее уникальным качеством нашей культуры, даже в большей мере, чем наше богатство и технологическое могущество. И хотя мы горды получившимся обществом – тем, которое поощряет эксцентричность, принятие разнообразия, социальную подвижность и научный прогресс – мы всё ещё не имеем права заявлять, что этот новый путь жизни является особенно разумным и очевидным. Многие в других частях мира считают жителей Запада безумными! И не без оснований. В действительно, только время нас рассудит. Например, если мы доведём нашу подозрительность по отношению к властям до предела, и начнём параноидально не доверять даже нашим самым лучшим институциям – как это было в случае с Окламхомским террористом Тимоти Маквейем – то вполне возможно, что Западная цивилизация может распасться на части до достижения своих хвалёный целей и быстро направиться по одному из многих путей к исходу номер 1. Определённо, позитивная сингулярность (исход 2) не может произойти, если будут действовать только центробежные силы и не будет компенсирующих центростремительных добродетельных сил, чтобы удержать нас вместе как общество взаимноуважающих друг друга независимых граждан.
Более того (как я указал в «Прозрачном Обществе» (The Transparent Society)), наши величайшие нововведения, -
пространства ответственности (15), на которых решаются важнейшие задачи, - наука, юриспруденция, демократия и свободные рынки – не являются произвольными и не базируются на прихоти или технологии. Все они зависят от противников, соревнующихся в специально организованных игровых пространствах, с установленными твёрдо-заученными договорённостями для предотвращения разных видов жульничества, которые обычно правят бал, когда в процессе участвуют человеческие существа. Превыше всего, наука, юриспруденция, демократия и свободные рынки зависят от взаимной подотчётности, которая происходит из открытого течения информации. Секретность – это враг, который разрушает все из них, и легко может распространиться, как инфекция, и разрушить наше хрупкий расцвет.
ЛУЧШИЕ МЕТОДЫ ИЗБЕГАНИЯ ОШИБОК
Очевидно, что наша срочная задача – найти и избежать множество ям с зыбучим песком – потенциальных способов возникновения катастрофы – по мере того, как мы с головой погружаемся в будущее. Рискуя повторить наше сверх упрощение, можно сказать, что мы делаем это двумя путями. Первый – предвидение. Второй – живучесть.
Первый метод использует наши знаменитые перфронтальные области мозга – наши самые недавние и наиболее призрачные нейронные органы – чтобы вглядываться вперёд, производить мысленные эксперименты, предвидеть проблемы, создавать модели и предпринимать контрмеры заранее. Предвидение может быть спасительным средством… или одним из наиболее красочных путей к саморазрушению. (16)
Другой подход – живучесть – включает в себя создание сильных систем, наборов для реагирования, инструментов и распределенных сил, которые могут справиться практически с любой проблемой, когда она возникнет – даже с проблемами-сюрпризами, которые хвалёные лобные доли не могли даже представить себе. Нынче оба этих метода совместимы, даже взаимодополнительны. Нашей компьютерной промышленности способствовало то, что, помимо прочего, часть её сконцентрирована в Бостоне и часть – в Калифорнии, где правят разные корпоративные культуры. Компании, взошедшие на северо-восточной ментальности, стараются создать совершенные продукты. Работники остаются в одной и той же компании, зачастую, десятилетиями. Они чувствуют ответственность. Они вычищают баги до релиза и отгрузки. Этим людям мы бы предпочли поручить создание банковской программы, или оборонного радара, потому что мы не можем позволить много ошибок даже в бета-версиях таких устройств, за исключением банкоматов! С другой стороны, люди, работающие в Силиконовой долине, кажется, думают, как представители другого вида. Они кричат: «Давайте немедленно вынесем это на прилавок! Сначала нововведения, а потом ловля глюков! Наши потребители скажут нам, что нужно починить на лету! Они хотят новейшую вещь и к чёрту совершенство!» Сегодняшний Интернет вырос из вот такого творческого фермента, быстро приобретя эмерджентные качества системы, которая оказалась гораздо более сложной и плодотворной, чем предполагали её изначальные творцы. В действительности, в наибольшей степени они заслуживают славы за своё предвидение того, что могут возникнуть неизведанные возможности!
Иногда наилучшее планирование включает в себя оставление пространства для неизвестного. Это трудно, особенно когда твоя обязанность – готовиться к возможным катастрофическим режимам, которые могут повредить великой стране или уничтожить её. Военная и правительственная культура всегда была предвидящей, стремилась анализировать потенциальные краткосрочные угрозы и вырабатывала детальные планы, чтобы предотвратить их. Это привело к методологии постепенного возрастания (incremental) в мышлении о будущем. Одно классическое клише состоит в том, что генералы всегда планируют воевать в модифицированной версии прошлой войны. История учит, что те, кто потерпели поражение – те, кто проиграли последнюю кампанию или испытывают горькую зависть, - часто обращаются к новаторским или жизнеспособным стратегиям, в то время как недавно успешные находятся в большой опасности завязнуть в неподходящих решениях из прошлого, часто с катастрофическими последствиями. (17)
Противоположной крайностью является жанр научной фантастики, чьи попытки предвидеть будущее являются – когда сделаны удачно – частью танца жизнестойкости. Когда достигается согласие относительно образа будущего, как это произошло с «киберпанком» в поздние восьмидесятые, наиболее яркие представители научной фантастики начинают скучать от этого сюжета и начинают искать альтернативы. В действительности, скука может рассматриваться в качестве одной из движущих сил творческих новаций, не только в научной фантастике, но и в нашей буйной цивилизации в целом. Говоря как автор фантастических романов, я могу сказать вам, что ошибочно думать, что авторы научной фантастики пытаются предсказывать будущее. С нашей склонностью больше к жизнестойкости, чем к предвидению, мы больше заинтересованы в открытии возможных видов катастроф и трясин на нашем пути, чем в получении детального пророческого путеводителя по будущему.
В действительности, можно пытаться доказать, что самым сильным видом фантастической сказки является само-предотвращающееся пророчество – история, роман или фильм, которая изображает мрачное будущее столь живо, пугающе и убедительно, что миллионы людей стремятся предотвратить исполнение этого сценария. Примерами этого благородного (если пугающего) жанра являются Безотказный (Fail-Safe), О Дивный Новый Мир (Brave New World), Зелёный Сойлент (Soylent Green), Капитал, Горячая зона, и превыше всего, «1984» Оруэлла, уже более 60 лет пугающее читателей до полусмерти. Оруэлл показывает нам провал, ждущий цивилизацию, которая соединяет страх с технологией и с чёрной, циничной традицией тирании. Сделав так, он вооружил нас против этой ужасной судьбы. Исследуя сумеречную территорию будущего нашими сердцами и умами, мы иногда можем обнаружить возможные катастрофические режимы достаточно заранее, чтобы предотвратить их. Суммируя, можно сказать, что этот процесс мысленного экспериментирования подходит как для предвидения, так и для жизнестойкости. Но он наиболее эффективен при массированном применение, на рынках и других пространствах, где открытое соревнование между бесчисленными хорошо-информированными умами может сотворить уникальную синергию, которая сделала нашу цивилизацию столь отличной от ведомых иерархией культур, которые были раньше. Синергия иссушит плохие идеи с помощью критики, и вместе с тем позволит хорошим соединяться и процветать. Я не могу гарантировать, что этот сценарий будет работать на будущих опасных территориях. Открытая цивилизация, наполненная широко образованными, сильными и знающими гражданами сможет направить чистящий свет взаимной подотчётности столь совершенно, что наступающие технологии не смогут быть использованы ужасным вредоносным образом ни секретными элитами, ни разгневанными молодыми людьми.
Или наоборот… возможно… это решение, которое продвинуло нас столь далеко в 20 веке, не будет подходить ускоряющемуся 21-ому веку. Возможно, ничего не будет работать. Может быть, это объясняет Великую Тишину, там, среди звёзд.
Вот то, что я знаю. Никакие другие рецепты не имеют даже малейших шансов работать. Открытое знание и взаимная подотчётность во всяком случае, стоят того, чтобы на них сделать ставку. Это – трюки, которые забросили нас столь далеко, если сравнивать с 4000 годами почти непрерывного провала систем иерархического контроля. Любой, кто говорит, что мы должны внезапно развернуться назад в этом направлении, назад к дискредитированным и подверженным провалам путям секретности и иерархии, должен найти этому существенные доказательства.
РАЗНЫЕ ВИДЫ ПЕРЕЖИВАНИЯ СИНГУЛЯРНОСТИ.
(VARIETIES OF SINGULARITY EXPERIENCE).
Ну хорошо, что если мы останемся наплаву и достигнем чего-то вроде Позитивной Сингулярности? Можно бесконечно обсуждать, что здесь является наилучшим или хотя бы желательным. Например, можем ли мы обменивать наши тела – и мозги – на более успешные модели, сохраняя ядро человечности… или душу?
Если судьба органических людей – быть заменёнными искусственными созданиями, которые будут гораздо более совершенны, чем мы - усовершенствованные обезьяны, - можем ли мы спроектировать тех, кто нас заменит, чтобы они хотя бы считали себя людьми? (Эту необычную идею я исследовал в нескольких коротких рассказах.) В этом случае, будете ли вы столь предвзяты, что будете ворчать на свою внучку в силиконовом теле, тогда как она будет навещать вас регулярно, удачно шутить, выражать симпатию и будет добра к своим собственным детям? Или они просто пройдёт мимо, сэкономив секунду на том, чтобы помочь нам примириться с нашим элегантным моральным износом?
Некоторые люди по-прежнему остаются поклонниками апотеозиса (apotheosis) Тейяра де Шардена – идеи о том, что мы все объединимся единую макрообщность, буквально богоподобную в своём знании и восприятии. Физик Франк Типлер говорит об этой судьбе в своей книге «Физика бессмертия», и Айзек Азимов предлагает подобное восприятие как долгосрочную цель человечества в Крае Основания (Foundation's Edge). Я никогда не находил эту идею особенно привлекательной - по крайней мере, в её стандартном представлении, согласно которому некая макро-общность просто складывает в себе все меньшие индивидуальности, и затем продолжает думать глубокие мысли. В «Земле» я пишу о разновидности этой идеи, которая может быть гораздо более приятной, в которой мы все остаёмся индивидуумами, и в то же время все вместе делаем новый вклад в планетарное сознание. Другими словами, мы сможем одновременно съесть пирожок и сохранить его.
В противоположной крайности, в «Триумфе Основания», моём сиквеле к знаменитой вселенной Азимова, я сделал более явным то, на что Айзек указывал всё время – на возможность того, что консервативные роботы будут бояться человеческой трансцендентности и по этой причине активно работать против человеческой Сингулярности. Боясь, что это нам повредит. Или позволит нам соревноваться с ними. Или даст нам силу оставить их позади. В любом случае, Сингулярность является очаровательной вариацией всех тех трансцендентальных идей, которые, как кажется, вздувались, естественно и спонтанно, из человеческой натуры с начала письменной истории. Даже более, чем другие, эта может однажды оказаться разочаровывающей. В конце концов, хороший родитель хочет лучшего для своих детей – чтобы они были лучше и действовали лучше. И всё же может быть мучительно представлять их (или, возможно, их внуков) живущими, как боги, с почти что всеведущим знанием и восприятием и почти бессмертными – и принимающими это как должное.
Возникает соблазн ворчать: «Почему не я? Почему я тоже не могу быть богом?» (18) Но затем, - когда человеческое существование не было мучительным? В любом случае, что ещё более впечатляюще? Быть богоподобным? Или быть природными созданиями, продуктами хрюкающей эволюции, которые едва выползли из пещер… которые, тем не менее, сумели выучить правила природы, стали уважать их и затем использовать для создания полезных вещей, хороших потомков, хороших судеб? Даже богоподобных.
Все наши размышления и построения (включая это) могут, в конце концов, показаться забавными и наивными для этих ослепительных потомков. Но я так же надеюсь, они испытают моменты уважения, когда они обратят свой взор на нас.
Они могут даже остановиться и осознать, что мы были в действительности, совсем не плохи… для усовершенствованных пещерных людей. И наконец, какое чудо может быть более впечатляюще для таких ущербных созданий, как мы, чем спроектировать и породить богов? Возможно, нет более высокой цели. Или такой, которая бы лучше классифицировала нас как самонадейных гордецов.
Или ещё… возможно… исполнение нашего предназначения и смысл всей этой боли. Чтобы выучиться состраданию и мудрости, которые нам понадобятся, более, чем что-либо ещё, когда светлые ученики покинут кабинет Мастера. Надеющиеся заслужить оценки и одобрения, напоследок, пока мы продолжаем процесс творения.
1. Некоторые части этого эссе происходят из выступления на конференции «Ускоряющиеся перемены 2004»: «Горизонты восприятия в эпоху перемен». (Accelerating Change 2004: "Horizons of Perception in an Era of Change") November
2004 at Stanford University. Copyright 2005, by David Brin).
2. В своей статье «Молекулярное производство: Слишком опасно, чтобы допустить?» Роберт Фрейтас ("Molecular Manufacturing: Too Dangerous to Allow?" Robert A.
Freitas Jr.) описывает этот сценарий. Типичный аргумент против продвижения молекулярных ассемблеров или проектов нанофабрик состоит в том, что конечный результат слишком опасен. Согласно этому аргументу, любые исследования в области молекулярного производства (МП) должны быть заблокированы, потому что эта технология может быть использована для конструирования систем, которые могут причинить экстраординарный ущерб. Беспокойство разного рода о том, что могут быть созданы нановооружения, широко обсуждалось, как в художественной, так и нехудожественной литературе. Возможно, самая первая обнаруженная опасность молекулярной нанотехнологии – это опасность самореплицирующихся нанороботов, способных функционировать автономно в природе, которые могут быстро конвертировать всю эту природу (например, «биомассу») в копии самих себя (например, «наномассу») в планетарном масштабе – сценарий, часто называемый «проблемой серой слизи», но который более точно следовало бы называть «глобальной экофагией». Объясняя данный сценарий Фрейтас не подписывается под него.
3. "Why the future doesn't need us." Wired Magazine, Issue 8.04, April 2000.
4. Хотя моё описание Конца Истории слегка упрощает его, хотелось бы, чтобы предсказания в общественных науках так же тщательно отслеживались бы на предмет достоверности, как в физике. В 1986 году, на вершине конфронтации эры Рейгана, я предсказал приближающееся падение Берлинской стены, за которым последует несколько десятилетий интенсивной конфронтации «с той или иной ветвью мачо-культуры, возможно, исламом».
5. Подробнее об этом затруднении см.
http://www.davidbrin.com/sciencearticles.html
6. И больше квази-религиозных социально-политических мифологий последовало, начинания от заклинаний Ayn Rand и до Мао Цзедуна. Все они вырабатывают «логические цепи причин и следствий, которые предсказывают дальнейшую человеческую трансформацию политическими (в противоположность духовным и техническим) средствам».
7. За детальным ответом на анти-инновационные рассуждения Хьюбнера см. обзор «Возможная тенденция спада в темпе открытий в мире» Джонатана Хьюбнера опубликованный Джоном Смартом в сентябрьском 2005г выпуске «Технологического прогнозирования и социальных перемен».
http://accelerating.org/articles/huebnerinnovation.html
8. Exorarium Project предлагает достичь всего этого и гораздо большего посредством приглашения посетителей музеев и онлайн участников включиться в уникальное образовательное пространство. Объединяя симуляцию на уровне искусства и системы визуализации плюс самые лучшие идеи из астрономии, физики, химии и экологии Exorarium наделит пользователей силой создать убедительно живых инопланетян и затем протестировать их в реалистических сценариях первого контакта.
http://www.exorarium.com/
9. Для более интенсивного рассмотрения вопроса о том, как «истина» определяется в науке, демократии, судах и рынках, см. вводную статью в American Bar Association's
Journal on Dispute Resolution (Ohio State University), v.15, N.3, pp 597-618, Aug. 2000, "Disputation Arenas: Harnessing Conflict and Competition for Society's Benefit" or at: http://www.davidbrin.com/disputationarticle1.html
10. В других местах я обсуждал различные предлагавшиеся пути решения проблемы Лояльности в некоторую будущую эпоху, когда машинный интеллект сможет далеко превзойти способности обычных органических мозгов. Ранние предложения (например, «законы робототехники» Азимова) почти наверняка не будут работать. Остаётся совершенным неизвестным, смогут ли люди «продолжить скачку», используя кибернетические усовершенствования или «соединения» с внешними процессорами. После долгого размышления я пришёл к выводу, что мы можем обращаться с этим так же, как все предыдущие поколения, создававшие новых (и часто превосходивших их) существ без стыда или страха. Путём обучения их думать о себе, как о человеческих существах, с нашими ценностями и целями. Другими словами, как о наших детях. (See: http://www.davidbrin.com/lungfish1.html)
11. Конечно, здесь есть другие возможности, в действительности, много других возможностей, иначе бы я не зарабатывал себе на хлеб как писатель-фантаст и футуролог. Среди более умудрено-развлекательных возможностей есть та, что утверждает, что мы все живём в симуляции, в некотором уже «пост-сингулярном» контексте, вроде гигантского компьютера. Возможности безграничны. Но все четыре категории, по-видимому, формулируют абсолютность нашего выбора: или стать мудрее, или увидеть крушение всего в течение одного поколения.
12. Это свершение основывалось на более ранних историях успеха в Азии, в Японии и Сингапуре, и обучалось на их ошибках. Наиболее значительна была явная целеустремлённость к изучению прагматических уроков, к включению в себя ограниченных уроков критицизма и демократии, принятии их ценности как механизма коррекции ошибок – ограничивая при этом их эффективность как угрозы иерархическому правлению. Можно предположить, что это опасное положение рухнет, когда всеобщее образование достигнет определённой точки. Но это только гипотеза. Определённо, неоконфуцианцы способны стремится овладеть потоком истории, чтобы подтвердить свою ставку.
13. См. моё эссе «Осаждённые профессионалы против Обессиленных граждан» о маячащей впереди власти 21 века, зажатой между обычными людьми и искренними, образованными профессионалами, которым платят, чтобы они нас защищали.
http://www.amazon.com/gp/product/B000BY2PRQ/002-1071896-8741633
В этом контексте «футурологическое эссе» указывает на довольно малозаметный аспект трагедии 11 сентября – то, что граждане сами по себе были наиболее эффективной защитой цивилизации. Единственные действия, которые действительно спасали жизни и мешали терроризму в этот ужасный день были предприняты на основе быстрых, соответствовавших ситуации решений, сделанных частными лицами. Эти лица проявили одновременно качества живучести и инициативности – наши наилучшие черты – и были вооружены теми же самыми новыми технологиями, которые поработят нас, по словам мрачных мудрецов. Может ли это быть указанием на тенденцию 21 века, противоположную тенденции 20-го: всё большей зависимости от профессионалов в том, чтобы они защищали нас, вели нас и следили за нами.
14. Возьмите существенную разницу между умеренными членами двух главных американских политических партий. Разница эта в том, какую элиту вы обвиняете в стремлении захватить слишком много власти. Умеренные Республиканцы боятся важничающих академиков, идеологов и безликих бюрократов, стремящихся стать патерналистскими Большими Братьями. Умеренные Демократы обеспокоено следят за заговорщическими покушениями на власть со стороны попустительствующих аристократов, безликих корпораций и религиозных фанатиков (Умеренный либертарианец возьмёт два пункта из первого списка, и два из второго!) У меня есть своё мнение о том, какая из этих двух культур наиболее опасна в настоящий момент. (Намёк: это та же культура, которая доминировала над остальными городскими культурами в течение 4 тысяч лет.)
Но поразительно ироничным и почти никогда не обсуждаемым, является то, сколько общего в этих страхах. И тот факт, что любого из них следует бояться. В действительности, только универсальная подозрительность к властям имеет некий смысл. Вместо идеологически зашоренного взгляда только на одну сторону горизонта, почему бы нам не согласиться смотреть во всех направлениях, где тирания или рационализованная глупость может возникнуть? И снова взаимная подотчётность оказывается единственным возможным решением.
15. – тоже, что 9.
16. Я говорю это как превосходный практикующий искусство предвидения, как в фантастике, так и за её пределами. Каждый футуролог и романист имеет дело с созданием убедительных иллюзий предвидения…хотя когда-нибудь эти иллюзии окажутся полезными.
17. Ничего не стоит то, что современный корпус офицеров США (US military Officer Corps) усиленно старается избежать этой ловушки, стремясь установить процесс ре-эволюции, в котором превосходящая и победившая сила в действительности думает как та, которая была побеждена. Другими словами, с вечно открытыми для инноваций глазами. И всё же, несмотря на новый и интеллектуальный дух открытости, военное мышление кишит произвольными предположениями. Почти в том же количестве, как те, что роятся среди политиков.
18. Конечно, есть Сингяританцы, которые твёрдо верят в маячащую Сингулярность - которые ожидают, что она примчится столь быстро, что даже ребята моего возраста (около пятидесяти) смогут оседлать волну бессмертия. Да, хорошо. И они называют меня мечтателем.
© 2006 David Brin