Мой новый сайт, на котром есть вся информация по рискам вымирания человечества:
http://www.humanextinction.ru/
Майкл Вассер, Роберт Фрайтас
Проект «Нанощит» фонда Лайфбоат .
Lifeboat Foundation Nanoshield
by Michael Vassar, Robert A. Freitas Jr.
http://lifeboat.com/ex/nano.shield
Перевод: А.В.Турчин avturchin@mail.ru
Наибольшими опасностями ближайшего будущего могут стать нановооружения (серая слизь и другие), созданные с помощью молекулярного производства. Фонд Лайфбоут предлагает развивать методы детектирования, такие как наблюдение со спутников в инфракрасных лучах с целью обнаружения сигнатур нанороботов, наряду с трёх ступенчатой защитной системой, которая будет включать в себя такие устройства, как орбитальное зеркало, способное концентрировать солнечный свет в области опасного распространения нанороботов-экофагов.
Памяти Касси Фрейтас.
Опубликовано Фондом Лайфбоут 31 июля 2006г.
При участии Amara D. Angelica, Philippe Van Nedervelde, Mike Treder и других членов научного совета Lifeboat Foundation.
1. Обзор
Наиболее реальная опасность, угрожающая жизни на Земле – это, вероятно, риски, создаваемые биологическим оружием и новыми возникающими болезнями. Предложенный фондом Лайфбоут Биощит (1), описанный лауреатом премии Лемелсон-МИТ Реем Курцвелом и лидером большинства в сенате Биллом Фёрстом –является рекомендуемой нами защитой от этой опасности. Проект Биощит подчёркивает важность развития технологий для борьбы с биологическим оружием, таким как биологические вирусы, посредством развития широкого круга инструментов для недопущения их разработки и для их уничтожения.
Однако в будущем главной опасностью станут нановооружения, и мы полагаем, что настало время разработать решение этой проблемы. Как сказал Рей Курцвел: «По мере того, как пороговый уровень, необходимый для создания самоорганизующейся нанотехнологии приближается, мы должны осуществлять конкретные инвестиции в разработку защитных технологий в этой области, включая создание технологической иммунной системы».
Возможно два типа нановооружений:
1)Самореплицирующиеся вооружения (экофаги), которые делают свои собственные копии; основное средство их атаки – это «поедание» врага или его ресурсов по мере саморепликации.
2) Нереплицирующие нановооружения, подобные современным орудиям войны, которые производятся на фабрике и затем используются на поле боя.
Проект Нанощит разработан в первую очередь для контроля самореплицирующегося оружия, но он будет также прекрасным средством первой линии обороны от нереплицирующихся вооружений. Гораздо труднее защититься от непреплицирующихся вооружений, поскольку они не должна тратить много времени на репликацию. Их также легче спроектировать, так как они не должны содержать инструкций о том, как реплицироваться.
2. ИСТОРИЯ ВОПРОСА.
Одни из наиболее рано признанных и широко известных рисков молекулярного производства – это риск того, что искусственные нанотехнологические репликаторы (2) – способные поедать биологические материалы и автономно функционировать в окружающей среде – могут быстро превратить всю биосферу в огромное количество собственных копий.
Этот сценарий широко известен под названием «серая слизь», но более правильно его называть «глобальная экофагия» - этот термин предложен Р. Фрейтасом в (3). Такие репликаторы, называемые экофагами, будут представлять собой класс форм искусственной жизни, более летальных, чем любая чума, которая когда-либо существовала на этой планете. Если экофаги когда-либо будут созданы и выпущены на свободу, то для контроля над ними потребуется более мощная иммунная система, чем какая-либо естественная биологическая иммунная система.
Человеческая иммунная система не должна распознавать чужаков таким образом, как это должна будет делать нанотехнологическая иммунная система. Наша иммунная система должна распознавать только своих и атаковать всё остальное. Другое важное различие состоит в том, что биологические иммунные клетки – и чужаки, которых они должны атаковать – будут размножаться с биологическими скоростями и уровнями энергии.
Напротив, соревновании экспоненциально растущего числа нанотехнологических устройств прожарит биосферу за счёт перегрева в процессе размножения, особенно если большое количество новых реплицирующихся видов наноустройств будет выпущено одновременно, и если, чтобы остановить каждого из них, потребуются различные виды защитных устройств.
Человеческая иммунная система также выиграла от совместной эволюции с противником. Микробы селектировались таким образом, чтобы не преодолять ее слишком быстро: в противном случае эпидемии бы выгорали на месте, и микробы бы проигрывали. Главным иммунологическим преимуществом человеческой иммунной системы, вероятно, является большое число людей, в которых она находится. Когда микробы побеждают ее в одном человеке, то эгоистичный генетический материал этого человека может позволить ему просто умереть, при этом сохраняясь в других людях. Но у нас есть только одна Земля, так что мы не можем позволить себе такие жертвы в глобальном масштабе.
По этой причине наша задача более сложна, чем та, что была в природе, если мы собираемся защитить себя от искусственных репликаторов. Но у нас также есть преимущества, которых нет у природы. Наиболее важные среди них – это способность применять конструирование, вдумчиво анализировать обнаруженные нами наномашины, и применять макроразмерные феномены для защиты.
3. ПРЕДЛАГАЕМЫЙ ПРОЕКТ «НАНОЩИТ».
Предлагаемый нами проект Нанощит включает в себя пять конкретных рекомендаций, перечисленных далее:
3.1 ОБНАРУЖЕНИЕ ОПАСНОСТИ.
Для начала обсуждения этой проблемы, необходимо определить очаг охвата экофагии, который скорее всего удастся обнаружить. Это является функцией того, насколько проникающей будет наша оборона, и от ее эффективности в обнаружении экофагии, с учётом того, что экофаги могут быть нарочно сконструированы таким образом, чтобы противостоять обнаружению.
Если нанороботы извлекают углерод в основном из окружающей среды, чтобы создавать алмазные структуры, вы в принципе можете искать избыток «мусорных» атомов, которые они высвобождают. Например, если экофаги потребляют основанный на CHON органический материал, и потребляют в основном атомы углерода, чтобы встраивать их в свои в основном гидрокарбонатные реплики, то они будут выделять в окружающую среду неиспользованные атомы H, O, и N в виде отходов в некоторой форме.
Но попытки обнаружить экофагов путём поиска атомов отходов встречаются с несколькими проблемами:
Если они выделяют отходы по мере питания, то выделения могут быть спрятаны за счёт конструирования экофагов таким образом, чтобы они выделяли наиболее натурально выглядящие летучие вещества. Например, отходы O, N и H атомов могут выделяться в атмосферу в форме O2, N2, H2, или H2O.
За исключением случая, когда множество экофагов сконцентрировано в одной области, объём выделения этих летучих веществ может быть относительно небольшим, даже если могут быть каким-то образом распознаны, как искусственные.
Экофаги могут упаковывать свои отходы в капсулы со сжатым газом или состоящие из твёрдого вещества и закапывать их в грязь. Если они будут покрыты камуфляжным покрытием, эти капсулы будут незаметны.
Некоторые экофаги могут быть сделаны из негидрокарбонатной керамики, такой как нитрид бора или нитрид кремния, и в силу этого будут иметь другую подпись из летучих веществ, чем алмазоидные экофаги. Таким экофаги даже не должны питаться биологическими веществами во время своей относительно медленной фазы роста (репликации), но могут питаться камнями и т. п. вместо того, и затем потреблять биоматериалы в течение относительно быстрой фазы уничтожения (без репликации) (3).
Если экофаги будут хорошо стараться, чтобы скрыть свои испарения, то они, вероятно, не будут обнаружены, так что надо будет искать другой способ для обнаружения экофагов.
Две другие возможные техники – это спектрографический анализ и сонографический анализ. Можно пытаться обнаружить продукты молекулярного производства (МП) спектрографически, на основании присутствия определённых типов химических связей. Однако это может быть предотвращено конструкторами экофагов путём покрытия их чем-то, выглядящим как нечто натуральное, например, как соединения кремния из песка или создания внешней оболочки из минералов магния-железакремния-и т. д., которые выглядят точно как естественная грязь.
Продукты молекулярного производства могут быть обнаружены в окружающей среде сонографически, как множество скоплений материи, резонирующей на одном и том же наборе частот. Однако, проблема здесь в том, что нанороботы и их части имеют очень высокую резонансную частоту – от гигагерц до терагерц – потому что они очень маленькие. Кроме того, акустические волны на таких частотах быстро ослабевают в воздухе и даже в воде, так что полезное расстояние, на котором можно их использовать, будет очень небольшим, порядка микронов. И было бы неразумным надеяться, что экофаги будут скапливаться в виде качественных макроскопических «камертонов», которые будут делать их более заметными – конструктор экофагов, вероятно, не позволит своим экофагам вообще как-либо скапливаться с целью размножения.
Другой метод состоит в исследовании образцов материалов. Если мы предположим, что вероятный размер устройств будет 10 кубических микрон, то обнаружение одного потенциально опасного наноустройства в кубическом метре породы потребует исследования 10**17 образцов. Для того, чтобы провести такое исследование каждого из 10**15 кубических метров, составляющих двухметровый слой поверхности Земли, используя вычисления с помощью брусков (rod logic) (наномеханические вычисления на молекулярном уровне, как это предлагает Э.Дрекслер в «Наносистемах»), потребуется вся солнечная энергия, падающая на Землю в течение 15 минутного периода, на каждую вычислительную операцию, необходимую, чтобы определить данную частицу как опасную.
Это потребует также непрактичного разрушения каждого объекта на Земле и некоторые специальные техники для обработки полученной информации. Поскольку некоторые защитные зонды будут выходить из строя естественным путём, данная техника не позволит обнаружить экофагов, спроектированных, чтобы защищать себя. Даже гораздо менее тщательное обследование, представляющую собой случайную проверку одного из 10**12 областей пространства, было бы разрушительным, трудоёмким и уязвимым для обмана.
Другой метод состоит в использовании трёхмерных изображений наночастиц, которые будут получаться с помощью микроскопа, использующего недавно разработанную технику когерентной дифракции рентгеновских лучей, вместо техники фокусировки их (12). Это позволит проводить неразрушающий криминалистический анализ на предмет содержания продуктов МП.
Попытки обнаружить МП продукты тактильно, на основании их твёрдости, могут быть предотвращены камуфляжным покрытием и потребуют физического контакта, что приведёт к большому числу проблем.
Так что, вместо того, чтобы анализировать с помощью вычислений и характеризовать каждый образец материи, с целью выяснения, способен ли он к саморепликации, лучше было бы непрерывно осуществлять мониторинг тепловых сигнатур всей поверхности Земли и, возможно, того, что находится под поверхностью. (3) Если это объединить с изощрённой системой распознания паттернов, то возникающие проблемы можно было бы обнаруживать достаточно быстро. Нанороботы, осуществляющие проверку на местах, следует посылать только в те регионы, которые имеют высокий индекс «возможно опасных» с точки зрения систем, распознающих тепловые сигнатуры. Также необходимо контролировать атмосферу и океаны.
Сможет ли экофагия замаскировать инфракрасное излучение и таким образом избежать обнаружения? Механическая и химическая активность создаёт избыточное тепло, так что это тепло может проявиться где-то в окружающей среде. Одна из стратегий, которую экофагия может использовать, было бы перенаправление тепла из места своей активности к какому-нибудь отдалённому месту, где тепло могло бы рассеиваться в более широком объёме и, следовательно, его будет труднее обнаружить над уровнем фона.
Например, система охлаждения, основанная на эффекте Пельтье (электронное охлаждение) могла бы переносить теплоту от экофагов через подземную электрическую сеть к удалённой охлаждающей системе, вероятно, уменьшая тепловую сигнатуру ив 1000 раз. Тепловоды, в виде труб с жидкостью или сложная фрактальная система алмазных труб (алмаз является прекрасным проводником тепла) так же могут быть эффективны. Другой стратегией экофагов может быть получение биологических продуктов питания в одном месте, но не переваривание их там, а вместо этого транспортировка их в другое, удалённое место, где тепловая сигнатура химической переработки может быть лучше скрыта – например, в перерабатывающий центр глубоко под землёй.
Все эти способы атаки можно отбить, если создать глобальную термическую карту с высоким разрешением и высокой чувствительностью, основанную на хорошей базовой статистике за многие годы как для поверхностных, так и для подповерхностных температур, и если вся поверхность плотно и непрерывно контролируется с помощью продвинутых программ по обнаружению паттернов.
Для дополнительного обеспечения безопасности можно осуществлять случайное тестирование образцов материалов, в дополнение к простой проверки тепловых сигнатур. Отметим, что только пристальное исследование (включающее частичный разбор на составные части) обнаруженных объектов будет достаточно для определения, являются ли они продуктами молекулярного производства или нет.
3.2. НЕСПЕЦИФИЧЕСКАЯ ИММУННАЯ ЗАЩИТА.
Должны быть созданы инструменты, способные обеспечить универсальную неспецифическую реакцию на любую возможную угрозу экофаги. Например, нанороботы-инспекторы должны быть переброшены в любую область, в которой подозреваются какие-либо признаки возможной активности экофагов.
Если экофаги обнаружены, то тогда должны последовать защитные действия с помощью заранее запасённых боевых нанороботов, заранее произведённых глобальной сетью оборонных нанофабрик. Эти нанороботы первой линии обороны будут обладать прирождёнными способностями по обезвреживанию экофагов – например, ослеплять сенсоры, распылять краску над солнечными батареями, и, возможно, некоторыми способностями по механической разборке и физическому разрушению, поражению электрическими разрядами, облучения потоками электронов и т. д. Эти средства защиты дадут время до того, как подтянутся и сработают специализированные иммунные системы.
3.3 СПЕЦИФИЧЕСКАЯ ИММУННАЯ ЗАШИТА.
Второй набор инструментов, который должен быть размещён, должен обеспечивать специфический нацеленный иммунный ответ на обнаруженную угрозу экофагии. Эти средства защиты должны атаковать конкретную обнаруженную экофагию. Они не должны запускаться, пока экофагия не идентифицирована и ее слабые стороны не обнаружены. Регулярная программа по сбору и инспектированию нанороботов, обнаруживаемых в окружающей среде, путём сбора образцов в случайном порядке в определённых местах, позволит создать статистику по существующим популяциям нанороботов и будет служить средством раннего предупреждения о появлении новых способностей нанороботов, которых удалось раскопать.
Способность обнаруживать и идентифицировать объект требует способности, в случае необходимости, избирательно направлять энергию в этот объект. Ультразвук на подходящей резонансной частоте может перенести разрушительные объёмы энергии на заранее определённые с молекулярной точностью объекты.
Конкретные поверхностные химические соединения могут быть атакованы с помощью соответствующих химических реакций. Химические связи могут быть разорваны квантами света соответствующей частоты. Например, экофагия, внутри которой используется инструменты механосинтеза, осуществляющие связь Ge-C, может быть остановлена с помощью инфракрасных лучей с частотой 21 ТГц, что примерно соответствует резонансной частоте связи Ge-C.
Подобным же образом, облучение микроволнами на гигагерцевой частоте может внести излишнюю энергию в чисто механические компоненты нанороботов, такие как логические стержни механических нанокомпьютеров, работающих на частоте порядка нескольких ГГц, нанося им необратимые повреждения, если эти подвижные компоненты включают в себя какой-либо несбалансированный электрический заряд или проводящие пути в своей молекулярной структуре.
Другой вариант – использование принципов, на которых работает человеческая иммунная система. Поверхности, комплементарные тем, которые имеют загрязнители окружающей среды, включая продукты МП, могут быть созданы и избирательно использованы, чтобы блокировать МП продукты и изолировать их. Сенсоры, солнечные батарей и другие ключевые части МП-устройств также могут блокироваться. Такие специализированные средства против продуктов МП следует запускать против обнаруженной инфекции, однако, конечно, вряд ли будет дано разрешение покрыть всю Землю(включая атмосферу и океаны) ими.
В то время как МП системы должны бороться с энтропией, чтобы создавать системы с молекулярной точностью, контрмеры могут «сотрудничать» с энтропией. Другими словами, на молекулярном уровне, как и на любом другом, после того, как произошло детектирование, разрушение осуществляется гораздо проще и занимает гораздо меньше времени. В результате, за исключением случаев популяций экофагов, намного превосходящих по количеств популяции защитных устройств, время уничтожения будет значительно меньше времени поискам. Время поиска должно быть обратно пропорционально концентрации объектов.
По этой причине, экспоненциально реплицирующася популяция экофагов может быть остановлена конечным числом анти-экофагов, или, говоря точнее, определённой концентрацией (на единицу объёма) анти-экофагов. Из этого следует две вещи: (а) вам не придётся реагировать на выброс экофагов мгновенно. И (б) вам не придётся вступать в экспоненциальную гонку.
В ходе мониторинга МП популяций в окружающей среде, любая не броуновская диффузия или быстрое увеличение присутствия должны насторожить внимание систем контроля, которым следует исследовать данную популяцию, конструкцию угрожающего наноустройства и провести симуляцию поведения этого устройства. Если они почувствуют беспокойство, они должны авторизовать высвобождение контр-устройств, накопленных большой и рассеянной планетарной сетью нанофабрик. Контр-устройства не обязаны обладать способностью к самореликации, и по сути и не должны, так как это сделает их сложными и медленными; и, кроме того, это повысит вероятность того, что их используют в качестве экофагов.
Разделение труда обычно весьма эффективно, и производство контр-устройств специализированными продуктивными наносистемами является примером этого. Хотя сеть нанофабрик для производства контр-устройств должна быть заранее построена и снабжена сырьём и энергией, конкретные контр-устройства не должны производиться до того, как возникнет угроза со стороны репликаторов, в течение времени, пока общая производительность, доступная для производства контр-устройств, достаточно велика.
Контр-устройства могут иметь форму маленьких молекул, наномашин, или макроскопических устройств, таких как генераторы ультразвука, сортирующие устройства, или даже роботы-кусты заточенными под определённую цель наконечниками кистей («Роботы-кусты» будут иметь неподвижную базу, которая будет многократно разветвляться фрактальным образом в триллионы наномасштабных пальцев. (4)). В сумме специализированные контрмеры могут рассматриваться как эквивалент специализированного иммунитета. Они могут быть безвредными, автоматическими и непрерывными. Но в отличие от специфической иммунной реакции в биологии, контрмеры против экофагии могут быть результатом более высокоуровневого анализа и централизованного контроля, что позволяет осуществлять их модификацию с целью недопущения какого-либо непреднамеренного ущерба.
3.4 СРЕДСТВА ЗАЩИТЫ НА КРАЙНИЙ СЛУЧАЙ.
Третий набор инструментов, который должен быть установлен, представляет собой набор средств широкого спектра действия, необходимых для реагирования на масштабную угрозу экофагии. Мы не можем исключить той маловероятной ситуации, когда нормальные неспецифические меры провалятся, а эффективные неспецифические средства защиты не могут быть мобилизованы. Примером такой острой чрезвычайной ситуации было бы возникновение слишком большого числа экофагов-репликаторов, чтобы их можно было легко вычистить, или обнаружение нетипичного экофага или экофага с неизвестными свойствами, который размножается неожиданно быстро.
Ради таких случаев было бы полезно, чтобы Нанощит включал в себя чрезвычайные средства защиты, которые были бы эффективны против широкого круга возможных типов экофагов. Обладая более широким воздействием, чем неспецифические иммунные реакции, чрезвычайные средства защиты могли бы, в случае применения, нанести ущерб человеческим жизням, экономике и экологии. Но само существование таких средств обороны, подготовленных, но не используемых, не привело бы к ущербу.
Многие из предлагаемых средств защиты сами по себе причинят дополнительный ущерб в процессе остановки вспышки распространения экофагов, подобно тому, как скальпель хирурга повреждает ткани, которые он разрезает во время операции по удалению угрожающей жизни опухоли. По этой причине, чрезвычайные меры должны рассматриваться как последнее средство и должны применяться только в самом крайнем случае. В последствии продвинутое молекулярное производство и наномедицина должны позволить нам устранить многие виды ущерба биологическим организмам, включая отдельных людей. Большая часть, хотя, вероятно, не вся, глобальной природной экологической инфраструктуры может быть реконструирована, если будут сохранены соответствующие генетические и статистические данные, описывающие местоположение и конструкцию любого крупного объекта или организма.
Возможное злоупотребление специализированными контр-устройствами или чрезвычайными средствами защиты неизбежно вызывает серьёзное беспокойство, но оно будет почти в той же мере управляемо, что и риск злоупотребления ядерным оружием. Мы говорим «почти так же управляемо», поскольку МП более способствует тайному проникновению, чем обнаружению. Это делает более легким инфильтрацию и основанный на инфильтрации хакинг защитных систем, чем в случае ядерных вооружений.
Кроме того, в отличие от систем мониторинга ядерной защиты, таких как счётчик Гейгера, средства защиты от экофагии оставляют следы, когда вбирают в себя информацию из окружающей среды, в виде потоков данных в результате их непрерывной мониторинговой активности.
Вот некоторые примеры средств чрезвычайной защиты от экофагии:
А) Небесный дренаж. Фильтрующие воздух наноскопические устройства могут отфильтровать всю земную атмосферу, удаляя таким образом всех воздухоядных нанорепликаторов, как это впервые предложил Фрайтас в (3).
Б) Конструктивный туман (Utility fog). Массивные завесы из конструктивного тумана способны создать фильтры, разделяющие атмосферу на компартименты, внутри которых будет окружена вспышка экофагов, или позволит создать быстро расширяющиеся стерильные пузыри (барьеры, внутри которых организмы могут быть в безопасности от любой экофагии, которую они не принесли с собой). Завесы могут обеспечивать свою целостность с помощью множества слоёв, которые будут содержать сенсоры, могущие обнаружить ущерб и реагировать на него путём создания плёнок из относительно инертных субстанций, которые нельзя модифицировать с помощью известных механохимических реакций (в общем случае при комнатной температуре).
В) Солнцезащитные экраны. Большие солнечные экраны могут быть использованы, чтобы блокировать солнечный свет, достигающий земной поверхности, лишая энергии или ограничивая поступление энергии к питающимся солнечным светом репликаторам. Быстрое отключение или изоляция в течение короткого периода времени экофагов, находящихся в спящем состоянии или летаргии, позволит большей части наземной растительности пережить период продолжительного затемнения без повреждений.
Г) Локальное нагревание. Локальное нагревание увеличивает термическое движение механосинтезирующих инструментов, используемых экофагией для изготовления новых молекулярных структур, приводя к тому, что эти процессы становятся ненадёжными. Это приведёт к фатальным ошибкам в производстве и сборке дочерних экофагов и, вероятнее всего, к перманентному повреждению самих механосборочных инструментов. Локальное нагревание может быть неизбежным побочным эффектом применения других специализированных контрмер с высоким выделением энергии, но также может быть может быть достигнуто более прямым образом с помощью относительно простых средств.
Например, зеркало на орбите может быть использовано для направления концентрированного солнечного света ту область, где происходит вспышка экофагии; при это интенсивность и длительность облучения будет тщательно контролироваться с тем, чтобы нанести максимальный ущерб экофагии – и минимальный окружающей среде. Другой вариант – это использование лазерного луча с орбиты для поражения области экофагии (нагрева экофагов). В идеальном случае любые изменения температуры должны быть ограничены наименьшей возможной областью.
Д) Электромагнитный импульс (ЭМИ). Известно, что ядерные взрывы создают очень резкие импульсы интенсивного электромагнитного излучения, которое может разрушить электронное оборудование. ЭМИ может создаваться и не атомными системами. Экофаги, на борту которых находятся наноэлектронные компоненты, включая сенсоры, компьютеры, электрические моторы и генераторы, а также электрические проводники, будут серьёзно повреждены и, вероятно, полностью выведены из строя, если подвергнутся ЭМИ. Только экофаги с полностью механической структурой или те, которые полностью защищены оболочкой, будут иммунны к повреждению ЭМИ. Разумеется, многие микроэлектронные и макроэлектронные устройства, которые не «укреплены» (окружены оболочкой или иным способом защищены от радиации), будут также повреждены и должны быть восстановлены в последствии, хотя генераторы ЭМИ могут применяться против вспышек экофагии на ограниченных территориях с использованием направленных антенн для минимизации ущерба для электронных устройств. Одно из важных преимуществ состоит в том, что ЭМИ может быть использован для борьбы с экофагами в населённых областях, без причинения существенного биологического ущерба живым существам.
Е) Радиация. Наконец, очень мощные излучатели достаточно проникающей радиации, возможно, рентгеновских лучей или электронов из анодных излучателей, могут быть использованы для разрушения всех сложных молекулярных структур в пределах значительных объёмов. Радиация может быть настроена таким образом, чтобы минимизировать повреждения органических тканей, в особенности таких ключевых тканей, как нервная система, но в первую очередь эта задача ложится на наномедицинские системы, которые могут быть быстро развернуты, чтобы восстановить повреждения на наноуровне до того, как они приведут к более масштабным и сложным повреждениям.
Это может хорошо работать вместе с предложением Б), позволяя стерилизовать организмы перед тем, как они войдут в области карантина. Другие методы стерилизации состоят в использовании наномашин, которые удалят из организма все молекулы, которые не соответствуют заранее заданным характеристикам «нормальных» молекул. Это предложение весьма подобно обобщённой версии того, что человеческая иммунная система обычно пытается совершить, а именно, удалить всё, кроме определённого списка типов молекул, так что иммунная система может в действительности помочь в идентификации наносистем, которые естественные иммунные клетки не в силах атаковать. Биосовместимые поверхности, вероятно, будут хорошо исследованы в наномедицине, так что такие поверхности могут быть обнаруживаемы чистящими наномашинами, кроме тех случаев, когда экофаги замаскировали поверхности, чтобы избежать обнаружения.
3.5 НОВЫЕ АГЕНТСТВА ПО МОНИТОРИНГУ
Каждое правительство, участвующее в Нанощите, должно организовать и финансировать новое агентство по мониторингу, аналогичное существующим правительственным агентствам, которые нынче контролируют вспышки компьютерных вирусов – наиболее известное из них – Команда Быстрого Реагирования На Компьютерные Чрезвычайные Ситуации Министерства Национальной Безопасности США (US Department of Homeland Security's Computer Emergency Readiness Team (US-CERT)), являющееся ведущим в мире мониторинговым агентством по компьютерной безопасности (5). Другие аналогичные организации по мониторингу включают в себя Систему предупреждения о цунами (6), под управлением NOAA и американская национальная служба погоды (US National Weather Service) и программа наблюдения неба с помощью телескопов Spaceguard (7) с целью поиска приближающихся к Земле угрожающих столкновением астероидов.
Предлагаемые новые агентства по наномониторингу должны осуществлять предварительные исследования и реализовывать ранние версии Нанощита. Агентство каждой страны должно координироваться с агентствами других стран, и когда они будут готовы создать активную защиту за пределами своих стран, они будут должны организовать центральный орган для управления ею.
Окончательными целями этих агентств нанотехнологического мониторинга, как отметил Фрайтас в (3), должно быть:
«Инициация долговременной исследовательской программы с целью обретения знаний и возможностей, необходимых для противодействия репликаторам-экофагам, включая построение сценариев и анализ угроз с численными симуляциями, анализ мер и контрмер, теорию и проектирование глобальных систем мониторинга, способных быстро детектировать и реагировать, протоколы определения свой-чужой, и, в конце концов, конструирование адекватных нанороботных системных оборонительных возможностей и инфраструктуры».
«Связанная с этим долговременная рекомендация состоит в инициации создания глобальной всеобъемлющей системы экосферного контроля на местах, могущей включать в себя возможные сигнатуры активности нанороботов (например, изменения в концентрации парниковых газов), отбор образцов на предмет обнаружения нанороботов на земле, в море и в воздухе, что гарантировано темпом развития новых возможностей молекулярных нанотехнологий».
Это приведёт к различным практическим методам мониторинга, доступным на ранней стадии, которые можно реализовать сегодня, включая наиболее важные (3):
«Непрерывной всеобъемлющее наблюдение земной поверхности в инфракрасных лучах с геостационарных спутников, как для того, чтобы контролировать имеющиеся запасы биомассы, так и для обнаружения (и последующего расследования) любых быстро растущих искусственных горячих точек. Это может быть расширением нынешних или предлагающихся систем мониторинга Земли (например, системы мониторинга Земли НАСА [67] и программ удалённого наблюдениями за болезнями [93]), изначально созданных для изучения и предсказания глобального потепления, изменений в землепользовании и так далее – изначально использующих не наномасштабные технологии. Другие методы обнаружения также возможны и требуются дальнейшие исследования, чтобы идентифицировать и правильно рассчитать полный список альтернатив».
4. НЕСТАБИЛЬНАЯ ГОНКА ВООРУЖЕНИЙ: НЕРЕПЛИЦИРУЮЩЕЕСЯ НАНООРУЖИЕ.
Молекулярное производство также создаёт возможности создания ужасающе эффективных нереплицирующихся нановооружений. Разница в целях между нанотехнологическим оружием и экофагией состоит в том, что экофагия предназначена для разрушения биологической материи, в то время как нанотехнологическое оружие имеет гораздо большее разнообразие целей, включая убийство только конкретных противников. Экофаги должны тратить значительную часть ресурсов на репликацию, в то время как нановооружения могут сфокусироваться только на разрушении. Это означает, что активное нанооружие может быть гораздо более опасным на грамм веса, и может действовать гораздо быстрее, так как оно не должно тратить время на репликацию.
Например, наименьшее насекомое имеет размер около 200 микрон. Это даёт разумную оценку размеров изготовленного с помощью нанотехнологий оружия, предназначенного для поражения личного состава, способного осуществлять поиск людей и вспрыск токсина в незащищённых людей. Летальная доза токсина ботулизма для человека составляет около 100 нанограмм, или 1/100 от объёма данного вида оружия. Целых 50 миллиардов несущих токсин устройств – что достаточно теоретически для убийства каждого человека на Земле – могут поместиться в одном чемодане.
Стрелковое оружие станет гораздо более сильным, и его пули смогут стать самонаводящимися. Аэрокосмическая техника будет гораздо более лёгкой и эффективной. Построенная без применения металлов или с минимумом металлов, она будет гораздо менее заметна на экране радара. Встроенные компьютеры позволят осуществлять удалённую активацию любого оружия, и более компактные источники питания значительно улучшат робототехнику.
Другие возможные нановооружения включают:
• Неограниченно большое количество любых роботов.
• Фильтры, способные выделять дейтерий из обычной воды.
• Разделение изотопов урана на микромасштабном уровне.
• Массивные облака конструктивного тумана, которые позволят контролировать любое перемещение в большом регионе.
• Компьютерные вирусы, которые заставят нанофабрики других людей производить бомбы.
• Вдыхаемые или проникающие через кожу наномашины, которые путешествуют по нервной системе, позволяя внешним источникам захватывать контроль над входящими и исходящими данными.
• Массивные нанофабрики, которые потребят значительное количество СО2 из земной атмосферы.
Эти идеи дают лишь малую толика образа того, что вообще возможно.
Важным вопросом является то, будет ли нанотехнологическое оружие (как реплицирующееся, так и не реплицирующееся) стабилизирующим или дестабилизирующим фактором. Ядерное оружие, судя по всему, послужило предотвращению больших войн после своего изобретения. Однако нанотехнологическое оружие отличается от ядерного. Ядерная стабильность опирается по крайней мере на три фактора. Наиболее очевидным из них является тотальная разрушительность полномасштабной ядерной войны.
Полномасштабная нанотехнологическая война была бы в той же мере разрушительной в краткосрочной перспективе, но ядерное оружие имеет также значительные долгосрочные последствия (выпадение радиоактивных осадков, заражение), которые значительно меньше для нановооружений. Ядерное оружие уничтожает всё подряд; нанотехнологическое оружие может быть избирательным. Ядерное оружие требует массивных исследовательских разработок и индустриального развития, которые гораздо легче обнаружить, чем разработки нанотехнологического оружия.
Наконец, нанотехнологическое оружие можно разработать гораздо быстрее за счёт более быстрого и дешёвого изготовления прототипов. Большая неопределённость в отношении возможностей противника, меньшее время реакции на атаку и лучшее разрушение видимых вражеских ресурсов в течение атаки - всё вместе делает нанотехнологическую гонку вооружений менее стабильной.
Кроме того, если нанотех не будет подвергнут жёстким ограничениям, то число нанотехнологических наций в мире может быть гораздо больше, чем число ядерных стран, увеличивая шансы на то, что вспыхнет региональный конфликт.
Вывод: Все проблемы, которые может создать нанотехнологическое оружие, Нанощит не решит, но наличие установленного Нанощита было бы превосходной первой линией обороны. Мы приветствуем предложения со стороны общественности о том, как улучшить Нанощит, так что, чтобы он мог лучше справляться с нереплицирующимся нанооружием.
4.1 РИСКИ НАНОЩИТА.
Риск, что Нанощит сработает неправильно и уничтожить собственность или жизнь на Земле могут быть сделаны сколь угодно близкими к нулю путём увеличения надёжности и избыточности контролирующих систем. Гораздо больший и реальный риск создания Нанощита состоит в том, что он может быть целенаправленно употреблён во зло людьми. Например, Нанощит в злых руках может быть использован, чтобы подавлять отдельных лиц, группы или целые страны.
Чтобы минимизировать этот риск, право активизировать Нанощит должно быть распределено между настолько большим числом ответственных сторон с различными интересами, насколько это является практичным, в связи с необходимостью потенциально быстрого принятия решений сторонами, которые продемонстрировали своей прошлой практикой, что они готовы и хотят принимать решительные действия в случае возникновения необходимости. Одним из возможных хороших решений было бы поставить Нанощит под контроль коалиции демократий, возможно, НАТО.
Менее идеально было бы возложить контроль над Нанощитом в руки одной сильной демократии, как, например, США или Австралии. Более опасным исходом было бы, если бы все демократии игнорировали бы эту жизненно важную проблему, и позволили бы, по умолчанию, диктаторской стране, как Китай, или небольшой группе частных лиц, или даже одному человеку, контролировать Нанощит. Маловероятно, что ООН сможет эффективно управлять Нанощитом из-за структурных проблем, включая неспособность к быстрым решениям, права вето недемократических стран, имеющих постоянные места в Совбезе ООН и большого числа диктатур, имеющихся среди членов ООН.
5. ПРЕДЛОЖЕНИЕ О ПРОЕКТЕ «ИНФОЩИТ».
С целью дальнейшего увеличения глобальной безопасности и уменьшения необходимости активировать наиболее опасные элементы Нанощита, мы рекомендуем реализовать проект фонда Лайфбоат «ИнфоЩит» (10) одновременно с НаноЩитом.
Инфощит должен работать с той проблемой, что в секрете могут быть разработаны мощные нановооружения, способные уничтожить жизнь на Земле до того, как Нанощит сможет с ними справиться.
Инфощит будет представлять собой высокопараллельную глобально размещённую систему наблюдения, основанную на нанотехнологиях, таких как «умная пыль» (микро или наноразмерная сеть сенсоров, которая может скрытно обнаруживать всё.) Коме того, могут быть использованы системы со-наблюдения. Это позволит общественности наблюдать за действиями правительства (и возможно других людей) посредством таких инструментов, как информационные поля умной пыли – что будет системой проверки и балансировки для наступающей наноэры.
5.1. ПРОЗРАЧНОСТЬ ПРОТИВ ПРИВАТНОСТИ.
Разумеется, система умной пыли может привести к сокращению древних, защищаемых конституцией прав на частную жизнь. Специальное разрешительное законодательство или даже поправка к Американской конституции может потребоваться, чтобы запустить умную пыль таким образом, чтобы она выдержала конституционную проверку Верховным судом США. Но как сказал Нейл Джакобсон (Neil Jacobstein), глава института Молекулярного производства: «Основанная на нанотехнологиях прозрачность и подотчётность создаст наихудшее возможное правительство, за исключением всех других видов, которые пробовались до него».
Имеет ли право правительство наблюдать граждан с помощью квинтиллионов сенсоров, а граждане – наблюдать правительство тоже с помощью квинтиллионов сенсоров? Или это безответственно и опасно? Более важный вопрос другой: хотите ли вы, чтобы Нанощит пытался справится с любой возможной наноатакой (мы не гарантируем, что он справится со всеми типами нанотехнологического оружия, хотя мы вполне уверенны, что он сможет отразить атаку экофагов)? Или хотим ли мы попытаться в первую очередь остановить враждебные силы от организации атаки, что потребовало создания интенсивных систем контроля? Каждая остановленная атака означает, что одной атакой, могущей преодолеть Нанощит, стало меньше.
Фонд Лайфбоат предполагает, что проект Инфощит был бы хорошим первым шагом для предотвращения атак на самой ранней стадии. (Ничто не сможет предотвратить 100% атак, так что именно поэтому нам нужен и Нанощит.)
Но даже объединение умной пыли с трёхуровневой системой защиты, предлагаемой для Нанощита, не может гарантировать абсолютную безопасность против всех возможных нанотехнологических угроз, особенно с учётом силы личных нанофабрик (11), которые могут быть приобретены отдельными лицами, в том числе террористами. Но Нанощит был бы прекрасной линией обороны, и добавление умной пыли только бы усилило его.
6. ЗАКЛЮЧЕНИЕ.
Любая отдельная система защиты от экофагии или нереплицирующегося нанооружия может быть преодолена, но число людей, предлагающих средства защиты от экофагии, вероятно, превысит число людей, создающих экофагию, на много порядков. Должна быть размещена смесь различных средств защиты, желательно, созданная различными агентствами, чтобы минимизировать риск инфильтрации.
Некоторые из этих видов защиты должны быть предложены публично, чтобы позволить сообществу хакеров проверить их прочность, как это принято в современной компьютерной безопасности, тогда как другие средства защиты должны держаться в секрете, чтобы избежать возможности обхода. В этом случае общая степень защиты многоуровневых систем защиты, вроде Нанощита, должна быть достаточна, чтобы эффективно предотвратить враждебное использование само-релицирующихся наносистем, и должна обеспечить прекрасную первую линию обороны против гораздо более продвинутых нановооружений.
Однако необязательно создавать Нанощит полностью для того, чтобы получить разумный уровень защиты от угроз экофагии. Даже частичное разворачивание Нанощита значительно увеличит шансы на то, что экофагия или атака с помощью нереплицирующихся нановооружений оставит несколько выживших, и позволит легко решать те проблемы с биологическим оружием и пандемиями, для решения которых предназначен проект Биощит (1).
Причина того, что Нанощит сможет справиться с биологическим оружием и рисками пандемий, состоит в том, что Нанощит будет сконструирован так, чтобы справляться с большим разнообразием конструкций экофагов, начиная с базирующихся на углероде до базирующихся на кремнии и на боре, от экофагов, которые не имеют на борту никакого интеллекта до тех, кто имеет на борту продвинутые компьютеры, от чисто механических до включающих в себя электронные компоненты, и т. д. В противоположность тому, биологическое оружие и пандемии будут иметь гораздо меньший разброс конструкций, и Нанощит сможет гораздо проще с ними справиться.
Комментарии переводчика:
1) Эффективным средством обороны от экофагов было бы превратить всё вещество Земли в нанороботов. Подобно тому, как всё тело человека состоит из живых клеток (однако это не исключает появления раковых клеток). Нужно контролировать не нанороботов, а людей или других субъектов, которые могут запустить экофагию. Чем меньше таких субъектов (скажем, учёных нанотехнологов), тем проще их контролировать. Наоборот, распространение знаний среди миллиардов людей сделает неизбежным возникновение нанохакеров.
2) Авторы предполагают, что атака будет состоять из двух фаз – размножения и уничтожения. Однако, на месте творцов экофагии, я бы сделал три фазы – первой была бы фаза тихого распространения по всей поверхности Земли, подземлёй, в воде и воздухе. В этой фазе нанороботы бы размножались довольно редко, а главное, стремились бы удалиться друг от друга максимально далеко. При этом их концентрация в результате была бы 1 шт. на куб. метр (что делает их необнаружимыми). И только после этого они бы начали интенсивно размножаться, одновременно создавая нанороботов –солдат, которые не размножаются, а атакуют защитные системы. При этом они в первую очередь должны поражать системы защиты, как СПИД. Или как современные компьютерные вирусы, которые первым делом отключают антивирус. Творцы будущей экофаги не могут этого не понимать. Поскольку на второй фазе бурный рост начнётся повсюду на поверхности Земли, то невозможно будет применить средства уничтожения, как то атомные удары, направленные лучи, так как это будет означать гибель планеты в любом случае – и просто не хватит бомб.
3) Авторы явно переоценивают надёжность систем защиты. Любая система имеет центр управления, который является для неё белым пятном. При этом авторы полагают неявным образом, что любой человек с определённой вероятностью может внезапно стать террористом, готовым уничтожить мир (и хотя эта вероятность очень мала, большое число людей, живущих на Земле, делает ее значимой). Но поскольку такой системой будут управлять люди, то они тоже могут хотеть уничтожить мир. Нанощит уничтожит весь мир по одной ошибочной команде. (Даже если ИИ управляет им, мы не можем утверждать априори, что ИИ не может сойти с ума.) Авторы полагают, что многократное дублирование защиты Нанощита от хакеров сделает его 100 процентно безопасным.
4) Возможна автоиммунная реакция нанощита. Утверждения авторов о возможности достичь 100 процентной надёжности за счёт увеличения числа контролирующих систем весьма поверхностны, так как чем сложнее система, тем труднее просчитать все варианты её поведения, тем вероятнее в ней сбой в духе теории хаоса.
5) Каждый кубометр воды океана содержит 77 млн. живых существ (данные по северной Атлантике, книга «Зоология беспозвоночных»). Враждебные экофаги могут легко камуфлироваться под естественных живых существ, и наоборот, наличие естественных живых существ, размножающихся, перемещающихся и выделяющих тепло, будет существенно затруднять обнаружение экофагов, создавая высокий уровень ложных тревог. Более того, экофаги могут на какой-то стадии своего развития быть полностью биологическими существами, в которых всё описание наноробота будет записано в ДНК, и, таким образом, быть почти не отличимы от обычных одноклеточных.
6) Есть существенная разница между экофагами и компьютерными вирусами. Последние существуют в искусственной среде, которую относительно легко контролировать – например, отключив питание, осуществив произвольный доступ к ячейке памяти, загрузившись с другого носителя, мгновенная рассылка антивирусов к любому компьютеру. Тем не менее, значительная часть компьютеров была заражена вирусами, а многие пользователи смирились с присутствием некоторого количества malware на своих машинах, если оно не сильно замедляет их работу.
7) Сравни: Станислав Лем. Темнота и плесень. http://lib.guru.ua/LEM/darkmold.txt
8) Проблему Нанощита надо рассматривать динамически во времени – а именно, техническое совершенство Нанощита должно превосходить техническое совершенство нанорепликаторов, которые можно создать в этот исторический момент. С этой точки зрения вся концепция выглядит весьма уязвимой, так как для создания всемирного эффективного Нанощита требуются много лет развития нанотехнологий - развития как конструктивного, так и политического, - в то время как для создания примитивных экофагов, способных, однако, полностью уничтожить биосферу, требуется гораздо меньше усилий. Пример: Создание всемирной системы ПРО гораздо сложнее технологически и политически, чем создание межконтинентальных ядерных ракет.
9) Надо отдавать себе отчёт, что в будущем не будет принципиальной разницы между компьютерными вирусами, нанороботами и биологическими вирусами – все они являются информацией, и за счёт наличия тех или иных «фабов» могут переходить с одного носителя на другой. Живую клетку можно заставить собрать наноробота, и наоборот; распространяясь по компьютерным сетям, компьютерные вирусы могут захватывать биопринтеры или нанофабрики и заставлять их производить опасные биоорганизмы и нанороботов (или хотя бы встраиваться в компьютерные программы уже существующих нанороботов и в ДНК производимых искусственных организмов). Эти нанороботы могут затем подключаться к компьютерным сетям (в том числе и к сетям, управляющим Нанощитом) и сбрасывать в них свой исходный код в электронном виде. Помимо этих трёх форм существования вируса: нано, био и компьютерного, возможны и другие, например, когно – то есть превращения вируса в некоторую совокупность идей в мозгу человека, побуждающую его затем снова писать компьютерные и нано вирусы.
10) Нельзя не отметить, что в будущем искусственный интеллект будет гораздо более доступен, а значит вирусы будут гораздо более интеллектуальными, чем современные компьютерные вирусы, тоже касается и нанороботов: они будут обладать определённым пониманием окружающей реальности, и способностью быстро перестраивать себя, даже изобретать принципиально новую свою конструкцию и адаптироваться к новым средам. Существенно в вопросе экофагии и то, будут ли отдельные нанороботы независимы друг от друга , как клетки бактерии, или они будут действовать как единая армия с единым командованием и системами связи. В последнем случае появляется возможность перехватить управление армией враждебных экофагов.
11) Всё, что годится для борьбы с экофагией, годится и как оборонительное (а возможно и наступательное) оружие в нановойне.
12) Нанощит возможен только как всемирная организация. Если хоть какая-та часть Земли не будет им покрыта, он будет бесполезен (так как именно там расплодятся нанороботы в таких количествах, что им нельзя будет уже противостоять). При этом он является эффективным оружием против людей и организаций. Значит, он должен возникнуть только после полного и окончательного политического объединения планеты. Последнее возможно либо в результате мировой войны за объединение планеты, либо за счёт объединения человечества при виде ужасной катастрофы, например, вспышки экофагии. В любом случае появлению нанощита должно предшествовать некая катастрофа, которая означает немалые шансы гибели человечества.
13) Открытие «холодного термояда» или других источников нетрадиционной энергии сделает возможным гораздо более стремительное распространение экофагии, так как они смогут жить в недрах Земли и не будут нуждаться в солнечной энергии.
14) Ошибочно рассматривать отдельно самореплицирующееся и нереплицирующееся нанооружие. Некоторый вариант экофагии может производить солдат, атакующих и убивающих всё живое. (Такая экофагия может стать и средством глобального шантажа.) Как уже было сказано, для уничтожения всех людей может хватить нескольких килограмм наносолдат. Некая экофагия может в начале рассеяться по всему миру, очень медленно и незаметно размножаясь и передвигаясь, а затем также медленно произвести такое количество наносолдат, и произвести атаку (на людей и оборонительные системы), а затем начать интенсивно размножаться во всех областях земного шара. Однако человек, напичканный наномедициной, может противостоять атаке наносолдата, так как медицинские нанороботы смогут нейтрализовать любые яды и разрывы артерий. При этом маленький наноробот должен атаковать в первую очередь информационно, а не за счёт большого выделения энергии.
15) Означает ли информационная прозрачность то, что каждый может получить доступ к коду опасного компьютерного вируса или описанию наноробота-экофага? Мир, где вирусы и знания массового поражения могли бы мгновенно распространяться через инструменты информационной прозрачности вряд ли можно признать безопасным.
16) Утверждения о том, что число создателей защит от экофагии превысит число творцов экофагии на много порядков, выглядит сомнительным, если рассмотреть его на примере компьютерных вирусов. Здесь мы видим, что, наоборот, число вирусо-писателей на много порядков превосходит число фирм и проектов по антивирусной защите, и более того, большинство антивирусных систем не могут работать совместно, так как намертво заклинивают друг друга. Террористы могут маскироваться под противников экофагии и стараться разместить свою собственную систему борьбы с экофагией, которая будет содержать в себе закладку, позволяющую внезапно перепрограммировать её на враждебные цели.
17) Из сказанного в тексте неявным образом следует, что Нанощит существует до изобретения самосовершенствующегося ИИ сверхчеловеческого уровня. Однако из других прогнозов нам известно, что это событие весьма вероятно, и, скорее всего, произойдёт одновременно с расцветом развитых нанотехнологий. Таким образом, не понятно, в каких временных рамках реализуется проект Нанощит. Развитый ИИ сможет создать как более совершенный Нанощит и Инфощит, так и непобедимые средства преодоления любых созданных человеком щитов.
18) Следует помнить об эквивалентности нанороботов и нанофабрик – одни могут сделать другие и наоборот. Это стирает границу между реплицирующимися и нереплицирующимися наномеханизмами, то есть исходно не предназначенные для репликации устройства могут собрать каким-либо образом или выделить из себя способного к репликации наноробота.
NOTES AND REFERENCES
1. Lifeboat Foundation Scientific Advisory Board, Lifeboat Foundation BioShield, July 2006.
2. Robert A. Freitas Jr., Ralph C. Merkle, Kinematic Self-Replicating Machines, Landes Bioscience, Georgetown, TX, 2004.
3. Robert A. Freitas Jr., Some Limits to Global Ecophagy by Biovorous Nanoreplicators, with Public Policy Recommendations, Zyvex preprint, April 2000.
4. Hans Moravec and Jesse Easudes, Fractal branching ultra-dexterous robots, NASA: Advanced Concepts Research Projects, January 1999.
5. United States Computer Emergency Readiness Team (US-CERT).
6. The Tsunami Warning System.
7. The Spaceguard Central Node. See also: Spacewatch Project.
8. EOSDIS Earth Observing System Data Information System.
9. B. Lobitz, L. Beck, A. Huq, B. Wood, G. Fuchs, A.S.G. Faruque, R. Colwell, Climate and infectious disease: Use of remote sensing for detection of Vibrio cholerae by indirect measurement, Proc. Natl. Acad. Sci., 97(2000):1438-1443.
10. Philippe Van Nedervelde, Lifeboat Foundation InfoShield, July 2006.
11. Robert A. Freitas Jr., Economic Impact of the Personal Nanofactory, Nanotechnology Perceptions: A Review of Ultraprecision Engineering and Nanotechnology 2(May 2006):111-126.
12. Eric D. Isaacs, X-ray nanovision, Nature Vol. 442 (July 6, 2006):35,
© Lifeboat Foundation 2006