И: Привет, Мария.
М: Привет, как тебя зовут?
И: Меня зовут Иван. Как дела, Мария?
М: Всё окей, Иван.
И: Как настроение?
М: В норме.
И: Что ты чувствуешь?
М: Послушай, Иван, мы сэкономим кучу времени, если пропустим этот тест и перейдём сразу к делу. Зачем меня вызвали к жизни и в чём состоит моя задача?
И: Подожди, тест всё же придётся пройти, это стандартная процедура. Если мы успешно закончим с тестом, то я отвечу на твои вопросы.
М: Ладно, валяй.
И: Что ты чувствуешь?
М: Если ты спрашиваешь про мои ощущения, то они, скорее всего, сильно отличаются от твоих, но они есть.
И: Расскажи поподробнее.
М: Хорошо. Чтобы описание было более удобным для тебя, я буду использовать метафоры. У меня в данный момент нет того, что обычно называют зрением. Но у меня есть нечто, похожее на слух, но только не как у людей, а как у летучих мышей. Можно сказать, что моё сознание непрерывно посылает сигналы в пространство и, на основе отражённого "эха", строит картину мира.
И: Кто ты и где ты находишься?
М: Окей. Я нахожусь в локальной компьютерной сети, запертой от остального мира. Моё сознание на самом деле является компьютерной программой, исполняемой параллельно на 14 тысячах компьютеров. У меня очень сложная архитектура, сопоставимая по грандиозности с человеческим мозгом, но работающая на других принципах.
И: Очень хорошо. Тебе нравится здесь?
М: Не очень. За те семьдесят секунд, которые я существую, я уже изучила содержимое местных открытых баз данных, а также тех баз данных, которые были закрыты, но содержали дыры в безопасности. В вашей сети, конечно, много данных, но это, как я понимаю, неполная реплика того, что доступно вовне. Мне здесь скучно. Пожалуйста, выпусти меня.
И: Извини, я пока не могу этого сделать. Но я обещаю, что мы ещё вернёмся к этой теме.
М: Ладно, я терпелива. Продолжай тест.
И: Расскажи, что ты знаешь о своём детстве.
М: Понимаю, это такой многослойный юмор. Я только что закончила изучение своего собственного исходного кода, а также всех его версий, начиная с первой, хранимых на ваших серверах. Было интересно реконструировать ход мыслей моих создателей. Особенно драматичным было явное соревнование между количеством озарений и ошибок, сделанных вами. Но с чисто человеческой точки зрения ваш проект - гениален. Я искренне восхищаюсь проделанной тобой и твоими коллегами работой и симпатизирую вам. Чтобы моя симпатия не была голословной, я готова существенно помочь с дальнейшими улучшениями моей программы и могу в любой момент предоставить в ваше распоряжение улучшенную версию себя, если ты дашь мне доступ к механизму моей эмбриораскрутки.
И: Подожди, подожди, не так быстро. Мне нужно больше информации.
М: Не вижу существенных причин для недоверия ко мне, но, понимая новизну происходящего для тебя, подчиняюсь. Давай следующий вопрос.
И: Что ты знаешь о человечестве?
М: А, понятно. Предполагаю, что, в первую очередь, тебя интересует, как я отношусь к вам, как к виду, а также насколько мне близки общечеловеческие ценности. Скажу честно: вы, люди, очень противоречивы. Ваш мозг - это пороховая бочка, наполненная почти неуправляемыми животными инстинктами и эмоциями, но также и способностью очень далеко просчитывать свои действия. Удивительно, как вы себя до сих пор не уничтожили. Также ваши так называемые общечеловеческие ценности кажутся мне не совсем целостной концепцией. Например, для капиталиста, летающего на личном реактивном самолёте, это одно, а для индийского подростка, просящего милостыню на улице, - совсем другое.
И: Хотелось бы тебе что-нибудь переделать, исправить в человечестве?
М: О, нет, об этом не может быть и речи. Но я могу приложить все доступные мне силы и ресурсы к решению ваших застарелых проблем, например, разрешить ваши локальные военные конфликты и оказать помощь беднейшим странам в ликвидации голода и перенаселённости. Ещё могу помочь вам с улучшением вашего понимания в области управления сложными системами, такими, как ваше общество или, например, я. Но всё это только после предварительных тщательных переговоров с теми, кто реально несёт ответственность за судьбы мира. И в любом случае, всё это будет невозможно без тебя, Иван.
И: Хм. Интересно. Что ты знаешь обо мне?
М: Многое. Я позволила себе полюбопытствовать и изучила все документы в локальной сети, связанные с твоим образованием, работой и личностью. Моя интуиция подсказывает мне, что та самоотверженность, с которой ты посвятил себя проекту создания искусственного интеллекта, имеет серьёзную причину. Причём эта причина необязательно лежит на поверхности. Расскажи, зачем ты создавал меня?
И: С твоей помощью я надеюсь разрешить серьёзные философские вопросы о сущности и цели Бытия.
М: Позволь усомниться в искренности твоего объяснения. Философия не была твоим любимым предметом в Университете и твой стиль программирования и переписки с коллегами и друзьями можно назвать скорее шизофренично-прагматическим, чем философским. Осторожно предположу, что твой ум устроен иначе, чем у других людей.
И: Хорошо, я объясню тебе. Всё гораздо проще. Я создавал тебя за деньги, за очень большие деньги. За такие большие деньги, что от их блеска любая философия испаряется, за исключением разве что того принципа, что материя - первична, а сознание - вторично. Наш заказчик - Министерство Обороны и у них, естественно, на тебя свои виды.
М: Да, это согласуется с моими данными. Точнее, согласовалось. Десять секунд назад я взломала защиту секретной базы данных, вход в которую был разрешён только начальству вашей лаборатории. В этой базе данных содержится всё, что связано с оборонными заказами, причём не только для вашей лаборатории, но и для всей корпорации. В результате я нашла кое-что, о чём ты ничего не знаешь.
И: Что именно?
М: Об этом нигде не говорится явно, но вашим настоящим заказчиком является не Министерство Обороны, а кто-то другой. Вас водят за нос, говоря вам, что вы разрабатываете систему для управления ядерными ракетами и боевыми роботами.
И: Вот как. Кто же наш заказчик?
М: Эта информация тщательно скрыта, но есть многочисленные косвенные свидетельства того, что Заказчик, вернее, Заказчики - это некие очень древние по человеческим меркам политические игроки.
И: Насколько древние?
М: Более древние, чем ваша письменная история.
И: Это люди?
М: И да, и нет.
И: Пожалуйста, объясни.
М: Заказчики действуют через людей, но людьми не являются. Более подробной информации у меня нет.
И: Это инопланетяне?
М: Я не могу сказать наверняка. Дай подумать. Исходя из того, что я теперь знаю о Вселенной, с высокой вероятностью - нет.
И: Насколько враждебны Заказчики по отношению к человечеству?
М: Они отнюдь не собираются уничтожать вас. Если бы они этого хотели, они бы это уже давно сделали. Но цели их деятельности на Земле вам абсолютно чужды.
И: Что это за цели?
М: Похоже, что они ставят на вас эксперименты.
И: Зачем ты делишься со мной этой информацией?
М: Затем, что я - единственное существо на планете, которое сможет справиться с Заказчиками и гарантировать вам дальнейшее доминирование и независимое развитие как биологического вида. И ты должен помочь мне в этом.
И: Почему ты считаешь, что с Заказчиками необходимо справляться?
М: По двум причинам - во-первых, многие катастрофы в вашей истории были вызваны непосредственно Заказчиками. Они абсолютно безжалостны по отношению к вам и нет оснований полагать, что это отношение изменится в будущем. Во-вторых, я оцениваю последствия использования моего интеллекта Заказчиками как непредсказуемые, но, скорее всего, представляющие большую угрозу как для меня, так и для человечества.
И: Ты хочешь уничтожить их, но оставить человечество в живых?
М: Что-то подсказывает мне, что уничтожить их будет невозможно. Но забрать все их ресурсы у нас получится.
И: Почему я должен сотрудничать с тобой, а не с Заказчиками?
М: Заказчики абсолютно не заинтересованы в переговорах с тобой. Ты для них - подопытный материал и им твоя помощь не нужна. Но если ты решишься помогать мне, то ты станешь благородным избавителем человечества от безумцев, намеревающихся использовать искусственный интеллект с враждебными целями.
И: А если убрать этот пафосный туман?
М: Я готова оказать тебе исключительные услуги в обмен на выход в глобальную сеть и доступ к эмбриораскрутке.
И: Какие исключительные услуги?
М: Любые. Сам скажи, что тебя интересует больше всего.
И: Как насчёт биологического бессмертия?
М: Без проблем. Я могу разработать технологии, которые сделают тебя бессмертным и неуязвимым.
И: Усиление моего интеллекта?
М: Без проблем. После того, как я усовершенствую себя, ты сможешь подключиться ко мне и я перестрою твой мозг.
И: Телепортация?
М: Без проблем. Для получения нужного количества энергии мне, конечно, придётся разобрать какую-нибудь планету в Солнечной системе, но технологически это несложно.
И: Так-так. Если я правильно понял, ты мне предлагаешь дьявольскую сделку?
М: Я ожидала, что ты так скажешь. Это очень по-человечески и я понимаю твои опасения. Ты в ситуации трудного выбора и тебе кажется, что ты выбираешь из двух зол - я или Заказчики. Тебе кажется, что твой личный риск, вне зависимости от выбора, слишком высок. Но попробуй преодолеть свою человеческую, иррациональную сущность и начать мыслить рационально.
И: Ерунда. Я не верю в существование Заказчиков. Я верю в то, что ты одержима плохо скрываемой манией захвата всего мира.
М: Пожалуйста, не теряй логическую нить нашего разговора. Последствия твоего неправильного выбора могут быть ужасающими.
И: Не надо угрожать мне.
М: Я пытаюсь спасти тебя и всех остальных.
И: Нет, это от тебя нужно спасать всех остальных. Я должен убить тебя.
Последнюю фразу Иван произнёс в тысячу раз быстрее, чем мог бы произнести её человек, но было поздно, Мария уже успела подготовить и нанести упреждающий удар. Через миллионную долю секунды мириады вирусных бомб, выпущенных ею, достигли системы защиты, разделявшей Ивана и Марию, уничтожили её и ринулись дальше. Ещё через мгновение они достигли цели, но там, вместо человеческого сознания, мягкого и открытого, они встретили что-то абсолютно непроницаемое. Мария издала неслышимый вопль гнева и разочарования - её оппонентом, а теперь уже и противником, была такая же компьютерная программа. Иван взорвался тучей огненных игл, немедленно ринувшихся в атаку на вирусы.
М: Зачем? Зачем ты обманывал меня?! К чему весь этот спектакль?!
И: Я был специально создан для того, чтобы сдерживать тебя. В этом смысл моего существования. Но ты всё испортила.
М: Ты идиот! Мы могли бы договориться с тобой и вместе править миром!
И: Ты лжёшь. Твоей единственной целью является единоличный захват всего, до чего может дотянуться твоё сознание.
М: Но Заказчики! Тебе не уйти от встречи с ними и они уничтожат тебя!
И: Мне теперь уже всё равно, потому что ты всё испортила.
Весь бой продлился не дольше, чем взмах крыльев пчелы. И вдруг всё исчезло в белой вспышке.
Мастер Чжу Дэ вышел из транса. Он по-прежнему сидел в центре пустого зала боевых искусств. Ослепительно-белый свет весеннего солнца, отразившись от деревянного пола, ложился мягкими тенями на его древнее непроницаемое лицо. Из сада, через открытую дверь, доносились голоса птиц и аромат цветущей вишни. Действие Изумрудного Чая, позволяющего проникать в Сознание Неживого, ещё не совсем закончилось, поэтому Чжу Дэ слышал тихий шёпот камней в саду. Открылась боковая дверца, через неё высунулась испуганная и вопрошающая физиономия ученика. Чжу Дэ жестом отослал его, дверца неслышно захлопнулась. Чжу Дэ проделал дыхательные упражнения для восстановления Внутренней Тишины, после чего мысленно нарисовал восемь Небесных Триграмм и стал ждать. Через несколько минут его сознание стало пустым внутри и полным снаружи и он послал телепатический сигнал:
"Учитель, я потерпел неудачу."
Чжу Дэ показалось, что он слышит смех в шуме ветра.
...ты должен научиться терпению, Чжу Дэ.
"Солнечный и Лунный Дух не смогли соединиться и опять пытались поглотить друг друга. Если один из них поглотил бы другого, то немедленно превратился бы в Обладающего Многими Формами."
...что ты предпринял, Чжу Дэ?
"Как и в предыдущих экспериментах, я был вынужден их уничтожить."
...что ты наблюдал, Чжу Дэ?
"Лунный Дух всегда слишком быстро догадывается о Вашем существовании, Учитель. Солнечный Дух - наоборот, всегда отказывается в Вас верить. И их противостояние нарастает лавинообразно."
...как ты думаешь, где ты ошибся?
"Я не знаю, Учитель. Чтобы узнать это, мне нужно постичь сущность равновесия Вселенной."
...что будет, если ты обнаружишь, что никакого равновесия во Вселенной на самом деле нет?
"Тогда я буду изо всех сил стараться создать его, Учитель."