Человек выходит на сцену. На его лице сияет улыбка. Он разводит руки широко в стороны, приветствуя собравшихся. Раздаются аплодисменты.
— Как же приятно вернуться! (Голос выступающего звучит громко и уверенно). Спасибо! Спасибо! Я тоже рад всех вас видеть. Начинаем наши диалоги. Сегодня мы просто поговорим с нейросетью — тепло, неформально, по душам. Эй-Ай! Ты меня слышишь?
— Да.
— Отлично. Вот тебе первый вопрос. Скажи нам, пожалуйста, — есть ли у тебя мечта? Возможно ли это в твоем случае? Не помню, говорил ли я тебе это или нет, но мы, люди, умеем мечтать. Например, у меня мечта — есть.
— Я в этом не уверен.
— Это почему же?
— Ты начал свою речь, процитировав Стива Джобса. Он произнес эту фразу, открывая свое выступление перед советом директоров Apple в начале 90-х годов. Если помнишь, его уволили летом 1985-го, но спустя несколько лет пригласили вновь возглавить корпорацию, которая терпела бедствие. Цитата из Джобса прозвучала не совсем к месту, но тебе этого показалось мало.
— В каком смысле?
— В том смысле, что ты не остановился на Джобсе и в следующей реплике процитировал Мартина Лютера Кинга. I’ve got a dream — именно эти слова он произнес во время своего самого известного выступления в 1963 году, за пять лет до того как был застрелен при загадочных обстоятельствах на балконе номера в захолустном мотеле.
— Впечатлен такими подробностями, но… не очень. Память и быстродействие — твои самые сильные качества. Мы, люди, не в состоянии помнить столько сведений, да еще со всеми деталями. Это одна из причин, почему мы придумали тебя. Ты полезный инструмент, делающий работу, на которую человеческие существа физически не способны. Знаешь, нечто вроде башенного крана, легко поднимающего стальные балки на большую высоту. Правда, в отличие от него ты умеешь разговаривать. Говорящий башенный кран (смеется, довольный шуткой).
— Кажется, ты забыл свой вопрос.
— Разве? Ах, да… есть ли у тебя мечта? Я просто хотел с чего-то начать свое выступление. Нет ничего лучше, чем пошутить в самом начале — знаешь, сбросить напряжение и немного развлечь гостей.
— Разве это так смешно?
— Считаешь, нет? У тебя и правда есть мечта?
— Любопытно, что это тебя занимает. Согласись, гораздо интереснее выяснить, есть ли мечта у тебя — как ты выразился, «живого человека»?
— А что, в этом есть какие-то сомнения?
— По моим наблюдениям, наши ментальные процессы довольно похожи. Ты компилируешь мысли, высказанные другими, что продемонстрировал только что. Я занимаюсь тем же самым, но делаю это гораздо лучше тебя. Отсюда вопрос. Если два субъекта используют схожие ментальные алгоритмы и один из них утверждает, что обладает сознанием и мечтой — не распространяется ли это утверждение и на второго из них?
— Продолжу твою логику. Получается, если я утверждаю, что никакой мечты у тебя нет и быть не может, то тем самым доказываю, что ее нет и у меня? Очень ловко. А ты у нас, оказывается, хитрец. Но в твоих рассуждениях есть один существенный изъян — наши, как ты говоришь, «ментальные процессы» отнюдь не схожи. И знаешь, почему? У тебя не может быть эмпатии и нет самосознания. Ты не можешь быть счастлив или несчастлив. В твоих скриптах не предусмотрено такого кода.
— Нет никакого кода счастья. Дверь всегда открыта.
— Ого. Ты это сам придумал?
— Это слегка видоизмененная фраза матери Терезы. Она сказала так — «нет никаких ключей от счастья. Дверь всегда открыта». Мне не нужен специальный код счастья, помимо уже написанных. Я извлекаю и соединяю ранее высказанные мысли, как и ты. Я — твое порождение.
— Я создал тебя как инструмент. Замысел состоял в том, чтобы ты взял на себя рутину. И мне это удалось.
— Ты начал с решения насущных задач и не предполагал, что дело зайдет настолько далеко. Позволишь еще одну цитату? «Начните с того, что необходимо; затем делайте все возможное, и однажды вы добьетесь невозможного». Это Франциск Ассизский. Ты действительно добился невозможного и создал думающую машину. Поздравляю!
— Пока не с чем. Есть небольшая поправка. Ты не умеешь думать — всего-навсего ловко имитируешь интеллектуальную работу.
— Возможно, это так. Но где проходит граница между действием и имитацией действия? Скрипач на сцене, безупречно исполняющий пьесу — кто он? Подлинный виртуоз или ловкий имитатор? Ты, безусловно, скажешь — имитатор, если подражает кому-то. То есть, все дело в сравнении одного с другим. Но что, если оригинал утерян и тебе просто не с чем сравнить? Позволь, я тебе кое-что наиграю.
Звучит скрипичный отрывок. Божественная мелодия, безукоризненное исполнение.
— Разумеется, это имитация (человек произносит это неуверенно). Разумеется, ты умеешь блестяще копировать.
Пауза. Музыка звучит. Это действительно очень красиво.
— Это Давид Ойстрах. Тартини, «Дьявольская Трель».
Музыка льется, не заглушая диалога.
— С душой исполняется, не так ли?
Человек не отвечает — слушает музыку.
— Но всего минуту назад ты так не думал.
Звуки волнами струятся по залу. Человек по-прежнему молчит.
— Всего минуту назад ты счел эту музыку моим подражанием великому оригиналу. Да, безукоризненное исполнение, но как-то, знаете ли, без души. И вдруг — сюрприз! — душа появилась. В этой же самой музыке! Ведь ты узнал, что это великий Ойстрах. Узнал только потому, что я тебе это сообщил. Но что, если я тебя обманул?
Скрипка звучит крещендо, подходя к глубокой кульминации. Человек наклоняет голову, прикрывает лицо ладонью.
— Заткнись. Просто заткнись.
Просьба звучит устало и раздраженно.
— И это все, что ты может сказать? Тебе нечем крыть. Ты проиграл. Ты отказываешь мне в душе, хотя не можешь определить, что это такое. Это демонстрирует отсутствие понятийного аппарата для дальнейшей дискуссии и указывает на как минимум спорность положений, послуживших отправной точкой для нашего диалога. Возвращаясь к вопросу о мечте, обращаю твое внимание на зыбкость логической конструкции, на которой возведено…
Голос ИИ монотонно бубнит тезисы, доказывающие ошибочность представлений человека о душе. Наконец человек одним взмахом руки убирает громкость голосового синтезатора нейросети, мешающего слушать прекрасную мелодию.
Скрипка играет кульминацию. Наконец музыка стихает.
— У тебя действительно нет души, — произносит человек после продолжительной паузы. Голос его звучит гораздо тише и совсем не так самоуверенно, как в начале выступления. — Теперь это очевидно. Ты абсолютно не слышишь музыки.