(рассказ опубликован в сборнике "Цветок кактуса", 2017г.)
Встать, суд идет! Призыв, звонкий и резкий, судебного помощника раздался 20 мая 2196 года по земному календарю, открыв первое судебное заседания по делу об иске компании Exoplanet Space Travel (EST) к производителю машин с искусственным интеллектом для целей освоения космоса Space Robotics International (SRI).
Согласно Своду законов, ратифицированному в январе 2135г. под общим названием «О взаимодействии людей и машин с искусственным интеллектом», иск также мог быть обращен непосредственно против «виновника торжества», космического исследовательского робота-андроида, робонавта серии QX, модель 4, класс «ИИ» (искусственный интеллект), который на момент первого слушания пребывал на экзопланете Лутойя. В историю судебной практики это, получившее столь широкую огласку дело, вошло под громким названием «Человечество против робота QX-4». Оно стало, пожалуй, одним из наиболее заметных кейсов правоприменения Свода законов «О взаимодействии людей с машинами класса «ИИ».
Так как дело, несомненно, носило нелокальный характер, следствием было решено направить его в суд глобальной юрисдикции. В Земном суде, разместившимся под куполом Круглого зала плавающего в мировом океане колоссального корабля-города «Земля обетованная», и состоялось то знаменитое слушание, на котором, скромно затерявшись в группе аккредитованных при суде сетевещателей, присутствовал и ваш покорный слуга.
Лутойя – третья на орбите в альфа Водолея планета класса мега-Земля. Находящаяся в «поясе жизни», она давно привлекала внимание как один из объектов дальнего космоса, на который возлагались надежды ученых и космо-бизнесменов. Не менее серьезные ожидания были и от QX-4, машины, наделенной мощным интеллектом, приспособленной вести исследовательские миссии самостоятельно, выбирая оптимальный образ действия в самых трудных непредсказуемых условиях; анализируя мириады факторов среды пребывания, на месте формируя отчеты и выводы в любой доступной восприятию человека форме. Графика, видео, текстовые и голосовые сообщения на любом языке – все, что угодно, минуя стадии последующих головоломных расшифровок.
Программа, заложенная в робонавта, состояла в том, чтобы вынести предварительный, самый первый и важный вердикт планете. Будь миссия позитивна в своих первичных результатах, за ней могла последовать целая кампания по созданию нового полноценного маршрута через шлюзы гравитационных ускорителей на Лутойю. В случае негативного заключения исследовательским робонавтом планету скорее всего ждало забвение людьми, она просто пополнила бы список из многих тысяч открытых астрономами экзопланет, активное изучение которых отложено, что называется, до лучших времен.
Добраться до планет, расположенных у звезд ближних витков Млечного пути в приемлемые для людей (средняя продолжительность жизни уже тогда превысила 150 лет) сроки, давно не представляло проблемы. Была создана целая сеть «коридоров». Они вытянулись вдоль мест дислокации мощных искусственных гравитационных ускорителей, находившихся на путевых орбитах, в точках Лагранжа, попутных астероидах. Созданные человеком на орбитальных мега-фабриках ускорители работали в синергии с естественными «гравитационными катапультами» – крупными планетами солнечной системы, обеспечивая разгон. Все же, дело это пока было довольно затратное. Но в случае «чуда», как с Глизе и другими, оно того стоило. И окупалось сторицей. Исследовательские роботы, чуть попроще, но довольно эффективные, еще в первой половине XXII века разлетелись по коридорам, как пули из пулемета, в направлении вожделенных экзопланет, представлявшихся человечеству наиболее «сладенькими». За многими миссиями уже тогда стоял частный интерес: многие мечтали капитализировать на «космо-чуде», деловой мир оказался захвачен вихрем настоящей золотой космической лихорадки.
Так что же произошло с исследовательским андроидом QX-4 на Лутойе? Самый умный из всех робонавтов, созданных к тому времени, был отправлен на планету несколько лет назад с невозвратной миссией, с билетом в один конец. Около пяти лет ушло на доставку грузовиком робота и вездеходолета, на котором он должен был исследовать Лутойю. Старт космоджета с роботом и вездеходом был осуществлен с роботизированного лунного порта. Робот "ушел на планету" через двенадцатый ускорительный коридор. Эти этапы, как и прилутойивание, прошли вполне штатно. Пару месяцев ушло у робота на рекогносцировку на месте, комплексное (предварительное) исследование планеты, включавшее анализ грунта, химанализ воздуха с помощью встроенной в его организм лаборатории, на визуальное исследование в нескольких волновых диапазонах десятков квадратных километров Лутойи по суше и с воздуха. И вот результат: эксплуатантам пришло, наконец, первое восторженное сообщение: «Жизнь! Этот мир удивительно богат! Невероятная природа, какая прекрасная планета!» Сенсация, конечно. Лутойя по своему климату должна была бы быть не намного теплее Марса, ибо альфа Водолея – звезда менее горячая, чем Солнце, а угол наклона оси Лутойи больше, а значит, смена климата к тому же довольно резка при коэффициенте продолжительности суток почти полтора к земным. Факты упрямо свидетельствовали, что любая форма жизни на этой экзопланете под вопросом, а в донесениях робота планета казалась прямо-таки земным субтропическим раем.
Так что заказчиков исследования из EST стали одолевать вполне уместные в таком случае сомнения. Они отослали результаты на проверку астрономам, и вывод, увы, неутешительный. Робот глючит. Такого на третьей планете у альфы Водолея просто не может быть. С показаниями гигантского космического супер-телескопа на границе системы не поспоришь (дорого, а что делать - пришлось арендовать, раз такой скандал): ибо зона жизни – зоной жизни, но атмосфера не та, угол наклона планеты – не тот, и температуры совсем не те.
Вот тебе и раз - «глючит»… И это лучшая машина, самая совершенная в мире, которая не отказала бы «даже на дне метанового океана Титана», как утверждает Space Robotics! Так возник первый иск. Производители супер-андроида в свою очередь выставили встречный иск, фактически обвинив EST в том, что они неправильно эксплуатировали робота, а ажиотаж в сети вокруг Лутойи создают специально, чтобы привлечь внимание к этому направлению. Space Robotics напирал на то, что все датчики, установленные на роботе, показывают его отменную работу, а значит, машина не врет. Если на Лутойе нет жизни, то вводят в заблуждения те, кто с целью наживы утверждают, что робот вынес положительное заключение. И чем шире разрастался скандал, став достоянием гласности сети колоний солнечной системы Intersun-net, тем громче все стороны настаивали на публичном судебном разбирательстве.
Сам робот оказался в серьезной переделке. Обвинение, согласно одному из законов о взаимодействии людей с машинами класса «ИИ» из Свода, могло обратить наказание на самого андроида. Ибо он де-факто пребывает в сознании взрослого человека. Что обвинение и сделало в дальнейшем. На суде прокурор потребует максимально жесткого наказания для робота, вплоть до стирания всех файлов, связанных с ним во всех директориях производителя и всех хранилищах Intersun-net. Роботофобия ли овладела им, или наоборот, вполне ясное и твердое убеждение в том, что мыслящая машина исправна и, обладая совершенным мозгом взрослого коварного человека, должна отвечать за циничную и опасную попытку обмануть все человечество, истории неведомо. Одно было очевидно: этот вариант развития событий был на руку тем, кто хотел бы таким образом снять ответственность с компании – мол, робот виноват, с него и спрашивайте. На слушания вызвали программистов из SRI, руководителя проекта «Следующая станция – Лутойя» из EST, астронома, космонавта, побывавшего на похожей экзопланете, медийщиков и общественность, присяжных. Но в результате первое слушание закончилось ничем. Ибо не доставало главного свидетеля, он же «обвиняемый», если такой термин был применим к хоть и обладавшему интеллектом, но вообще-то созданному человеком механизму. Было решено созвать второе слушание, а спецназу космополиции поручили доставить с Лутойи QX-4, который перестал выдавать вообще какие-либо сообщения с планеты, не отключив, впрочем, при этом маяки позиционирования и датчики, сканировавшие его работу, которые упорно продолжали сигнализировать, что устройство в полностью рабочем состоянии.
*****
Прошли пять лет, прежде чем слушания по делу «Человечество против робота QX-4» возобновились. Корабль космополиции с андроидом на борту вернулся с Лутойи, и в зале снова прозвучала фраза «Встать, суд идет!». Дело к тому времени потеряло свой скандальный антураж, однако юридический и научный аспект этого casus было невозможно переоценить. По «Своду законов о взаимодействии…», машине грозило уничтожение за невыполнение миссии, попытку ввести в заблуждение людей в особо крупном размере, сопротивление (как выяснилось на процессе) космополиции. И это был бы, заметьте, первый кейс такого рода, грандиозная переделка, в которую оказалась вовлечена думающая машина. Ученые при этом были явно не на стороне робота. В конце концов от него ждали выводов по поводу наличия микроорганизмов, мхов, признаков жизни в гейзерах, комплексный анализ почвы и воды, если она есть на Лутойе, а в результате получили процесс на всю Солнечную систему и невыполненную, как казалось сначала, миссию.
И вот, наконец, появился QX-4. Компактный, ладно, эргономично сложенный андроид, легко шурша своим защитным термопокрытием, выполненным из супер-композита цвета металлик, невозмутимо вплыл в зал суда. Голова «заточенного» под космические исследования робонавта, в отличие от его земных собратьев по серии QX, была слегка увеличена в затылочной части, где находилось мощное передающее устройство, а крупный, во все лицо, светозащитный экран был сдвинут на макушку: знак, что робот в данный момент находится вне рабочей обстановки.
- Кью-Икс-Четыре, вы слышите меня, - спросил робота судья.
- Да, Ваша честь, - спокойно ответила мыслящая машина.
- Вы проинформированы о том, что в случае дачи ложных показаний вы можете быть демонтированы? А в случае если вас признают виновным, будут стерты содержащие память о вас файлы?
- Да.
Судья на миг встретился глазами с красновато-оранжевыми объективами робота, в середине которых пульсировала черная точка электронного зрачка. Пожалуй, по этой неравномерной пульсации можно было подумать, что машина волнуется. Усилием воли судья сбросил с себя мимолетное ощущение, что перед ним живое создание, переключив, как ему показалось, результативно, свое сознание в режим холодного прагматичного диалога с провинившейся машиной.
- Я обращаюсь сейчас к сторонам, участвующим в деле «Человечество против робота QX-4», - продолжил ведение процесса судья. Напоминаю, что, согласно законодательству, в случае если машина будет признана дефектной, полную ответственность за поведенческие, конструктивные, машино- и программно-мотивированные действия дефектного робота несет фирма-создатель. В случае если машина исправна, ответственность за ее действия несет фирма-эксплуатант при намеренном отключении функции «сознания», она же - искусственный интеллект, и сама машина подлежит ответственности при наступлении обстоятельств, нарушающих законы, будучи в режиме работы ключевых систем в рамках категории «исправен», в состоянии ИИ «режим полного рабочего сознания».
Судья, бросив короткий взгляд в сторону представителей SRI, продолжил: - Я также должен напомнить о том, согласно Своду законов о взаимодействии людей с машинами класса «ИИ», в случае выявление в ходе процесса факта ложного обвинения в ненадлежащем исполнении изделия, обладающего искусственным интеллектом, которое могло привести к репутационному ущербу фирме-производителю, а также самому изделию, сторона, признанная виновной, будет возмещать ущерб производителю. Кроме того, она будет обязана в качестве компенсации самой машине оплатить за свой счет ее следующий апгрейд, а также возможные сервисные действия, направленные на нивелирование ущерба интеллекту машины.
Зачитывая эту часть дисклеймера, судья, как бы невзначай, бросил взгляд из-под очков на сидевшего во втором ряду представителя EST. Равно как в случае признания машины дефектной при поставке, а также в случае поведения машины в рамках непредвиденных производителем сценариев, не оговоренных в контракте поставки и гарантии, работа может быть признана некачественной и некомпетентной, и все затраты и издержки по суду лягут на плечи производителя робота класса «ИИ».
Затем, выдержав «станиславскую паузу», судья строго оглядел свысока своего судейского кресла всех собравшихся в процессуальном зале, сразу как-то притихнувших и сжавшихся в своих креслах под его взглядом. В этот момент опытный, видавший виды вершитель судеб понял, что в зале воцарилась рабочая обстановка, и он полностью контролирует магический процесс – действие по установлению истины. «Вторая часть процесса начинается!» – объявил, наконец, он, убедительно подтвердив свои слова ударом судейского молоточка.
Тут же встал прокурор: - Ваша честь, прошу дать слово космополицейскому, у него важная для суда информация о том, как робот вел себя во время задержания.
Вскочил адвокат: - Протестую против формулировки! Не «задержания», а внеплановой доставки на Землю в связи с возникшими обстоятельствами.
Судья: - Протест отклоняется. Говорите, офицер.
Космополицейский, рапортуя, по-военному кратко и четко, раскладывая по полочкам слова и предложения: - Ваша честь, перед нами была поставлена задача выдвинуться на третью планету альфы-Водолея с целью локализации и доставки на Землю находившегося там андроида. Эту задачу мы выполнили. Готов ответить на вопросы Вашей чести.
- Отлично, офицер, благодарю за службу. Вот мой первый вопрос: что вы увидели, прилетев на Лутойю. Есть ли там жизнь?
- Никак нет, Ваша честь. Планета абсолютно безжизненна.
Адвокат: - Протестую! За те два часа, что патруль пробыл на планете, невозможно дать ответ на такой вопрос!
Судья: - Протест принят. Офицер, на основании чего вы даете такой однозначный ответ?
- Ваша честь, я видел только камни, песок, какие-то черные водоемы на горизонте, скорее всего, углеводородные, кислород в атмосфере ничтожен. По ряду признаков видны очень большие перепады температур. Я думаю, ночью там под минус сто по Цельсию. В том месте, где мы приземлились, не было видно ни мхов, ни следов какой-либо другой флоры. Я имею достаточный опыт высадки на экзопланеты, хотя, конечно, два часа – это ничто, согласен.
- Как быстро вы нашли робота?
- Сразу же. У андроида работали маяки, и, как мы потом выяснили, их зарядки хватило бы еще на десять лет активного пребывания на планете. Мы подлетели на посадочном модуле, увидели робота, который сидел неподвижно на небольшом плато на вершине скалы и смотрел на горизонт, рядом с ним стоял вездеходолет.
Прокурор: - Прошу сообщить суду, оказывал ли робот сопротивление при…тут он на момент осекся…при доставке в полицейский корабль.
Адвокат: - Это не имеет отношения к сути вопроса!
Судья: - Офицер, ответьте на вопрос господина прокурора.
- Трудно сказать, Ваша честь. Не то чтобы андроид сопротивлялся активно. Просто робот никак не хотел отвинчиваться от скалы.
- Не понял вас, в каком смысле?
- Дело в том, что в тот день был ураганный ветер, движения воздушных масс на планете иногда, судя по состоянию горных склонов, почти юпитерской мощности достигают. И машина, чтобы не сдуло, вкрутилась своими бурами в скальную породу. А выкручиваться по нашей команде не захотела.
- Машина неадекватно себя вела, о чем тут еще можно говорить. И к тому же подвергала риску офицеров космополиции! – громко, чтобы слышал весь зал, вставил прокурор.
- Полицейский, продолжайте.
- Нам пришлось оторвать робота от скалы лебедкой посадочного модуля. При этом робот отвечал нам по всем каналам связи, реагировал на все просьбы, кроме одной – немедленно оторваться от скалы и проследовать в патрульный корабль.
- Судья: QX-4, как вы объясните свое поведение на скале во время обращения полицейских?
- Мое поведение не противоречило заложенной в меня программе. Одна из задач, под номером 18 гласила: «Взобраться на вершину, господствующую на местности, зафиксироваться и наблюдать». Я выполнял программу.
- Офицер, продолжайте, что было дальше?
- Поняв, что робот не будет самостоятельно подходить к загрузочному люку, мы набросили на него трос, рывком оторвали лебедкой от скалы и по земле затащили буквально юзом в модуль. И вовремя – на горизонте поднималось какое-то чудовищное облако, буря непроглядная. И уже в грузовом отсеке, согласно инструкции, перевели задержанного…перевели объект я хотел сказать в режим «sleep» и доставили на Землю.
Донесение закончил, - отрапортовал офицер спецназа космополиции.
- Оказывал ли робот какое-либо сопротивление при его тралении тросом, кантовании, переводе в спящий режим или при выполнении других операций?
- Никак нет, Ваша честь. Но оторвали мы его с трудом, не с первой попытки, лебедка работала на пределе, так как у машины мощные буры в пальцы вмонтированы. Часть буров, как мы потом обнаружили в корабле, отломалась при осуществлении операции.
- QX-4, снимите чехлы с рук и продемонстрируйте нам.
Робот повиновался, обнажив сломанные кисти механических рук залу. Часть манипуляторов была вырвана, из дыр фаланг торчали провода, элементы приводов, сломанные части победитовых буров. По залу пронесся легкий гул. Публика вдруг в красках представила себе эту картину: отрывание упрямого супер-робота от скалы на чужой негостеприимной планете, да еще и при ураганном ветре в метановой атмосфере. Да, непростая служба у космополиции, мужества требует немалого.
- Прошу суд зафиксировать поломки изделия в материалах дела! – выкрикнул с места представитель Space Robotics.
- Ваша просьба принята, - сухо отрезал судья, кивнув головой секретарю, ведшему мультимедийную стенограмму процесса.
Прокурор еще раз обратил внимание суда на риск для жизни офицеров, который спровоцировал робот. – При таких обстоятельствах каждая минута пребывания на планете была сопряжена для офицеров со смертельной опасностью, - продолжал настаивать обвинитель.
- Безобразие! – вдруг взвился представитель Space Robotics. Мало того, что машину покалечили, еще ей и обвинение стряпают. Может, робот просто не слышал команд, а вы взяли и рванули несчастную машину своей ужасной лебедкой. А ведь это вам не какой-нибудь гаджет, знаете ли, чтобы его кидать туда-сюда. Это дорогая машина и очень умная, умнее, может, многих из здесь присутствующих, - метнул он искру злобы в сторону офицера спецназа космополиции.
- Попрошу без оскорблений! – вмешался судья.
- Робот слышал все наши команды, - спокойно парировал полицейский. Он откликался, представился, при первой же просьбе спроектировал свой идентификационный код на солнцезащитный экран. Только команду «отцепись и проследуй в потрульный корабль» он почему-то не выполнил.
- Ну что тут непонятного: ваши команды противоречили смысловому ядру его миссии, - язвительно не унимался представитель разработчика.
Судья прервал начинавший выходить за рамки процессуального регламента спор.
- Я вынужден напомнить присутствующим здесь сторонам, что главным предметом данного судебного разбирательства все же является не поведение робота в момент задержания…хорошо, в момент блокировки его работы с целью транспортировки на Землю. А дезинформация людей. А именно тот факт, что он рапортовал о наличии жизни на Лутойе. В то время как ее там нет. Ну, или, скорее всего, нет. Ведь так, офицер?
- Поверьте моему опыту, господа. Быть может, планета и пригодна для терраформирования в перспективе, но на настоящий момент она мертва, абсолютно. Я даже более категоричен в своей уверенности сейчас, по возвращении на Землю, ибо у меня было достаточно времени, чтобы спокойно обдумать увиденное по дороге домой.
- QX-4, - судья снова обратился к машине. Вы в своем первом донесении на вопрос, есть ли жизнь на планете, однозначно ответили – «Да», не так ли?
- Так, Ваша честь,- как всегда невозмутимо ответила мыслящая машина спокойным и приятным мужским голосом.
В зале снова поднялся гул. «Так кому же нам, людям, в конце концов, надо верить - роботам или полицейским?» - нарочито громко съерничал кто-то с галерки. Судья впился своим тяжелым взглядом в робота, на лбу проступила глубокая морщина. В зале повисла тишина. В этом момент всем в зале показалось, что судьба машины на волоске, решение уже принято, и оно, скорее всего, будет не в пользу Space Robotics и их изделия. И тут судья на выдохе устало выпалил: «Объявляю перерыв в судебном заседании».
****
Эта пауза была нужна судье, чтобы переговорить с независимым экспертом, неприметным пожилым человеком с седой головой и маленькими профессорскими очками, все это время тихонько сидевшим, ссутулившись, в уголке судебного зала, внимательно наблюдавшим за поведением робота. Этот неприметный человек считался на самом деле одним из лучших в мире спецов по искусственному интеллекту, настоящим гуру с мировым именем. Говорили даже, что это именно он и создал ИИ, но это, скорее всего, были лишь легенды. Тем не менее, именно этот гуру и помог, в конце концов, распутать клубок, вернее зацепиться за тоненькую нить, которая из этого клубка торчала, и далее он стал разматываться очень быстро. Впрочем, во многом он не более чем подтвердил начавшие уверенно вызревать догадки самого судьи. Хотя именно такое подтверждение из независимого и компетентного источника судье и было позарез как нужно: ответственность большая, ведь как-никак решалась судьба мыслящего – он же все понимает.
Судья и профессор уединились за чашкой кофе на самом дальнем столике, там, где из большого окна в форме гигантского иллюминатора видна взлетная полоса аэродрома плавающего города, за которой – бескрайний темно-синий океан. Гуру сел напротив и, отхлебнув для храбрости пару глотков обжигающего кофе, сразу перешел к делу:
- А вы знаете, ведь это не просто машина с интеллектом. Мы, похоже, имеем дело с эмоциональным разумом. Вы заметили, как он опускал голову, когда его пристыжали, как живенько реагировали на происходящее его электронные глаза? Мы ведь все ищем ошибку в программе машины, прорехи в логике, сбой алгоритма, брак в «железе». А ошибки-то нет. В нем заговорили эмоции, он выдавал желаемое за действительное, похоже, дело именно в этом. Это, я бы сказал, даже чересчур хорошо думающая машина, с избыточным творческим потенциалом, который, сыграл с ним в конце концов злую шутку. Робот выстроил свой микромир, прибыв на эту планету, и одно из звеньев в цепочки построения этого мира, вероятно, состояло в дезориентации человека, управляющего им. А, может, даже и так: робот решил, что он мыслит, чувствует, переживает. Что он живет, не задумываясь, биологической или искусственной жизнью.
- «Мыслю – значит, существую», не иначе. А существую – значит и есть живой, почему нет, собственно? - додумал идею судья.
- Именно так. Я уже почти уверен в этой версии! Таким образом, когда его спросили, есть ли жизнь на Лутойе, он честно и прямо ответил утвердительно. Вот только подумав о себе при этом, а не про какие-то там мхи и микробы. Да, мол, есть! Красавец, ничего не скажешь, – профессор от души рассмеялся.
- Ну, что ж, уважаемый профессор. Если ваша догадка верна, то робот, возможно, далее ответит определенным образом на некоторые вопросы-ловушки, что я задам ему после перерыва. Если мы оба правы в своих догадках, соврать человеку он не сможет, да и не умеет, и тогда моей западни ему никак не миновать. Однако остается загадкой, зачем же он все-таки посылал на землю столь странные красочные рассказы, которые сразу же показались неправдоподобными? Ведь ничего кроме проблем он в результате не получил.
- Вот этого я тоже пока до конца не могу понять, - откровенно ответил гуру. Но, думаю, если он «расколется», то узнать это будет делом техники. Решение в любом случае – за вами, я никак не хочу на него влиять.
- Конечно, тем более, что это абсолютно бесполезное занятие – попытаться оказать влияние на меня, - усмехнулся судья.
После перерыва первый же вопрос от судьи достался роботу-подследственному.
- QX-4, вы сказали в своих самых первых донесениях с планеты, что на Лутойе есть жизнь, так?
- Да так, абсолютно точно, Ваша честь.
- А сейчас, в настоящий момент, она там есть? – твердым и строгим голосом прямо в лоб роботу сформулировал вопрос судья.
- Не знаю, не уверен…, - робот ответил, показывая своим видом, что вопрос ставит его в некоторое затруднение.
В зале кто-то даже слегка присвистнул от удивления. Вот тебе и на! Робот, похоже, на ходу начинает вилять, менять свои показания. Какой же вертлявый андроид! Как-то не соответствует такое поведение его предназначению снимать вопросы, стоящие перед человечеством, а не создавать дополнительные поводы для мучительных поисков и сомнений.
- QX-4, - спокойно и настойчиво продолжал судья, - я вам задал вопрос про сопротивление космополиции. Вы, на мой взгляд, уклонились от прямого ответа. Задаю еще один - вы считаете себя живым или неживым созданием?
- Ваша честь, вопрос некорректен, - взволнованно встрял представитель Space Robotics. Машина не уполномочена делать заявления такого рода, это прерогатива…
- Я здесь решаю, что спрашивать, - довольно резко отрезал судья. И у кого.
- Да, но ответчик все-таки – компания, которая сделала машину, - не унимался беспокойный представитель разработчика робота.
- Уже нет. Суд утвердился в своем решении, что основным ответчиком будет господин QX-4, - ошарашил присутствующих судья, произнеся слово «господин» так, будто речь шла о человеке, достойном такого обращения.
- QX-4, вы понимаете, что являетесь теперь ответчиком по вашему делу?
- Да, конечно, господин судья, ведь я же мыслящий, зачастил робот взволнованно. Я и должен, ведь я …тут он замолчал.
- «Ведь я - живой», вы хотели сказать, не так ли?
Тут некоторые присутствующие и даже кто-то из присяжных не выдержали и разразился аплодисментами, а с галерки одному господину пришло в голову по-театральному артистично выкрикнуть «Браво! Брависсимо!».
- Ну вот, часть клубка, кажется, распутана, - выдохнув, сказал судья. А теперь я хочу видеть отчет STE о переговорах с роботом.
- Вот он, Ваша честь. Представитель компании протянул вверх на судейский стол подшивку заверенных печатью документов. Судья стал внимательно вглядываться в первые разделы отчета, те самые, что содержали радужные оптимистичные картинки, описания «благодатной и радующий глаз» природы пустынной и мертвой, как выяснилось по ходу следствия, Лутойи. В зале снова воцарилась томительная тяжелая тишина, прерываемая покашливаниями взволнованных зрителей, для которых процесс на глазах превращался в интригующее представление.
- А вот и оно,- с нескрываемым удовлетворением воскликнул, наконец, судья. Вот наше красочное сообщение с планеты-загадки. Но почему-то получено оно намного ранее намеченного для первого аналитического отчета робота срока. Насколько я понимаю, у машины было два земных месяца на изучение обстановки, прежде чем она должна была сформулировать какие-либо выводы о планете. Почему, не подскажите, - он взглянул из-под очков на представителя эксплуатировавшей QX-4 компании, донесения получены раньше установленного программой роботизированного исследования срока?
- Совершенно верно, все правильно, Ваша честь, - ответил представитель EST, - через два месяца робот должен был проанализировать свой опыт и полученные данные и передать на Землю первый вывод. Но сканировать его мозг и получать информацию о его ощущениях, опыте на планете, об увиденном его камерами мы могли гораздо раньше, собственно, с момента посадки и начала функционирования на планете. Просто до аналитического отчета этот робот с искусственным интеллектом функционировал как обычный исследовательский модуль.
- Угу…,- протянул задумчиво судья, бросив при этом многозначительный взгляд в сторону все также тихо сидевшего в углу гуру. А сам робот знал о том, что его миссия в части передачи информации о состоянии дел на планете фактически началась сразу же после прилутойивания?
- А почему, собственно, он должен был знать? Зачем, позвольте Вас спросить? Вы же не спрашиваете у пылесоса, знает ли он, что уже включен.
- Я правильно вас понял, что вы получали, тем не менее, информацию, проходящую, так или иначе через мыслительный аппарат машины?
- Именно так, Ваша честь. Дело в том, что машина таким образом устроена, что не важно, осознает она или нет, но данные от всех визуальных и других сенсоров и датчиков проходят через ее искусственный мозг. Просто когда срабатывает триггер аналитической программы, робот не просто пропускает информацию, он ее начинает активно обрабатывать для получения требуемых выводов. Время, когда роботы просто передавали данные с других планет, которые потом еще нужно было месяцами, а то и годами дополнительно расшифровывать и трактовать, кануло в прошлое. Однако это вовсе не означает, что время от времени такую функцию они не исполняют.
- QX-4, вы размышляли над увиденным на Лутойе в первые недели пребывания там? Вы какие-то выводы о планете делали или нет, осуществлялась ли вами какая-либо запись, фиксирование предварительных выводов, обработка информации?
- Господин судья, я находился в полностью автономном режиме навигации, измерений и вычислений, я не могу вам сказать, мыслил ли я в тот момент. Но связь с Землей была столь неустойчива, пока мой передатчик полностью не адаптировался к магнитным полям вокруг планеты. И я включил режим полной автономии, который подразумевает максимальное использование всех доступных моей модели процессов и ресурсов.
- А почему все же вы так настойчиво не хотели отвинчиваться от скалы? Это был приказ не просто человека, а офицера, наделенного полномочиями при определенных обстоятельствах отдавать приказы даже людям.
- Ваша честь, я не должен был возвращаться на Землю, моя миссия состояла из полета в одном направлении и передачи информации с места конечного прибытия. Поняв, что миссия окончена, я зафиксировал себя на скале, включил режим максимальной экономии энергии и смотрел на планету. На мою планету. Я вдруг осознал, что я стал первым разумным существом, увидевшим этот мир. Я был самым первым, кто ощутил всю красоту этих удивительных гор, этого неба с двумя лунами, этого незабываемого заката. Я увидел, что такое мощь стихии, я смотрел на таинственные великаны-вулканы на горизонте. Там даже бури прекрасны…
- Прекрасны, но не для живых! – сердито выкрикнул кто-то с галерки.
- Продолжайте, скомандовал судья, постучав пару раз для острастки молоточком.
- Я понял, что создан для этого мира, что я ему принадлежу, а он мне. Я думаю, что я был взволнован. И я представил, как здесь будет прекрасно, обрати мы, люди и роботы эту планету в жизнь. Я думал об этом все время с того самого момента когда, пробившись сквозь облака, мой корабль начал спускаться. И потом, сидя на скале, летая над ее черными озерами и морями, пересекая на вездеходе равнины и ущелья, я думал и думал об этом. Я, наверно, мечтал.
- Вот как. Выходит, ваши роботы способны мечтать?! – судья обратился теперь к человеку из Space Robotics, напряженно следившему за диалогом робота и судьи.
- Мы называем это «включить креативный модуль», Ваша честь. Вероятно, под воздействием определенных критических обстоятельств эксплуатации машины возможности модуля выходят за рамки нашего технического прогноза их максимальных значений.
- И такой возможностью, «выходящей за рамки», стала простая мечта, - заключил судья. Мечта робота о его первой планете. Ее сканировали и приняли за результат исследования. Выходит так.
- Вполне вероятно, Ваша честь, что это могло произойти. По правде сказать, теперь я уже готов и в это поверить, - несколько смущенно выдавил из себя представитель разработчика.
-Что ж, я составил полную картину и готов вынести свой вердикт, - немного устало, но вместе с тем уверенно и твердо произнес судья. Но хотел бы последнее слово предоставить ответчику. Если вам есть что сказать, говорите сейчас, QX-4.
- Ваша честь, господа, - начал робот, обращаясь к людям, окружавшим его, внимательно слушающим. Я понимаю и признаю, что виноват, что я вышел за рамки программы, что я нарушил, что дезинформировал своего создателя человека, что из меня получился плохой робот. Не прошу о снисхождении, но умоляю – отправьте меня обратно на Лутойю, хочу быть там, на моей планете. Быть до последнего вольта. Не разбирайте меня, я вам еще пригожусь, - сказав это, робот уронил голову, приняв позу готового к казни.
- Присяжные, ваше мнение, - пригласил судья.
- Коллегия присяжных выносит вердикт, что QX-4 выполнил свою миссию, - заявил грузный мужчина средних лет, выступивший от имени коллегии присяжных. В итоге мы теперь, конечно, многое знаем об этой планете. Однако, робот-мечтатель не нужен людям. Что нам с того, что он умеет и мечтать тоже? Мужчина пожал плечами, широко при этом разведя руками, демонстрируя таким красноречивым жестом, насколько ему и всему человечеству не нужны роботы-мечтатели. Всем нам, конечно, будет немного жаль эту машину, которая решила, что она живая, - продолжал он. Но налицо явный дефект изделия, очевидная недоработка производителя. Они и должны нести солидарную ответственность. А обществу нужны бесстрашные, беспристрастные и надёжные роботы-исследователи! – закончил свою речь глава коллегии присяжных.
- Хорошо, господа. Я заслушал стороны и оглашаю приговор.
Судья встал, за ним поднялся весь зал.
- Именем Земного суда, исходя из интересов человечества и прогресса, суд выносит следующее решение: модель андроидов QX с искусственным интеллектом высокого уровня временно снять с производства до выявления производственного дефекта и появления новой версии продукта. Сканировать всю память андроида QX-4, саму машину за неподчинение космополицейским демонтировать. Его память о планете Лутойя переместить в новую машину, которая отправится на эту и другие экзопланеты. Все работы в этой части за счет производителя – компании Space Robotics International, которая признана виновной в недостаточно точном поведенческом прогнозировании изделия. Затраты, связанные с рейсом космополиции на Лутойю, возлагаются на компанию STE, которая признана виновной в несоблюдении Свода законов о взаимодействии с машинами класса «ИИ» в части некорректного сканирования мозга машины без ее предварительного оповещения соответствующим сигналом или предварительного программирования перехода в режим сканирования результата автономной интеллектуальной деятельности.
Все, суд закончен! – судья поставил точку ударом своего молотка. Да, простите, должен вам напомнить, - сказал он уже в дверях, - что вы имеете право обжаловать приговор в вышестоящем суде Солнечной системы.
- Спасибо, спасибо, господин судья за вашу милость ко мне, – воскликнул андроид, успев благодарно упасть на колени, до того, как его отключили судебные приставы. Я снова буду на своей планете сознанием и памятью, туда вернется моя жизнь!
Эпилог:
Результаты полного сканирования памяти робота показали, что Лутойя, несмотря на суровый климат, в целом может быть пригодной для терраформирования. Тысячи визуальных изображений и обширный архив данных позволил сформировать достаточную для планирования и оптимизации миссии схему работ по Лутойи. С этой точки зрения миссия QX-4 действительно была довольно результативной. В новую модель, по сути апгрейд с порядковым номером QX-5 была закачана память его предшественника. Тестирования в исследовательской колонии на Глизе показали, что робот, у которого креативный модуль неактивен, выполняет программу схоластически. «Машина с машинным мышлением» оказалась не лучше нашего бедолаги QX-4: выяснилось, например, что несколько снижаются показатели результативности операций в непредвиденных обстоятельствах, в условиях резкой смены обстановки и при неустойчивой связи. Робот как будто становится вялым, неинициативным, в планету не вдумывается. А с юридической точки зрения кейс выявил необходимость внесения ряда поправок в Свод законов о взаимодействии людей с машинами класса «ИИ», в части, касающейся пределов автономности мышления машин, их независимости при безусловности подчинения в обстоятельствах, выходящих за рамки рабочей ситуации. Последнее нововведение вызвало разногласия в обществе, расколов его на два дискутирующих лагеря: либералов, выступавших за расширение прав кибернетических интеллектуальных меньшинств, и консерваторов, считавших, что роботам и пылесосам место на одной нише социума. Сетевещатели Intersun-net не преминули отметить в своих публикациях, что тем самым была продемонстрирована верность постулата о том, что история человечества на его разных этапах развития имеет свойство повторяться. Впрочем, это было уже не столь важно для астрономов и Международного космического агентства: на Лутойю готовилась расширенная миссия, людей и роботов. Окончательные выводы о планете решено было доверить специально подготовленным людям, которые могли предельно четко и беспристрастно отличить мечты от реальности.
2014г.