Что сулит человечеству «некроэволюция» автономных систем вооружений
У Станислава Лема есть фантастическая повесть «Непобедимый». Сюжет такой: одноименный корабль землян, вооруженный всеми мыслимыми и немыслимыми системами вооружений, садится на необитаемую вроде бы планету и сталкивается со странным сообществом самоуправляющихся микроскопических механизмов, начинает с ними воевать, вернее, они первые нападают.
И боевой корабль землян безнадежно проигрывает коллективному разуму приспосабливающихся к любому виду земного оружия микророботов. Их огромное металлическое мыслящее облако обладало достаточным самосознанием, чтобы уничтожить любого агрессора, и землян спасло только поспешное бегство.
Я вспомнил эту пророческую повесть польского фантаста и философа, когда прочитал о новом повороте в экспериментах с роботами Нао.
Справка:
NAO (робот) (название произносится как now) — это автономный программируемый человекоподобный робот, разработанный компанией Aldebaran Robotics, штаб-квартира которой находится во Франции (Париж). Разработка робота началась с запуска Проекта NAO (Project NAO) в 2004 году. 15 августа 2007 года, робот NAO заменил робота-собаку Aibo компании Sony в международном соревновании по робофутболу RoboCup Standard Platform League (SPL). Также робот NAO принимал участие в соревновании RoboCup 2008 и 2009 года и был выбран в качестве базовой платформы для SPL на RoboCup 2010. Учебная версия NAO была разработана для университетов и лабораторий для исследования и обучения. Для институтов эта версия была реализована в 2008, а позднее (к 2011) стала доступна для большинства. NAO вскоре начал использоваться в различных университетах всего мира, таких как Токийский Университет, Индийский технологический институт Канпур в Индии, Alfaisal вСаудовской Аравии. В декабре 2011 года Aldebaran Robotics произвела модель Nao Next Gen с расширением программного обеспечения и более мощным процессором, а также с камерами более высокого разрешения. (Википедия)
Собственно говоря, меня заинтересовало то, что американские инженеры, в ходе экспериментов с французскими роботами ставили задачу решения логических задач, требующих некоторых «признаков самосознания»:
«Трем старым моделям роботов Nao сообщили, что двум из них дали специальную «таблетку немоты», лишившую их возможности разговаривать (на самом деле инженеры просто нажали на специальную кнопку). Однако роботы не знали, кого именно лишили дара речи. Машинам задали вопрос о том, кому дали таблетку. Все они попытались дать ответ «не знаю». Только робот, способный говорить, смог произнести эту фразу, услышал свой собственный голос и понял, что ему «таблетку» не дали. После этого он ответил: «Простите, сейчас я знаю. Я смог доказать, что мне не выдали "таблетку немоты"».
Помимо вежливости, в ходе теста роботы Nao продемонстрировали способность к базовым формам самосознания. Машины должны были не только понять вопрос, узнать свой голос, но и догадаться, что возможность говорить указывает на то, что ее субъекту не выдали «таблетку немоты».
Организатор эксперимента, профессор Политехнического института Ренсселера Сельмер Брингсйорд (Selmer Bringsjord), придумал свой тест на основе известной логической задачи о мудрецах и колпаках. Брингсйорд выступит с докладом об эксперименте на конференции по робототехнике и искусственному интеллекту RO-MAN, которая пройдет в сентябре 2015 года в Японии».
Безусловно, ни о каком самосознании здесь не может быть речи. Самосознание присуще живым существам, выделяющим себя из окружающего мира. В принципе, создаваемые человеческим разумом электронно-механические устройства далеко ушли от простейших саморазвивающихся автоматов Фон Неймана-Колмогорова, но даже и близко не подошли к «некроэволюции», - так Лем обозначил способность микроскопических металлических кристаллов к самоорганизации:
«Мертвый процесс самоорганизации... Некросфера. Значит, и некроэволюция, эволюция мертвой материи».
Существует известный тест Тьюринга. Если вы беседуете с невидимым собеседником-компьютером или роботом и не можете отличить его от человека, то значит он обладает разумом.
Завсегдатаи интернета запросто отличают виртуальных «ботов»-троллей, от реальных людей-собеседников. Ни один интернет-бот тест Тьюринга сдать пока не может.
Но ученые продолжают эксперименты. Роботами заинтересовались крупнейшие корпорации. Недавно, например, Google купил компанию Boston Dynamics, специализирующуюся на разработке роботов для Министерства обороны США.
Штаб-квартира Boston Dynamics находится в г. Уолтем в штате Массачусетс. Наибольшую известность получил разработанный компанией робот BigDog, несколько роликов, с которыми были выложены в 2008 году на YouTube. На одном из видео робот ловко лезет в гору, ходит по снегу, скользит по льду. Boston Dynamics сделала еще робота Cheetah, способный развивать скорость около 50 км в час и человекоподобного робота Petman. Petman умеет ходить по сложной поверхности, преодолевать препятствия, ползать, отжиматься.
Отметим, что Google приобрел еще семь фирм, производящих роботов. США и их союзники (даже Саудовская Аравия!) давно уже введут разработку боевых роботов в рамках программы создания так называемых «автономных систем вооружений» («lethal autonomous weapons»).
Об этом, например, говорится в недавно опубликованной в американском журнале «Foreign Affairs» статье «Battle Bots. How the World Should Prepare Itself for Robotic Warfare» («Войны роботов. Что сулят миру роботизированные системы вооружений?»).
Ключевая мысль автора, Денизы Гарсиа, такова:
«Nuclear weapons and future lethal autonomous technologies will imperil humanity if governed poorly. They will doom civilization if they’re not governed at all.»
«Ядерное оружие и будущие летальные автономные технологии несут угрозу человечеству, если их недостаточно контролировать. Они погубят цивилизацию, если их не контролировать вообще».
Не чужды таких разработок и российские специалисты. Вот что говорит в своем интервью профессор кафедры «Робототехнические системы и мехатроника» МГТУ им. Н.Э. Баумана Аркадий Ющенко. Он четко обозначает магистральное направление разработки автономных систем вооружений:
«Если говорить об области применения человеко-машинных робототехнических интеллектуальных систем, то они используются уже в наше время. Экстремальная робототехника эксплуатируется в рамках борьбы с террористами или управления роботами в космосе. Робототехнические аппараты также способны осуществлять охрану помещений и территорий.
Самая важная задача, стоящая перед робототехникой в будущем — это обеспечение управления коллективами роботов. Коллектив машин способен выполнять качественно иные задачи, чем один робот».
Итак, в будущем на полях сражений столкнутся «коллективы», то есть армии боевых роботов. Ведущие американские военные стратеги практически единодушно считают, что ядерное оружие оказалось тупиковой веткой военной эволюции. Оно не позволяет вести масштабные боевые действия между ядерными державами, так как это чревато взаимным гарантированным уничтожением.
Будущие войны будут вестись с помощью высокоточного оружия, управляемого «автономными системами», то есть коллективным разумом боевых роботов. Готовы ли мы к ним?