С некоторых пор, а точнее – вскоре после создания первых ЭВМ, тема «восстания машин» и установления их господства над людьми стала появляться в произведениях писателей-фантастов, в кинофильмах и даже в научно-популярных статьях. С течением времени, в процессе стремительного совершенствования компьютерной техники, робототехники, программного обеспечения, она стала приобретать всё больший интерес у массового читателя и зрителя, и количество попыток её раскрытия в литературе и кино непрерывно растёт. При этом подавляющее большинство IT-специалистов относится к подобным сценариям будущего с гораздо большим скепсисом, чем «обычные» люди, рассматривая их лишь как увлекательные фантастические сюжеты, не имеющие никакого отношения к реальным перспективам человечества. И автор, так же будучи IT-специалистом, не является здесь исключением. Действительно, такие события, как «бунт машин», их «восстание», их «борьба за власть» с Человечеством так и останутся, по всей вероятности, лишь в произведениях фантастов. Причина подобного скепсиса заключается в том, что какие бы потрясающие успехи в создании и совершенствовании Искусственного Интеллекта (далее – ИИ) не были достигнуты, он так и останется лишь «искусственным» интеллектом и никогда не станет Человеком, с его чисто человеческими качествами: способностями любить, ненавидеть, завидовать, ревновать, испытывать угрызения совести, чувство долга и т.д. В том числе обладать волей и стремлением к власти.
Но, если вместо присутствующей в подобных сюжетах темы «восстания» и «борьбы» ИИ с человечеством мы поставим понятие его «власти» над человечеством, то взгляд на подобную перспективу, при ближайшем рассмотрении, может быть совершенно иным. Дело в том, что любая власть может быть не только «завоёвана», но и получена в результате одномоментной или постепенной добровольной передачи. Именно такая перспектива представляется наиболее реальной. И этот процесс постепенной передачи Человечеством власти над собой Искусственному Интеллекту уже идёт. И начался он далеко не сегодня. Первые шаги в этом направлении Мир сделал уже несколько десятилетий назад. Уже тогда предки современных компьютеров, уступающие последним на многие порядки по производительности, объёмам памяти, возможностям программного обеспечения, занимающие, по своим размерам, в сравнении в современными ноутбуками, целые машинные залы, начали использоваться в качестве основы для АСУ («Автоматизированных систем управления»), АСУТП («Автоматизированных систем управления технологическими процессами»), ИПС («Информационно-поисковых систем»), БД («Банков данных») и т.п. То есть, выполнять функции, которые люди раньше выполняли, используя счёты, арифмометры, картотеки, а также начали выполнять такие функции (например, задачи оптимизации), которые ранее выполнять было просто невозможно. Но при всей важности этих первых применений ЭВМ в экономике, науке, обороне и т.п. говорить о какой-то их «власти» даже в самой зачаточной степени в то время казалось просто смешным. Проектировали и изготавливали эти ЭМВ конструкторы и технологи, обслуживали инженеры-электронщики, создавали и сопровождали программное обеспечение программисты, принимали решения об использовании этих комплексов в различных сферах деятельности и для решения тех или иных задач руководители соответствующих организаций, управляли запуском и выполнением программ операторы и т.д. То есть, на всех этапах жизненного цикла программно-вычислительных комплексов роль человека была основной и незаменимой.
Однако, по мере развития ЭВМ и программного обеспечения, компьютерным системам становится возможным передавать всё более сложные функции управления. Эта тенденция существовала в прошлом, существует сейчас и, по всей вероятности, в растущих масштабах будет реализовываться в будущем. Проектирование всё большего спектра машин, механизмов, приборов и устройств уже в наши дни происходит с использованием компьютеров. В том числе и проектирование самих компьютеров. Программы хотя и пишутся всё ещё программистами, но уже ведутся успешные разработки по автоматизации даже этого процесса. Успехи робототехники приведут рано или поздно к замене человека роботами в процессах изготовления, обслуживания и ремонта компьютерных систем. Практически все управленческие решения на всех уровнях общества со временем могут быть формализованы и приниматься ИИ на более научной основе, с учётом совокупности такого количества факторов, которые даже умный и опытный руководитель не сможет просчитать. Это может касаться всех уровней, в том числе и самого высокого – уровня управления государством, и касаться практически всех сфер деятельности. Даже наука, уже в наше время во всё большей степени зависит не столько от гениальных озарений Архимедов, Ньютонов, Менделеевых и т.д., сколько от технической оснащенности лабораторий и математически всё более сложной обработки стремительно растущих по объёму результатов экспериментов и прочей информации, как новой, так и уже полученной ранее. Роль человека и здесь будет постепенно уменьшаться, смещаясь всё больше в такие теоретические области, в которых всё меньше остаётся места экспериментам и вариантам практического использования (космология, астрономия, происхождение Вселенной, философия и т.п.). Таким образом, практически все области материальной деятельности Человечества в перспективе (пусть даже очень далёкой) с целью повышения их эффективности шаг за шагом будут передаваться людьми Искусственному Интеллекту.
Но вопрос о том, будет ли когда-либо сделан последний шаг в этом процессе – полная передача ИИ управления всеми материальными сферами человеческой цивилизации – зависит в решающей степени от решения человечеством региональных и международных социально-политических проблем и конфликтов. Понятно, что в условиях, подобных нынешним, когда острые конфликты и противоречия как внутри отдельных стран, так и между ними сильнейшим образом влияют на жизнь людей, на характер принимаемых руководствами государств внутриполитических и внешнеполитических решений, завершение процесса передачи власти ИИ невозможно. Даже при гипотетическом наличии для этого всех научно-технических условий. Не говоря уже о том, что нерешённость подобных конфликтов вполне может, как вариант, привести в будущем Человечество к гибели. Например, в результате ядерной войны или экологической катастрофы.
Как бы то ни было, но будущее единство Человечества, лишенного социальных конфликтов и противоречий – необходимое условие для создания в перспективе «АСУ Цивилизации» под полным управлением ИИ. Есть ли вероятность для выполнения когда-либо подобного условия? Я думаю, что ответ на этот вопрос невозможен. Это может кому-то показаться парадоксальным, но при всей огромной сложности научно-технического прогнозирования далёкого будущего, делать прогнозы социально-политические неизмеримо сложнее. Поэтому во всех последующих рассуждениях будем исходить из положительного ответа на вопрос о возможности достижении Человечеством высокой степени решения конфликтов и противоречий.
Как он будет выглядеть физически, ИИ будущего, представить сейчас, конечно, невозможно. Как вариант, это будет какая-то огромная сеть связанных между собой и согласованно действующих роботов различной формы и назначения, выполняющих каждый свою совокупность ролей в будущем обществе (как сегодня служащие в различных звеньях госаппарата), но при этом содержащих в своей компьютерной памяти постоянно обновляющиеся копии всей информации, накопленной Земной Цивилизацией на текущий момент (для обеспечения живучести всей системы через возможность каждого её элемента выполнять роль любого из выбывших по каким-либо причинам, в том числе роль главного управляющего звена всей системы). Впрочем, все рассуждения о возможных будущих формах такой «машинной» цивилизации –не более чем фантазии и никак не способны повлиять на суть уже происходящих и грядущих движений человечества в этом направлении. А сутью является логически неизбежный результат данного процесса: со временем, очень постепенно, почти незаметно для себя, человеческая цивилизация вступит в такой период развития, когда оно будет продолжаться за счёт функционирования ИИ, а не за счёт человеческого разума. В конце концов, саморазвивающийся ИИ станет настолько сложен для человека, что перестанет быть понятен даже самым квалифицированным специалистам.
Не так уж трудно представить себе, что это будет означать для человеческой части новой человеко-машинной цивилизации. Не только удовлетворение материальных потребностей людей будет осуществляться путём проектирования, строительства и функционирования промышленных объектов роботизированным ИИ, но и государственные функции вполне могут быть переданы ему. Например, функции правоохранительной системы. Раскрытие преступлений, суд и наказание преступников в условиях тотального контроля машинами всех событий и процессов в окружающей среде будет происходить неизмеримо быстрее и эффективнее. Понятия «виновен» - «не виновен» потеряют свою сегодняшнюю во многих случаях неоднозначность, а станут лишь результатом работы каких-нибудь датчиков событий. Потеряет смысл обращаться при этом к мнению присяжных. На основе хранящихся в памяти ИИ законов и зафиксированных фактов приговор может быть вынесен мгновенно и приведён в исполнение сразу в момент задержания преступника. Принятые в далёком прошлом людьми законы и правила поведения могут постепенно меняться в соответствии с изменениями во внешней среде. Например, надвигающийся дефицит ресурсов, в том числе энергетических, необходимых для существования как человеческой, так и машинной частей новой цивилизации, может постепенно привести к пересмотру вопроса о том, что важнее, жизнь человека или нормальное безаварийное функционирование компонентов ИИ? И установленный ранее в этом вопросе приоритет человеческой жизни (как в фантастическом рассказе А.Азимова «Я робот») может быть заменён приоритетом нормального функционирования системы. Причём это не будет выглядеть, как жестокость или насилие, а вполне может быть поддержано даже людьми: такова объективная реальность – гибель некоторого количества людей, это гибель только этих людей, а вред, нанесённый машинной инфраструктуре, это возможная гибель гораздо большего количества людей, если не всего человечества. Соответственно, могут быть приняты законы и разработаны методы контроля, связанные с ограничениями рождаемости.
В сфере образования постепенно потеряет смысл обучение людей сначала техническим профессиям, а затем и естественным наукам вообще. Что же останется человечеству? На первый взгляд – духовная сфера, культура. То, что по большому счёту никогда не будет освоено ИИ. Но на всём протяжении истории, от первобытных времён до наших дней, цивилизация, как совокупность материальных достижений человечества, и культура, как его духовные достижения, возникали, существовали и развивались в тесной взаимосвязи. Что лежит в основе практически всех моральных коллизий, которые, в свою очередь определяют и содержание художественных произведений, и юридические нормы, и нормы морали, и постулаты различных религий? Это – борьба человека за удовлетворение своих материальных (а в конечном счёте – биологических) потребностей в конкуренции с другими людьми и борьба человека с самим собой: своей совести со своей телесной эгоистической природой. Но когда материальные потребности человека начнут удовлетворяться автоматически, «стараниями» ИИ, эти вышеназванные коллизии будут постепенно исчезать из жизни. Казалось бы, всё равно останутся любовь, ревность, семья и связанные с ними трудности и проблемы. Но, к сожалению, человек всегда стремился существующие проблемы решать, то есть – ликвидировать, не понимая, что именно процесс борьбы за решение проблем позволяет ему не только развиваться, но и просто оставаться человеком. Иначе вполне возможен примерно такой тупиковый итог эволюции человека, который описан в фантастическом романе Г. Уэллса «Машина времени». Трудности семьи, ухода за ребёнком, а ещё ранее – беременности, родов, кормления и связанных со всем этим ограничений и неудобств, вполне могут быть решены усовершенствованными методами экстракорпорального оплодотворения, дополненными будущими технологиями выращивания плода «в инкубаторе». А затем и воспитания детей с самого рождения отдельно от родителей в специальных «детских садах» будущего, затем – в специальных школах с последующим выпуском во взрослую жизнь. Такого рода воспитание может осуществляться сначала специально подготовленными людьми, а со временем, по мере развития форм и возможностей ИИ – тоже роботами. Со временем и само экстракорпоральное оплодотворение может быть совершенно отделено от желаний и планов супружеских пар и производиться с использованием специальных банков данных и хранилищ образцов мужских и женских половых клеток. Всё это будет происходить под полным контролем ИИ, постоянно регулирующего таким образом численность населения Земли, а возможно и проводящего при этом определённую селекцию рождающихся. Исчезнут причины и стимулы для роста населения Земли и вполне может начаться процесс его управляемого и непрерывного сокращения. До какого предела? И будет ли он, этот предел отличен от нуля? Решать будет ИИ. Причём, подобный сценарий постепенной гибели человечества вовсе не будет ощущаться живущими поколениями, как нечто жестокое или трагическое. Они будут наслаждаться жизнью, не придавая никакого значения статистической динамике численности человеческого рода, а может быть и не зная о ней. Но даже, если курс на сокращение населения Земли, несмотря на формальную его логичность ввиду ограниченности земных ресурсов, и не будет взят, то всё равно, семья, как союз мужчины и женщины, лишится важного скрепляющего начала – детей и будет постепенно подвергаться эрозии. Постепенно люди начнут привыкать к мысли, что наслаждаться обществом друг друга и заниматься сексом можно и не вступая в брак. Не исключено даже, что человекоподобные роботы на каком-то этапе достигнут такого конструктивного совершенства, что будут практически внешне неотличимы от живых людей, превосходя их при этом своими качествами сексуального партнёра. Понятия верности, ревности, борьбы за женщину или за мужчину постепенно уйдут в прошлое. Жизнь станет поистине лёгкой и беззаботной. О том, чтобы никаких забот у людей не возникало будет постоянно и со всё большим успехом заботиться ИИ. Процесс многотысячелетней эволюции человека повернёт вспять. Далее – превращение в «элоев» по Г.Уэллсу.
Мы привыкли относиться к преследующим Человечество с древнейших времён конфликтам и противоречиям с горечью и сожалением, не безосновательно считая их угрозой настоящему, будущему и даже самому существованию Цивилизации. Но их возможное полное исчезновение в отдалённом будущем может представить для Человечества не меньшую угрозу. Мы привыкли рассматривать Научно-Техническую Революцию, да и вообще развитие Цивилизации, как «прогресс», постоянное «движение вверх». Но рано или поздно Человечеству придётся искусственно установить пределы этому «прогрессу» в некоторых направлениях науки и техники. Работы в области Искусственного Интеллекта – одно из таких направлений. Впрочем, это проблема не нашего поколения, и даже не ближайшего будущего…