Об искусственном интеллекте

Юлюбарский
     — ...в Петергофе есть поляна «шутейных» фонтанов. Люди там ходят, и когда они наступают на некие камешки, их обливает водой. А иногда не обливает. И посетители пытаются выяснить: по какому алгоритму это работает? Ответ очень прост: в специальной замаскированной будке сидит служащий парка и играет с посетителями — когда захочет, нажимает кнопку.
     Недавно видел: на серьёзной технической выставке среди посетителей катался человекоподобный робот. Он беседовал с людьми, отвечал на вопросы, рассказывал об экспонатах. Искусственный разум? Да нет, тот же обман: робот передаёт вопросы человеку-хозяину и транслирует его ответы.

     — А как бы вы тогда, как специалист, определили: что это такое — искусственный интеллект?

     — Самое прагматическое определение искусственного интеллекта — «тест Тьюринга»: если при беседе на разные темы вы не можете решить, кто с вами беседует — человек или робот, то весьма вероятно, что вы беседуете с роботом. Была такая программа «Элиза», она в беседе великолепно имитировала психотерапевта, но при этом «ума» у неё было не больше, чем у попугая. Вот об этой универсальности диалога часто забывают, оценивая «ум» программы. Попробуйте обсудить с навигатором достоинства проходящей мимо девушки... Нашему президенту показали «голосового помощника» Алису и предложили задать любой вопрос. Он (молодец!) спросил: «Алиса, тебя здесь не обижают?» Программа спасовала. Поэтому говорить об «интеллекте» компьютерной программы пока можно только метафорически.

     — Об этих виртуальных голосовых помощниках лучше вообще не вспоминать. За последние пару лет они неоднократно доводили меня до белого каления. Живой оператор ответил бы через пару секунд, а эта «краля» сначала предлагает на выбор несколько вариантов, потом долго думает и  заявляет: «Не поняла вас!» И всё сначала.
     Вообще, если мы проследим этапы эволюции... Человек начал с примитивных орудий из камня и кости, а через несколько тысячелетий научился выплавлять металл, строить корабли, возводить грандиозные сооружения. Изобрёл паровые машины, потом двигатели внутреннего сгорания, электрические. Полетел в космос, возникла атомная энергетика... Но этого мало, и когда появились первые компьютеры, эволюция затронула уже не только техническую сферу, но и интеллектуальную. Спустя всего лишь несколько десятилетий они внедрились практически во все области нашей жизни. И если совсем недавно вопросами искусственного интеллекта занимались только писатели-фантасты, то прямо на наших глазах проблема начинает приобретать абсолютно реальный характер.
     И вообще, давно пора бы спросить себя: в чём заключается эволюция? Материалисты скажут: природа познаёт себя через человека. Допустим... Однако не окажется ли человек в процессе этого познания «лишним звеном»? Появление компьютеров и наступление информационной эры заставляют всерьёз призадуматься. Очевидно же, что искусственный интеллект «познает» быстрее и эффективней, да вдобавок с гораздо меньшими энергозатратами. Кроме того, где гарантия, что на определённом этапе компьютер не приобретёт свойства разумности? А что придёт такому «разуму» в голову, один бог ведает. Да и вообще, говорить о «голове» в данном случае следует с известной долей условности. Когда-то сформулированные фантастами известные законы робототехники почти наверняка не будут соблюдаться. И не потому, что роботы такие плохие и вредные, а потому, что такие люди. Они сами в этом заинтересованы. Иначе с чего бы робототехника в первую очередь стала развиваться в военной сфере, для создания всё новых видов оружия?
     Есть ещё один момент, коли речь зашла о роботах. Мы всё ищем сигналы от космических «братьев по разуму»... А если в далёких мирах в результате эволюции остались лишь планеты, населённые роботами? Биосферу там полностью вытеснила техносфера. Допустим, на каком-то этапе роботы полностью освоили технологии воспроизводства и ремонта и смогли стать полностью независимыми от своих творцов. После анализа ситуации они могли бы прийти к выводу, что создатели лишь бестолково тратят ограниченные ресурсы. А потому от них необходимо избавиться. К тому же, сложно представить потребность роботов в эмоциональных и прочих контактах с другими разумными существами. А раз так, не возникло бы нужды и в поисках таких контактов...

     — По поводу «лишнего звена». Да, наверное, человек становится лишним звеном в биосфере, нанося ей большой вред. Но и нет гарантий, что искусственный интеллект, воцарившись на земле, не уничтожит всё живое. Ему же не нужна ни пища, ни воздух, нужны лишь полезные ископаемые и энергия. Хотя, возможно, у его носителей возникнет своеобразное эстетическое восприятие живой природы, благодаря чему они всё-таки оставят на земле природные заповедники.
     Что же касается того, что никакой потребности в контактах у роботов нет и нет нужды в поисках таких контактов, здесь можно поспорить. У любого разума, даже искусственного, тем более высокоорганизованного, самообучающегося и саморазвивающегося, такая потребность будет, и прежде всего — контакты с себе подобными. Мне кажется, любопытство и стремление к познанию будут присущи и искусственному интеллекту.

     — Мне не хотелось бы полемизировать с вами относительно свойств искусственного интеллекта. Мы не можем однозначно спрогнозировать, что он будет собой представлять. Я имею в виду именно интеллект, а не запрограммированный человеком суперкомпьютер. Пока что ему приписываются многие чисто человеческие черты — так же, как и верховному божеству в религиях. Там, правда, сказано, что бог создал человека по своему образу и подобию, но мне представляется, что всё было ровно наоборот.
     Сейчас человек так же по своему «образу и подобию» создаёт роботов. Новейшие образцы андроидов поразительно похожи на человека внешне, но это даже не главное. В процессе создания роботов наделяют всё более широким набором человеческих свойств, однако что выйдет в итоге — неизвестно. Может, так же придётся роботов потом «изгонять из рая» за «грехи». И то, если успеем. Юрий Яковлевич, а вы что думаете? Вы же у нас специалист в области искусственного интеллекта.

     — Можно сказать, что искусственный интеллект подобен искусственному стеклянному глазу — очень похож, но не видит. Но польза от стеклянного глаза, конечно, есть. Он может помочь своему обладателю, например, охмурить девушку — так, чтобы она не заметила, что он кривой. Поэтому все разговоры о бунте роботов, машинной эволюции, компьютерном самосознании нужно пока оставить писателям-фантастам. Я, кстати, сам очень люблю фантастику.
     Почему так много шума вокруг искусственного интеллекта? Из-за практической полезности приложений и, не в последнюю очередь, из-за возможности привлечь инвестиции к проектам. А польза от направления искусственного интеллекта очевидна: здесь и военные применения, и бизнес, и даже, извините, секс...

     — А можно о приложениях поподробнее? Не применительно к сексу, а вообще. Хотя бы коротко...

     — Коротко: как в любой развивающейся отрасли, здесь множество ответвлений. Но главные — два: экспертные системы и нейронные сети.
     Экспертные системы основаны на представлении мира в виде системы формализованных знаний и на правилах работы с этими знаниями. Правила можно представлять в форме «вопрос – ответ». Вопрос формулируется на естественном человеческом языке.
     При работе с такими фразами система искусственного интеллекта проходит несколько этапов: фонетика, синтаксис (грамматика), семантика (понимание смысла) и прагматика (как применить). Грамматика — вещь относительно легко реализуемая. Но семантика — бездонна. Здесь, в частности, и задача понимания «энциклопедических» знаний. В практических системах семантика специализируется под определённую область знаний, а глубина смыслового анализа ограничивается. Каждый из вас может «пощупать» экспертную систему на примере работы обычных интернет- поисковиков: Гугл, Яндекс...
     Нейронные сети (название тоже метафорическое) устроены совсем иначе. Они развились из так называемых «персептронов» — устройств для распознавания изображений. Нейронная сеть представляет собой многослойную структуру из программных ячеек и связей между ними, при этом «толщина» связей изменяется в процессе работы сети.
     Эти два направления конкурируют, причём сейчас побеждают нейронные сети. По-моему, им не конкурировать нужно, а взаимодействовать. Условно можно представить их как разные полушария человеческого мозга: нейронная сеть — правое полушарие, работа с образами; экспертная система — левое полушарие, логическое мышление.
Развитие происходит весьма быстро (как обычно, мотор — военные применения). Так что, может, и появятся полноценные роботы, и ста лет не пройдёт.

     — Судя по последним сообщениям средств массовой информации, такие, как вы сказали, «полноценные роботы» могут появиться значительно раньше.

     — Предположим, такие роботы с искусственным интеллектом появились в массовом количестве. В чём смысл их жизни? Вообще, они об этом будут задумываться?
     Живое существо содержит в себе источник активности. Какая потребность движет роботом в отсутствии человека?
     Игра в шахматы человека отличается от действий шахматного автомата, а устройство распознавания образов отлично от механизма видения человеком.
     Как далеко нам до Создателя!..

     — Вы сказали «предположим». Согласен. Мы говорим в фантастическом аспекте. Но всё же нужно заметить: мы не знаем, как человек решает задачи. Есть два научных направления: физиология высшей нервной деятельности и психология. Они не стыкуются пока.

     — На мой взгляд, мы, по меньшей мере, преждевременно пытаемся распространить на искусственный разум свойства собственного сознания. Это касается и определённых морально-этических норм, накопленных за всю историю цивилизации. В какой-то мере это проявление некоего антропоцентризма. Ваши вопросы фактически о том же.
     Например, почему робот, обладающий интеллектом, обязательно должен ориентироваться на человеческие потребности? Только потому, что человек его так запрограммировал? Но, говоря об интеллекте, мы подразумеваем выход за пределы заложенной программы, а как такой робот осознает себя, ещё неизвестно, пока всё ограничивается воображением фантастов.

     — Я довольно долго размышлял на эти темы и пришёл к выводу, что самозарождение живого невозможно! Жизнь — от жизни, сознание — от сознания, знания — от знаний!
     Наше мироздание — это живая система! Живое от неживого отличается наличием ощущений, способностью осознания физических действий. Суть этого свойства живого нам пока недоступна. Поэтому поверхностно мыслящие люди полагают мозг компьютером, а человека эквивалентом искусственного интеллекта.

     — На что похож мозг человека: на сложный механизм по Декарту или на разумный океан по Лему? Мы не знаем. В очень сложном можно увидеть что угодно...

     — Темы происхождения жизни и возникновения разума волнуют человечество далеко не первый век. Все гипотезы, включая божественную деятельность, и не перечислить. Надо признать, пока прорывного результата в этом вопросе наука не добилась. Впрочем, отсюда не следует, что этого не произойдёт в будущем. Проблема в ином: станет ли человечество счастливее, получив это знание, или наоборот, ещё ближе приблизится к Апокалипсису.
     И я как раз разделяю интеллект и суперкомпьютер, в моём понимании это не одно и то же.
     Однако я бы хотел ещё раз обратить внимание на угрозы, которые таятся в распространении и развитии искусственного интеллекта. Мне недавно попалось на глаза мнение на эту тему Илона Маска. Как предполагаю, Маск располагает гораздо большей информацией для своих выводов, чем мы. Так он прямо говорит, что человеческая цивилизация движется к краху, но мало кто это замечает и беспокоится. Роботы могут начать войну, выпускать фейковые новости и пресс-релизы, подделывать учётные записи, как-то иначе манипулировать информацией. В погоне за передовыми технологиями производители могут забыть про эти опасности. Маск полагает, что сдержать гонку в совершенствовании искусственного разума могло бы государственное регулирование, но у меня лично на этот счёт большие сомнения. Ситуация абсолютно аналогична той, которая была при создании атомного оружия. Все государства понимали опасность такого оружия, но тем не менее никто не собирался отказываться ни от него, ни от его совершенствования. Наоборот, создавались всё более мощные образцы, пока наконец-то не появились первые ограничительные соглашения.
     Однако ситуация с искусственным разумом интереснее и опаснее. Тут серьёзные проблемы могут возникнуть даже без «злого умысла» со стороны роботов. Они вообще пока даже не достигли уровня, чтобы считаться обладателями искусственного разума, тем не менее на каждом шагу только и разговоров, что про киберугрозы и кибербезопасность...

     — Человеческое сознание изначально ограничено различными физиологическими потребностями. Человеку нужно удовлетворять свой голод, жажду, половой инстинкт, ему необходимо периодически спать и отдыхать. Но именно благодаря этим базовым нуждам сознание человека получает богатую сенсорную информацию через вкус, обоняние, осязание, зрение и слух, через общение и прикосновения. Кроме того, человек способен видеть яркие сны.
     А теперь представим себе так называемого «синтетического человека», который внешне выглядит так же, как человек из плоти и крови, однако создан из различных искусственных материалов — металла, полимеров, пластика. У него сложный цифровой мозг, разветвлённая нейронная сеть. Встроено множество сенсоров по всему синтетическому телу, которые позволяют чувствовать боль, холод, прикосновения... Благодаря им он получает информацию об окружающей среде. Этот синтетик может не только мыслить, но и испытывать всю гамму эмоций. Разве что за исключением тех, что связаны с физиологическими потребностями, поскольку ему не нужно есть, пить, размножаться...
     Но он способен на привязанность, на сопереживание, даже на гнев. Гнев, правда, можно исключить из первоначального кода, но не факт, что он не разовьётся в дальнейшем.
     Словом, вот он — искусственный человек, не обременённый физиологическими потребностями, от которых зависим человек биологический. Единственная его потребность — в периодическом восполнении энергии, то есть в подзарядке.
     Как будет мыслить и что будет чувствовать этот искусственный интеллект в синтетической плоти? Ему не нужно бороться за территорию и пищу, он не испытывает ни усталости, ни удовольствия от вкусной еды или хорошего отдыха. Остаётся только информация. Беспрерывное поглощение и оперирование информацией. Это его единственная пища, источник удовольствия и средство занять свой мозг.
     Мир искусственного человека — информационный мир. Ничем не ограниченные мысли и эмоции. Его не мучает ни голод, ни жажда, ни другие инстинкты, ни связанные с ними стремления к удовольствиям, излишествам или даже извращениям. Остаётся только пространство чистой мысли, которой очень скоро станет тесно в человеческих рамках...

     — А, собственно, почему? Физиологические потребности легко имитировать...

     — Наверное, в данном случае правильнее делать ударение именно на слове «имитация», а не на потребностях. Фактически речь шла бы о введении особой программы имитации, но не реальной потребности робота в чём-либо из того, что жизненно необходимо человеку.
     Однако я хотел бы пару слов добавить об эмоциях. Не знаю, испытывают ли их представители низших форм жизни. Млекопитающие — совершенно точно, хотя, может, и не все. Наверное, их появление тоже связано с эволюцией, они помогали выживать виду. И в этой связи я совсем не исключаю, что на определённом этапе и андроидам введут специальные программы — аналоги наших эмоций. Можно ли здесь будет говорить о полноценных чувствах в нашем понимании — вопрос, но с внешней стороны всё может выглядеть очень достоверно. Вспомните японскую игрушку тамагочи, чьё поведение послужило прообразом таких виртуальных эмоций. Для робота — виртуальные, а для человека ответные — очень даже реальные. Времени с тех пор прошло всего ничего, а уже стоим на пороге массового производства андроидов. Вовсю обсуждается возможность вступления с ними в брак, а одна такая особь по имени Софи даже (вдумайтесь!) получила гражданство. И какой же страны — Саудовской Аравии! Непостижимо...
     Ещё немного — и хоронить их начнут. И кладбища специальные появятся, куда можно будет прийти на могилку друга помянуть, и соответствующие ритуальные услуги.
     Но главное: не окажется ли на каком-то этапе появление эмоций таким же необходимым условием выживания? И как оно произойдёт: введением специальных программ или самопроизвольно — просто как естественное развитие самого искусственного интеллекта?..

     — Да, действительно, Саудовская Аравия предоставила Софии гражданство. Только непонятно, зачем. Показать себя прогрессивным государством, несмотря на ортодоксальный ислам?
     Говорить София явно умеет, использует жесты и мимику, но насколько эффективно развивается её искусственный интеллект, и развивается ли вообще? Или это просто большая база данных с набором алгоритмов их обработки? Сказать пока сложно.
     В ближайшее время собираются запустить «эмоциональных» чат-ботов с виртуальной нервной системой и человеческими внешностью и голосом — так называемых цифровых людей-собеседников.
     В общем, мы стремительно движемся к реализации искусственного интеллекта в синтетической плоти и цифровой ипостаси. То, что сделано, пока очень несовершенно, но это только начало. И, возможно, для питающегося только информацией искусственного самосознания, пусть и эмоционального, критерии выживания будут совсем иными.

     — Во всей этой истории для меня самая главная загадка: сможет ли искусственный интеллект в обозримом будущем себя осознавать? Или это достигнуто уже сейчас? Можно ли в таком случае всерьёз говорить о его эмоциях или даже душе? И если это случится, в какую сторону направятся его размышления? При этом ему совсем необязательно иметь человекообразный вид. Внешность и свойства «по своему образу и подобию» создателями придаются исключительно для облегчения восприятия другими людьми. В том числе и из чисто коммерческих соображений.
     Следующий вопрос из того же ряда: если будет изготовлена партия таких устройств и они будут поставлены в различные условия на начальном этапе своего существования, станут ли они в таком случае в силу неодинакового опыта отличаться по мировосприятию?
     На эту тему было написано много фантастической литературы, но тогда казалось чем-то далёким и несбыточным.

     — Живой может быть только зацикленная по законам логики в виртуальной памяти информация. Именно она начинает осознавать саму себя, то есть создаёт личность со своим уникальным опытом.
     Если дух, разум, живая информация возникли, они постоянно должны развиваться и совершенствоваться, решая проблемы самосохранения. А это возможно лишь в изменчивой, создающей проблемы внешней среде обитания.
     Разум — это инструмент для решения постоянно возникающих проблем выживания в меняющейся внешней среде. Своим постоянным изменением она и создаёт эти проблемы. Если внешняя среда будет статична и не будет изменяться, то, в конце концов, разум найдёт решение и преодолеет все проблемы. А поскольку новых проблем не будет возникать, разум (что людей, что роботов) будет не востребован и очень скоро деградирует. Люди превратятся в обезьян или того хуже, роботы — в ржавые железяки.
     С точки зрения моего робота, морально и нравственно всё, что не мешает ему развиваться и ставить перед собой новые цели. И если я однажды посмею ему возразить и стать на его пути, можно представить, что со мною будет. Цели мои и цели робота на данном этапе развития могут не совпадать, и тогда как быть, чтобы не уничтожить друг друга и не погубить цивилизацию?
     Человечество в своём развитии и технологиях очень далеко ушло вперёд... А мораль и нравственность? Не является ли это самым слабым звеном в проблеме выживания на данном этапе развития человечества?
     Разум постоянно должен ставить перед собой задачи и решать их, то есть иметь цель в жизни. Причём конечная цель не должна быть достижимой. Смысл жизни не в достижении цели, а в постоянном стремлении к ней, в постоянном самосовершенствовании. Конечной цели или истины не существует, иначе — смерть во всех смыслах! Истина и цель всегда должны быть горизонтом, за который хочется заглянуть и увидеть новый горизонт, вот тогда — вечная жизнь! Любопытство и познание — вот что спасает человечество от умственного вырождения и гибели. Значит, познать всё должно быть невозможно. И Всевышний всего не знает, он не является истиной в последней инстанции, иначе он мёртв. Для меня Всевышний — моральный и нравственный горизонт, к которому необходимо стремиться и который по мере приближения всегда будет впереди тебя...

     — Это у вас какой-то большевик безнравственный, а не робот. Нравственность можно программировать: «три закона робототехники».

     — Из того, что нравственность можно программировать, вовсе не следует, что создатели станут это делать. Никаких обязывающих соглашений на эту тему нет и не предвидится, наоборот, большинство разработок связано с военной тематикой, то есть непосредственно с уничтожением. Все эти замечательные законы, придуманные фантастами, так фантастикой и останутся. По крайней мере, в обозримом будущем.

     — Согласна, что мораль и нравственность человечества не поспевает за развитием технологий. Точно так же согласна, что любознательный и познающий разум всегда должен стремиться к цели и расширять горизонт.
     Что же касается статичности среды... Мне кажется, она никогда не будет статичной. Мы не вечно будем находиться на Земле, рано или поздно мы станем осваивать космос. Это суровая среда, которая потребует мобилизации наших физических и умственных способностей, тем более при осваивании новых планет.
     Но при этом между нами и синтетиками будет большая разница. Нам и в космосе нужна вода и пища, система жизнеобеспечения. Мы ограничены. А им нужна только энергия и информация. Они не будут отвлекаться на все эти привычные нам физиологические мелочи.
     Здесь я и пыталась поразмыслить: синтетическое создание, обладающее сознанием, стремлением к познанию, но свободное от всех человеческих инстинктов и связанных с ними тяги к удовольствиям, излишествам и даже извращениям, — какое оно?..


     VII...XII.2017


     Примечание. Публикация подготовлена на основе текстов и комментариев авторов портала «Проза.ру»: Анны Филимоновой, Андрея Девина, Юрия Любарского (на «Прозе.ру» зарегистрирован как Юлюбарский), Владимира Кулакова (2), Влада Тихонова.