"Думающая машина, наконец превзошла, человека: честно призналась, что ничего не умеет, не знает, не хочет и не собирается".
(M.Geny)
Когда появились первые компьютеры (а это случилось не 70 лет назад, а гораздо раньше, прообраз калькулятора для будущих ЭВМ описал еще Леонардо да Винчи) всем показалось, что до появления мыслящей как человек машины осталось ждать совсем недолго, надо только, чтобы компьютеры стали более мощными. Компьютеры удваивают свое быстродействие каждые полтора - два года. Но вряд ли кто-то скажет, что каждые полтора-два года их интеллект увеличивается со сколько-нибудь сравнимой скоростью. Если вообще идет речь об "интеллекте", то машина тут ни при чем.
Если человечество эволюционизирует в арифметической прогрессии, бактерии в геометрической, то информационные технологии - в степенной. И, тем не менее, перспектива создания «мыслящего» компьютера сейчас кажется даже более отдаленной, чем 20-30 лет назад.
Возникает очевидный вопрос: «Почему другие направления информационных технологий развиваются фантастическими темпами, а создание искусственного интеллекта (ИИ), может быть самое перспективное направление, топчется на месте?». На чем заклинило думающую машину?
В качестве ответа специалисты обычно говорят, что у современных компьютеров не хватает вычислительной мощности чтобы соответствовать мышлению человека. Так, по мнению корпорации «Интел», компьютер сравняется по вычислительной мощности с мозгом человека к 2020 году и тогда достигнет уровня интеллекта, сравнимого с человеческим.
Но, думается, во-первых это вряд ли так быстро произойдет, а во-вторых, что именно мы будем считать "уровнем человеческого интеллекта"? Тест Тьюринга или IQ? Версия недостаточной мощности компьютеров весьма уязвима. Например, может одному компьютеру и далеко до мощности мозга, но, вероятно, если объединить миллионы современных компьютеров, то получится система, не уступающая компьютеру 2020 года. Будет ли она отличаться выдающимся интеллектом? Вряд ли. К тому же далеко не ясно, какие вычислительные мощности необходимы для поддержки мыслительных процессов.
С одной стороны человек способен делать такие вещи, которые явно требуют гигантских вычислительных ресурсов. Например, наш мозг за 0,3-0,5 секунды строит сцену с трехмерными объектами по их двумерным изображениям и распознает эти объекты, при этом мозг не смущает, что объекты могут двигаться, может двигаться сам человек и его голова, что изображения могут поступать в мозг "вверх ногами", то есть в перевернутом виде, что наш глаз - совсем не идеальный оптический инструмент и т.д. и т.п.
Однако такие возможности носят скорее врожденный характер и поэтому сами по себе не являются признаком высокого интеллекта. Птицы, например, имеют гораздо более быструю реакцию (меньше, чем 0,2 секунды) и могут делать то же самое или даже больше, они гораздо лучше ориентируются в трехмерном пространстве, но человек почему-то явно превосходит их по уму. Что же касается гибкого, эффективного поведения, которое считается главным преимуществом человека, то такое поведение, кажется, опирается на довольно ограниченные ресурсы.
Объем кратковременной оперативной памяти человека составляет всего 7±2 условных единиц (объектов). Попробуйте одновременно делать два разных дела – замучаетесь. Считается, что опытный физик использует столько приемов, эвристик, сколько страниц в курсе общей физики, т.е. несколько тысяч, максимум.
В компьютерах можно хранить намного больше информации. В качестве другого объяснения вялого развития ИИ иногда говорят, что физика мыслительных процессов очень отличается от той, что используется в компьютере и поэтому не может быть смоделирована на нем, вернее, на абстрактном компьютере, типа машины Тьюринга. Тоже слабое оправдание.
Во-первых, неясно почему нельзя моделировать физику этих процессов на компьютере. Ядерный взрыв, например, тоже сильно отличается от физики компьютера, но вполне поддается моделированию. Во-вторых, в отдельных областях компьютеры относительно успешно решают сложные задачи, например, отлично играют в шахматы. Хотя там нет никакого интеллекта. Простой механический перебор вариантов.
Но почему тогда нельзя достичь большего? Все же складывается впечатление, что развитие ИИ тормозится непониманием какого-то фундаментального механизма человеческого мышления, но не столько на уровне физики, сколько ближе к психологии.
Чтобы понять в чем дело, надо начать с определения понятия «интеллект». Точного определения этому понятию никто не даст, но интуитивно ясно, что интеллект – это способность эффективно решать возникающие перед человеком проблемы и задачи. Чтобы решить проблему, нужно достичь некоторой цели, результата, исходя из определенных условий.
Следовательно интеллект – это процессор способности находить алгоритмы и формировать средства и способы достижения цели в определенных условиях. Из этого определения следует, что цель – это одно, а средства для ее достижения – совсем другое. И эти вещи, вообще говоря, никак не связаны.
Принцип разделения средств и целей, т.е., та идея, что одна цель может быть достигнута множеством способов, а одно средство применено для достижения разных целей, лежит в основе всех видов человеческой деятельности, в том числе и в основе ИИ. Там этот принцип начали использовать еще в начале шестидесятых годов двадцатого века основоположники направления Ньюэлл и Саймон, которые на его основе пытались создать «Универсальный решатель задач» («General Problem Solver» или GPS).
«Универсальный решатель» у них не получился, поскольку для достижения всякой цели, в принципе, существует бесконечное число способов и перебор их с целью выбора достаточно эффективного способа очень быстро способен переполнить память самого мощного компьютера, эта проблема получила название «комбинаторного взрыва», ее Ньюэлл и Саймон так и не решили.
С тех пор поиски методов повышения эффективности перебора (эвристики, эффективное представление знаний, машинное обучение разных видов) и стало главным занятием разработчиков ИИ. Принцип разделения целей и средств неприменим для понимания человеческого мышления. В ответ на требования ситуации мозг всегда одновременно формирует цель и средства для ее достижения.
Это происходит в процессе самоорганизации в определенных структурах мозга, причем процесс самоорганизации протекает таким образом, чтобы минимизировать затраты на формирование цели и средств. Под целью, в данном случае, не обязательно понимается, как это делается обычно, какой-то осознаваемый результат, а любое приемлемое целесообразное состояние, которое должно быть достигнуто.
Средство - это любая активность, необходимая для достижения цели: такая активность может остаться неосознанной, а может вылиться в частную диссертацию или в меморандум по подготовке к мировой войне. Самоорганизация хаоса -процесс автоматический и не поддается сознательному контролю. Главным преимуществом одновременного формирования средств и целей является то, что при этом формируются только цели, для достижения которых есть эффективные средства, т.е. решается проблема «комбинаторного взрыва».
Следует отметить, что внутренняя эффективность механизма самоорганизации, т.е. то, что он всегда порождает какую-то цель и средства, не прибегая к перебору всех возможных вариантов, вообще говоря, никак не связана с внешней эффективностью, то есть с тем, насколько сформированные цель и средства адекватны данной ситуации. Это позволяет понять, почему возможны случаи, когда цель ясна, но непонятно какими средствами ее достичь, хотя достаточные возможности для этого имеются. Что кажется противоречащим гипотезе.
Предполагается, что в таких случаях сформированные цель и средства неадекватны ситуации, но их неадекватность не осознается в достаточной степени. Отказ от принципа разделения средств и целей выглядит на первый взгляд совершенно абсурдным, поскольку, как указывалось выше, этот принцип пронизывает все сферы человеческой деятельности.
Пусть, например, нужно добраться до 22-го этажа. Это можно сделать на лифте. Если лифт не работает, можно подниматься по лестнице пешком. Если лестница обвалилась – лезть пауком вверх по стене. Внешне кажется, что цель одна, только средства ее достижения разные. Но если присмотреться, то видно, что, с точки зрения внутренних психических процессов, это совершенно разные цели.
Подняться на 20-й этаж на лифте может каждый, кто не страдает клаустерофобией, не боится замкнутого пространства. Идти на 20-й этаж пешком захочется, только если это действительно нужно. А вот лезть по стене может только герой фильма - паук "Спайдер". Думается, что внутренняя независимость средств и целей – это психологическая иллюзия вроде иллюзии, что человек мгновенно реагирует на внешнее воздействие (звук, свет), хотя реально реакция занимает некоторое время.
Обе эти иллюзии возникают потому, что очень трудно делать что-либо, одновременно наблюдая за своими действиями. Идея одновременного формирования целей и средств позволяет понять не очевидные особенности самых обычных действий. Например, каждый день любой человек совершает массу весьма рациональных и эффективных действий, не забивая себе голову длительными рассуждениями.
Хочется есть - подошел к холодильнику, открыл его, достал что-нибудь съедобное. Действия очень разумные, а мысль возникает только тогда, когда думаешь, что нужно доставать. При этом надо обеспечить ресурс, чтобы было из чего выбирать. Но ведь голод как мотивацию поступка, можно утолить многими способами. Можно сходить в магазин, слетать в ресторан в Нью-Йорке, украсть колбасу или съесть собаку соседа и т.д. Среди этих вариантов использование холодильника обычно самый разумный, но его разумность можно оценить, только рационально сравнив с другими вариантами. Но ведь этого никто не делает!
Аналогично, не обязательно просто открывать холодильник - в нем можно пробить дыру, его можно взорвать или бросить с 20-го этажа, чтобы добраться до его содержимого. Это все глупейшие идеи, но, опять же, их никто между собой не сравнивает, чтобы выбрать оптимальную. Можно сказать, что просто все дело в привычке: один раз нашел еду в холодильнике, так и будешь ее там искать все время.
Привычка что-то объясняет, но объяснить избирательность и целенаправленность действий она не может. В самом деле, если человек куда-то идет и на его пути дверь, она будет открыта автоматически, но никто не открывает всех дверей, которые он перед собой видит. Разумная идея одновременного формирования объясняет ежедневную рациональность тем, что мозг пытается строить достижимые цели с минимальными затратами, а привычные способы действий как раз и позволяют минимизировать затраты на самоорганизацию.
Но при этом происходит не повторение привычного действия, а строится всегда заново, исходя из текущих условий, целенаправленный процесс с необходимыми средствами достижения цели. Поэтому при изменении ситуации происходит быстрый переход к новой цели. Такая активность мозга позволяет людям эффективно приспосабливаться к самым разным условиям, но если в силу каких-то причин сформированные совместно цель и средство оказываются неадекватными ситуации, то человеку становится очень тяжело.
Это очень хорошо видно на примере головоломок. Каждому приходилось решать головоломки, т.е. такие задачи, для решения которых достаточно имеющихся знаний, но которые составлены так хитро, что трудно решаются, но вряд ли кто задумывался, почему головоломки вообще возможны.
Откуда они взялись? Ведь если знаний для решения задачи достаточно, то она должна всегда решаться за конечное число шагов, необходимое для перехода от условия задачи к нужному результату или наоборот, как это и происходит со школьными арифметическими примерами. Но с головоломками так не получается.
Возьмем для примера одну хорошо известную головоломку: «Построить четыре равносторонних треугольника из шести спичек». Можно сколь угодно долго гонять спички по столу, но так и не получить правильного ответа – тетраэдра. Почему так трудно решить эту задачу с несложным условием, ведь большинство решающих что-то знают о стереометрии, пирамидах и т.п.?
С точки зрения идеи совместного формирования, поскольку в задаче речь идет о спичках, треугольниках, которые привычно располагать на плоскости, то мозг автоматически переформулирует головоломку к виду «построить 4 равносторонних треугольника из 6 спичек на плоскости», а в качестве средств ее решения активирует разную информацию о треугольниках, способах сложения спичек и т.д.
Такую задачу решить невозможно, а перейти к «настоящему» условию очень трудно, поскольку текущее состояние мозга соответствует как бы дну потенциальной ямы, из которой очень непросто выскочить, чтобы заново обсчитать цель и средства.
Действительно, головоломки обычно решаются не в результате логичных рассуждений типа «произвел действие А, получился неправильный результат А1, следовательно действие B приведет к правильному результату B1», а после длительных, хаотичных попыток, проб и ошибок, когда решивший задачу вдруг вскрикивает как Архимед «Эврика!» и дает правильный ответ.
Это означает, что в результате хаотичной активности мозг «раскачался» и перешел в другое состояние, в котором стало возможным новое формирование целей и средств, ведущее к решению задачи. Особенность мышления, вызывающая головоломки, не так примитивна, как может показаться. Колесо - тоже очень важное изобретение, лежащее в основе нашей жизни. Известно, что индейские цивилизации доколумбовой Америки не знали об идее колеса.
Наверное потому, что они не были знакомы с принципом вращения на оси и т.д. И, тем не менее, детские игрушки, основанные на этом принципе, у них были. Хватало разных знаний, была и потребность в колесах, но не произошло правильного формирования средств и целей, вот и не изобрели индейцы колеса, отчего наверное и погибли, столкнувшись с испанцами во всеоружии - на колесах!
Отметим себе, что необходимо создать правило проверки правильности гипотезы об одновременном формировании цели и средств. Но считая, что в этой идее есть определенный смысл при создания ИИ, вернемся к вопросу о том, почему ИИ развивается так медленно. Вероятно ответ состоит в том, что разработчики этого направления ИИ, не осознавая этого, пытаются имитировать то, что интеллект человека вообще на самом деле не делает.
Они считают, что человек в своем мышлении исходит из принципа разделения целей и средств, а чтобы найти подходящие для достижения цели средства опирается на формальную логику. На самом деле человек, обрабатывая огромный объем информации, просто формирует подходящие друг другу цели и средства, а рациональное мышление используется в той степени, в какой это нужно для их формирования. Таким образом, разработчики ИИ уже много лет создают как бы «сверх интеллект», а это сделать очень трудно, особенно если не понимаешь, что делаешь.
Парадоксально, что хотя все говорят, что сравнимый с человеческим интеллект будет создан еще не скоро, даже какие-нибудь простые интеллектуальные программы, применимые только в узкой области, превосходят в чем-то интеллект человека. Например, таким программам неизвестна проблема головоломок.
Действительно, если предложить этюд самой слабой шахматной программе, она будет последовательно перебирать варианты в поисках решения. Это может продолжаться сколь угодно долго, однако не будет того, чтобы программа просто «тупо» смотрела на этюд и выдавала бы на дисплей: «У меня нет никаких идей».
Что же будет с искусственным интеллектом дальше? Возможны разные пути. Один путь – продолжать движение в уже заданном направлении, т.е. исходя из принципа разделения средств и целей, пытаться построить систему, способную разумно вести себя в тех ситуациях, в каких повседневно действуют люди. Очень может быть, что такую систему создать не удастся никогда, какие бы компьютеры для этого не применялись.
Поскольку в окружающем мире существует бесконечное множество вещей с бесконечным числом свойств и отношений между ними, то ввод всего этого в компьютер либо прямо, либо путем обучения может оказаться непосильной задачей еще очень и очень долго. А без определения всех отношений между объектами очень вероятен вариант, когда вообще не будет найдено никакое средство для достижения данной цели или перебор средств не приведет к осмысленному результату.
Действительно, история ИИ полна ситуаций, когда разработчики интеллектуальных систем добивались успеха на уровне «игрушечных» моделей и громко обещали быстро перейти к реальным вещам, но больше о них никто не слышал.
Другое направление – это лучше понять, как происходит процесс самоорганизации в мозге человека, и имитировать этот процесс. Возможно, что процессы самоорганизации в мозге отличаются от тех, которые используются в современных работах по ИИ, но алгоритмизировать их, наверно, можно.
Правда, до сих пор людям не удается удачно имитировать природу в своих искусственных аналогах натуральных вещей: автомобиль заменяет лошадь, но скакать не умеет, а самолет, хотя и «механическая птица», но крыльями не машет. То же самое может случиться с человеческим интеллектом.
Возможно, что лучшим было бы сочетание обеих способов: в новых, неопределенных ситуациях такая система мыслила бы как человек, а в других случаях использовала бы более эффективные подходы. Правда, следует заметить, что идею совместного формирования целей и средств можно сформулировать в том смысле, что «никто не понимает, что он реально делает». Комментарии излишни.
Оказаться рядом с интеллектом, который основан на таком принципе взаимного непонимания и, при этом, он в чем-то превосходит человеческий, вероятно, не очень уютно. Это - заведомая гарантия конфликта. Вот и подумалось, что может это и хорошо, что создать искусственный интеллект так трудно. Есть уверенная надежда, что его и вовсе не создадут. У машины нет, не было и никогда не будет интеллекта потому, что машина не обладает собственным сознанием. Миф о существовании искусственного интеллекта исчезнет сам по себе, когда упадут коммерческие продажи калькуляторных поделок. Машина путем выдачи желаемого за действительное может решить любую задачу при условии, что эту задачу до этого уже решил человек. Интеллект и алгоритм несовместимы.