Интуиция и искусственный интеллект
Пробабилизм (от лат. probabilis – вероятный) — вероятностный стиль мышления, характерный для развития современного научного познания
Из Библиотеки Инженера (БИ):
...Часто можно слышать критические высказывания, основанные на попытке противопоставить человека машине с каких-то принципиальных позиций. Утверждается, например, что ЭВМ делает только то, что запрограммировано. На это можно ответить, что и человек делает только то, что запрограммировано в его сознании. Иногда составляются длинные и интересные списки ситуаций, в которых проявляется глубокое и пока не устранимое различие в поведении человека и ЭВМ. Вероятно, одно из самых серьезных различий состоит в том, что человек, в отличие от ЭВМ, может решать плохо сформулированные задачи. Или иначе — машине нужен однозначный математический язык, человеку — естественный, полиморфный, язык. Естественный язык, как раз в силу своей полиморфности, оказывается мощнее любого строго формализованного языка; это почти самоочевидное утверждение, не раз обсуждавшееся и в нашей литературе, очень хорошо сформулировано английской лингвистической философской школой [8]. Но не объясняется ли такое различие результатов тем, что пока еще никто не понял, как в сознании человека работает программа семантического анализа предложений, формулируемых на полиморфном языке. Если бы удалось понять механизм подобного анализа, то это существенно продвинуло бы все работы, направленные на создание искусственного интеллекта. Создание искусственного разума — модели человеческого интеллекта — является сейчас центральной проблемой кибернетики (с.19-20)
...Как уже указывалось выше, одно из принципиальных различий между человеком и ЭВМ состоит в том, что человек, в отличие от машины, может подвергать семантическому анализу вопросы, сформулированные на полиморфном языке. Второе столь же важное различие состоит в том, что человек, наблюдая новые явления и используя имеющиеся у него априорные сведения (здесь следует обратить внимание на многозначность термина «априорные сведения». В статистике априорными называются сведения, полученные на основании предыдущих экспериментов. По отношению к (n + 1)-му эксперименту априорными являются сведения, полученные из n предыдущих экспериментов) может выдвигать новые, подчас даже совсем неожиданные гипотезы, а вычислительная машина этого сделать не в состоянии. Или, может быть, более осторожно нужно было бы сказать так: процесс выдвижения новых гипотез, по крайней мере сегодня, запрограммировать нельзя (c.36-37)
...Вероятно, самым примечательным в современной математической статистике оказывается не только стремление к возможно большему логическому обоснованию выдвигаемых гипотез, но и стремление к самому широкому использованию априорной информации, задаваемой вероятностным образом. Все большее развитие получает так называемый необейесовский подход к проверке гипотез (см., например, [21—25]). Здесь нужно подчеркнуть, что необейесовский подход отнюдь не исчерпывается использованием хорошо известной теоремы Бейеса (математик, живший еще в XVIII веке), которая является тривиальным следствием аксиомы умножения вероятностей. Этот подход характеризуется стремлением включить интуитивную
вероятность в обоснование математической статистики.
Интуитивную вероятность иногда называют также субъективной, или персональной, вероятностью). Здесь речь идет о некоторой мере персональной уверенности исследователя. Естественно, что статистики-необейесианцы чаще применяют теорему Бейеса, чем противники этого метода.
Какой смысл нужно придавать интуитивным оценкам вероятности того или иного события? Этот вопрос вызвал очень острую дискуссию, продолжающуюся до сих пор. В его изучение включились и психологи-экспериментаторы, показавшие на ряде примеров, что интуитивные оценки вероятностей имеют определенный физический смысл. Во всяком случае, ясно, что человек как в своей научной, так и в повседневной деятельности постоянно оценивает субъективные вероятности различных событий. Ему все время приходится принимать решения при неполном знании, основываясь на догадках. Может быть, в наиболее рафинированной форме это проявляется в тех ситуациях, когда заключают пари или, скажем, делают разные ставки на скачках и, таким образом, количественно оценивают вероятность того или иного исхода состязания. Ясно, что персональная вероятность оценивается с большой ошибкой и, более того, оценка всегда остается субъективной, т.е. смещенной. Это смещение определяется интеллектуальной настроенностью субъекта. Впрочем, необейесианцы полагают, что они имеют дело с разумными, настроенными в каком-то смысле одинаково наблюдателями.
Как бы там ни было, если субъективная вероятность какого-либо события оценена, то с ней можно поступать так же, как с вероятностью, найденной математическим методом, полагая, что она обладает теми же свойствами и подчиняется тем же аксиомам. Понятие субъективной вероятности не следует рассматривать как некоторую альтернативу к хорошо известным определениям вероятности: «классическому» и «статистическому» (в смысле Мизеса), хотя некоторые крайние представители необейесианства
как раз на этом настаивают.
Если мы теперь вернемся к принятому нами приему — сопоставлению человека с ЭВМ, то следует указать на третье глубокое различие — человек, в отличие от машины, может интуитивно оценивать вероятность при неполном знании ситуации. Иногда это формулируется даже так: человек может оценить вероятность даже такого события, которое еще никогда не происходило. В виде алгоритма этот процесс записать нельзя — механизм его еще не понят. Здесь мы сталкиваемся с очень интересной проблемой, в которой пересекаются пути гносеологии, математической статистики, психологии, кибернетики. В кибернетике (в ней она является одной из центральных проблем) нельзя задать поведение автомата, не умея написать алгоритм для оценки вероятности еще не произошедшего события в условиях неполного знания ситуации. Работая над машиной-консультантом в области статистики, мы должны пытаться как-то преодолеть эту трудность.
Чтобы дать некоторое представление о бейесовском методе, рассмотрим самую простую задачу…(с.39-41)
В.В. Налимов. Теория эксперимента. М.: Наука, 1971. 208с.
[PDF, 7,5 Mb] https://lib-bkm.ru/12752
В.В. Налимов. Спонтанность сознания. Вероятностная теория смыслов и смысловая архитектоника личности Москва. Прометей. 1989г.
Василий Васильевич Налимов - математик и мыслитель