Рецензия на «Гёделевский аргумент» (Иванов Евгений Михайлович)

Сначала общий взгляд по этой теме, не касаясь содержания статьи:

Немало копий было сломано как в научных кругах, так и в околонаучных спекуляциях далёких от понимания этого вопроса. Сразу хочется сделать несколько общих замечаний, которые могут помочь не "залазить в дебри". Формальная система – это инструмент научного метода, а не свойство природы. Свойством природы есть принципиальная возможность её описания с помощью формальных систем. Это может быть сделано с большей или меньшей точностью. Универсальный искусственный интеллект или человеческий разум необходимо рассматривать как общую систему с окружающей средой, природой, а не как девайс "в себе".
Поэтому насколько точно любой интеллект описывает эту общую систему в терминах какого-то своего формализма - сугубо успех или проблема конкретно взятой формы интеллекта и его вычислительной мощности. Отсюда – любой такой интеллект можно описать алгоритмически. Для такой системы природа-интеллект несложно вывести тот самый универсальный алгоритм, с помощью которого интеллект отображает природу:
1.Наблюдение или созерцание
2.Анализ (регрессия, классификация) с учётом накопленного опыта
3.Синтез (моделирование) с учётом накопленного опыта
4.Проверка модели на практике
5.Коррекция поведения согласно соответствию или несоответствию модели.
Всё это в беспрерывный жизненный цикл. Любой интеллект — это зацикленный алгоритм с обратной связью. Это общий функционально-модульный принцип алгоритма. Отдельная реализация этих модулей может быть разная с множеством различных самомодифицируемых субалгоритмов, подпрограмм и агентно-ориентированных подходов. Для того, чтобы искусственный интеллект стал похож на человеческий, ему нужно поставить аналогичную цель: максимальная адаптация к такой же окружающей среде и в таком же социальном окружении.
На мой взгляд, как и на взгляд большинства специалистов, Геделевский аргумент утратил уже свою актуальность. Человеческий поведенческо-вычислительный разум – такой же алгоритм, поддающийся формализации. Это мнение основывается на нейробиологии и на качественных успехах развития искусственных нейронных сетей за последние 10 лет.

Сначала Геделевский аргумент возник, когда обратили внимание, что любая формальная система имеет принципиальное ограничение выхода за рамки своего формализма (теорема о неполноте, вторая теорема Гёделя), а вроде как человеческий разум этим не страдает. Он же может сам строить формальные системы и находить математические решения и устанавливать истину за рамками возможности самого математического формализма. Тогда ещё не представляли, как можно реализовать в полной мере сенсомоторные функции человека (парадокс Моравека). И поведение компьютера рассматривали "в лоб", как в определённой мере изолированную формальную систему "в себе". Как выяснилось, по мере развития железа, нейросетей и машинного обучения, не синтаксис формирует синтаксис, а семантика формирует синтаксис. Сначала формируется образно-смысловое эмпирическое отображение окружающей среды, а затем создаются формальные системы, как результат той самой регрессии, классификации и т.д. Отсюда и понимание того, как человек выходит за рамки им же созданных формальных систем. Всё это оказалось принципиально реализуемо и в машинном интеллекте. Современные попытки реанимировать Г.А., рассматривая систему природа-интеллект, как общую формальную систему, выглядят теперь не совсем корректно: как я уже отмечал, формальная система и природа, которую возможно принципиально формализовать – не совсем одно и то же.

Все функции, которые я обозначил в функционально-модульном представлении универсального алгоритма, с успехом смоделированы уже в действующих на практике устройствах на основе искусственных нейросетей. Конечно, искусственный интеллект, который может полностью повторить в комплексе интеллектуально-ментальные функции человека, ещё не создан, однако принципиальных ограничений этому, в смысле реализации необходимых функций, не видится на данных момент, что, конечно, пока не скажешь про железо.

Теперь пару замечаний по статье:

Принимая во внимание алгоритмический принцип, который я привёл выше, ИИ не нужна "функциональная таблица" для имитации человека. Кроме того, вы правильно пишите, что она в принципе и невозможна, а именно, добавлю от себя, по той самой причине ограничений теоремы Гёделя. Именно такая таблица и будет по своей сути замкнутой формальной системой. Достаточно того динамичного самообучаемого алгоритма, который будет не имитировать человека, а мотивироваться и решать задачи таким же образом, как и человек. Не нужно имитировать, нужно задать функции такого же поведения. С таким подходом и исчезает проблема "Физической невычислимости". Если прикинуть темп развития электроники и, например, тензорных микропроцессоров, и сравнить с физиологическими возможностями мозга, то не так далёко осталось до появления железа, которое по своей вычислительной мощности может превзойти человеческий мозг.

Исходя из того, что система природа-интеллект – это не формальная система, а физический мир, который только может быть формализован каким-то интеллектом для своего приблизительного отображения, то способность интеллекта решать невычислимые проблемы в рамках созданных им же формальных систем (это не то же, что алгоритмически неразрешимые проблемы), возникает из его способности дальше исследовать своим универсальным алгоритмом окружающий мир, и таким образом постепенно расширять свои формальные системы добавлением новых геделевских предложений. Пока мир познаваем, этот процесс не имеет ограничений. Для этого не нужно иметь гипотетический бесконечный "резервуар" знаний или "Умопостигаемый Универсум". Таким "резервуаром" есть сама познаваемая природа, пока, конечно, у нас не появились надёжные свидетельства, что в природе есть нечто принципиально непознаваемое, а тогда и алгоритмически неразрешимое.

По поводу "Китайской комнаты", возникает вопрос, если этот мысленный эксперимент выступает против функционализма, то почему наличие "понимания" китайского языка Сёрл ищет только в человеке, или же в аналогии с микропроцессором только в его АЛУ, и даже не в самом микропроцессоре? Ведь смысл функционализма в том и состоит, что вся совокупность выполнения определённых вычислительных функций и приводит к интеллектуальным процессам. Это общее системное свойство взаимодействия аппаратного и программного обеспечения.

Хочется и по остальным аргументам высказаться, но слишком много будет для одного раза. Надеюсь, в защиту функционализма продолжу аргументировать в рецензии по теме "Тупики натуралистических теорий сознания." Хочется заранее отметить, что я не являюсь убеждённым приверженцем функционализма, однако на данный момент вижу эту теорию-гипотезу наиболее обоснованной.

Игорь Итан   26.04.2021 16:09   •   Заявить о нарушении