Возможно ли поместить литровую банку в другую литровую банку?
Очевидно, нет.
Чтобы вместить литровую банку, нужна банка большего объёма - например, пятилитровая.
Возможно ли человеческим сознанием полностью понять работу человеческого сознания?
Очевидно, нет.
Чтобы полностью понять работу человеческого сознания, нужно обладать сознанием более высокого уровня - сверхчеловеческим (которого у нас нет).
Всё это может показаться отвлеченным и оторванным от жизни философствованием.
Но в том-то и дело, что при попытке смоделировать работу сознания мы наталкиваемся на реальные ограничения.
Один студент попросил преподавателя физики объяснить ход мыслей Эйнштейна, приведший к созданию теории относительности.
- Если бы я мог это сделать, - ответил преподаватель, - я сам был бы физиком эйнштейновского уровня.
Таким образом, если мы хотим, чтобы компьютер генерировал идеи теоретической физики на уровне Эйнштейна, создавать соответствующий алгоритм для компьютера должен физик не ниже эйнштейновского уровня.
Но главное ограничение состоит даже не в этом.
Дело в том, что и сам Эйнштейн не смог бы создать такой алгоритм.
Эйнштейн, конечно, мог изложить ход своих мыслей (что он и делал); но он не мог объяснить, почему нужно было рассуждать именно так.
В любом творчестве (в том числе и в научном) есть иррациональный элемент, принципиально не поддающийся логическому анализу.
Учёные, обсуждая друг с другом свою работу, используют такие выражения, как "красивая идея", "уродливая теория", "я верю, что в этой теории есть смысл"...
То есть, учёные выдвигают и оценивают новые идеи исходя из некоего чутья, внутреннего чувства, объяснить которое они не могут.
Попробуйте дать логическое определение понятию "красивая идея". Попробуйте составить алгоритм, отличающий красивую идею от уродливой.
Думаю, это невозможно в принципе. Это напоминает попытку засунуть литровую банку в другую литровую банку.
Это стремление к красоте научных идей, предчувствие гармоничности законов материального мира - главный стимул научной деятельности.
Без этого учёные просто не стали бы заниматься своими исследованиями.
Естественно, у компьютера этого стимула нет.
С другой стороны, компьютер может научиться, например, играть в шахматы на сколь угодно высоком уровне (причём создатель алгоритма вовсе не должен быть шахматистом высокого уровня).
Но дело в том, что между шахматами и теоретической физикой есть принципиальная разница.
Шахматы - это игра с известными правилами (с правилами, придуманными людьми).
Теоретическая физика - это игра с неизвестными правилами; цель игрока состоит именно в том, чтобы, наблюдая за ходом игры, выяснить её правила.
("Игра" в данном случае - это все наблюдаемые физические процессы, "правила" - это законы физики, которым подчиняются эти процессы.)
Каким образом из хаотического нагромождения наблюдаемых процессов вывести основные понятия, которыми эти процессы описываются и найти основные закономерности, которым эти процессы подчиняются?
Эта задача, видимо, в принципе не поддаётся алгоритмизации.
Для создания алгоритма основные понятия и основные закономерности нужно задать изначально.
Эти рассуждения относятся не только к физике, но и к математике, ко всем естественным наукам, к программированию.
То есть, компьютер вряд ли когда-нибудь сможет заменить способного физика, математика, химика, программиста...
Заменить способного логика компьютер тоже не может.
Сам факт существования логики в определённом смысле нелогичен - он не следует ни из каких логических рассуждений.
Откуда в сознании человека появилось представление о необходимости логики? Откуда в нашем сознании появились основные логические понятия (начиная с понятия "понятие")?
В компьютер эти понятия заложены человеком; но откуда они у самого человека?
В отличие от человека, компьютер никогда не смог бы создать логику сам, "ниоткуда" - нелогичным, иррациональным путём.
Много говорят о самообучающихся машинах.
Но машина может самообучаться только так, как задано человеком в её программе. Она не может сама создать какой-то новый, собственный способ самообучения.
Самообучение машины в любом случае предсказуемо (хотя бы вероятностно) - в отличие от самообучения человека.
Итак, любое творчество (в том числе научное, инженерное, программистское) всегда в чём-то нелогично, основано на чувствах (чувстве красоты, гармонии) и в принципе не может быть до конца описано в логических терминах.
Что касается игры в шахматы - компьютер, безусловно превзошёл человека в результативности (в количестве выигранных шахматных партий).
Но, кроме результативности, существуют такие трудноопределимые понятия, как "стиль игры", "красота игры". В этом компьютер вряд ли когда-нибудь превзойдёт человека - в стиле игры компьютера всегда будет что-то "механическое".
Никакой творческий процесс (научный, технический, программистский) невозможно описать последовательностью нулей и единиц.
Только человеку свойственна потребность сомневаться во всём (включая основные определения логики); только человек нуждается в предельно общих философских понятиях. Я не представляю, каким образом эти потребности могут быть смоделированы для компьютера.
В отличие от человека, компьютер не станет изучать и моделировать собственное сознание - если это не заложено человеком в программе.
Можно пытаться смоделировать сами человеческие чувства.
При этом нужно понимать, что сами чувства безусловно шире наших рассудочных представлений о них.
Кроме того, чувства (и ощущения) - это особый вид реальности, не сводимый к другим видам реальности (например, к физическим или химическим процессам в организме).
Можно говорить о том, что чувства и ощущения СВЯЗАНЫ с определёнными физическими и химическими процессами в организме; но нельзя сказать, что чувства и ощущения - это И ЕСТЬ физические и химические процессы в организме.
Нельзя ставить знак равенства между принципиально различными видами реальности.
Чувства и ощущения можно имитировать, но невозможно воссоздать.
Например, компьютер может вывести на монитор сообщение "Я Вас люблю", но любить он не может.
Машина может отличить красный цвет от зелёного, но она не может ОЩУТИТЬ красный или зелёный цвет.
Если создать искусственный аналог человеческого организма (со всеми физическими и химическими процессами, свойственными человеческому организму) - вряд ли такой искусственный человек будет что-то чувствовать или ощущать. Скорее, он будет имитировать чувства и ощущения.
Существует мнение, что, если мы не в состоянии отличить беседу с человеком от беседы с машиной - значит, никакой разницы между сознанием человека и машины нет.
Странно, что специалисты не замечают цинизма такого мнения.
Например, пьяный или сумасшедший человек может принять электронную куклу за живого ребёнка; но это не значит, что нет разницы между ребёнком и куклой.
Если у нас не хватает чуткости, чтобы отличить живые чувства от электронной подделки - это не значит, что подделка стала подлинником.