(Слегка изменённая и дополненная версия заметки, написанной мной и опубликованной в одном из групп ВКонтакте летом 2019 года)
Если внимательно присмотреться к адептам технологической сингулярности, то действительно можно воочию наблюдать технорелигию, в которой Курцвейл выступает в роли пророка или апостола этой веры...
А сильный ИИ, искусственный электронный разум – их божок, идол, который они хотят ввести в этот мир... Вот только сделать его им не под силу. Ни сейчас, ни к 2045-му. Ибо все разработки в области ИИ – лишь симуляции отдельных способностей человека.
Не следует обвинять меня либо кого-нибудь иного в предвзятости: мы отделяем ИИ-адептов от тех, кто с помощью новых технологий собирается усовершенствовать себя и других людей (посредством генной инженерии или киборгизации), стать больше чем человек. Мы отличаем зёрна (трансгуманистов) от плевел, да и первые гораздо ближе к достижению своих целей. Хотя нанотехнологии остаются дорогостоящими чудесами из лаборатории или дорогостоящим штучным товаром, но уже есть продвижения в виде новых, менее дорогих технологий производства, в частности графена – качества посредственного, но вполне достаточного а существующие домашние кустарные биотехнологические лаборатории, в которых энтузиасты-биохакеры готовят свои кустарные снадобья, говорят о том, что рождение трансчеловека уже не за горами...
Почему это религия?
Во-первых, все прогнозы о сингулярности не обеспечены серьёзным обоснованием. Они основаны на нескольких сомнительных предпосылках, одно из них – продление текущих тенденций научно-технического прогресса в той же мере, что и для электронно-вычислительной техники; насколько это возможно будет сказано ниже.
Во-вторых, один из постулатов сингулярной веры заключается в появлении сильного ИИ – сначала человеческого, а затем сверхчеловеческого уровня, который будет вместо людей развивать научно-технический прогресс, управляя инфраструктурой и создавая ещё более «продвинутые» ИИ. Впрочем, не все люди, уверенные в приближении сингулярности, уверены в благожелательности машинного разума; для них технологическая сингулярность – конец света, а ИИ – Антихрист, который захочет поработить или истребить человечество. Этих людей можно назвать гностической сектой Свидетелей Терминатора, особенно учитывая, что и сам Кэмерон, режиссёр и сценарист оригинального фильма и двух (уже двух) продолжений, опасается развития этой технологии.
К сожалению, обе группы забывают, что ещё в середине прошлого века объём данных и вычислений – научных, технических, экономических – превысил возможности ручной обработки, но подоспело развитие информационных технологий, и первичную обработку переложили на ЭВМ. Сейчас объём увеличился ещё больше; теперь и вторичная информация поступает на машинную обработку, но результатами, плодами работы вычислителей пользуются люди – специалисты разных классов, аналитики и руководители – те, кто делают заключения и принимают решения, «держат пульс» на функционировании цивилизации.
Прогноз Курцвейла о появлении сверхчеловеческого ИИ, как он сам признался, основан на темпах увеличения производительности компьютеров, известный как закон Мура. Однако привычные для нас кремниевые полупроводниковые компьютеры почти достигли пределов своего развития; дальнейшее уменьшение размеров транзисторов невозможно из-за приближения к размерам атома; разработки более мощных устройств на альтернативных физических и химических основах всё ещё находятся в зачаточном состоянии (в частности, Состояние технологии квантовых компьютеров напоминает ситуацию с первыми компьютерами, такими как ENIAC и EDVAC – это единичные, дорогостоящие, экспериментальные машины, «заточенные» под выполнение конкретных задач; лишь недавно, в январе 2019-го, компания IBM представила первый коммерческий квантовый компьютер Q System One с 20 кубитами, время пользования которым будет продаваться облачным вычислительным системам https://habr.com/ru/post/435560/).
Перейдём от «железа» к «софту». Искусственный интеллект как направление технического прогресса зародился в 50-е и пережил три периода мощных рывков и оптимистических ожиданий – в 50-60-е (однослойные персептроны и первые экспертные системы), 80-е (нейронные сети в форме многослойных персептронов, экспертные системы, нечёткая логика, генетические алгоритмы и прочее) и с 2000-х (почти то же самое). В первые два периода создание сильного ИИ казалось делом нескольких лет; сейчас ожидания более сдержанные – даются сроки в 10-30 лет.
При этом все существующие теоретические подходы и средства разработки имеют множество ограничений, в частности необходимость в большой статистике и определённые границы применимости (https://habr.com/ru/company/recognitor/blog/455676/).
Все создаваемые и создающиеся ИИ – узкоспециализированные системы, воспроизводящие лишь какую-то часть спектра возможностей человеческого мышления, одну способность или группу схожих способностей. Универсальные, многопрофильные машины, полностью воспроизводящие человека, продолжают встречаться лишь в научной фантастике – например, роботы-андроиды в сериале «Мир Дикого Запада».
Но не стоит обольщаться: все ИИ – лишь программы, оперирующие вводимыми данными по придуманным людьми алгоритмам в виде логических цепочек или набора математических операций.
И да, это относится и к нейросетям (искусственным нейронным сетям, ИНС). Каждый узел ИНС, искусственный нейрон, представляет собой сумматор с изменяющимися в процессе «обучения» в соответствии с разработанными алгоритмами (дельта-правило обучения Уидроу-Хоффа, метод обратного распространения ошибок, правило обучения Ойа и ряд других) весовыми коэффициентами для входных и выходных сигналов; дополнительно к общим правилам пересчёта весов добавляются предназначенные для выполнения конкретной задачи. В искусственных нейросетях имитируется (но не воспроизводится) электрическая активность нейронной ткани, но остальные аспекты функционирования – например, биохимическая регуляция – и вовсе не учитываются.
Среди оппонентов Курцвейла наиболее примечательны сторонники концепции «квантового сознания», раскритикованной и остающейся на периферии научных исследований; наиболее известный из них – физик и математик Роджер Пенроуз, коллега и соавтор знаменитого Хокинга. В частности, Пенроуз предположил, что некоторые органеллы нейрона могут исполнять роль квантовых вычислительных систем, из чего может следовать, что вычислительная мощность мозга в целом недооценена.
Аргументы Пенроуза не оригинальны, но он хотя бы пытался подвести под них обоснования (но и их в целом проигнорировали).
Из теоремы Гёделя о неполноте он вывел, что сильный ИИ нельзя создать на основе того или иного вида конечного автомата, к которым относятся и полупроводниковые компьютеры.
То есть сравнение мозга с компьютером некорректно. Интеллектуальную деятельность нельзя свести лишь к математическим операциям и выводу логических цепочек.
А если говорить прямо, то строение мозга изучено всё ещё крайне слабо. Исследовать мозг – «живой», функционирующий – вообще крайне затруднительно не только лишь по тривиальным и очевидным даже неспециалистам причинам; есть ещё одно обстоятельство – мозг не просто одна большая сеть. Это сеть из сетей, и не только с горизонтальными, но и вертикальными связями (с иерархической вложенностью, когда одна структура является частью другой, более крупной).
И как запрограммировать озарение, вдохновение, воображение? (Я бы привёл конкретные научные проблемы вместо общих понятий, но у меня образование в области IT и нет образования в области нейробиологии или нейрофизиологии.) Вообще всё то, что нельзя описать посредством алгоритма?
На первый вопрос я получил ответ в комментариях – что это либо тоже проявления нейронной активности, либо работы гормональной системы, роль которой, как уже было сказано выше, в построении ИНС проигнорирована.
Со вторым труднее. Его можно перефразировать в «Можно ли свести разум и сознание к совокупности алгоритмов?».
Однозначного ответа нет. Но я склоняюсь к мысли, что ответ «нет», что мозг – более сложное устройство, чем мы думаем.
Но пока мы можем заявить следующее:
Человек отличается от машины ещё тем, что может ставить перед собой цель и изыскивать средства достижения. Машина способна выполнять лишь то, что она «умеет» и с тем, что человек в неё загрузил.
«Если бы каждый инструмент выполнял свою работу сам, как одушевленные треножники Гефеста [«Илиада», XVIII, 376], тогда не нужно было бы и рабов». (Аристотель, «Политика», книга 1-я, часть 2, пункт 5)
Все орудия, инструменты и машины, создаваемые человеком, увеличивали его возможности, позволив ему стать самым могущественным существом на Земле и продолжая увеличивать, приумножать его силу. Все программы с пометкой «искусственный интеллект» и снабжённые ими устройства лишь ещё один элемент текущего и будущего превосходства человека.
Ещё одна ступенька к сверхчеловеку.