Искусственный интеллект уже сделал возможным создание инструментов, по всему миру приносящих пользу тем, кто ими пользуется. Дальнейшая разработка ИИ в соответствии с представленными ниже принципами может открыть удивительные возможности для помощи людям на десятилетия и даже века вперед.
Большинство людей боятся даже упоминания про Высший Разум. Наверное, думают, что Высший Разум где-то далеко, в небесных сферах — нам его не достигнуть и он к нам не снизойдёт и т.д. и т.п. А он — вот, он — рядом и его проявлениями мы уже пользуемся — компьютер, например. Или компьютерные сети, интернет, экспертные системы.
Ниже предлагаются некоторые новые принципы работы с ИИ, предложенные на АСИЛОМАРСКОЙ КОНФЕРЕНЦИИ в Асиломаре,(Калифорния, США), прошедшей в 2017 году.
Область исследований.
Цель исследования: цель исследований ИИ должна лежать в области создания не бесцельного разума, но систем, направленных на принесение пользы человечеству.
Финансирование исследований: инвестиции в ИИ должны сопровождаться субсидированием исследований, направленных на поиск полезных способов применения ИИ, в контексте которых рассматриваются непростые вопросы из области компьютерных наук, экономики, права, этики и социальных наук. Некоторые из таких вопросов:
Как обеспечить надежность будущего ИИ таким образом, чтобы системы выполняли свою программу, не подвергаясь угрозе сбоев и хакерских атак?
Как повысить уровень благосостояния с помощью автоматизации процессов, не сократив при этом уровень человеческого труда и сохранив его назначение?
Как, сделав правовую систему более эффективной и справедливой, модифицировать ее в соответствии с развитием ИИ и учесть все правовые риски, связанные с его использованием?
Какие ценностные ориентиры должны лежать в основе ИИ и каким правовым и моральным статусом он должен обладать?
Диалог ученых и политических деятелей: необходим конструктивный и здоровый диалог между исследователями ИИ и политическим руководством.
Культура отношений в исследовательском сообществе: среди исследователей и разработчиков систем ИИ должна поощряться культура взаимодействия, доверия и открытости.
Отсутствие конкуренции: команды разработчиков ИИ должны активно взаимодействовать друг с другом во избежание ненадлежащего исполнения стандартов безопасности.
Этика и ценности.
Безопасность: системы ИИ должны быть безопасны и защищены на протяжении всего срока эскплуатации, а в ситуациях, где это целесообразно, штатная работа ИИ должна быть легко верифицируема.
Открытость сбоев в системе: если система ИИ причиняет вред, должна быть возможность выяснить причину.
Открытость системе правосудия: любое участие автономной системы ИИ в принятии судебного решения должно быть удовлетворительным образом обосновано и доступно для проверки компетентным органами.
Ответственность: разработчики и создатели продвинутых систем ИИ напрямую заинтересованы в моральной стороне последствий использования, злоупотребления и действий ИИ, и именно на их плечах лежит ответственность за формирование подобных последствий.
Синхронизация ценностей: системы ИИ с высокой степенью автономности должны быть разработаны таким образом, чтобы их цели и поведение были согласованы с человеческими ценностями на всем протяжении работы.
Человеческие ценности: устройство и функционирование систем ИИ должно быть согласовано с идеалами человеческого достоинства, прав, свобод и культурного разнообразия.
Защита личных данных: люди должны иметь право на доступ к персональным данным, их обработку и контроль, при наличии у систем ИИ возможности анализа и использования этих данных.
Свобода и конфиденциальность: применение систем ИИ к персональным данным не должно безосновательно сокращать реальную или субъективно воспринимаемую свободу людей.
Совместная выгода: технологии ИИ должны приносить пользу максимально возможному числу людей.
Совместное процветание: экономические блага, созданные при помощи ИИ, должны получить широкое распространение ради принесения пользы всему человечеству.
Контроль ИИ человеком: люди должны определять процедуру и степень необходимости передачи системе ИИ функции принятия решений для выполнения целей, поставленных человеком.
Устойчивость систем: те, кто обладает влиянием, управляя продвинутыми системами ИИ, должны уважать и улучшать общественные процессы, от которых зависит здоровье социума, а не подрывать таковые.
Гонка вооружений в области ИИ: стоит избегать гонки вооружений в области автономного летального оружия.
Долгосрочная перспектива.
Опасность недооценки возможностей: стоит избегать уверенных предположений относительно верхнего порога возможностей ИИ будущего, особенно в отсутствие консенсуса по этому вопросу.
Важность: продвинутый ИИ может повлечь коренные изменения в истории жизни на Земле, и его разработка и управление должны осуществляться при наличии соответствующих ресурсов и в условиях особой тщательности.
Риски: потенциальные риски, связанные с системами ИИ, особенно опасность катастроф или угроза существованию жизни в целом, должны купироваться действиями по планированию и смягчению рисков, соразмерными возможному масштабу воздействия.
Рекурсивное автообучение: системы ИИ, разработанные для улучшения эффективности собственных алгоритмов и самовоспроизведения, ведущего к быстрому изменению качества и количества, должны быть объектом применения мер жесткого регулирования и контроля.
Всеобщее благо: "сверхразум" должен быть разработан исключительно в целях, соответствующих большинству этических идеалов и для пользы всего человечества, а не одного государства или организации.
Нанотехнологии - это, как и проблема глобального потепления климата, сегодня выглядит очередным блефом и с научной точки зрения выглядит футуристическим проектом, оторванным от реальности. Ведь есть вещи и помельче, чем наноструктуры из атомов и молекул. Поэтому почему бы не начать строить материю прямо из "божественных частиц" - бозонов, раз уж Хиггсу за их открытие присудили Нобелевскую премию. Или, всё-таки, с помощью БАК в Швейцарии не удалось доказать существование бозонов, как утверждает сам мистер Хиггс?
В физике существует весьма смутное представление о плазме - четвертом состоянии вещества - помимо всем хорошо известных (твердого, жидкого, газообразного). В отличие от вещества и поля, в плазме нет молекул и атомов, она содержит лишь элементарные частицы. Классическая плазма — это проводящий ионно-электронный газ.
Между газом и плазмой нет резкой границы. Любое вещество, находящееся первоначально в твердом состоянии, по мере возрастания температуры начинает плавиться, а при дальнейшем нагревании испаряется, т.е. превращается в газ.
Если уж собирать идеальные структуры, то сразу из элементарных частиц, а не из атомов и молекул. Причем, в условиях без гравитации, то есть, в состоянии невесомости. Так что утопическая теория ассемблеров от футуриста нанотехнологии, г-на Дрекслера не стоит даже выеденного яйца. А значение нанотехнологий как панацею от всех инженерных и наномолекулярных проблем не стоит слишком переоценивать.
Никто сегодня особенно уже и не спорит, что Высший Разум (Сверхразум) теоретически вполне может быть. И не исключено, что даже уже существует. Но вот в чем парадокс заключается: а как мы узнаем о его существовании? Из газет? Или по собственной способности его оценить и сделать соответствующий вывод? А кто возьмет на себя такую смелость утверждать, что его личный разум достиг такого уровня, что он способен оценить наличие Сверхразума? Это под силу только Богу.
Так что, если "эра сверхразума" и настанет, мы никогда об этом не узнаем по той простой причине, что у нас нет возможности самим оценить и осознать случившееся. Скорее всего, он возьмет нас изнутри. Человек вообще хил на мозги и требует усовершенствования. Поэтому он никогда не был оптимальной структурой, а всегда выдавал себя за то, что из себя вовсе не представляет, являясь всего лишь простейшей рациональной афферентной биосистемой, одной из возможных моделей борьбы за выживание. Не больше того.
Интеллект современного "человека разумного" опирается на примитивный перебор подручных вариантов из совершаемых проб и ошибок, которые почему-то никого и ничему так и не научили. Человек далеко не совершенен. Поэтому он просто не сможет делать квалифицированные оценки наличия или отсутствия Сверхразума. Не дано свыше.
С помощью ИР и ИИ "дураки" и "умники" исчезнут как понятия. Мы просто не сможем отличить дурака от умного, так как будем с помощью чипа и микрофона, спрятанного за ухом, совместно подключены к Всемирному Разуму, в виде всемирной системы ИИ в инернете. Ни один "умный" не сможет обнаружить "дурака", поскольку "дурак" переадресует все вопросы "умника" сверхразумной экспертной системе и "умник" со своим заумными вопросами сам останется в дураках.
Если есть желание и умственные способности, то можно отнести нижеследующие вопросы только к области социальной когнитивистики. Умение задавать умные вопросы, как известно, гораздо ценнее, чем умение давать ответы на них. Но и спрашивать надо так, чтобы не пришлось отвечать.
Изучение и использование основных принципов создания искусственного интеллекта должно включать анализ предварительных ответов, например, на такие фундаментальные вопросы как:
1) Что такое интеллект?
2) Что такое естественный интеллект (ЕИ)?
3) Что такое искусственный интеллект (ИИ)?
4) Чем ИИ отличается от ЕИ?
5) ИИ вместе с человеком или вместо человека?
5) Какие функции ИИ необходимы в помощь человеку?
6) Какие сферы деятельности человека требуют помощи ИИ?
7) Какова роль ИИ в формировании сознания человека?
8) Какова роль ИИ в общественной и политической жизни людей?
9) Какие профессии заменит или исключит ИИ?
10) Представляет ли угрозу существованию человечества ИИ?
11) Что такое "сверхразум" или "всемирный разум" ?
12) Возможен ли "сверхразум" или "всемирный разум" ?
13) Чем "сверхразум" или "всемирный разум" будет отличаться от ЕИ и ИИ?
14) Какова роль ИИ в проблеме выживания человечества?
15) Сможет ли ИИ защитить человека от агрессии рынка?
16) Сможет ли ИИ повлиять на творческие и умственные способности человека?
17) Какова возможная роль ИИ в развитии духовной составляющей жизни человека?
18) Сможет ли ИИ прогнозировать и устранять мировые конфликты?
19) Противоречит ли ИИ интересам религии?
20) Какова возможная роль ИИ в защите потребителей?
21) Нужна ли для нормального функционирования ИИ соответствующая его уровню интеллектуальная среда? (Вместо или вместе?)
22) Что такое искусственная (ИЖ) и естественная жизнь (ЕЖ)?
23) Что является смыслом ИЖ И ЕЖ жизни? Есть ли различие? Если есть, то в чем?
24) Какова роль ИИ в обеспечении смысла жизни?
25) Уменьшит ли ИИ срок обучения детей в школе?
26) Нужна ли школа вообще при наличии ИИ?
27) Что, по - Вашему, никогда не сможет делать ИИ?
28) Исчезнут ли дураки с появлением ИИ?
29) Какие функции мозга человека не сможет заменить ИИ?
30) ИИ - это решение старых проблем или создание новых?
31) Нужен ли вообще ИИ?
32) Что Вы ожидаете от создания ИИ - облегчения жизни в настоящем, счастливое будущее или новых тревог от его непредсказуемости?
При создании ИИ следует исходит из следующих важных положений.
Во-первых, нейрон — это самое сложное, что есть во Вселенной.
Во-вторых, общество может создавать ценности, но не может мыслить.
В-третьих, уровень оснащения интеллекта человека сейчас таков, что достаточно всего шести переключений, чтобы извлечь из хаоса сведений любую нужную информацию.
В-четвертых, материальный носитель информации — это мысль, которая воздействует на нейроны.
В-пятых, в мозге человека используется ассоциативный метод поиска и извлечения информации из структур памяти.
В-шестых, разум человека характеризуется способностью параллельно обрабатывать информацию на уровне подсознания.
Но при создании систем ИИ ещё предстоит решить ключевую проблему моделирования подсознания. Без решения этой проблемы о создании ИИ и претензиях человека на искусственный разум не может быть и речи. Такова, вкратце, принципиальная линия автора в области исследования систем ИИ.
Понятно, что можно себе представить ИИ в виде аппаратных средств ЭВМ, построенных так, чтобы подражать мозгу не только в функциях, но и в структуре. Это могло бы следовать из принципов нейронного подхода в моделировании или из развития программ ИИ для того, чтобы обеспечить системную совместимость аппаратных средств ЭВМ с принципами работы мозга и подобием стиля мышления человека.
В любом случае, на данном этапе мы можем использовать прямые или косвенные аналогии с человеческим мозгом для оценки минимальной скорости прохождения сигналов нейронных синапсов в развитых системах ИИ, построенных с использованием ассемблеров. Институты мозга многих стран успешно работают в этом направлении.
Искусственный интеллект нужен не для замены человеческого мышления, а в помощь ему. Он нужен человеку не для выживания, а для для лучшего понимания того, как наше мышление и мозг работают, то есть, для осознания и понимания, в первую очередь, нас самих себя. Это и есть сверхзадача ИИ. Со всеми вытекающими из понимания механизмов мышления глобальными последствиями — как для отдельно взятых людей, для человечества, так и для всей Вселенной.