Если вечерком 2019-го года вы поговорите с товарищем или подругой про давно забытый фильм, или постараетесь припомнить название прописанного вам когда-то лекарства, или вспомните, что вам надо купить, к примеру, воздушные шарики – не тревожьтесь, ложитесь спокойно отдыхать – утро вечера мудренее. Утром поисковик невзначай предложит вам воздушные шарики по сходной цене. Вы увидите, совершенно случайно, в новостях название того самого лекарства, что вы искали. А на вашей киноленте появится тот самый давно забытый фильм. Если вы много пользуетесь компьютером – вас даже не удивят такие штуки.
Пока ведутся споры о том, возможно ли создание искусственного разума, сверх-интеллекта, ваш собственный компьютер, телефон, телевизор, планшет, автомобиль, кредитная карточка – все, что содержит в себе электронику – ежесекундно собирают о вас всю мыслимую и немыслимую информацию. Потом ваш же компьютер (являясь частью Всемирной паутины) помогает удаленному, внешнему компьютеру просчитывать ваше следующее движение, настроение, слово, покупку, выбор и даже предвосхитить и определить их. Ежедневно во Всемирную паутину вбрасываются тысячи новых аналитических программ, которые анализируют любые возможные и всевозможные связи событий и явлений.
Они анализируют, казалось бы, самые невероятные, несвязанные между собой вещи, такие, к примеру, как взаимосвязь между цветом глаз и предрасположенностью к диабету, формой ушей и количеством правонарушений, прочитанными книгами и политическим выбором. Анализируют миллионы и миллионы иных связей между событиями и вещами, которые, казалось, не связаны. Машины научились эти связи находить и распознавать. Они ищут и находят «эффекты бабочки», делают десятки тысяч открытий ежедневно. В мире давно уже машины сделали столько открытий, столько аналитических связей, что ученым хватило бы на разбор их десятков лет. Открытия просто не успевают фиксировать, регистрировать и оценивать. Большинство остается ждать своей очереди.
И, да, они уже нашли какую-нибудь связь между размером вашей ноги, склонностью к бессоннице, выбором автозаправки, цветом вашей куртки и еще каких-то мелочей – и знают, как продать вам, при надобности, ботинки, автомобиль или политического лидера. Это не сложно. Бабочка крылышками махнула, мышка хвостиком махнула – и готово. Вам шах и мат, товарищ!
И это – не фантастика, не завтрашний день. Это – искусственный интеллект.
Когда в 1997-ом году компьютерная программа Deep Blue одержала победу над чемпионом мира Гарри Каспаровым тот отказывался поверить в это, и обозвал компьютер «шулером». В том же году компания IBM на основе компьютера которой проводился матч увеличила мощность компьютера в 200 раз.
Помнится, незабвенный Остап Бендер более спокойно воспринял слова: «Вам мат, товарищ гроссмейстер». Не исключено, что с таким же олимпийским спокойствием мы вскоре вынуждены будем признать свое поражение во всех тех партиях, в которые играют человек и компьютер. И если быть честным, то мы уже проиграли все, или почти все, свои партии. Только вот, в отличие от Остапа и Кисы – бежать нам уже некуда.
Так вот, кратко расскажу, товарищи гроссмейстеры, как компьютеры поставили нам шах и мат. И что это значит. Дам, как всегда, истории и постараюсь быть предельно ясным.
Некоторое время назад меня заинтересовала тема «искусственного разума». Наткнулся на одну статью, на другую, начал читать больше и больше. Наконец, заказал две самые, как мне показалось, авторитетные книги по теме «искусственного разума» - будем для удобства называть ее просто AI (АЙ - Artificial Intelligence). Первая написана шведским философом Ником Бостромом, профессором Оксфордского университета. Книга называется «Сверхинтеллект: пути, опасности, стратегии». Она написана в 2014-ом году и со страхом предвкушает последний шаг в построении AI, который будет сильнее человека.
A.I.
А вот вторая книга, которую я заказал – так уж подгадал – как раз знаменует собой этот шаг. На этот раз – это книга не философа, но практика, разработчика AI нового поколения, создателя «алгоритма интеллекта». Книга эта издана в 2018-ом и называется «Книга Почему: Новая наука причины и следствия». Приведу здесь названия обоих книг на английском:
Superintelligence: Paths, Dangers, Strategies (2014) by Nick Bostrom.
The Book of Why: The New Science of Cause and Effect, Judea Pearl and co-writer Dana Mackenzie (2018).
Прочитав и проанализировав эти книги, сравнив их с другими публикациями конца 2018-го начала 2019-го года, я решил не столько пересказать содержание этих книг, хотя бы и кратко, сколько поделиться с вами, друзья, своими наблюдениями по этому нарастающему конфликту между человеком и AI. Скажу о том, что уже не фантастика. Но последствия чего фантастичны.
Но начну с того, что дам определение AI.
Если очень просто, то:
искусственный интеллект – это способность машины (компьютера) делать вещи, которые требуют навыков, доступных прежде лишь человеку. Такие как понимание языка, узнавание лиц, вождение автомобиля или угадывание, какие книги и фильмы порекомендовать тому или иному человеку.
Но за этими простыми словами кроется жуткий смысл. Компьютер может делать теперь практически все, что делает человек, и может делать это быстрее и лучше. Но самое главное – компьютер оказался величайшим лидером. И свою цель обозначил как манипуляцию человеком. Будь то манипулирование в покупке антивируса, книги, просмотре кинофильма, или тысяча и тысяча других областей жизни, в которые раньше компьютер вхож не был. Теперь он «пришел, увидел, победил». В каждой провинции человеческого бытия.
Я не хочу звучать попугаем или заезженной пластинкой и повторять вслед за Стивеном Хокингом, Илоном Маском, Биллом Гейтсом и множеством других об опасностях суперразума. Кстати, Елон Маск, основатель индустрии Тесла, заметил, что AI может оказаться для человечества страшнее атомной бомбы. И это, к сожалению – не преувеличение.
Я расскажу очень кратко о главных современных технологиях, используемых для AI.
Пожалуй основная технология, названная Bayesian network (простите, не знаю русского эквивалента названия) как раз и была разработана автором второй цитируемой мною книги, израильским компьютерным инженером Джудеа Перл (имя переводится как Жемчужина Иуды). Я провел немало часов вникая в сущность его разработки. Постараюсь передать очень кратко. Это – алгоритм, который копирует работу человеческого мозга, когда тот различает между причиной и следствием.
К примеру, поет петух и встает солнце. Между этими явлениями есть, безусловно, связь. Но что является причиной, а что – следствием? Человеческий мозг с легкостью скажет, что не пение петуха вызывает восход солнца, но наоборот. Но как может понять такие вещи компьютер?
Оказывается, может. В основу разработок еврейских ученых (над проектом работали десятки научно-исследовательских институтов по всему миру) легла, парадоксальным образом, математическая теорема средневекового немецкого математика, христианского пастора и богослова Боэзия. Боэзий создан «уравнение», которое ставило своей целью доказать существование Бога. Оно так и вошло в западную математику под названием «формула Бога».
И вот эту «формулу Бога» в 21-о веке неожиданно заново обнаружил для себя иудейский ученый Джудеа Перл. Какой странный парадокс истории: пастор Боэзий использовал эту формулу в своих проповедях, чтобы привести людей к Богу. Потом несколько столетий формула Боэзия пылилась в толстых математических книгах и подвергалась насмешкам – хотя никто и не мог ее оспорить. Так бывает и с моими трудами часто: ведь хоть я и не математик, я, как и Боэзий, пастор и богослов. Вот и познакомились, как говорится.
Так вот, парадокс в том, что первым, кто придал серьезное значение этой формуле протестантского немецкого богослова, был еврейский агностик. И то, на чем немец ни сделал ни гроша, а лишь о чем проповедовал в церкви – компьютерная индустрия обратила в инструмент, с помощью которого компьютеры научились различать между причиной и следствием. Что в общем и произвело ту революцию в технологии, о которой мы сегодня и говорим.
Другим прорывом в компьютерной инженерии было создание интеграла «обучения машины». Последние несколько лет компьютеры сами создают новые и сложные программы и сами себя обучают в несколько раз быстрее, чем если бы за ними прислуживали целые коллективы программистов. Машины учатся каждую секунду, и эффективность их образования возрастает в геометрической прогрессии.
Машинное обучение осуществляется за счет того, что программы учатся выявлять новые и новые, никем ранее не замеченные связи между множеством самых разных явлений и событий. Машина сама выбирает – что и как анализировать, что и с чем сравнивает. Она работает беспрерывно. Все эффективнее и эффективнее. С каждой секундой.
Найдя тысячи новых, неизвестных пока человеку детально причинно-следственных связей, машина создает новый интеграл, новую программу, которые имеет дело с такими выводами, анализ которых занимает у ученых годы. Но этого времени у людей просто нет, и уже не люди создают новые программы для машин, но машины создают новые программы для людей.
Для того, чтобы хотя бы проанализировать как-то работу этих программ, понадобятся время, средства, и большие человеческие ресурсы. Всего этого людям жалко. И фактически машина сегодня задает тон, стандарт, и направление исследования. Ученые лишь пытаются поспеть хотя бы с каким-то общим анализом. Ну и по ходу дела неплохо зарабатывают на сторонних заказах.
Да, сегодняшнему компьютеру можно вполне доверить продажу продуктов и идей, новых стандартов и технологий, авторов и учреждений, идеологий и вождей. Есть спрос – есть и предложение. Существуют технологии, которые, в принципе, могут убедить вас в чем угодно, сподвигнуть на что угодно. Вы, конечно, можете пока еще брыкаться, сопротивляться. Можете украсть ладью, как Остаб Бендер, можете кинуть доской в монитор компьютера, разбить телефон. Но все равно вы будете все чаще и чаще слышать от вашего компьютера эти слова: «Вам мат, товарищ гроссмейстер».
Так есть ли выход? Разбить компьютер? Отказаться от телефона? Уйти в глухой монастырь? Вряд ли это поможет. А что поможет человеку остаться (надеюсь) свободным в том мире, в каком это почти невозможно – я хочу поговорить в следующей публикации. Не уходите далеко, друзья! Самое интересное – впереди!