(Фантастическая история, которая вполне могла произойти на самом деле)
...
- Понимаешь, все эти гуглы-яндексы не имеют обратной связи! Пользователь не дает оценку выполнения запроса. Самообучающаяся поисковая система будет каждый раз от каждого пользователя получать оценку результата поиска и учитывать ее в будущем. Причем – индивидуально! Для каждого пользователя будет складываться набор критериев поиска, удовлетворяющий лично его. Это будет переворот в информационной технологии!
- Наверное, такая самообучающаяся программа слишком сложна? Она должна приспосабливаться к запросам пользователя, меняя свой алгоритм для повышения оценки результатов. Очень умная программа должна быть!
- Да ни фига сложного! Менять критерии поиска она будет случайным образом. Позитивные изменения будут закрепляться, а негативные – отбраковываться. Это же естественный отбор! Или скорее - условный рефлекс. Система будет постоянно самосовершенствоваться.
- Совершенствоваться она будет, пока будет расти средняя оценка. На базе случайных изменений в стратегии поиска, программа не сможет сделать прорыв в этой области.
- Это почему?
- Это все равно, что тренируя у курицы условные рефлексы, научить ее играть в шахматы. Или отбирая смышленых тараканов, заполучить талантливого программиста. Ну вот, к примеру, мне кажется, для улучшения результатов, программа должна не только получать оценку, но и вести с пользователем диалог, задавать ему наводящие вопросы. Если такой диалог не предусмотрен программой, сможет ли система создать его в процессе самообучения сама, на основе «случайных мутаций в отборе критериев поиска»? Вряд ли!
- Это зависит от того, какие способности к мутации и самомодификации заложены в программу автором. Если они достаточно велики – сможет!
- Если они достаточно велики, программа может вообще убить себя апстену и потерять работоспособность.
- Верно! Но для предотвращения этого можно предусмотреть механизм отката и точки восстановления.
- И ты веришь в то, что программа, самопроизвольно случайным образом меняющая свой код, способна при поощрении пользователей совершить прорыв в технологиях поиска?
- Такая вероятность не исключена! Речь идет, ни много ни мало, о самозарождении искусственного интеллекта.
- Ну, конечно! Сказочку про сто миллионов обезьян, случайно напечатавших «Войну и мир», я помню. Но не верю! И доказать ты ничего не можешь. Допустим, ты создашь и раскрутишь новый поисковик. Но я не смогу ждать сто миллионов лет, пока он случайно резко не поумнеет!
- Ерунда! Ты представляешь, сколько запросов обслуживает популярный поисковик ежесекундно? Миллионы лет будут спрессованы в месяцы. Можно доказать. Одного года мне хватит. Пари?
- Тут есть неопределенность, что считать прорывом?
- Ничего сложного! Если мой поисковик станет самым популярным в мире, это будет самым убедительным критерием.
- Пожалуй! Ставка?
- Кто проиграет, сделает на лбу татуировку «я асёл!»
- По рукам!
...
Год спустя.
...
- Ну что старина, ты уже выбрал шрифт для тату?
- Я тебе лекало готовое пришлю.
- Мне зачем? Я доверяю твоему вкусу. Коли себе, как хочешь. Лишь бы текст разборчивый был.
- Себе? Это с какой стати, если я выиграл пари?
- Ни фига себе! Это я победил! Мой поисковик – мировой лидер!
- Ты молодец! Твой «шерше-ком» - лучший. Но ты не выполнил условий! Программа должна была достичь успеха путем самоусовершенствования, а у тебя над ней работает команда талантливых и энергичных профессионалов!
- Это не важно! Мы спорили, что мой поисковик станет лучшим. Я победил!
- Ах ты жук! Я требую, чтобы ты вытатуировал у себя на лбу – «Я обманщик»! Мне надо было потребовать зафиксировать условия спора письменно!
- Знаешь, если тебя всерьез волнует проблема самосовершенствования искусственных объектов, то я могу тебе кое-что рассказать.
- Выкладывай!
- Я ведь написал-таки эту самообучающуюся программу, только не афишировал это широко, а втихаря обкатывал. Группа добровольцев-тестеров ее испытывала.
- Очень интересно! И что из этого вышло?
- Сначала программа понемногу трансформировалась. Среди тестеров у нее появились любимчики – те, что ставили ей оценки повыше, и враги, которые ставили низкие. Любимчикам она старалась угодить, а врагов – игнорировала.
- Не мудрено! Для повышения суммарной оценки проще поощрять друзей, чем пытаться угодить врагу. А что дальше? Я был прав? Прорыва не произошло?
- Нет, ты был не прав! Я регулярно отслеживал среднюю оценку. На третьем месяце тестирования произошел прорыв! Оценка моментально подскочила в сотни, а потом и тысячи раз!
- Фигасе! Свершилось?
- Свершилось! Я связался с тестерами. Они никаких серьезных изменений в работе не увидели! Оказалось, что моя программа мутировала в вирус, который расползся сначала по машинам тестеров, а потом и дальше по сети. Компьютер, зараженный этим вирусом, имитировал по сети запросы к поисковику, а затем имитировал максимальную оценку результатов поиска.
- Фигасе! Не отягченный моральными принципами, он пошел по пути наименьшего сопротивления. И что дальше?
- А что дальше? Источник заразы пришлось напоить йадом и убить апстену. А очередные обновления антивирусных баз затерли следы его существования в мировой паутине. Мне, кстати, как создателю вируса, грозили реальные неприятности. Как доказать, что я создавал не вирус, а поисковик?
- Обошлось?
- Обошлось, слава богу! Но осадок остался.
- Идем в бар - смоем осадок?
- Идем!