"Родятся чудовища, которые не будут людьми, ни животными, а многие люди, которые не будут иметь отметины на теле, будут иметь отметину в душе. А потом наступит время, когда вы найдете в колыбели чудовище из чудовищ - человека без души".
Григорий Распутин."Благочестивые размышления", Санкт-Петербург , 1912 год.
Пост из закрытого чата Джузеппе Верди, гроссмейстера гильдии "кукольников".
" Мы с Карлосом получили грант под наш проект искусственного интеллекта. Мы тогда попали прямо в струю: искусственный интеллект, казалось, не пытался создавать только ленивый. Этим делом увлекались студенты даже не профильных кафедр. И оно того стоило, учитывая, сколько нам отвалили сразу.
Тут надо сразу сказать, для истории, нас активно спонсировали через множество проектов и фондов, словно был дан сигнал: "начинайте!"
Спонсором выступала частная инвестиционная компания, хотя называлась официально "Общественный фонд "Сокровище".
Сразу из Италии мы переехали в Голандию. Прекрасный городишко, природа вокруг, парки шикарные, и ты сидишь перед огромным окном аппартаментов в стиле Ле Карбюзье, у тебя на коленях планшет, в озере - лебеди, и ты пишешь код.
Нас было трое. Ваш покорный слуга Джузеппе Верди, мой друг детства Карлос Морино и парень из Конго, мы его звали падре Андриано. Он действительно был выпускником католической семинарии. Зря мы его не слушали...
У нас ничего не получилось.
Мы смогли лишь симмитировать искусственный интеллект, наши машины были умнее других, но они оставались машинами. Наша работа была большим шагом вперед, но мы с разгону врезались о стену бытия.
Однако, наши старания были не безуспешными.
Мы не создали искусственный интеллект, как это представляет себе большинство обывателей и даже специалистов, да простят они нашу гордыню и тщеславие. В конце концов, мы создали кое-что другое и придумали спустя много лет этому свое название.
Лампа Алладина.
Правда, не на пустом месте. Глава фонда "Сокровище", Рауль Фернандес, притащил как-то нам странный аппарат. Это была экспериментальная советская аналоговая машина. Почему он именно ее решил нам показать - известно только ему, но теперь можно сказать, что в тот момент он сделал историю.
Нам он сказал: "ребята, эта штука управляет термоядерным реактором, подумайте, что можно из нее извлечь."
Об этом мы хотели заявить всему миру, возможно, мир бы принял наше заявление о невозможности создания искусственного интеллекта, за то обрадовались бы весьма реальной перспективе получить цифровое бессмертие, оцифровать сам интеллект, но тут черт дернул за язык весьма уважаемых людей, Илона Маска, Стивена Хокинга и Била Гейтса. Их слушают все и раз они сказали, что искусственный интеллект - угроза человечеству, так все и поверили. Кто будет слушать трех неизвестных сумасшедших изобретателей?
Эти трое парней, мы им не чета, прекрасно понимают, что даже то, что сегодня зовется искусственным интеллектом, таковым не является на самом деле. Это как бы выдавать желаемое за действительное.
Зачем они это сделали, нам пока не известно, хотя есть подозрения, что эти ребята не просто так решили поиграть на публику и в их выступлениях есть двойное дно, как в ящике фокусника.
Они достаточно опытные и умные, что бы сказав ничего нового и ничего особенного, оставить весьма важное сообщение.
Вопрос создание искусственного интеллекта - это не вопрос кибернетики, математики или других наук, с багажом и опытом знаний которых можно создавать свой вариант искусственного интеллекта.
Это нравственный вопрос и мы никогда не создадим искусственный интеллект, пока будем смотреть на мир с определенных, скажем так, консервативных позиций.
Наш друг, падре Андриано, размышляя, говорил нам вовремя кофе-тайма:
- Вы сможете запрограммировать робота искать в субботний день овец, упавших в яму и спасать их от туда.
Но вы слукавите, потому что вы не вложите роботу программу о том, что работать в субботу грех и так завещал Господь.
Возможно, вы сможете создать робота, который будет знать, что работать в субботу - грех, что так завещал Господь, а его сын, Иисус, сказал, что если надо - то и можно.
Иисус в проритете, и робот побежит повиливая своими стальными булками в поисках пострадавших овец. Но опять же, это будет ваш очень сложный алгоритм, записанный еще более сложным и красиво построенным кодом.
Это не будет решение самого робота.
И даже тогда, когда он задаст вам один важный вопрос, который разрушит все ваши старания:" а какого черта я вообще должен идти в субботний день и спасать овец?", тогда вы еще не сможете почивать на лаврах.
Ваше творение станет разумом тогда, когда поставит под сомнение вообще всю вашу концепцию, и скажет: "слушай, ты зачем вообще создал субботу? Что бы я метался в решении вопроса о грехе?"
И не будет уже важно, из чего эта машина сделана и сколько места занимает.
Так что же мы такого страшного открыли с Карлосом, что даже наш падре от нас открестился?
Не могу всего сказать сейчас, но развитие искусственного интеллекта - такая же международная афера, как и создание Большого Андронного Колайдера.
Если вы читаете эти строки, все уже свершилось, либо уже началось, но в любом случае, нас уже нет в живых. Это весьма печальное обстоятельство, но оно того стояло."