Ящик Пандоры

Анатолий Пилаф
"...Это проблема умных людей. Им не нравится идея, что машина может быть умнее, поэтому они пренебрегают этой идеей" - цитата из высказывания Илона Маска.
=======================================================
В моем ранге интересных личностей Илон Маск, фантазер и реалист -практик одновременно,  занимает высший ранг. Однако в этом его высказывании насчет угроз человечеству со стороны зарождающегося Искусственного Интеллекта (ИИ) я не согласен с ним.
Во-первых, нет однозначных дефиниций понятию "умнее". Если судить о том, кто умнее или глупее, человек или стая крыс, по тесту, когда  стая крыс, помещенная  в ограниченное пространство вместе с человеком,  победит его в цели ВЫЖИТЬ, то получится, что стая крыс умнее.
Во-вторых, опасных для будущности человека процессов может быть много. 
И перефразируя известное изречение "Я знаю, что ничего не знаю",  думаю, следует полагать, что большую часть таких угроз мы не знаем в настоящем.  Мы можем лишь предполагать, что они будут глобальными по масштабам Земли и Космоса. Но та их часть, что будет порождена деятельностью человека, не обязательно будет связана с ИИ. Например, вирусные атаки в сети интернет.
По мере интеграции виртуальной среды  Земли и привнесении в нее зачатка ИИ, действительно, опасность фатальных для Человечества процессов , которые он, Человек, не сможет парировать, возрастает. Однако, возникнуть такие фатальные процессы могут гораздо раньше того момента, когда их можно будет назвать Разумными (дайте дефиницию слову "разумность"), соизмеримыми по степени "умности" с процессами в голове человека.
Просто они, фатальные процессы, будут глобальными и неподвластными воле человека, как процессы , существующие в стае крыс, противостоящей человеку (каждая крыса обладает зачатками разума, и у стаи есть какой-то свой  коллективный разум). 
А некоторые такие порожденные волей человека процессы могут быть подобны  стихии изливающейся из жерла вулкана магмы (вот у магмы точно нет никакой интеллектуальности, но она может быть порождена  действиями человека - неосторожным обращеним с энергией).
 Ящик ПАНДОРЫ, мыслимый как метафора, возможно и существует, и возможно не в единственном количестве. Возможно , у природы существует много таких фатальных для Человека исходных точек начала губительных процессов, неподвластных его воле апорстериори, и эти процессы могут не иметь , даже, и намека на  разумность.
  Круг знаний Человека расширяется: рано или поздно этому кругу будет принадлежать и червоточина природы - "ЯЩИК ПАНДОРЫ".
Проблема здесь в том, что если "ЯЩИК ПАНДОРЫ " (червоточина в природе сущего, подвластная воле человека априори (чтоб открыть) и неподвластная его воле апостериори (чтобы закрыть)) существует, то рано или поздно найдется сумасшедший, который откроет его.