Имело бы смысл на время отложить этот ажиотаж, действительно. Затем, чтобы самим разобраться со своим целеполаганием.
Отринем термин "искусственный интеллект" для ясности, пусть это называется просто "разум". Разум он и в Африке разум.
И ответим для себя "что есть разум?". Пусть это пока некий Дед Мороз, которому можно написать записочку с Вашей мечтой или самым заветным желанием, и он исполнит. Так что бы Вы лично написали, обращаясь к гипотетическому
Всесильному Разуму? Какую первостепенную задачу перед ним бы поставили лично Вы?
Так - простенько и со вкусом - Вы можете протестировать Ваше собственное целеполагание и Ваш собственный мотив.
Помня при этом: "победа" - это победа для всех. Иное называется "Пиррова победа".
Создание интеллекта может идти разными путями, а путей будет точно не меньше, чем авторов. И рассуждая о возможном преобладающем успехе одного из них относительно иных,
мы никак не можем не сместиться в предысторию - то есть, в мышление самих авторов, давших им начало.
Здесь честная победа за самым компенсационным представлением о разуме. То есть, самым вместительным, ёмким. Которое по доброму трудоустроит все прочие, как бы вбирая их в себя. Ласково их съедая и схлопывая))). Шутка. Правильнее сказать, учитывая и находя место в самом себе.
Так будет, если не случится до того победа Пиррова. Выход вперёд какого то утилитарного, узкого представления о разуме и его форсированное развитие.
Поэтому определить "что есть разум" и "чего я больше всего хотел бы от него" - это чрезвычайно важно именно сейчас, в начале пути...
Было бы очень хорошо и полезно для проектировщиков скрестить шпаги между самими этими представлениями о разуме, и выбрать из имеющихся самую ёмкую его характеристику (цель).
Она разумеется и будет наиболее мирной и этичной, контекстной и самым здоровым образом консервативной, так как будет наименее отвлечённой.