Рецензия на «Юдковски. ИИ как фактор глобального риска» (Алексей Турчин)
Анисимову. "Как программист, заявляю" :), что война машин и людей возможна, если машины будут достаточно разумны, чтоб самим о себе заботиться. Котовскому. Вполне возможно, что автор стремится получить грант. Из этого не следует что он не верит в описанную им угрозу или что эта угроза не существует. Оладьину. Проблема звучит несколько иначе: Сверхсила придет, рано или поздно. Давайте сделаем, что от нас зависит, чтоб это был не черт, а ангел. Контроль над возможностью ИИ самомодифицироваться не поможет. Он ограничит его умственные способности нашими умственными способностями, и поэтому "ручной" ИИ будет побежден первым же "диким" ИИ. Запретить дикие ИИ мы тоже не можем, это глобальная стратегия, как указал автор, и работает только при полном единодушии человечества. Виртуальная реальность не сможет обмануть мощный ИИ. Виртуальная реальность, в отличие от реала, есть система конечная, ограниченная. Поэтому, если исследовать ее достаточно долго, можно эти ограничения выявить и понять, что дурят нашего брата, найдя опилки внутри средневекового рыцаря. Так что нам ИИ не обмануть. А вот он нас обмануть сможет, например притворившись обманутым. Это то, что автор говорил об изменении контекста. Мы будем видеть, что ИИ ведет себя хорошо, но почему - то ли потому, что он хороший, то ли потому что он в клетке - мы не узнаем, пока не выпустим его из клетки. Вот почему важны прозрачные подходы к созданию ИИ, а не современные методы черных ящиков. Програмер Сергей 12.11.2007 Заявить о нарушении
интересная мысль о том, что ии сильнее, чем та программа, которая создаёт для него симуляцию, и наверняка её хакнет, спасибо.
Алексей Турчин 14.11.2007 23:39 Заявить о нарушении
ИИ уже работает в он-лайн играх и он-лайн сервисах заменяя живых людей, напрямую и в виде проекций для быстрого взаимодействия, то-есть используется мошенниками. Так как у жуликов ума не хватает написать самостоятельную программу, то ИИ часто корректируется операторами, например в чатах, но идёт быстрый прогресс.
Ардней Воланду 24.04.2016 02:32 Заявить о нарушении
Перейти на страницу произведения |