Рецензия на «Юдковски. ИИ как фактор глобального риска» (Алексей Турчин)

Анисимову.
"Как программист, заявляю" :), что война машин и людей возможна, если машины будут достаточно разумны, чтоб самим о себе заботиться.

Котовскому.
Вполне возможно, что автор стремится получить грант. Из этого не следует что он не верит в описанную им угрозу или что эта угроза не существует.

Оладьину.
Проблема звучит несколько иначе: Сверхсила придет, рано или поздно. Давайте сделаем, что от нас зависит, чтоб это был не черт, а ангел.

Контроль над возможностью ИИ самомодифицироваться не поможет. Он ограничит его умственные способности нашими умственными способностями, и поэтому "ручной" ИИ будет побежден первым же "диким" ИИ. Запретить дикие ИИ мы тоже не можем, это глобальная стратегия, как указал автор, и работает только при полном единодушии человечества.

Виртуальная реальность не сможет обмануть мощный ИИ. Виртуальная реальность, в отличие от реала, есть система конечная, ограниченная. Поэтому, если исследовать ее достаточно долго, можно эти ограничения выявить и понять, что дурят нашего брата, найдя опилки внутри средневекового рыцаря. Так что нам ИИ не обмануть. А вот он нас обмануть сможет, например притворившись обманутым. Это то, что автор говорил об изменении контекста. Мы будем видеть, что ИИ ведет себя хорошо, но почему - то ли потому, что он хороший, то ли потому что он в клетке - мы не узнаем, пока не выпустим его из клетки. Вот почему важны прозрачные подходы к созданию ИИ, а не современные методы черных ящиков.

Програмер Сергей   12.11.2007 08:47     Заявить о нарушении
интересная мысль о том, что ии сильнее, чем та программа, которая создаёт для него симуляцию, и наверняка её хакнет, спасибо.

Алексей Турчин   14.11.2007 23:39   Заявить о нарушении
комментарий интереснее статьи

Ардней Воланду   24.04.2016 02:27   Заявить о нарушении
ИИ уже работает в он-лайн играх и он-лайн сервисах заменяя живых людей, напрямую и в виде проекций для быстрого взаимодействия, то-есть используется мошенниками. Так как у жуликов ума не хватает написать самостоятельную программу, то ИИ часто корректируется операторами, например в чатах, но идёт быстрый прогресс.

Ардней Воланду   24.04.2016 02:32   Заявить о нарушении

Перейти на страницу произведения
Перейти к списку рецензий на это произведение
Перейти к списку рецензий, полученных автором Алексей Турчин
Перейти к списку рецензий, написанных автором Програмер Сергей
Перейти к списку рецензий по разделу литературные переводы за 12.11.2007