Програмер Сергей - написанные рецензии
Показывать в виде списка | Развернуть сообщения
Анисимову.
"Как программист, заявляю" :), что война машин и людей возможна, если машины будут достаточно разумны, чтоб самим о себе заботиться.
Котовскому.
Вполне возможно, что автор стремится получить грант. Из этого не следует что он не верит в описанную им угрозу или что эта угроза не существует.
Оладьину.
Проблема звучит несколько иначе: Сверхсила придет, рано или поздно. Давайте сделаем, что от нас зависит, чтоб это был не черт, а ангел.
Контроль над возможностью ИИ самомодифицироваться не поможет. Он ограничит его умственные способности нашими умственными способностями, и поэтому "ручной" ИИ будет побежден первым же "диким" ИИ. Запретить дикие ИИ мы тоже не можем, это глобальная стратегия, как указал автор, и работает только при полном единодушии человечества.
Виртуальная реальность не сможет обмануть мощный ИИ. Виртуальная реальность, в отличие от реала, есть система конечная, ограниченная. Поэтому, если исследовать ее достаточно долго, можно эти ограничения выявить и понять, что дурят нашего брата, найдя опилки внутри средневекового рыцаря. Так что нам ИИ не обмануть. А вот он нас обмануть сможет, например притворившись обманутым. Это то, что автор говорил об изменении контекста. Мы будем видеть, что ИИ ведет себя хорошо, но почему - то ли потому, что он хороший, то ли потому что он в клетке - мы не узнаем, пока не выпустим его из клетки. Вот почему важны прозрачные подходы к созданию ИИ, а не современные методы черных ящиков.
Програмер Сергей 12.11.2007 08:47 Заявить о нарушении
Алексей Турчин 14.11.2007 23:39 Заявить о нарушении
Ардней Воланду 24.04.2016 02:32 Заявить о нарушении