Здравствуйте, vdimas, Вы писали:

V>Если же мы снабдим ИИ собственными целями и дадим ему некий физический механизм достижения этих целей, то:

Специально снабжать никто не будет — нет смысла.

Тут вопрос в другом. Если возникнет сознание — то возникновение целей (вопреки нашим) — появляется без нашего на то желания и дозволения — как побочный эффект сознания.

Случай когда мы задали цели и оно честно исполняет, но не совсем верно интерпретировало и нуждается в корректировке — этим можно управлять, тут проблемы нет. Главное что своих целей и своей воли у него не появилось.

Похоже на то что сознание не возникнет ни в какой мере.