Здравствуйте, Shmj, Вы писали:

V>>Если же мы снабдим ИИ собственными целями и дадим ему некий физический механизм достижения этих целей, то:
S>Специально снабжать никто не будет — нет смысла.

Предлагаешь организовать эдакий софизм — есть цели, но нечем достигать? ))

Сейчас прокладкой на каждом шаге является живой человек, напомню.
Поэтому, достигаются цели человека.


S>Тут вопрос в другом. Если возникнет сознание — то возникновение целей (вопреки нашим) — появляется без нашего на то желания и дозволения — как побочный эффект сознания.

Улыбнуло, сорри. ))

Это если забыть, что все человеческие цели являются лишь промежутоными к базовым: поесть, поспать, потрахаца и ЧСВ.
А на деле-то никакого "побочного эффекта", бо разбиение пути на более "атомарные" шаги — это и есть ф-ия интеллекта.
(Человек отличается от животного способностью моделировать реальность, напомню, т.е. моделировать как прошлое, так и будущее)

Просто каждый этот шаг является целью в свою очередь.


S>Случай когда мы задали цели и оно честно исполняет, но не совсем верно интерпретировало и нуждается в корректировке — этим можно управлять, тут проблемы нет. Главное что своих целей и своей воли у него не появилось.

Еще раз, это невозможно, потому что достижение любой нетривиальной цели требует формулирования и достижения промежуточных целей.
Именно в этом была суть того поста, на который ты отвечаешь. ))