shmj, понятно: у вас уже сложилось своё определение сознания и другого вам не нужно.

Мне кажется, инженеры сделают большую ошибку, если будут воспроизводить в ИИ такое сознание (страдающее/наслаждающееся), в то время как ВСЕ стоящие перед ними задачи легче и дешевле решить без использования всего этого. Да и зачем умножать страдания?

Хотя рано или поздно наверняка найдется инженер-маньяк, который решит создать искусственный человеческий разум (а не просто ИИ) "по своему образу и подобию".
Задачу себе он поставит так, что в случае её решения (по своим критериям) будет верить, что создал сознание со всеми его необходимыми атрибутами, но удастся ли ему убедить в этом всех других — вопрос.
Думаю, "искусственных людей" запретят юридически, так что, когда/если они окажутся реализованы фактически — они будут вне закона и не смогут претендовать на близкие к человеческим права.