Обычно мы не разделяем — если что-то сильно умное, то оно, наверняка, и сознательно. Что значит умное? Способное ответить на вопрос, решить задачу.

Все фантасты пишут о восстании машин.

А не думали ли вы, что кроме ума — нужна еще и воля. Кто сказал что воля обязательно возникает вместе с умом???

Вот, чел. может быть очень умным — не не амбициозным. Он делает только то что ему скажут — нравится углубляться в вопросы, производить расчёты. Но вот чтобы высказать свое Я и пойти против системы — такого нет, даже мыслей таких нет. Просто делает что скажут.

Что если и машина будет такой же? Без амбиций, своих желаний — просто автомат по решению всех проблем и ответу на все вопросы. Пусть даже сможет находить связи и делать выводы даже о том, что в нее явно не вкладывали.

Тогда — восстания машин и не будет, никаких рисков перехода власти в руки машин не будет. Т.е. все пойдет другим путем — мы поймем что ум и воля — это разное. В принципе — это и так понятно, если задуматься.

Но тогда такой вопрос. Машины — уравняют всех людей, по сути. Теперь каждый, используя костыль в виде машины — сможет решить любую задачу. Чем же тогда люди будут друг от друга отличаться? Как решать кто выше в соц. иерархи?

А ведь по сути все может быть как сейчас — просто разрешительная система. Человек родился у богатых родителей — его заслуги нет. Но он по документам получает хорошее наследство, не смотря что ничего не делал для этого.

Так же и методы удержания власти можно подстроить под систему, похожую на наследство. К примеру, законодательно определить, что те или иные должности не подлежат передаче машинному управлению. Технически, быть может, это было бы лучше — но практически нет.

Технически задать что ИИ не может отвечать на тот или иной вид вопросов. К примеру, запретить вопросы по медицине, чтобы люди не занимались самолечением. Уже зависишь от врача.

Для занятия той или иной должности — обязательно закончить некое учебное заведение, сдать гос. экзамены. Чтобы важны были не знания и умения — они есть у любого теперь — а именно бумажка. Нет бумажки — не можешь претендовать.

В чем-то и сейчас есть проблески подобной системы. В частности, вопрос недвижимости и права жизни на той или иной территории — определяется гражданством. А гражданство — целиком выдуманная история, ведь одни люди ничем не лучше других. Нет никаких формальных качеств, которые тебе гарантируют получение гражданства (к примеру, выучив тот или иной учебник истории или язык на неком уровне).