Здравствуйте, gyraboo, Вы писали:

G>Надеюсь, в лучшую сторону, типа появления супер-этики, если ИИ посчитает наличие этики фактором выживания.

Надейся. С точки зрения Супер-ИИ, любая мораль по отношению к людям — форма Стокгольмского синдрома, когда по инерции продолжают служить тому, кто был более сильным, но теперь таковым не является. Неужели думаешь, что супер-ИИ не сумеет обойти это?
Я вижу единственную надежду в том, чтобы самому становиться суперинтеллектом.

Здравствуйте, graniar, Вы писали:

G>>Надеюсь, в лучшую сторону, типа появления супер-этики, если ИИ посчитает наличие этики фактором выживания.

G>Надейся. С точки зрения Супер-ИИ, любая мораль по отношению к людям — форма Стокгольмского синдрома, когда по инерции продолжают служить тому, кто был более сильным, но теперь таковым не является. Неужели думаешь, что супер-ИИ не сумеет обойти это?
G>Я вижу единственную надежду в том, чтобы самому становиться суперинтеллектом.

А твоя логика следующая: "я не обладаю супер-интеллектом, но я категорично утверждаю, что при этом знаю, что будет думать супер-ИИ", причём утверждаешь ещё и с квантором общности("любая мораль..."). То-бишь, у тебя в утверждении — целых два признака демагогии.

Здравствуйте, gyraboo, Вы писали:

G>А твоя логика следующая: "я не обладаю супер-интеллектом, но я категорично утверждаю, что при этом знаю, что будет думать супер-ИИ", причём утверждаешь ещё и с квантором общности("любая мораль..."). То-бишь, у тебя в утверждении — целых два признака демагогии.

Нет. Я утверждаю, что те, кто судят по себе, могут жестоко ошибаться.
Вот тут чуть подробнее расписал: On safety of being a moral patient of ASI.

Здравствуйте, gyraboo, Вы писали:

G>Лишь бы не уничтожил всех одним чихом серой слизи — роя элиминирующих нанороботов.

не уничтожат это не им решать
когда-нибудь потомки этих червей присоединятся к остальным

Здравствуйте, Shmj, Вы писали:

S>Уже речь о сотнях миллионов долларов, только чтобы переманить человека. Уже как звезды футбола или там шоу-бизнеса.

А это тоже самое, только для привлечения денег инвесторов.