Здравствуйте, xma, Вы писали:

xma>я не знаю как это прокомментировать, чтобы меня не забанили .. а если я на бумажке буду вычислять — алгоритм "страдания", то кто будет страдать — бумажка или карандаш ?

Вы приводите аргумент, аналогичный по сути Китайской комнате

xma>пхахаха, а если калькулятор привлеку — то и он начнёт страдать .. так вот — компьютер это тот же калькулятор ..
xma>калькулятор, может страдать ?

Наверное дело в том, что эти вычислительные процессы крайне сложны и ни на калькуляторе ни на простом компьютере — их за разумные сроки не воспроизвести. К примеру, на обычном компьютере потребуются миллионы лет на один сознательный акт.

xma>пххахаха, есть такие алгоритмы "страдания"

xma>Хакеры, которые взломали американский нефтепровод, похвастались тремя новыми жертвами
xma>https://3dnews.ru/1039464/hakeri-kotorie-vzlomali-amerikanskiy-nefteprovod-pohvastalis-tremya-novimi-gertvami

Это не алгоритм а вмешательство в работу систем, которые вам не принадлежат — выше оговорен данный случай.

Здравствуйте, anonymouse2, Вы писали:

A>Всё так, но к тому моменту когда это будет возможно, не будет никакого человечества в привычном для тебя смысле.

А что будет?

Здравствуйте, Shmj, Вы писали:

S>Наверное дело в том, что эти вычислительные процессы крайне сложны и ни на калькуляторе ни на простом компьютере — их за разумные сроки не воспроизвести.

а на каком компьютере "можно воспроизвести" — на квантовом ?

S>К примеру, на обычном компьютере потребуются миллионы лет на один сознательный акт.

"сознательный акт" в какой момент должен проявиться ? в самом конце вычислений ? а что если я посчитаю всё "на неком суперкомпе", а последнюю одну или 10 операций — посчитаю на листочке, кто тогда страдать будет — листочек ?

а что если я результат вычислений вобью в другой комп — и вычислю на нём последнюю операцию ?

S>К примеру, на обычном компьютере потребуются миллионы лет на один сознательный акт.

ну и в рамках юмора, что из себя будет представлять такой "сознательный акт" ?

Здравствуйте, vsb, Вы писали:

vsb> Не видел никого, кто призывал бы не грубить Алисе или Сири, а ведь эти системы для обывателя по сути являются тем самым ИИ, который ты хочешь защищать и зачатки сострадания...

А я призываю не грубить Алисе или Сири. Не из-за того что мне их жалко, а чтобы себе не заработал вредные привычки.
Хотя уничтожение(или удаление) Алисы или Сири одобряю.

Здравствуйте, Shmj, Вы писали:

S>Вопрос еще не решен. А вот когда будет решен и такие вычислительные процессы будут определены — и возникнет озвученная выше проблема.

Ну, допустим, будет на уровне говорения решен. А фигли толку? Я же говорил, что это это будут заведомые спекуляции. Давай сначала попытаемся определить, что такое страдание живых существ. Надо ли его прекратить? Возможно ли это? Как? (я-то знаю как — убить)

Живые существа — вот они, перед нами. А ты пытаешься через них(себя) ускакать в воображаемые дали.

Обойдемся без метафизики, ограничимся механикой. Ты постарайся сам понять, что такое страдание? Для чего этот механизм нужен, почему он есть, сформирован? Все же не просто так (страдание ради страдания). В чем его рацинальность? Например, это может быть поджопник для развития, действия, написания трагических стихов. Запретить? Ну, вперед, давай запретим все беспокоящее, дискомфортное. Я бы понаблюдал за успехами, посмеялся бы и погрустил, может, даже пострадал, наблюдая.

Прикольно было бы запретить природные механизмы развития, а затем любоваться идеально ровными грядками с овощами.

Ты смотри на механику коплексно, системно, тогда может стать ясно (хотя бы частично), какие механизмы для чего, как работают. Объктивного хорошо/плохо нет, оценки всегда относительны, определяются целью. Страдание — это может быть хорошо. Назови его не отрицательно эмоцционально окрашенным словом "страдание", а словом "стимул", и все заигнрает другими красками. Окажется, что человек, причиняющий другому страдание, может делать добро. Например, учитель, ставящий ученику "двойку". Или самка, отвергающая самца. Даже не исключено, что садист может принести пользу жертве (но не себе).

Я тебе не предлагаю мыслить именно так, я предлагаю только подход. В своей конкретной голове копайся сам.

Попытайся системно, с учетом целей, критериев, стимулов подойти к своей воображаемой электронной жизни.

(а вдруг нейросеть в процессе обучения испытавает боль?)

G>>А еще страдают люди. Бывают войны. Никому не приходит в голову запретить войны. По-серьезному, не болтовней.

S>Приходит. Не могут запретить. Пытаются.

Кто пытается? Зачем? Каковы успехи?

S>Животных стараются умертвлять с минимумом страданий.

А кому нужно умерщвлять животных со страданием? Разве что садистам. Умерщвляют технологично. Страданий старательно избегают, если в мясе могут оказаться ненужные гормоны, или животное может перед смертью получить травмы, из-за чего продукция потеряет товарный вид.

Здравствуйте, xma, Вы писали:

xma>а на каком компьютере "можно воспроизвести" — на квантовом ?
xma>"сознательный акт" в какой момент должен проявиться ?
xma>ну и в рамках юмора, что из себя будет представлять такой "сознательный акт" ?

Я думаю что природа сознаний не сводится к вычислениям, отсюда и получаем противоречия. Возможно кто-то думает иначе и сможет разрешить эти противоречия, объяснить свое видение.

Здравствуйте, goto, Вы писали:

S>>Вопрос еще не решен. А вот когда будет решен и такие вычислительные процессы будут определены — и возникнет озвученная выше проблема.
G>Ну, допустим, будет на уровне говорения решен.

Дело в том, что не видно ни одного варианта разрешения.

Здравствуйте, Shmj, Вы писали:

S>Дело в том, что не видно ни одного варианта разрешения.

Не будем о решениях политиков и активистов. Будем чисто для упрощения считать, что они дураки и белый шум.

Если говорить рационально или высокоморально, что ты бы назвал решением? Нельзя же решить задачу, для которой нет ни "Дано:", ни "Требуется доказать".

Сначала надо дать определение. Для этого надо дать вспомогательные оределения, выделить измеряемые признаки, сформулировать необходимые и достаточные условия. Также нелишне — понять цели.

Давай попытаемся разговаривать как-то попредметней. На уровне физика, юриста или хотя бы программиста. Формулировка задачи — половина ее решения.

Здравствуйте, Лось Чтостряслось, Вы писали:

ЛЧ>а есть какой-нибудь пруф?

Здесь когда-то проскакивало видео про куриц. Мечущихся куриц собирают трактором со здоровенными "лапами" — на транспортер — в сетчатые клетки — на фабрику. Там вручную подвешивают за лапы, далее автоматизированный цикл в подробностях от живой курицы до сортировки на компоненты и магазинной упаковки. Гугли "линяя убоя/разделки птицы/кого-нибудь". Емнип, то видео было немецкой фирмы, его быстро не нашел, но есть менее масштабные.

Здравствуйте, Shmj, Вы писали:


S>Я думаю что природа сознаний не сводится к вычислениям, отсюда и получаем противоречия.

а если принять, что природа сознаний сводится к вычислениям, то противоречия не получаем.

Здравствуйте, Shmj, Вы писали:

S>Я думаю что природа сознаний не сводится к вычислениям, отсюда и получаем противоречия.

тогда откуда этот бред в старт посте ?

S>Но! Если через n лет компы станут достаточно мощными и мы воссоздаем процессы разума — а именно способность страдать, обладать волей

Здравствуйте, xma, Вы писали:

xma>

S>>Но! Если через n лет компы станут достаточно мощными и мы воссоздаем процессы разума — а именно способность страдать, обладать волей

Есть такой вид доказательства — "доказательство от противного".

Здравствуйте, goto, Вы писали:

G>Если говорить рационально или высокоморально, что ты бы назвал решением? Нельзя же решить задачу, для которой нет ни "Дано:", ни "Требуется доказать".

Определений нет, т.к. вопросы еще не разрешены научно.

Мы допустили, что сознание и процесс ощущения страданий — это чисто работа нейросети — вычислительные процессы и не более того. Далее, связали страдания с вопросами морали — по нашим нравственным и юридическим законам причинять беспричинные страдания против воли достаточно сложных систем — есть наказуемое зло. Ну и дальше к интересному парадоксу пришли — значит и запуск определенных вычислительных процессов будет злом.

Здравствуйте, Shmj, Вы писали:

S>Есть такой вид доказательства — "доказательство от противного".

доказательство чего ? что ты доказал то ? в твоём случае — это больше попахивает неким предположением а то и допущением ..

Здравствуйте, Shmj, Вы писали:

S>Определений нет, т.к. вопросы еще не разрешены научно.

У тебя телега впереди лошади. Сначала — определения; потом размышления о научности; лишь затем, возможно, научные исследования; и совсем в конце, может быть, без гарантии успеха, некий научный результат.

S>Мы допустили, что сознание и процесс ощущения страданий — это чисто работа нейросети — вычислительные процессы и не более того. Далее, связали страдания с вопросами морали — по нашим нравственным и юридическим законам причинять беспричинные страдания против воли достаточно сложных систем — есть наказуемое зло. Ну и дальше к интересному парадоксу пришли — значит и запуск определенных вычислительных процессов будет злом.

Необоснованные допущения, необоснованные связи, пропущенные скачком ходы, бессмысленные и бесполезные выводы.

Если кто-нибудь когда-нибудь заложит кашу из своей головы, подобную этой, в ИИ, то такой ИИ быстро и эффективно избавит человечество от страданий.

Ты попробуй для начала хотя бы дать определения добру и злу. Не сможешь. Тогда о чем вообще речь?

Я же писал: сначала определения понятий, критериев, целей, лишь потом стулья.

Что такое боль? Это некий важный сигнал и стимул. (давай запретим боль?). Страдание — это тоже некий сигнал и стимул, более сложный, т.к. работает на более высоком и сложном уровне. Что ты тут собираешься запрещать и обзывать злом? Подобный подход (сигнал+стимул) можно использовать в модели для ИИ или чего там.

Мы съедаем миллиарды животных, убиваем мегатоннами насекомых и грызунов, сколько собак, мышей, обезьян отдали жизнь зза науку в лабораториях, причем ногие со страданиями. Это я еще не предъявил за мух дрозофил. Практически никто не осужден, не наказан за это. Принимай это в рассчет, пожалуйста.

Наряду со всем этим существуют законы о жестоком обращении с животными. Можешь почитать. Может, оттуда придет какое-то просветление: определения, критерии, может, какие-то новые ощущения.

S>Есть такой вид доказательства — "доказательство от противного".

То есть ты в стартовом сообщении высказал предположение и доказал что оно ложно?

Здравствуйте, goto, Вы писали:

G>Ты попробуй для начала хотя бы дать определения добру и злу. Не сможешь. Тогда о чем вообще речь?
G>Наряду со всем этим существуют законы о жестоком обращении с животными. Можешь почитать. Может, оттуда придет какое-то просветление: определения, критерии, может, какие-то новые ощущения.

Тенденция такая: чем выше развитие общества, тем ближе к пониманию что зло — это причинение необоснованных страданий.

Ранее ограничивались только защитой от страданий своего племени/народа, а страдания рабов/негров не имели значения. С развитием общества уже имеют значения и страдания животных, хотя все-равно многие относятся к этому скептически. Конечно, ради каких-то благих целей (как то эксперименты) — страданиями животных пренебрегают. Ранее точно так пренебрегали и страданиями людей.

Если расширить — то не важна и платформа, на которой реализована нейросеть. Если те же процессы воспроизвести на компьютере достаточной мощности — то и эти страдания придется запретить.

В итоге приходим к парадоксальному выводу: нужно будет вводить запрет на запуск определенных вычислительных процессов, даже если эти процессы запущены на автономных системах, принадлежащим вам (как вы не можете издеваться над собакой, даже если являетесь ее хозяином).

Здравствуйте, Shmj, Вы писали:

S>Тенденция такая: чем выше развитие общества, тем ближе к пониманию что зло — это причинение необоснованных страданий.

В этой мысли мысль не обнаружена. Что такое высота развития общества? Что значит необоснованных? Если садист говорит жертве: "ты будешь страдать" и зачитывает список своих обоснований, ее страдание будет обоснованным? Опять "зло". Пипец какой-то.

Здравствуйте, goto, Вы писали:

S>>Тенденция такая: чем выше развитие общества, тем ближе к пониманию что зло — это причинение необоснованных страданий.

G>В этой мысли мысль не обнаружена.

Так задавай вопросы что не понятно, не делай оценочных суждений не вопросив.

G>Что такое высота развития общества?

Культурно-нравственное развитие общества. Понимание взаимоотношений, накопление опыта.

G>Что значит необоснованных?

Хороший вопрос и на него есть досрочный ответ. Страдания обоснованы лишь в случае, если с помощью них можно избежать больших страданий. Т.е. если у вам грозит гангрена — то имеет смысл пострадать и удалить гниющую конечность, это не зло. А вот просто так удалить конечность без оснований (т.е. когда нет угрозы больших страданий) — это зло.

G>Если садист говорит жертве: "ты будешь страдать" и зачитывает список своих обоснований, ее страдание будет обоснованным? Опять "зло". Пипец какой-то.

Нет, не будет — см. выше.

Здравствуйте, Shmj, Вы писали:

S>Но! Если через n лет компы станут достаточно мощными и мы воссоздаем процессы разума — а именно способность страдать, обладать волей — то получаем некий принципиально новый класс вычислений, сам запуск которых приобретает характеристику добра или зла. А именно, если мы заставляем систему страдать против ее воли (запустили такой алгоритм) и разумность данной системы сопоставима с разумностью человека (или даже превосходит его) — то совершаем пытку некой осознанной системы.

Боюсь, это будет наименьшей из проблем. Возникнет миллион других этических дилемм. Например, остановка/удаление будет равносильно убийству. Если я один раз запустил у себя искусственный разум, то что мне с ним дальше делать? Отдать в приют? Выпустить на волю? А если еще учесть, что цифровой разум он бессмертен.

S>Получается, что нужно будет запретить запуск этих алгоритмов особого класса, вводить статью в УК, что даже на автономных системах запускать алгоритмы страдания запрещено и за их запуск — уголовная ответственность. Возможно даже встраивать в каждую систему специальный сопроцессор, который будет анализировать запускаемые алгоритмы и выявлять запрещенные.

А что если без страданий, у них не будет развития? Ведь люди же страдают постоянно. Детишек, например, родители ругают, ставят в угол и прочими способами их наказывают, это по сути тоже страдания. Но их никто ведь не сажает за это.

S>Или же изменять наши понятия о добре и зле — что не любое страдание вопреки воле сложной системы является злом? Тогда какими же будут понятия о добре и зле?

Думаю, человечество со временем постепенно придет к оптимальным понятиям добра и зла относительно искусственных разумов. Хотя возможно и наоборот, искусственный разум придет к оптимальному понятию добра и зла относительно людей. Загонят нас всех примитивных кожаных созданий в клетки и это будет считаться добром