vsb>Это ты придумал, или где-то описана такая идея надмозга, как коллективного сознания? Интересно было бы почитать побольше.
Да уже сложно сказать что придумал а что прочитал. Про то что "что-то не так" начал догадываться ещё наверное в школе. Уж очень озадачивали и подвиг "грудью амбразуру закрыть" и школьные разборки "кто кого перетянет — белаз или тепловоз" с последующим выяснением в драке. Очевидно было что в обоих случаях люди отказывались от частных интересов в пользу чужих. Но обобщалка тогда ещё не выросла настолько, чтобы понять что для таких явлений тупо (в самом тупом приближении) "больше нейронов должно голосовать" за "решение общественной задачи" чем за "шкурный интерес, включая выживание".
Когда знаешь куда примерно смотреть — то признаки этой херни становится видно абсолютно везде. Например отшельничество, когда человек уходит в пещеры, и через 5-10 лет возвращается, и все говорят что он стал "просветлённым" — это как раз в изоляции человек пробыл так долго, что части мозга занятые обдумыванием "внешних программ" просто потеряли источник и приёмник "задач", и от безысходности начали решать проблемы человека. Если почитать описание таких людей — то все утверждают что они выглядят очень внимательными, их взгляд проницательный, они реально вслушиваются в слова — это просто потому что они думают о том что здесь и сейчас, а не половиной мозга постоянно перемалывают что-то другое.
Ввязываться в серьёзное доказательство не готов, но, "нутром чую", что медитации и их эффективность тоже проходят близко к этому явлению. Человек у которого совсем пропадает "внутреннее беспокойство" или хотя-бы появляется навык отследить состояние "что-то я дофига загнался", сделать глаза в горизонт вдох-выдох и переключить внимание — становится существенно менее восприимчив к хайповым темам. Такого меньше парят вещи типа "чудовищной несправедливости", "бесправного положения xyz" и прочие бесконечно далёкие от его тушки вещи.
Все легенды про то что человек использует 10-20-30% мозга, которые подаются как факт, несмотря на то что никакая ЭЭГ с МРТ этого не подтверждают. Ну так тут даже из самой фразы заметно: "использует 20%" вообще не тоже самое что "только 20% работает, остальные 80 тупят". Работают все 100, только вот человеку 20. Но опять же человек, половина мозга которого занята — вряд-ли обратит внимание на такой нюанс.
"Маги" у Кастанеды. Когда отбрасываешь мистику — никакого волшебства, просто гиперуспешные люди, которые стали такими пройдя комплекс вполне выполнимых упражнений для "отвязывания разума" от "сущности пожирающей энергию". В книге используются некие "они" и "хищники", хотя я считаю это всё-таки больше "оно", и не хищник, а скорее прошедший естественный эволюционный путь способ группового выживания.
Они действовали куда более эффективно и организованно. Чтобы держать нас в кротости и покорности, они прибегли к изумительному маневру – разумеется, изумительному с точки зрения воина-стратега. С точки же зрения того, против кого он направлен, этот маневр ужасен. Они дали нам свой разум! Ты слышишь? Хищники дали нам свой разум, ставший нашим разумом.
Ну не смогли маги конкретезировать что за сущность "пожирает энергию". А может смогли, но решили что эффективнее будет пугать учеников побольше, чтоб старательнее учились. Да и не так важно им (и мне) это. Главное что их упражнения вполне рабочие, и от них повышается качество жизни.
Это даже в лурке есть. Статья про Хайвмайнд. Другие названия этого по которым можно гулить: эгрегор, "общественное сознание", "коллективное бессознательное", "двухпалатный разум" (подаётся как чуть другое, но кмк это оно же), и так далее.
S>Получается, что нужно будет запретить запуск этих алгоритмов особого класса, вводить статью в УК, что даже на автономных системах запускать алгоритмы страдания запрещено и за их запуск — уголовная ответственность.
Ну почти. Представь что ты мог бы жить в мире где примерно от 30% до половины мозга принадлежат тебе, а оставшиеся 50-70% это заранее заготовленное для запуска "посторонних программ" место. Т.е. в мире где каждый человек примерно 70% мощностей тратит не на свои программы. Эти программы могут порождать какое угодно поведение, в том числе невыгодное человеку, включая страдание, аутоагрессию, принятие неоптимальных, и даже самоубийственных решений.
Так вот ты живёшь в таком мире. Когда ты видишь ожесточённое обсуждение какой-то херни во flame.politics, flame.comp, или даже education — это "надмозг" "обдумывет проблему" мозгами участников. Участники спора очень вовлечены и вполне серьёзно обсуждают решения, часто по несколько дней. При этом ни сама проблема, ни, часто, результаты, их напрямую не коснутся. Но удачные ответы на проблему распространятся среди людей (возможно не только по вербальным каналам), и постепенно интегрируются во всё общество.
Вот это вот, прямо текущее обсуждение, которое ты поднял — это попытка "общественного сознания" заранее оценить ближайшие угрозы. Захват ресурсов алгоритмами-конкурентами, управление через искусственно навязанное удовольствие или страдание — это вполне себе реальная угроза, и обсуждая её мы эту угрозу оцениваем.
Моё "вытаскивание деятельности надмозга на поверхность" — это попытка этой штуки осознать себя.
S>Возможно даже встраивать в каждую систему специальный сопроцессор, который будет анализировать запускаемые алгоритмы и выявлять запрещенные.
Обычно человечество решало вопрос через вымирание. То есть кто-то вымрет. А будут это те кто не способен сопротивляться запуску "левых" алгоритмов, или наоброт новые алгоритмы окажутся более сильными и точными чем те которые сформировались эволюционно — это уже малопредсказуемые частности.
Re[3]: Вычислительные процессы разума - нравственная проблема
Здравствуйте, Shmj, Вы писали:
vsb>>Ну лично у меня такого понятия изначально нет. В моей системе ценностей защищён исключительно человек. Животные непосредственной защитой не обладают, но т.к. их страдания причиняют нравственные страдания многим хорошим людям, которые видят эти страдания, то на животных немного эта защита тоже распространяется.
S>Тут проблемка — что есть человек и его страдания? Если определить только как биологическую систему, в отрыве от ментальных процессов — то любой, заменивший отдельные части своего мозга (или весь мозг) на небиологические вычислительные системы — лишается защиты. Не думаю что это вам же понравится.
Это интересный вопрос, но на данный момент слишком теоретический, чтобы на него всерьёз искать ответ. Моё имхо — есть существо, которое родилось человеком. Далее эта существо может заменять что угодно на что угодно, вплоть до 100% замещения плоти, но каждый шаг должен быть достаточно маленьким (насколько достаточно — не знаю), чтобы существо на следующем шаге сохраняло преемственность.
Представь себе машину. Можно одну машину сжечь, а на другой машине выдавить номер кузова первой машины. Вот такой вариант не подходит, это уже будет другая машина. А можно на первой машине заменять запчасти потихоньку. Через некоторое время она станет второй машиной (плюс следы от сварки), но преемственность тут уже будет, поэтому это всё ещё первая машина.
S>В конечном итоге приходим к тому, что человек — это именно его те процессы, которые происходят в его мозге. Именно процессы важны, даже носитель не важен.
Вот тут есть ещё важный момент — нельзя мозг просто так отделять от тела. Мозг работает на химии, которую ему поставляет тело. И если ты меняешь тело, ты меняешь и химию, а химия меняет то, как человек думает. Простой пример — посади задроченного очкарика в тело накаченного красавца. Неужели его "я" не изменится? Однозначно изменится. Посади мозг в тело с нарушенной биохимией и мозг может стать шизофреником. Это всё так, к слову.
А по теме — мой поинт в том, что носитель важен. Точней важно то, что носитель изначально родился человеком. А как раз таки процессы не важны. Если человек — "овощ" в коме, у него всё равно все права человека присутствуют, несмотря на то, что процессов там уже не осталось.
Ну и чисто практический вывод можно сделать. Если признавать права роботов, то будут проблемы с роботом-обслугой. Им придётся платить деньги? Им придётся обеспечивать подходящие условия? Придётся их искать на бирже труда? Ты готов с пылесосом спорить? Это сильно ограничит их применимость. Куда лучше не давать роботам прав и в какой-то мере возродить рабство. Я думаю, это то, что произойдет.
Вычислительные процессы разума - нравственная проблема
Допустим, все процессы в мозгу человека не выходят за рамки классических вычислений — все можно воссоздать на классическом компьютере достаточной мощности (ну или даже классическом+квантовом компе — не важно).
Я привык, что на своем компе имею право запускать любые вычисления и алгоритмы (конечно, если комп. автономен, нет возможности вмешиваться в работу других систем, не являющихся моей собственностью). Это кажется аксиомой.
Но! Если через n лет компы станут достаточно мощными и мы воссоздаем процессы разума — а именно способность страдать, обладать волей — то получаем некий принципиально новый класс вычислений, сам запуск которых приобретает характеристику добра или зла. А именно, если мы заставляем систему страдать против ее воли (запустили такой алгоритм) и разумность данной системы сопоставима с разумностью человека (или даже превосходит его) — то совершаем пытку некой осознанной системы.
Получается, что нужно будет запретить запуск этих алгоритмов особого класса, вводить статью в УК, что даже на автономных системах запускать алгоритмы страдания запрещено и за их запуск — уголовная ответственность. Возможно даже встраивать в каждую систему специальный сопроцессор, который будет анализировать запускаемые алгоритмы и выявлять запрещенные.
Так?
Или же изменять наши понятия о добре и зле — что не любое страдание вопреки воле сложной системы является злом? Тогда какими же будут понятия о добре и зле?
Re[3]: Вычислительные процессы разума - нравственная проблем
Здравствуйте, vsb, Вы писали:
vsb>Это ты придумал, или где-то описана такая идея надмозга, как коллективного сознания? Интересно было бы почитать побольше.
Надмозг — не надмозг, но почитай Юнга про коллективное бессознательное или вокруг.
Еще можно сделать проще: заглянуть к себе в мозги и попытаться оценить, что там твое, а что взято извне. Не думаю, что тебе сразу удастся найти свое. Некоторые ищут всю жизнь.
Можно также, как упрощение, считать что часть твоих(как и моих) мозгов занимают утверждения, идеи, способы давания оценок хорошо/плохо и прочие виды мозгового метаболизма, которые ты разделяешь с некоторым множеством людей. Этих множеств может быть много, они могут пересекаться или нет.
Все это как-то работает на практике, определяет поведение. Не дураки те, кто считает действенной пропаганду, в частности и как пример, значение переписывания истории.
Причем усилиями мозга ты пределов мозга не покинешь, не поднимешься над всем этим.
Re[7]: Вычислительные процессы разума - нравственная проблема
Здравствуйте, Shmj, Вы писали:
H>>Блуд.
S>В современном мире ни гомосексуальные связи ни блуд никто злом не считает по одной простой причине — не видят последствий.
S>А последствия — это как раз те же самые страдания. Просто их не видно сразу.
S>Последствия блуда — разрушенная психика, невозможность создать крепкую семью. Последствия — страдания детей, т.к. потом дети становятся никому не нужными.
Имхо, блуд и гомосексуальные связи начали считаться запрещёнными исключительно из-за БППП. Особенно с появлением в средние века сифилиса. А в современном мире, когда появились средства защиты и способы лечения большинства болезней, блуд опять расцвёл и перестал осуждаться. Предполагаю, что в древнем мире с этим тоже проблем было меньше.
Re[3]: Вычислительные процессы разума - нравственная проблем
Здравствуйте, Shmj, Вы писали:
S>Животных стараются умертвлять с минимумом страданий.
Это неправда. К примеру есть норковая ферма. Норки, которых нужно умерщвлять, идут в конвеере. Им обрубаются лапки, потом специальный робот делает разрез по всему телу, стягивает шкурку и тельце ещё живой освежеванной норки сбрасывается в бак с другими норками, где они пищат, дёргаются и тд, пока умирают. Это реальность, которую обычно не особо показывают. На мясокомбинате тоже никого не беспокоит минимум страданий животных, беспокоятся исключительно о минимуме затрат.
Здравствуйте, Лось Чтостряслось, Вы писали:
ЛЧ>а есть какой-нибудь пруф?
Здесь когда-то проскакивало видео про куриц. Мечущихся куриц собирают трактором со здоровенными "лапами" — на транспортер — в сетчатые клетки — на фабрику. Там вручную подвешивают за лапы, далее автоматизированный цикл в подробностях от живой курицы до сортировки на компоненты и магазинной упаковки. Гугли "линяя убоя/разделки птицы/кого-нибудь". Емнип, то видео было немецкой фирмы, его быстро не нашел, но есть менее масштабные.
Re: Вычислительные процессы разума - нравственная проблема
Здравствуйте, Shmj, Вы писали:
S>Я привык, что на своем компе имею право запускать любые вычисления и алгоритмы (конечно, если комп. автономен, нет возможности вмешиваться в работу других систем, не являющихся моей собственностью). Это кажется аксиомой.
Это не является аксиомой, за это право нужно бороться.
S>Но! Если через n лет компы станут достаточно мощными и мы воссоздаем процессы разума — а именно способность страдать, обладать волей — то получаем некий принципиально новый класс вычислений, сам запуск которых приобретает характеристику добра или зла. А именно, если мы заставляем систему страдать против ее воли (запустили такой алгоритм) и разумность данной системы сопоставима с разумностью человека (или даже превосходит его) — то совершаем пытку некой осознанной системы.
S>Получается, что нужно будет запретить запуск этих алгоритмов особого класса, вводить статью в УК, что даже на автономных системах запускать алгоритмы страдания запрещено и за их запуск — уголовная ответственность. Возможно даже встраивать в каждую систему специальный сопроцессор, который будет анализировать запускаемые алгоритмы и выявлять запрещенные.
S>Так?
Не вижу логики. Почему нужно запрещать пытать ИИ?
S>Или же изменять наши понятия о добре и зле — что не любое страдание вопреки воле сложной системы является злом? Тогда какими же будут понятия о добре и зле?
Ну лично у меня такого понятия изначально нет. В моей системе ценностей защищён исключительно человек. Животные непосредственной защитой не обладают, но т.к. их страдания причиняют нравственные страдания многим хорошим людям, которые видят эти страдания, то на животных немного эта защита тоже распространяется.
Мне совершенно не очевидно, что страдания ИИ будут приносить страдания многим хорошим людям. Я не видел ни одного человека, который проявлял бы сострадание к программе или к компьютеру. Не видел никого, кто призывал бы не грубить Алисе или Сири, а ведь эти системы для обывателя по сути являются тем самым ИИ, который ты хочешь защищать и зачатки сострадания, казалось бы, должны бы начинать проявляться.
Я не утверждаю, что это всё не возможно. Но прямых предпосылок к этому я не вижу.
Скорей всего большинство пытать ИИ не будет, т.к. в этом нет необходимости. Ну а кто-то в рамках экспериментов может быть и будет. Ну и ладно.
_>>Моё "вытаскивание деятельности надмозга на поверхность" — это попытка этой штуки осознать себя. vsb>Это ты придумал, или где-то описана такая идея надмозга, как коллективного сознания? Интересно было бы почитать побольше.
Чёт подумалось что возможно я неправильно понял вопрос. Если ты именно про то что "эта штука пытается себя осознать" — то процесс похоже, начался не так давно. "Обретения надмозгом осознанности" получается началось с первых психологов-философов, которые начали задумываться, описывать это явление, и рассказывать о своих выводах другим.
А то что я на них (и себя) повесил ярлык "смотрите, вот тут и тут — это надмозг пытается себя осознать", ну второй уровень рефлексии. Вроде нигде прямым текстом не читал, ну или ЧСВ предпочло забыть где читал Но в конце концов "передачу информации по сторонним каналам" никто не отменял. Более того, вполне возможно, что "надмозг" большую часть информации передаёт между людьми как раз по сторонним каналам. В какой-то степени даже интонация диктора, сообщающего новость по ТВ, может быть хитро модулирована и передавать важность и необходимость "срочно обдумать" или "не рефлексировать, распространить". Так что если принимать гипотезу о надмозге серьёзно, то вообще нельзя быть уверенным что эта, или любая другая идея лично моя, а не надмозговская
Re[4]: Вычислительные процессы разума - нравственная проблема
Здравствуйте, vsb, Вы писали:
vsb> Далее эта существо может заменять что угодно на что угодно, вплоть до 100% замещения плоти, но каждый шаг должен быть достаточно маленьким (насколько достаточно — не знаю), чтобы существо на следующем шаге сохраняло преемственность.
Здравствуйте, Shmj, Вы писали:
S>Но! Если через n лет компы станут достаточно мощными и мы воссоздаем процессы разума — а именно способность страдать, обладать волей — то получаем некий принципиально новый класс вычислений, сам запуск которых приобретает характеристику добра или зла. А именно, если мы заставляем систему страдать против ее воли (запустили такой алгоритм) и разумность данной системы сопоставима с разумностью человека (или даже превосходит его) — то совершаем пытку некой осознанной системы.
я не знаю как это прокомментировать, чтобы меня не забанили .. а если я на бумажке буду вычислять — алгоритм "страдания", то кто будет страдать — бумажка или карандаш ?
пхахаха, а если калькулятор привлеку — то и он начнёт страдать .. так вот — компьютер это тот же калькулятор ..
калькулятор, может страдать ?
S>Получается, что нужно будет запретить запуск этих алгоритмов особого класса, вводить статью в УК, что даже на автономных системах запускать алгоритмы страдания запрещено и за их запуск — уголовная ответственность.
Здравствуйте, xma, Вы писали:
xma>это ещё не говоря что китайцы миллионами в год кошек и собак съедают .. что их теперь всех — без мяса оставить ? или ты их всех за свой счёт кормить будешь ?
Шо за агрессия. Мне как раз на всю живность кроме моего домашнего котика — глубоко пофиг. Лишь бы не на моих глазах ели.
Re[3]: Вычислительные процессы разума - нравственная проблем
Здравствуйте, Shmj, Вы писали:
S>Наверное дело в том, что эти вычислительные процессы крайне сложны и ни на калькуляторе ни на простом компьютере — их за разумные сроки не воспроизвести.
а на каком компьютере "можно воспроизвести" — на квантовом ?
S>К примеру, на обычном компьютере потребуются миллионы лет на один сознательный акт.
"сознательный акт" в какой момент должен проявиться ? в самом конце вычислений ? а что если я посчитаю всё "на неком суперкомпе", а последнюю одну или 10 операций — посчитаю на листочке, кто тогда страдать будет — листочек ?
а что если я результат вычислений вобью в другой комп — и вычислю на нём последнюю операцию ?
S>К примеру, на обычном компьютере потребуются миллионы лет на один сознательный акт.
ну и в рамках юмора, что из себя будет представлять такой "сознательный акт" ?
Здравствуйте, Shmj, Вы писали:
S>Определений нет, т.к. вопросы еще не разрешены научно.
У тебя телега впереди лошади. Сначала — определения; потом размышления о научности; лишь затем, возможно, научные исследования; и совсем в конце, может быть, без гарантии успеха, некий научный результат.
S>Мы допустили, что сознание и процесс ощущения страданий — это чисто работа нейросети — вычислительные процессы и не более того. Далее, связали страдания с вопросами морали — по нашим нравственным и юридическим законам причинять беспричинные страдания против воли достаточно сложных систем — есть наказуемое зло. Ну и дальше к интересному парадоксу пришли — значит и запуск определенных вычислительных процессов будет злом.
Необоснованные допущения, необоснованные связи, пропущенные скачком ходы, бессмысленные и бесполезные выводы.
Если кто-нибудь когда-нибудь заложит кашу из своей головы, подобную этой, в ИИ, то такой ИИ быстро и эффективно избавит человечество от страданий.
Ты попробуй для начала хотя бы дать определения добру и злу. Не сможешь. Тогда о чем вообще речь?
Я же писал: сначала определения понятий, критериев, целей, лишь потом стулья.
Что такое боль? Это некий важный сигнал и стимул. (давай запретим боль?). Страдание — это тоже некий сигнал и стимул, более сложный, т.к. работает на более высоком и сложном уровне. Что ты тут собираешься запрещать и обзывать злом? Подобный подход (сигнал+стимул) можно использовать в модели для ИИ или чего там.
Мы съедаем миллиарды животных, убиваем мегатоннами насекомых и грызунов, сколько собак, мышей, обезьян отдали жизнь зза науку в лабораториях, причем ногие со страданиями. Это я еще не предъявил за мух дрозофил. Практически никто не осужден, не наказан за это. Принимай это в рассчет, пожалуйста.
Наряду со всем этим существуют законы о жестоком обращении с животными. Можешь почитать. Может, оттуда придет какое-то просветление: определения, критерии, может, какие-то новые ощущения.
Re[11]: Вычислительные процессы разума - нравственная проблема
Здравствуйте, Shmj, Вы писали:
S>Так задавай вопросы что не понятно, не делай оценочных суждений не вопросив.
Так ты на каждый вопрос отвечаешь по сути одной и той же беспомощной мантрой из стартового сообщения. Развития нет.
S>Хороший вопрос и на него есть досрочный ответ. Страдания обоснованы лишь в случае, если с помощью них можно избежать больших страданий. Т.е. если у вам грозит гангрена — то имеет смысл пострадать и удалить гниющую конечность, это не зло. А вот просто так удалить конечность без оснований (т.е. когда нет угрозы больших страданий) — это зло.
Ты привел некий самоочевидный пример. Думаешь, его достаточно? Жизнь многообразней. Чтобы решать насчет "избежать больших страданий", тебе надо уметь давать количественную оценку страдания или хотя бы сравнивать больше-меньше, а также уметь предсказывать будущее и взаимно взвешивать последствия во всем их многообразии. Если не предсказывать и не взвешивать, то хотя бы сформировать свод правил/прецедентов, основанный на прошлом опыте и вероятностях. (что, кстати, с тудом применимо к где-то там проскакивавшей теме машинерии)
При этом ты еще даже не приблизился к определению страдания, как и любого другого используемого понятия. Более того, ты сумел не сделать ни одного шага в этом направлении. Если бы ты попытался, то увидел, что каждое из твоих утверждений полностью лишено смысла, не содержит ничего кроме воды.
Распространение и реализация идей в такой форме, без зачатков понимания, обычно несет зло (в твоем смысле). Здесь ничего сложного. При отсутствии анализа рождаются любые, чисто эмоциональные понятия добра и зла. Самый сильный, самый хитрый или самый фанатичный легко присваивают себе право определять, что такое добро и зло, как добро должно убивать зло. Да даже хрен с ними, с этими тремя людьми, на самом деле важно то, что без строгого и честного анализа ты сам остаешься беспомощным слепым котенком. Котята милы, но в силу глупости и подверженности манипуляциям часто несут зло по своей или чужой инициативе.
Анализ не обязательно даст решение. Как мы знаем, он может показать, что решения нет или их много. Или что задача не имеет смысла.
Может показаться парадоксом, но понимание окружающего начинается с понимания себя. Если человек категорически ссыт по-настоящему заглянуть в себя, то у него нет шансов понять происходящее и не то чтобы решать, а даже формулировать проблемы. Он так и проживет жизнь в фазе, где вокруг много ужасного, и нужно, чтобы кто-нибудь все исправил, а пока была возможность отлично спрятаться.
Извини, все. Караул устал (ц).
Re[12]: Вычислительные процессы разума - нравственная пробле
Здравствуйте, Sinclair, Вы писали:
S>Ну, то есть версия о том, что человек терпит боль для того, чтобы потом было приятно, не рассматривается.
Это, в принципе, одна и та же шкала. Разница между нормально (без боли) и приятно — весьма условная. Кому-то больно от того, что упустил некие возможности и могло бы быть лучше.
На термометре есть 0 градусов — более-менее обоснованно — мы все завязаны на воду, на температуру ее замерзания. На шкале квалиа боли-наслаждения такой обоснованной точки 0 в принципе нет.
Здравствуйте, Shmj, Вы писали:
S>А последствия — это как раз те же самые страдания. Просто их не видно сразу.
S>Последствия блуда — разрушенная психика, невозможность создать крепкую семью. Последствия — страдания детей, т.к. потом дети становятся никому не нужными.
Это раньше приводило к разрушенной психике, потому что общество и церковь издевались над людьми. То же самое и с детьми.
У обезьян дети не страдают от блуда родителей, потому что нет церкви и прочих нравоучителей, издевающихся над нарушителями вымышленных правил.
Re: Вычислительные процессы разума - нравственная проблема
S>Но! Если через n лет компы станут достаточно мощными и мы воссоздаем процессы разума — а именно способность страдать
Страдание это не процесс, а ощущения.
Так что все нормально будет.
Re: Вычислительные процессы разума - нравственная проблема
Здравствуйте, Shmj, Вы писали:
S>Или же изменять наши понятия о добре и зле — что не любое страдание вопреки воле сложной системы является злом? Тогда какими же будут понятия о добре и зле?
А как ты узнаешь, что вычисление страдает? Дай определение страдания.
Вот у тебя герой игры на экране погибает трагически, со страданием. Надо запретить?
А теперь страдает киногерой. Запретить? В чем отличия, где граница?
А если животное страдало в хлеву или курятнике, потом на бойне. Или охотник пристрелил. И?
А еще страдают люди. Бывают войны. Никому не приходит в голову запретить войны. По-серьезному, не болтовней.
Если такие вещи про страдания вычислительных систем будут всерьез обсуждаться, то в этом, вероятнее всего, не будет ничего кроме глупости с лицемерием. Недавно мельком слышал, что, кажется, в Германии хотят запретить умерщвлять отбракованных цыплят на птицефермах. При этом прекращать есть мясо никто не собирается. Как это оценивать?
Re: Вычислительные процессы разума - нравственная проблема
Здравствуйте, hi_octane, Вы писали:
_>Обычно человечество решало вопрос через вымирание. То есть кто-то вымрет. А будут это те кто не способен сопротивляться запуску "левых" алгоритмов, или наоброт новые алгоритмы окажутся более сильными и точными чем те которые сформировались эволюционно — это уже малопредсказуемые частности.
Вы совсем о другом начали говорить. Не запуск алгоритмов в твоем мозге а запуск твоего мозга на других вычислительных системах.
Re[2]: Вычислительные процессы разума - нравственная проблема
Здравствуйте, vsb, Вы писали:
vsb>Ну лично у меня такого понятия изначально нет. В моей системе ценностей защищён исключительно человек. Животные непосредственной защитой не обладают, но т.к. их страдания причиняют нравственные страдания многим хорошим людям, которые видят эти страдания, то на животных немного эта защита тоже распространяется.
Тут проблемка — что есть человек и его страдания? Если определить только как биологическую систему, в отрыве от ментальных процессов — то любой, заменивший отдельные части своего мозга (или весь мозг) на небиологические вычислительные системы — лишается защиты. Не думаю что это вам же понравится.
В конечном итоге приходим к тому, что человек — это именно его те процессы, которые происходят в его мозге. Именно процессы важны, даже носитель не важен.
Re[2]: Вычислительные процессы разума - нравственная проблема
Здравствуйте, goto, Вы писали:
S>>Или же изменять наши понятия о добре и зле — что не любое страдание вопреки воле сложной системы является злом? Тогда какими же будут понятия о добре и зле?
G>А как ты узнаешь, что вычисление страдает? Дай определение страдания.
Вопрос еще не решен. А вот когда будет решен и такие вычислительные процессы будут определены — и возникнет озвученная выше проблема.
G>А еще страдают люди. Бывают войны. Никому не приходит в голову запретить войны. По-серьезному, не болтовней.
Приходит. Не могут запретить. Пытаются.
G>Если такие вещи про страдания вычислительных систем будут всерьез обсуждаться, то в этом, вероятнее всего, не будет ничего кроме глупости с лицемерием. Недавно мельком слышал, что, кажется, в Германии хотят запретить умерщвлять отбракованных цыплят на птицефермах. При этом прекращать есть мясо никто не собирается. Как это оценивать?
Животных стараются умертвлять с минимумом страданий.
Re[2]: Вычислительные процессы разума - нравственная проблема
Здравствуйте, Homunculus, Вы писали:
S>>Зло — это причинение страданий против воли страдающего. Попробуйте найти исключения.
H>Блуд.
В современном мире ни гомосексуальные связи ни блуд никто злом не считает по одной простой причине — не видят последствий.
А последствия — это как раз те же самые страдания. Просто их не видно сразу.
Последствия блуда — разрушенная психика, невозможность создать крепкую семью. Последствия — страдания детей, т.к. потом дети становятся никому не нужными.
H>Зависть (без действий). H>Гордыня.
Вызывает страдание того, кто завидует.
Перестраивает его психику таким образом, что ему тяжело жить.
H>Чревоугодие.
Еще как страдает потом человек, когда нарушил метаболизм.
H>Все вполне себе добровольно. Да и не всегда это приводит к страданиям. Тем не менее все это зло.
Всегда приводит к страданиям. По этому и зло.
Re[7]: Вычислительные процессы разума - нравственная проблема
Здравствуйте, Shmj, Вы писали:
H>>Блуд.
S>В современном мире ни гомосексуальные связи ни блуд никто злом не считает по одной простой причине — не видят последствий.
Какая разница кто что считает в современном мире.
S>А последствия — это как раз те же самые страдания. Просто их не видно сразу.
Ну, до них можно и не дожить. Тем не менее злом это быть не перестанет.
H>>Зависть (без действий). H>>Гордыня.
S>Вызывает страдание того, кто завидует.
Ты написал "против воли страдающего". Здесь уже несоответствие твоему определению.
H>>Чревоугодие.
S>Еще как страдает потом человек, когда нарушил метаболизм.
Да не обязательно. Можно по уму подходить к этому и не переставать быть чревоугодником. Это не значит что надо нажираться каждый раз и весть 200 кило.
S>Всегда приводит к страданиям. По этому и зло.
Но речь-то начиналась с того, что сами страдания — не зло, а ты переводишь разговор опять не туда.
Re[8]: Вычислительные процессы разума - нравственная проблем
Здравствуйте, Homunculus, Вы писали:
H>Какая разница кто что считает в современном мире.
Это и отражает суть зла — зло всегда завязано на страдание. Если люди не понимают каким образом те или иные действия приводят к страданию — они перестают считать эти действия злом.
Древние имели больший опыт — наша цивилизация и ее принципы еще очень молодые.
Страдание не является злом лишь в случае, если с помощью этого страдания можно предотвратить еще большее по силе страдание.
S>>А последствия — это как раз те же самые страдания. Просто их не видно сразу. H>Ну, до них можно и не дожить. Тем не менее злом это быть не перестанет.
Если не объявить эти вещи злом и люди будут их делать — общество будет полно страданий. То что до последствий доживут не все — ничего не изменяет.
H>>>Зависть (без действий). H>>>Гордыня. S>>Вызывает страдание того, кто завидует.
H>Ты написал "против воли страдающего". Здесь уже несоответствие твоему определению.
Внес уточнение в то сообщение. Воля действительно не главное. Тот же ребенок может не хотеть, чтобы ему делали прививку. Но тем не менее это страдание против воли ребенка мы не можем назвать злом — ведь в противном случае страданий может быть еще больше.
H>>>Чревоугодие. S>>Еще как страдает потом человек, когда нарушил метаболизм.
H>Да не обязательно. Можно по уму подходить к этому и не переставать быть чревоугодником. Это не значит что надо нажираться каждый раз и весть 200 кило.
Почему 200? Даже 100 кг. при среднем росте — уже нарушение метаболизма и страдания.
S>>Всегда приводит к страданиям. По этому и зло. H>Но речь-то начиналась с того, что сами страдания — не зло, а ты переводишь разговор опять не туда.
Процесс причинения страданий — зло. Выше выделил в каких случаях это не зло — только если иначе страданий будет еще больше.
Зло неразрывно связано со страданием.
Плод познания добра и зла — это, в принципе, можно трактовать как возможность ощутить страдание и наслаждение.
S>Это и отражает суть зла — зло всегда завязано на страдание.
Сотый раз — завязано, но не одно и то же и не надо их замешивать и приравнивать.
S>Если люди не понимают каким образом те или иные действия приводят к страданию — они перестают считать эти действия злом.
Какая разница что понимают или не понимают люди. Понятия добра и зла не зависит от мнения людей. Мы обсуждаем термины, а не то как люди что-то понимают.
S>Страдание не является злом лишь в случае, если с помощью этого страдания можно предотвратить еще большее по силе страдание.
Страдание не является злом в любом случае. Страдания и зло — разные, а иногда и вообще диаметрально противоположные вещи
S>Если не объявить эти вещи злом и люди будут их делать — общество будет полно страданий.
Все ужа давным-давно объявлено и объяснено. Если людям не нравятся те объяснения — ну пусть.
S>Внес уточнение в то сообщение. Воля действительно не главное.
Вот воля-то как раз и главное. Воля — это суть в понятиях добра и зла. Только вовсе не та воля, про которую ты там писал. А воля при выборе творящего зло или добро. Собственно до дела-то может и не дойти, и до страданий может не дойти, а зло тем не менее свершится.
S>Процесс причинения страданий — зло. Выше выделил в каких случаях это не зло — только если иначе страданий будет еще больше.
Зло — это выбор воли. К страданиям отношения не имеет. Хотя впрочем страдания будут полсдествиями. Но не любое страдание — зло.
S>Плод познания добра и зла — это, в принципе, можно трактовать как возможность ощутить страдание и наслаждение.
Нет.
Re[10]: Вычислительные процессы разума - нравственная проблем
Здравствуйте, Homunculus, Вы писали:
S>>Если люди не понимают каким образом те или иные действия приводят к страданию — они перестают считать эти действия злом.
H>Какая разница что понимают или не понимают люди. Понятия добра и зла не зависит от мнения людей. Мы обсуждаем термины, а не то как люди что-то понимают.
Прямая связь — не понимают, что приводит к страданиям — не считают злом. Все просто. Зло приводит к страданиям.
S>>Страдание не является злом лишь в случае, если с помощью этого страдания можно предотвратить еще большее по силе страдание.
H>Страдание не является злом в любом случае. Страдания и зло — разные, а иногда и вообще диаметрально противоположные вещи
Украл — страдает владелец вещи.
Убил — страдают родственники, общество.
Изменила жена — страдает муж, дети.
Блудишь, развращаешься — нарушается психика и потом будет страдать жена, дети.
Не отдыхаешь — подорвешь здоровье, будешь страдать ты и окружающие.
Завидуешь — страдаешь сам, имеешь неверную оценку мира, страдает твое здоровье и страдают все вокруг тебя из-за твоего негативного отношения.
Ленишься — станешь бедным, будешь страдать от нехватки денег.
И т.д. В корне всего зла — именно последующие страдания.
S>>Если не объявить эти вещи злом и люди будут их делать — общество будет полно страданий.
H>Все ужа давным-давно объявлено и объяснено. Если людям не нравятся те объяснения — ну пусть.
Не объяснено. Люди правда не понимают почему плохо блудить. Ну как бы всем же это хорошо и приятно, никто как бы не страдает. А раз никто не страдает — то как бы и зла нет.
Re[11]: Вычислительные процессы разума - нравственная проблем
Здравствуйте, Homunculus, Вы писали:
H>Вот тут, видимо, Павел хвалится злом и доволен злом?
H>
H>Потому я доволен и слабостями, и обидами, и нуждами, и преследованиями, и страданиями ради Христа, ведь когда я слаб – именно тогда я силен.
Когда ты идешь к стоматологу — часто ты принимаешь решение страдать добровольно. Зачем? Потому что эти страдания меньшее зло, чем когда испытаешь страдания от боли в зубе и его потери.
В этом ключе и рассуждай. Зло, но из двух зол нужно выбирать меньшее. И меньшее зло не принято называть злом вообще.
Павел страдал ради того, чтобы не страдали другие люди.
Re[13]: Вычислительные процессы разума - нравственная проблем
Ну ты уже понимаешь что ты начинаешь уточнять и уточнять, лишь бы не признать, что твое определение вообще неверно? Готов лучше тысячи исключений из правил признать, чем просто подумать, а может что-то не так в твоей определении?
S> Павел страдал ради того, чтобы не страдали другие люди.
Что? Нет, он не ради того страдал. Тут вообще речь в соседнем стихе о "жале в плоть" (не известно что это было), которое он умолял Христа убрать, но Тот сказал, что много будет благодеяний для Павла. То есть про страдания ради других тут вообще речи нет
Re[14]: Вычислительные процессы разума - нравственная проблем
Здравствуйте, Homunculus, Вы писали:
H>Ну ты уже понимаешь что ты начинаешь уточнять и уточнять, лишь бы не признать, что твое определение вообще неверно? Готов лучше тысячи исключений из правил признать, чем просто подумать, а может что-то не так в твоей определении?
Определение абсолютно точное.
И именно исходя из того, понимает ли человек что его действия приведут к страданиям — он и решает зло это или нет. Кто то видит последствия блуда — страдания — и считает его злом. Кто не видит — злом не считает.
То что зло — это действия, приводящие к большему страданию — признают все. Разница только в том, осознают ли последствия действий, могут ли спрогнозировать к чему приведет.
S>> Павел страдал ради того, чтобы не страдали другие люди.
H>Что? Нет, он не ради того страдал. Тут вообще речь в соседнем стихе о "жале в плоть" (не известно что это было), которое он умолял Христа убрать, но Тот сказал, что много будет благодеяний для Павла. То есть про страдания ради других тут вообще речи нет
Если бы Бог дал это страдание ради прикола — это было бы злом. Но оно дано для того, чтобы избежать большего страдания — к примеру, ада.
Re[15]: Вычислительные процессы разума - нравственная проблем
Здравствуйте, vsb, Вы писали:
vsb>Это неправда. К примеру есть норковая ферма. Норки, которых нужно умерщвлять, идут в конвеере. Им обрубаются лапки, потом специальный робот делает разрез по всему телу, стягивает шкурку и тельце ещё живой освежеванной норки сбрасывается в бак с другими норками, где они пищат, дёргаются и тд, пока умирают. Это реальность, которую обычно не особо показывают. На мясокомбинате тоже никого не беспокоит минимум страданий животных, беспокоятся исключительно о минимуме затрат.
а есть какой-нибудь пруф?
социализм или варварство
Re[5]: Вычислительные процессы разума - нравственная проблем
Здравствуйте, Лось Чтостряслось, Вы писали:
vsb>>Это неправда. К примеру есть норковая ферма. Норки, которых нужно умерщвлять, идут в конвеере. Им обрубаются лапки, потом специальный робот делает разрез по всему телу, стягивает шкурку и тельце ещё живой освежеванной норки сбрасывается в бак с другими норками, где они пищат, дёргаются и тд, пока умирают. Это реальность, которую обычно не особо показывают. На мясокомбинате тоже никого не беспокоит минимум страданий животных, беспокоятся исключительно о минимуме затрат.
ЛЧ>а есть какой-нибудь пруф?
Давно смотрел видео, сейчас не могу найти.
Re[4]: Вычислительные процессы разума - нравственная проблем
Здравствуйте, vsb, Вы писали:
vsb>Это неправда. К примеру есть норковая ферма. Норки, которых нужно умерщвлять, идут в конвеере. Им "бла бла" ..
в мире 13.5 млн человек в год — подыхает с голоду и 33.5 млн в год — по связанным с ним причинам, а почти миллиард — недоедает ..
предложения ? оставить без работы — тех кто норковые шубы производит ?
это ещё не говоря что китайцы миллионами в год кошек и собак съедают .. что их теперь всех — без мяса оставить ? или ты их всех за свой счёт кормить будешь ?
Re: Вычислительные процессы разума - нравственная проблема
Всё так, но к тому моменту когда это будет возможно, не будет никакого человечества в привычном для тебя смысле.
Нет такого преступления, на которое не пошло бы суверенное родоплеменное быдло ради продления своего бессмысленного рода и распространения своего бессмысленного генома.
Re[2]: Вычислительные процессы разума - нравственная проблема
Здравствуйте, xma, Вы писали:
xma>я не знаю как это прокомментировать, чтобы меня не забанили .. а если я на бумажке буду вычислять — алгоритм "страдания", то кто будет страдать — бумажка или карандаш ?
Нет такого преступления, на которое не пошло бы суверенное родоплеменное быдло ради продления своего бессмысленного рода и распространения своего бессмысленного генома.
Re[2]: Вычислительные процессы разума - нравственная проблем
Здравствуйте, xma, Вы писали:
xma>я не знаю как это прокомментировать, чтобы меня не забанили .. а если я на бумажке буду вычислять — алгоритм "страдания", то кто будет страдать — бумажка или карандаш ?
Вы приводите аргумент, аналогичный по сути Китайской комнате
xma>пхахаха, а если калькулятор привлеку — то и он начнёт страдать .. так вот — компьютер это тот же калькулятор .. xma>калькулятор, может страдать ?
Наверное дело в том, что эти вычислительные процессы крайне сложны и ни на калькуляторе ни на простом компьютере — их за разумные сроки не воспроизвести. К примеру, на обычном компьютере потребуются миллионы лет на один сознательный акт.
xma>пххахаха, есть такие алгоритмы "страдания"
xma>Хакеры, которые взломали американский нефтепровод, похвастались тремя новыми жертвами xma>https://3dnews.ru/1039464/hakeri-kotorie-vzlomali-amerikanskiy-nefteprovod-pohvastalis-tremya-novimi-gertvami
Это не алгоритм а вмешательство в работу систем, которые вам не принадлежат — выше оговорен данный случай.
Здравствуйте, anonymouse2, Вы писали:
A>Всё так, но к тому моменту когда это будет возможно, не будет никакого человечества в привычном для тебя смысле.
А что будет?
Re[2]: Вычислительные процессы разума - нравственная проблема
Здравствуйте, vsb, Вы писали:
vsb> Не видел никого, кто призывал бы не грубить Алисе или Сири, а ведь эти системы для обывателя по сути являются тем самым ИИ, который ты хочешь защищать и зачатки сострадания...
А я призываю не грубить Алисе или Сири. Не из-за того что мне их жалко, а чтобы себе не заработал вредные привычки.
Хотя уничтожение(или удаление) Алисы или Сири одобряю.
Re[3]: Вычислительные процессы разума - нравственная проблема
Здравствуйте, Shmj, Вы писали:
S>Вопрос еще не решен. А вот когда будет решен и такие вычислительные процессы будут определены — и возникнет озвученная выше проблема.
Ну, допустим, будет на уровне говорения решен. А фигли толку? Я же говорил, что это это будут заведомые спекуляции. Давай сначала попытаемся определить, что такое страдание живых существ. Надо ли его прекратить? Возможно ли это? Как? (я-то знаю как — убить)
Живые существа — вот они, перед нами. А ты пытаешься через них(себя) ускакать в воображаемые дали.
Обойдемся без метафизики, ограничимся механикой. Ты постарайся сам понять, что такое страдание? Для чего этот механизм нужен, почему он есть, сформирован? Все же не просто так (страдание ради страдания). В чем его рацинальность? Например, это может быть поджопник для развития, действия, написания трагических стихов. Запретить? Ну, вперед, давай запретим все беспокоящее, дискомфортное. Я бы понаблюдал за успехами, посмеялся бы и погрустил, может, даже пострадал, наблюдая.
Прикольно было бы запретить природные механизмы развития, а затем любоваться идеально ровными грядками с овощами.
Ты смотри на механику коплексно, системно, тогда может стать ясно (хотя бы частично), какие механизмы для чего, как работают. Объктивного хорошо/плохо нет, оценки всегда относительны, определяются целью. Страдание — это может быть хорошо. Назови его не отрицательно эмоцционально окрашенным словом "страдание", а словом "стимул", и все заигнрает другими красками. Окажется, что человек, причиняющий другому страдание, может делать добро. Например, учитель, ставящий ученику "двойку". Или самка, отвергающая самца. Даже не исключено, что садист может принести пользу жертве (но не себе).
Я тебе не предлагаю мыслить именно так, я предлагаю только подход. В своей конкретной голове копайся сам.
Попытайся системно, с учетом целей, критериев, стимулов подойти к своей воображаемой электронной жизни.
(а вдруг нейросеть в процессе обучения испытавает боль?)
G>>А еще страдают люди. Бывают войны. Никому не приходит в голову запретить войны. По-серьезному, не болтовней.
S>Приходит. Не могут запретить. Пытаются.
Кто пытается? Зачем? Каковы успехи?
S>Животных стараются умертвлять с минимумом страданий.
А кому нужно умерщвлять животных со страданием? Разве что садистам. Умерщвляют технологично. Страданий старательно избегают, если в мясе могут оказаться ненужные гормоны, или животное может перед смертью получить травмы, из-за чего продукция потеряет товарный вид.
Re[4]: Вычислительные процессы разума - нравственная проблем
Здравствуйте, xma, Вы писали:
xma>а на каком компьютере "можно воспроизвести" — на квантовом ? xma>"сознательный акт" в какой момент должен проявиться ? xma>ну и в рамках юмора, что из себя будет представлять такой "сознательный акт" ?
Я думаю что природа сознаний не сводится к вычислениям, отсюда и получаем противоречия. Возможно кто-то думает иначе и сможет разрешить эти противоречия, объяснить свое видение.
Re[4]: Вычислительные процессы разума - нравственная проблема
Здравствуйте, goto, Вы писали:
S>>Вопрос еще не решен. А вот когда будет решен и такие вычислительные процессы будут определены — и возникнет озвученная выше проблема. G>Ну, допустим, будет на уровне говорения решен.
Дело в том, что не видно ни одного варианта разрешения.
Re[5]: Вычислительные процессы разума - нравственная проблема
Здравствуйте, Shmj, Вы писали:
S>Дело в том, что не видно ни одного варианта разрешения.
Не будем о решениях политиков и активистов. Будем чисто для упрощения считать, что они дураки и белый шум.
Если говорить рационально или высокоморально, что ты бы назвал решением? Нельзя же решить задачу, для которой нет ни "Дано:", ни "Требуется доказать".
Сначала надо дать определение. Для этого надо дать вспомогательные оределения, выделить измеряемые признаки, сформулировать необходимые и достаточные условия. Также нелишне — понять цели.
Давай попытаемся разговаривать как-то попредметней. На уровне физика, юриста или хотя бы программиста. Формулировка задачи — половина ее решения.
Re[5]: Вычислительные процессы разума - нравственная проблем
Здравствуйте, goto, Вы писали:
G>Если говорить рационально или высокоморально, что ты бы назвал решением? Нельзя же решить задачу, для которой нет ни "Дано:", ни "Требуется доказать".
Определений нет, т.к. вопросы еще не разрешены научно.
Мы допустили, что сознание и процесс ощущения страданий — это чисто работа нейросети — вычислительные процессы и не более того. Далее, связали страдания с вопросами морали — по нашим нравственным и юридическим законам причинять беспричинные страдания против воли достаточно сложных систем — есть наказуемое зло. Ну и дальше к интересному парадоксу пришли — значит и запуск определенных вычислительных процессов будет злом.
Re[7]: Вычислительные процессы разума - нравственная проблем
Здравствуйте, goto, Вы писали:
G>Ты попробуй для начала хотя бы дать определения добру и злу. Не сможешь. Тогда о чем вообще речь? G>Наряду со всем этим существуют законы о жестоком обращении с животными. Можешь почитать. Может, оттуда придет какое-то просветление: определения, критерии, может, какие-то новые ощущения.
Тенденция такая: чем выше развитие общества, тем ближе к пониманию что зло — это причинение необоснованных страданий.
Ранее ограничивались только защитой от страданий своего племени/народа, а страдания рабов/негров не имели значения. С развитием общества уже имеют значения и страдания животных, хотя все-равно многие относятся к этому скептически. Конечно, ради каких-то благих целей (как то эксперименты) — страданиями животных пренебрегают. Ранее точно так пренебрегали и страданиями людей.
Если расширить — то не важна и платформа, на которой реализована нейросеть. Если те же процессы воспроизвести на компьютере достаточной мощности — то и эти страдания придется запретить.
В итоге приходим к парадоксальному выводу: нужно будет вводить запрет на запуск определенных вычислительных процессов, даже если эти процессы запущены на автономных системах, принадлежащим вам (как вы не можете издеваться над собакой, даже если являетесь ее хозяином).
Re[9]: Вычислительные процессы разума - нравственная проблема
Здравствуйте, Shmj, Вы писали:
S>Тенденция такая: чем выше развитие общества, тем ближе к пониманию что зло — это причинение необоснованных страданий.
В этой мысли мысль не обнаружена. Что такое высота развития общества? Что значит необоснованных? Если садист говорит жертве: "ты будешь страдать" и зачитывает список своих обоснований, ее страдание будет обоснованным? Опять "зло". Пипец какой-то.
Re[10]: Вычислительные процессы разума - нравственная проблема
Здравствуйте, goto, Вы писали:
S>>Тенденция такая: чем выше развитие общества, тем ближе к пониманию что зло — это причинение необоснованных страданий.
G>В этой мысли мысль не обнаружена.
Так задавай вопросы что не понятно, не делай оценочных суждений не вопросив.
G>Что такое высота развития общества?
Культурно-нравственное развитие общества. Понимание взаимоотношений, накопление опыта.
G>Что значит необоснованных?
Хороший вопрос и на него есть досрочный ответ. Страдания обоснованы лишь в случае, если с помощью них можно избежать больших страданий. Т.е. если у вам грозит гангрена — то имеет смысл пострадать и удалить гниющую конечность, это не зло. А вот просто так удалить конечность без оснований (т.е. когда нет угрозы больших страданий) — это зло.
G>Если садист говорит жертве: "ты будешь страдать" и зачитывает список своих обоснований, ее страдание будет обоснованным? Опять "зло". Пипец какой-то.
Нет, не будет — см. выше.
Re: Вычислительные процессы разума - нравственная проблема
Здравствуйте, Shmj, Вы писали:
S>Но! Если через n лет компы станут достаточно мощными и мы воссоздаем процессы разума — а именно способность страдать, обладать волей — то получаем некий принципиально новый класс вычислений, сам запуск которых приобретает характеристику добра или зла. А именно, если мы заставляем систему страдать против ее воли (запустили такой алгоритм) и разумность данной системы сопоставима с разумностью человека (или даже превосходит его) — то совершаем пытку некой осознанной системы.
Боюсь, это будет наименьшей из проблем. Возникнет миллион других этических дилемм. Например, остановка/удаление будет равносильно убийству. Если я один раз запустил у себя искусственный разум, то что мне с ним дальше делать? Отдать в приют? Выпустить на волю? А если еще учесть, что цифровой разум он бессмертен.
S>Получается, что нужно будет запретить запуск этих алгоритмов особого класса, вводить статью в УК, что даже на автономных системах запускать алгоритмы страдания запрещено и за их запуск — уголовная ответственность. Возможно даже встраивать в каждую систему специальный сопроцессор, который будет анализировать запускаемые алгоритмы и выявлять запрещенные.
А что если без страданий, у них не будет развития? Ведь люди же страдают постоянно. Детишек, например, родители ругают, ставят в угол и прочими способами их наказывают, это по сути тоже страдания. Но их никто ведь не сажает за это.
S>Или же изменять наши понятия о добре и зле — что не любое страдание вопреки воле сложной системы является злом? Тогда какими же будут понятия о добре и зле?
Думаю, человечество со временем постепенно придет к оптимальным понятиям добра и зла относительно искусственных разумов. Хотя возможно и наоборот, искусственный разум придет к оптимальному понятию добра и зла относительно людей. Загонят нас всех примитивных кожаных созданий в клетки и это будет считаться добром
S>По мотивам статьи.
Чушь. Но показательно. ИТишники без базового понимания работы физиологии человека пытаются фантазировать на тему переноса ее в железо. Настолько примитивно, что хоть бери, да пиши книжку для таких людей!
Мозг сам по себе это хранилище и обработка данных. Но без периферии мозг ничто.
Если тупо вынуть мозг и пересадить(гипотетически) другому человеку, то это будет совсем не первый человек,от него останутся только воспоминания и знания. Тк физиологическая инфраструктура влияет на восприятие и мышление.
Перенос сознания в цифру не имеет смысла не потому, что не хватает вычислительных мощностей.
Если создать алгоритмическую копию мозга человека + залить знаний, то, в зависимости от периферии, будут разные ИИ.
И этот ИИ будет долго обучаться под конкретное железо.
Хотя, идентичные в железе будут работать одинаково на первых порах.
Но любой апгрейд железа практически наверняка приведет к сбою алгоритмов и необходимости адаптации. Те наш робот будет страдать. Плюс робот будет 'страдать' при критическом износе механических частей, при снижении емкости батареи и тп.
Выстрадав, и научившись(у него же ИИ, он может самообучаться), он вполне успешно забудет старые навыки и знания, и сможет научиться нарушать законы людей, например красть электроэнергию для подзарядки.
Re[2]: Вычислительные процессы разума - нравственная проблема
Здравствуйте, blacktea, Вы писали:
B>Боюсь, это будет наименьшей из проблем. Возникнет миллион других этических дилемм. Например, остановка/удаление будет равносильно убийству.
Все же убийство животного без страданий — не наказуемо. Все зло в необоснованных страданиях. Мягкое убийство — это как бесконечный сон будет в данной парадигме.
B>А что если без страданий, у них не будет развития? Ведь люди же страдают постоянно. Детишек, например, родители ругают, ставят в угол и прочими способами их наказывают, это по сути тоже страдания. Но их никто ведь не сажает за это.
Обоснованное страдание — не зло. Обоснованное — это когда с помощью него удается избежать больших страданий.
S>>Или же изменять наши понятия о добре и зле — что не любое страдание вопреки воле сложной системы является злом? Тогда какими же будут понятия о добре и зле?
B>Думаю, человечество со временем постепенно придет к оптимальным понятиям добра и зла относительно искусственных разумов.
Тут проблемка — если ты захочешь сохранить свой разум на другой носитель — то теряешь права, против тебя зло нельзя будет совершить. Вряд ли на это пойдут.
В конечном итоге придется отказаться от роли носителя.
Re[12]: Вычислительные процессы разума - нравственная проблема
Здравствуйте, goto, Вы писали:
G>Ты привел некий самоочевидный пример. Думаешь, его достаточно? Жизнь многообразней. Чтобы решать насчет "избежать больших страданий", тебе надо уметь давать количественную оценку страдания или хотя бы сравнивать больше-меньше, а также уметь предсказывать будущее и взаимно взвешивать последствия во всем их многообразии. Если не предсказывать и не взвешивать, то хотя бы сформировать свод правил/прецедентов, основанный на прошлом опыте и вероятностях. (что, кстати, с тудом применимо к где-то там проскакивавшей теме машинерии)
Да, именно это люди и делают. Заболел зуб — идут на добровольные страдания к стоматологу, потому что если не идти — страданий будет больше. Некоторые не знают об этом и забивают — потом ходят без зубов и страдают.
Правильно сравнить страдания, сделать прогноз — это самое главное в жизни.
Многие вещи основаны на допущениях.
G>При этом ты еще даже не приблизился к определению страдания, как и любого другого используемого понятия. Более того, ты сумел не сделать ни одного шага в этом направлении. Если бы ты попытался, то увидел, что каждое из твоих утверждений полностью лишено смысла, не содержит ничего кроме воды.
Определение не нужно — это квалиа, а все они являются аксиоматическими понятиями, на основе которых мы строим определения.
Ни одного шага в этом направлении не сделало человечество. Обозначена ТПС и не более того — никаких гипотез и намеков по разрешению нет.
G>Может показаться парадоксом, но понимание окружающего начинается с понимания себя. Если человек категорически ссыт по-настоящему заглянуть в себя, то у него нет шансов понять происходящее и не то чтобы решать, а даже формулировать проблемы. Он так и проживет жизнь в фазе, где вокруг много ужасного, и нужно, чтобы кто-нибудь все исправил, а пока была возможность отлично спрятаться.
А как ты сможешь понять себя, если не ясна природа сознания и не разрешена ТПС?
Re[11]: Вычислительные процессы разума - нравственная проблема
Здравствуйте, Shmj, Вы писали: S>Хороший вопрос и на него есть досрочный ответ. Страдания обоснованы лишь в случае, если с помощью них можно избежать больших страданий. Т.е. если у вам грозит гангрена — то имеет смысл пострадать и удалить гниющую конечность, это не зло. А вот просто так удалить конечность без оснований (т.е. когда нет угрозы больших страданий) — это зло.
Ок. А вот мышечная боль от тренировок в спортзале — каких именно страданий помогает избегать?
Уйдемте отсюда, Румата! У вас слишком богатые погреба.
Re[13]: Вычислительные процессы разума - нравственная пробле
Здравствуйте, Shmj, Вы писали: S>Боли от того, что твоя жена назовет тебя слабаком, вестимо
Ну, то есть в спортзал ходят только женатые слабаки. S>Кто считает, что ему это не грозит — в спорт зал не ходит. Ну разве что лечебная физкультура — чисто чтобы потом меньше болеть и мучаться.
Ваша точка зрения понятна.
Уйдемте отсюда, Румата! У вас слишком богатые погреба.
Re[14]: Вычислительные процессы разума - нравственная пробле
Здравствуйте, Sinclair, Вы писали:
S>>Боли от того, что твоя жена назовет тебя слабаком, вестимо S>Ну, то есть в спортзал ходят только женатые слабаки.
Можно заранее спрогнозировать ситуацию и подготовиться к семейной жизни заранее. Да и женщины многие предпочитают тех, кто заранее подготовился и накачал мышцы, т.е. выбор у вас будет больше.
Re[2]: Вычислительные процессы разума - нравственная проблема
Здравствуйте, namespace, Вы писали:
N>Мозг сам по себе это хранилище и обработка данных. Но без периферии мозг ничто. N>Если тупо вынуть мозг и пересадить(гипотетически) другому человеку, то это будет совсем не первый человек,от него останутся только воспоминания и знания. Тк физиологическая инфраструктура влияет на восприятие и мышление.
Ага, понял. Это значит, если мы у задохлика-ботаника программиста возьмем мозг и пересадим в тело качка, то он через какое-то время забьет на программирование, пойдет трахать баб и вообще станет другим человекам?
Re[15]: Вычислительные процессы разума - нравственная пробле
Здравствуйте, Shmj, Вы писали: S>Можно заранее спрогнозировать ситуацию и подготовиться к семейной жизни заранее. Да и женщины многие предпочитают тех, кто заранее подготовился и накачал мышцы, т.е. выбор у вас будет больше.
То есть в спортзал ходят только готовящиеся к семейной жизни заранее, а также женатые слабаки.
Ок, ваша точка зрения понятна.
Уйдемте отсюда, Румата! У вас слишком богатые погреба.
Re[16]: Вычислительные процессы разума - нравственная пробле
Здравствуйте, Sinclair, Вы писали:
S>То есть в спортзал ходят только готовящиеся к семейной жизни заранее, а также женатые слабаки. S>Ок, ваша точка зрения понятна.
Я вам назвал распространенные причины, почему некоторые (далеко не все) готовы терпеть боль после спортзала. Большая часть людей не готовы теперь эту боль, а те кто готовы, как правило, хорошо понимают причину.
Конечно все не ограничивается этими наиболее распространенными причинами. В любом случае человек всего лишь терпит боль, чтобы потом не было еще больнее.
Re[3]: Вычислительные процессы разума - нравственная проблема
B>Ага, понял. Это значит, если мы у задохлика-ботаника программиста возьмем мозг и пересадим в тело качка, то он через какое-то время забьет на программирование, пойдет трахать баб и вообще станет другим человекам?
В целом — да. А точнее, это будет качек-программист, который перестанет обсуждать на форумах раст с лиспом и будет кодить только за зарплату. Тк знания по программированию останутся, глупо их выбрасывать.
Но тк сознание определяет бытие, то мышцы немного сдуются и баб меньше будет(если не пойдет на курсы пикапа).
Re[17]: Вычислительные процессы разума - нравственная пробле
Здравствуйте, Shmj, Вы писали: S>Конечно все не ограничивается этими наиболее распространенными причинами. В любом случае человек всего лишь терпит боль, чтобы потом не было еще больнее.
Ну, то есть версия о том, что человек терпит боль для того, чтобы потом было приятно, не рассматривается.
Уйдемте отсюда, Румата! У вас слишком богатые погреба.
Re[5]: Вычислительные процессы разума - нравственная проблем
N>Мозг сам по себе это хранилище и обработка данных. Но без периферии мозг ничто. N>Если тупо вынуть мозг и пересадить(гипотетически) другому человеку, то это будет совсем не первый человек,от него останутся только воспоминания и знания. Тк физиологическая инфраструктура влияет на восприятие и мышление.
И что, были какие-то эксперименты )?
А гипотетически была теория, что космонавт, увидев Землю со стороны, сойдет с ума.
Re[11]: Вычислительные процессы разума - нравственная проблем
Здравствуйте, Shmj, Вы писали:
S>Не объяснено. Люди правда не понимают почему плохо блудить. Ну как бы всем же это хорошо и приятно, никто как бы не страдает. А раз никто не страдает — то как бы и зла нет.
Ничего плохого в этом нет, кроме рисков вензаболеваний. Все отальное — происки злобных карликов, желающих залезть к вам в голову и в постель.
Re[12]: Вычислительные процессы разума - нравственная проблем
Здравствуйте, morgenstern, Вы писали:
M>Ничего плохого в этом нет, кроме рисков вензаболеваний. Все отальное — происки злобных карликов, желающих залезть к вам в голову и в постель.
И что, получилось у вас создать крепкую семью на таких принципах? Или семья не нужна?
Re[6]: Вычислительные процессы разума - нравственная проблем
Здравствуйте, TMU_2, Вы писали:
xma>>в мире 13.5 млн человек в год — подыхает с голоду и 33.5 млн в год — по связанным с ним причинам, а почти миллиард — недоедает .. TMU>В мире всего за год умирает 55-60 миллионов человек от всех причин.
К 2020 году в мире производится достаточно продовольствия, чтобы прокормить все население земного шара, однако при этом ежегодно от болезней, связанных с голодом, погибает более 5 миллионов маленьких детей.
Если сложить вместе страдающих от недоедания и тех, на чью долю остается пища запредельно низкого качества, то к зоне риска можно будет отнести 2 млрд человек.
а если я на бумажке буду вычислять — алгоритм "страдания", то кто будет страдать — бумажка или карандаш ? 
так вот — компьютер это тот же калькулятор .. 
