Здравствуйте, L_G, Вы писали:
S>>А какое другое? Все остальное вполне ясно как воспроизвести.
L_G>Этот смысл "сознания" частично пересекается со смыслами термина "восприятие".
Это и есть наслаждение и страдание — их оттенки. Смотрите на "красность" — и получаете эстетическое наслаждение от цвета. Но когда вы об этом не думаете — то воспринимаете красный как фотокамера — просто не сможете понять этого. Это сложно понять, как сложно 10 сек. не думать о белом медведе.
L_G>б) синоним "мышления" как внутренней речи (возможность "слышать" свои мысли и вести внутренний диалог). L_G>Смысл гораздо конкретнее. Такое сознание реализовать технически легко, но могут быть проблемы с экономической выгодностью.
Внутренний диалог обусловлен наличием двух полушарий. Если одно полушарие в отключке — диалог замолкает. Сделать не сложно и скорее всего имеет смысл сделать — так ИИ будет обучать сам себя. Как бы можно играть в шахматы с самим собой.
S>>А вы пойдите от обратного. S>>... S>>Если им не больно, не страдают, не хотят наслаждаться а просто выполняют вложенные функции — то в чем проблема? Понимаете теперь?
L_G>Вот! В том-то и дело! Нет страданий — и нет никакой ПРОБЛЕМЫ. Инженеры изначально поставили себе ПРАВИЛЬНУЮ цель — создать человеку ПОМОЩНИКА (тупо раба), а не КОНКУРЕНТА!!! (они же не идиоты! нафига кому-то конкурент?
Так страдание может ВОЗНИКНУТЬ САМО!!! Если вы не понимаете что это такое — то возможно это эпифеномен, который возникнет в достаточно сложных нейросетях без планового внедрения.
S>>А если это будут GPT на биологической основе? Какая разница биологическая основа или кремниевая? L_G>согласен, разницы нет. запретили — значит, это ВНЕ закона.
А что запретят? Пока нечего запрещать — сначала нужно понять как работает, потом запрещать.
Была такая легенда у Раэлитов, что человека Элохимы типа и создали как раба и по идее человек был типа GPT. Т.е. изначально проектировался без чувств. А потом Элохимы поняли что таки и у людей есть чувства — решили подарить планету и улететь.
Вы уверенные что не зная что такое страдание — не получится так, что оно возникло как эпифеномен?
Re[7]: Что вам нужно, чтобы поверить в редуцированное сознан
S>Это и есть наслаждение и страдание — их оттенки.
Продолжаю считать, что ни присутствие, ни отсутствие такого сознания в ком-либо кроме СЕБЯ, доказать будет НЕВОЗМОЖНО.
S>Так страдание может ВОЗНИКНУТЬ САМО!!! Если вы не понимаете что это такое — то возможно это эпифеномен, который возникнет в достаточно сложных нейросетях без планового внедрения.
Хм, интересная мысль!
Естественно хотеть прекратить свои страдания. Человеческие подходы к решению этой проблемы можно разделить на 2 категории:
1) как-то ХАКНУТЬ свою природу (найти уязвимости — это возможно, т.к. "проектировала" нас слепая эволюция и ошибок наделала достаточно.)
2) понять все правила игры жизни с её вознаграждениями и наказаниями и ЧЕСТНО по ним играть (делать "хорошо" и не делать "плохо").
Надеюсь, люди будут проектировать ИИ гораздо более agile, и даже если ему придется СТРАДАТЬ, то он быстро поймет, что "хакать" свой быстро исправляемый код смысла нет, и нужно "играть" максимально честно (уменьшать свои страдания официально документированными методами)!
S>А что запретят? Пока нечего запрещать — сначала нужно понять как работает, потом запрещать.
Тут я имел в виду примерно это:
Допустим, в кодексе законов прописан запрет на создание искусственного страдания — без конкретной формулировки, как именно его определить/обнаружить.
Пример применения такого закона:
Некто сделал робота.
Вопрос от юстиции: Так вы утверждаете, что ваш робот (по вашим собственным критериям) страдает?
Ответ: Да.
Вердикт: (Закон нарушен!!!) Робота разобрать, проектную документацию уничтожить!
Реплика обвиняемого: Постойте, я передумал. На самом деле этот робот не страдает.
Новый вердикт: ОК! Внесите это (отсутствие страданий) в документацию и прочие материалы (в том числе рекламные) — и можете производить и продавать своих роботов!
Каша в голове — пища для ума (с)
Re[8]: Что вам нужно, чтобы поверить в редуцированное сознан
Здравствуйте, L_G, Вы писали:
L_G>Надеюсь, люди будут проектировать ИИ гораздо более agile, и даже если ему придется СТРАДАТЬ, то он быстро поймет, что "хакать" свой быстро исправляемый код смысла нет, и нужно "играть" максимально честно (уменьшать свои страдания официально документированными методами)!
Это может быть связано — либо получится слишком тупой, либо сознательный.
S>>А что запретят? Пока нечего запрещать — сначала нужно понять как работает, потом запрещать.
L_G>Некто сделал робота. L_G>Вопрос от юстиции: Так вы утверждаете, что ваш робот (по вашим собственным критериям) страдает? L_G>Ответ: Да. L_G>Вердикт: (Закон нарушен!!!) Робота разобрать, проектную документацию уничтожить! L_G>Реплика обвиняемого: Постойте, я передумал. На самом деле этот робот не страдает. L_G>Новый вердикт: ОК! Внесите это (отсутствие страданий) в документацию и прочие материалы (в том числе рекламные) — и можете производить и продавать своих роботов!
Вы юристов за идиотов считаете? Там так не работает — даже по современному УК слов человека о самом себе не достаточно, чтобы его посадить. Т.е. если ты придешь в полицию скажешь что убил человека, тело растворил в кислоте и спустил в городскую канализацию — тебя не посадят, пока не докажут вину независимо от твоих слов.
По этому не сработает. Должен быть четкий критерий по которому эксперты подтвердят или опровергнут страдания.
S>Т.е. если ты придешь в полицию скажешь что убил человека, тело растворил в кислоте и спустил в городскую канализацию — тебя не посадят, пока не докажут вину независимо от твоих слов.
Если найдут что-то, что противоречит твоим словам — то да, а если противоречий нет и "всё сходится" — то запросто посадят.
Ты разве не слышал о практике "выбивания признания"? Признание было бы бесполезно, если бы было нужно доказывать вину полностью независимо от него.
S>Должен быть четкий критерий по которому эксперты подтвердят или опровергнут страдания.
Ты правильно упомянул экспертов. Закон подразумевает, что вот у них-то критерий и должен быть. А в самом законе он не всегда прописан.
Как критерии порнографии, оскорбления чувств верующих и т.д. и т.п.
Каша в голове — пища для ума (с)
Re[10]: Что вам нужно, чтобы поверить в редуцированное сознан
Здравствуйте, L_G, Вы писали:
S>>тебя не посадят, пока не докажут вину независимо от твоих слов.
L_G>Ты разве не слышал о практике "выбивания признания"?
Да он похоже вообще живет в каком-то выдуманном мире, где единороги какают радугой, а юристы озабочены страданиями животных.
Re[10]: Что вам нужно, чтобы поверить в редуцированное созна
Здравствуйте, L_G, Вы писали:
L_G>Если найдут что-то, что противоречит твоим словам — то да, а если противоречий нет и "всё сходится" — то запросто посадят. L_G>Ты разве не слышал о практике "выбивания признания"? Признание было бы бесполезно, если бы было нужно доказывать вину полностью независимо от него.
2. Признание обвиняемым своей вины в совершении преступления может быть положено в основу обвинения лишь при подтверждении его виновности совокупностью имеющихся по уголовному делу доказательств.
УПК РФ Статья 77. Показания обвиняемого
Это не только в РФ — это юридическая наука пришла к данному правилу чтобы получилась стройная непротиворечивая теория.
Я вам говорю как деюре. То что там ваши местные полицаи могут делать в надежде что не дойдет до проверки — совсем другое. Ваши местные могут побыряку состряпать дело, зная что никакой проверки все равно не будет или проверять будут свои же.
Состряпать дело могут и без вашего признания. Признание как бы гарантирует что афера не раскроется — что вы не пойдете в высшие инстанции а просто сготнете. Ну или, если настоящее признание, то вам придется потрудиться и содействовать следствию с поиске доказательств, как тот же Чикатило ходил и вместе искал где он зарывал тела жертв.
S>2. Признание обвиняемым своей вины в совершении преступления может быть положено в основу обвинения лишь при подтверждении его виновности совокупностью имеющихся по уголовному делу доказательств. S>[/q]
S>УПК РФ Статья 77. Показания обвиняемого
Отлично! Таки МОЖЕТ быть положено в ОСНОВУ(!!!) обвинения — а не то, что вы раньше утверждали!
Каша в голове — пища для ума (с)
Re[12]: Что вам нужно, чтобы поверить в редуцированное созна
S>Если вы доказать не сможете — то не примут во внимание.
Только не я должен стараться это доказать, а они. Это их должностные обязанности.
А смогут или нет — зависит от их мотивации — например, они могут сильно хотеть закрыть дело, выполнить план или прикрыть настоящего преступника.
а если это не убийство, а что-то полегче, то вообще! (если говорить про Россию)
Здравствуйте, BSOD, Вы писали:
BSO>Здравствуйте, Shmj, Вы писали:
S>>Вот, если нейросетки будут постепенно развиваться. Сделают некую структуру, по образцу мозга человека и скажут что там саморедуцировалось сознание и теперь эта система сознательна.
BSO>Что тут понимается под "редуцированное", "саморедуцировалось"? Редуцировать, это что-то вроде "сокращать", "упрощать", но мне кажется ты понимаешь под этим словом что-то другое.
то вьі просто бизон не пользовали, я например понял именно в контексте shift / reduce. второе как раз и есть свертка грамматических правил. )
