Здравствуйте, Shmj, Вы писали:
S>Вас заставить страдать не сложно. Нужно чтобы некая система сама начала страдать.
Системе достаточно установить флаг страдания
Re[6]: Что такое вычисление? Эмерджентный эффект вычисления.
Здравствуйте, vsb, Вы писали:
vsb>Я не знаю, что такое таламус, какие процессы там идут и идут ли они там вообще, поэтому могу считать вышенаписанное лишь спекуляциями. Насколько я знаю, про мозг мы знаем не слишком много. Если у человека нет этого таламуса, он не испытывает страданий и мучений?
Человек может жить без половины мозга — даже без обеих полушарий, пусть и жизнью вегетативной. Но без таламуса жить не представляется возможным
Там кроме центра боли еще и центр многих жизненно необходимых систем управления.
vsb>Ощущений не существует. Сознание, ощущения это лишь фикция, которую выдумала нейросеть человека из-за каких-то своих глюков. Думаю, в том, что сновидений не существует, а они лишь фикция, необходимая мозгу по какой-то причине для отдыха ночью, мало кто сомневается. Ровно то же можно сказать и про сознание. Просто мозгу так было удобней — разделиться на несколько независимых агентов. Какой-то агент отвечает за функционирование тела, органов. Какой-то агент отвечает за выполнение примитивных биологических программ. А какой-то агент отвечает за высокоуровневое целеполагание.
Но твое страдание и наслаждение то существуют как процессы? Тебе бывает больно? Может ли больно быть некой компьютерной системе?
vsb>Какие вычисления в мозгу происходят, вряд ли мы в ближайшее время ответим, мозг слишком сложен, чтобы его анализировать на таком низком уровне, как вычисления.
В таламусе всего 15 млн. нейронов — не так много поди.
S>>Не стал бы так утверждать. Если я что-то изучаю и ошибаюсь — иногда я радуюсь больше, чем если ответил правильно. Во мне просыпается интерес — как я это я чего-то не знаю и мог ошибиться. Т.е. моя биологическая нейросеть уже не соответствует этому определению.
vsb>Ну значит твоя ошибка в некоторых случаях приводит к наслаждению. Кому-то нравится, когда его плёткой хлещут. Кто-то страдает от того, что сахар недостаточно сладкий. Пока не вижу противоречий.
Так а ты разве не радуешься, когда можно узнать что-то новое? Вот я кайфую от каждой ошибки — ведь каждая ошибка — это значит что я узнаю что-то новое и стану чуть продвинутее. Зачем страдать от этого?
Здравствуйте, kov_serg, Вы писали:
S>>Вас заставить страдать не сложно. Нужно чтобы некая система сама начала страдать. _>Системе достаточно установить флаг страдания
Здравствуйте, Shmj, Вы писали:
S>Вот я кайфую от каждой ошибки — ведь каждая ошибка — это значит что я узнаю что-то новое и стану чуть продвинутее. Зачем страдать от этого?
А ты признаешь ошибки? Не припомню. Ты наверное и компилятор каждый раз пытаешься убедить, что ты прав
Re[7]: Что такое вычисление? Эмерджентный эффект вычисления.
Здравствуйте, Shmj, Вы писали:
vsb>>Ощущений не существует. Сознание, ощущения это лишь фикция, которую выдумала нейросеть человека из-за каких-то своих глюков. Думаю, в том, что сновидений не существует, а они лишь фикция, необходимая мозгу по какой-то причине для отдыха ночью, мало кто сомневается. Ровно то же можно сказать и про сознание. Просто мозгу так было удобней — разделиться на несколько независимых агентов. Какой-то агент отвечает за функционирование тела, органов. Какой-то агент отвечает за выполнение примитивных биологических программ. А какой-то агент отвечает за высокоуровневое целеполагание.
S>Но твое страдание и наслаждение то существуют как процессы? Тебе бывает больно?
А как я это могу доказать? Я могу только сказать. Но это не научно. Сказать что угодно может и однострочная программа на питоне.
S>Может ли больно быть некой компьютерной системе?
Думаю, что этот вопрос не может считаться научным. Если ChatGPT скажет, что ему больно — можем ли мы ему поверить? Почему нет?
Поэтому я и пишу, что это фикция. Больно мне или нет, никому не известно. Может быть у меня нервы отрезаны и я боль не способен чувствовать физиологически, а просто искусно имитирую её.
vsb>>Какие вычисления в мозгу происходят, вряд ли мы в ближайшее время ответим, мозг слишком сложен, чтобы его анализировать на таком низком уровне, как вычисления.
S>В таламусе всего 15 млн. нейронов — не так много поди.
А как их анализировать? 15 млн проводов подтянуть? Так там у каждого нейрона ещё куча синапсов и в них тоже свои процессы идут, насколько я знаю. Так что там уже 150 млн проводов надо тянуть. Как это возможно? Я сомневаюсь, что это возможно. Можно анализировать один нейрон, можно анализировать какую-то обобщённую характеристику, просто смотреть, какой участок мозга проявляет активность при каких условиях, но это как анализировать процессор, измеряя, что у него нагревается больше. Можно понять, где у него АЛУ, кеш, но понять, какая у него структура на уровне транзисторов так не выйдет. Мы даже топологию такого числа нейронов и их связей проанализировать не сможем, ну по крайней мере не разрушая мозг. А уж считать их состояние (а ведь в нейросети состояние не менее важно, чем топология) — тем паче.
vsb>>Ну значит твоя ошибка в некоторых случаях приводит к наслаждению. Кому-то нравится, когда его плёткой хлещут. Кто-то страдает от того, что сахар недостаточно сладкий. Пока не вижу противоречий.
S>Так а ты разве не радуешься, когда можно узнать что-то новое?
В общем случае не радуюсь. Я могу включить ютуб и узнавать новое 16 часов в сутки. Или на википедию полезть и читать. Или книжек научных накачать. Мне жизни не хватит, чтобы прочитать хотя бы долю легко доступных мне знаний. Но я этого не делаю.
S>Вот я кайфую от каждой ошибки — ведь каждая ошибка — это значит что я узнаю что-то новое и стану чуть продвинутее. Зачем страдать от этого?
Ошибка ошибке рознь. Если у меня в программе ошибка от того, что я опечатался и вместо латинской "c" написал кириллическую и потом потратил пару дней на разбирательство того, почему c1 != с1, никакой радости такая ошибка у меня не вызовет и ничего нового я не узнаю.
Здравствуйте, Shmj, Вы писали:
S_S>>Наука не может даже подтвердить, что кто-то может(как ты выражаешься) "страдать и наслаждаться", а не просто делают вид. S>Вообще то можно — с помощью МРТ мозга. S>Т.е., по твоему, способность страдать и наслаждаться — это магия, которую раскрыть и изучать невозможно? S>Но ведь исследователи занимаются в том числе и этим вопросом.
Исследователи занимаются внешними проявлениями — поведением. Ты тут много раз поднимал вопрос может ли некий ящик страдать и наслаждаться.
Ответ однозначный — не может. Потому что это извращения — ящик с каким-то механизмом приравнивать к человеку. Ответ не рациональный, но здесь не должно быть рационального.
А если тебя интересует совсем другой аспект. То если в шкатулку положить записку — о том что она страдает и наслаждается. Приложить для большей убедительности все что тебя интересует — "молекулу Познера", МРТ, ... Тебе видимо этого будет достаточно.
S>В конечном итоге это сводится к страданию и наслаждению. Плохо вызывать необоснованные страдания а хорошо вызывать полезные наслаждения (за которыми не придет расплата). Убери наслаждения и страдания — и от хорошо/плохо ничего не останется. S>Мне это очевидно и меня удивляет, как другие люди могут этого не видеть в упор.
Это всем очевидно(я выше приложил ссылку для дошкольников). Но не все пытаются это интерпретировать извращенным способом.
Re[8]: Что такое вычисление? Эмерджентный эффект вычисления.
Здравствуйте, vsb, Вы писали:
S>>Но твое страдание и наслаждение то существуют как процессы? Тебе бывает больно? vsb>А как я это могу доказать? Я могу только сказать. Но это не научно. Сказать что угодно может и однострочная программа на питоне.
Читай о чуде под названием МРТ. Знаешь как оно работает?
S>>Может ли больно быть некой компьютерной системе? vsb>Думаю, что этот вопрос не может считаться научным. Если ChatGPT скажет, что ему больно — можем ли мы ему поверить? Почему нет?
Тут нужна эквивалентность процессов, а не внешних проявлений.
vsb>Поэтому я и пишу, что это фикция. Больно мне или нет, никому не известно. Может быть у меня нервы отрезаны и я боль не способен чувствовать физиологически, а просто искусно имитирую её.
С помощью МРТ можно следить за процессами в твоей голове реалтайм.
S>>В таламусе всего 15 млн. нейронов — не так много поди.
vsb>А как их анализировать? 15 млн проводов подтянуть? Так там у каждого нейрона ещё куча синапсов и в них тоже свои процессы идут, насколько я знаю. Так что там уже 150 млн проводов надо тянуть. Как это возможно? Я сомневаюсь, что это возможно. Можно анализировать один нейрон, можно анализировать какую-то обобщённую характеристику, просто смотреть, какой участок мозга проявляет активность при каких условиях, но это как анализировать процессор, измеряя, что у него нагревается больше. Можно понять, где у него АЛУ, кеш, но понять, какая у него структура на уровне транзисторов так не выйдет. Мы даже топологию такого числа нейронов и их связей проанализировать не сможем, ну по крайней мере не разрушая мозг. А уж считать их состояние (а ведь в нейросети состояние не менее важно, чем топология) — тем паче.
Ну можно разрушая мозг — хотя бы начать с животных. У них тоже боль и наслаждение есть — а у компьютера нет ни в каком виде.
S>>Вот я кайфую от каждой ошибки — ведь каждая ошибка — это значит что я узнаю что-то новое и стану чуть продвинутее. Зачем страдать от этого?
vsb>Ошибка ошибке рознь. Если у меня в программе ошибка от того, что я опечатался и вместо латинской "c" написал кириллическую и потом потратил пару дней на разбирательство того, почему c1 != с1, никакой радости такая ошибка у меня не вызовет и ничего нового я не узнаю.
Я в таком случае задумываюсь о поиске плагина, который такие вещи подсвечивает. По моему запросу это добавили в Resharper, к примеру.
Боль/страдание не нужно для обучения — отношение может быть разным. Страдание от ошибок может даже мешать. Да, если вас бьют ремнем при ошибках — возможно потом четкая ассоциация и будет — ошибка равно боль.
Но вот назвать механизм обучения — механизмом, обязательно реализующим наслаждение и страдание — я бы не стал.
Re[8]: Что такое вычисление? Эмерджентный эффект вычисления.
Здравствуйте, Silver_S, Вы писали:
S_S>Исследователи занимаются внешними проявлениями — поведением. Ты тут много раз поднимал вопрос может ли некий ящик страдать и наслаждаться. S_S>Ответ однозначный — не может. Потому что это извращения — ящик с каким-то механизмом приравнивать к человеку. Ответ не рациональный, но здесь не должно быть рационального.
Как раз нет — не только внешними проявлением, важны внутренние процессы.
S_S>А если тебя интересует совсем другой аспект. То если в шкатулку положить записку — о том что она страдает и наслаждается. Приложить для большей убедительности все что тебя интересует — "молекулу Познера", МРТ, ... Тебе видимо этого будет достаточно.
МРТ вы знаете как работает? С помощью него можно реалтайм в 3D наблюдать процессы в каждом из нейронов вашего мозга. Не путайте с ЭЭГ.
S>>В конечном итоге это сводится к страданию и наслаждению. Плохо вызывать необоснованные страдания а хорошо вызывать полезные наслаждения (за которыми не придет расплата). Убери наслаждения и страдания — и от хорошо/плохо ничего не останется. S>>Мне это очевидно и меня удивляет, как другие люди могут этого не видеть в упор. S_S>Это всем очевидно(я выше приложил ссылку для дошкольников). Но не все пытаются это интерпретировать извращенным способом.
Вы убеждены что изучить таламус и воспроизвести происходящие в нем процессы — не возможно. А почему такая уверенность?
Re[9]: Что такое вычисление? Эмерджентный эффект вычисления.
Здравствуйте, Shmj, Вы писали:
S>Вы убеждены что изучить таламус и воспроизвести происходящие в нем процессы — не возможно. А почему такая уверенность?
Ты тут рассуждал о вечной жизни и т.п.. Получилась извращенная мешанина.
Ну вот воспроизвели большую нейронную сеть ChatGPT-4. Ну и как этот ChatGPT-4 уже готов к вечной жизни — после того как память компьютера будет очищена, он продолжит существовать? Или для этого в нем пока не хватает "молекулы Познера" или структура связей нейронов в нем пока не достаточно точно воспроизведена и пока не обучили страдать и наслаждаться — поэтому пока не готов ?
Re[10]: Что такое вычисление? Эмерджентный эффект вычисления.
Здравствуйте, Silver_S, Вы писали:
S_S>Ты тут рассуждал о вечной жизни и т.п.. Получилась извращенная мешанина. S_S>Ну вот воспроизвели большую нейронную сеть ChatGPT-4. Ну и как этот ChatGPT-4 уже готов к вечной жизни — после того как память компьютера будет очищена, он продолжит существовать? Или для этого в нем пока не хватает "молекулы Познера" или структура связей нейронов в нем пока не достаточно точно воспроизведена и пока не обучили страдать и наслаждаться — поэтому пока не готов ?
GPT преобразует информацию из одного вида в другой. Однако он не может страдать и наслаждаться — а это главное. Нужно ли объяснять почему именно это главный аспект?
Пока нет ни одной гипотезы о том, как некий девайс может обрести способность страдать и наслаждаться — что для этого нужно. Sinclair думает что нейросеть так может — но не знает в каких случаях и какая именно нейросеть — т.е. гипотезы нет.
Я предположил, что этот феномен связан с некими фундаментальными явлениями, как то является свойством некой фундаментальной частицы. В таком случае, если я прав — то эта частица может может существовать и после смерти мозга. И это важно знать.
Re[11]: Что такое вычисление? Эмерджентный эффект вычисления.
Здравствуйте, Shmj, Вы писали:
S>Пока нет ни одной гипотезы о том, как некий девайс может обрести способность страдать и наслаждаться — что для этого нужно.
Вот ведь какой забывчивый. Гипотеза: страдание — это то, что заставляет страдающего убрать причину страдания.
Re[11]: Что такое вычисление? Эмерджентный эффект вычисления.
Здравствуйте, Shmj, Вы писали:
S>GPT преобразует информацию из одного вида в другой. Однако он не может страдать и наслаждаться — а это главное. Нужно ли объяснять почему именно это главный аспект? S>Пока нет ни одной гипотезы о том, как некий девайс может обрести способность страдать и наслаждаться — что для этого нужно. Sinclair думает что нейросеть так может — но не знает в каких случаях и какая именно нейросеть — т.е. гипотезы нет.
Нет не только гипотез, но и принципиальных способов проверить истинность или ложность каких-то утверждений на эту тему.
Есть только понятия — что является извращенными представлениями, что нет ... О таком вопросе — попадет ли ChatGPT-4 в рай или ад, после очистки памяти компьютера? ... А если его доучить получше имитировать наслаждения и страдания?
Re[3]: Что такое вычисление? Эмерджентный эффект вычисления.
L_G>>Страдание очень близко по своей сути к отрицательной обратной связи, а наслаждение — к положительной.
S>Приведите хотя бы одного человека, который этим плотно занимался и пришел к таким вводам. Для автоматического управления страдание и наслаждение как таковые не нужны — достаточно оценки правильно/не правильно.
Боюсь, тут наш диалог может упереться в неразрешимое ("религиозное" — в кавычках или даже без) противоречие: я считаю, что страдание и наслаждение — это ПОБОЧНЫЕ эффекты действия "механизмов" саморегуляции человека (управления им самим собой). И это — проявления НЕСОВЕРШЕНСТВА мира, созданного/создаваемого эволюцией. Так уж получилось, типа случайно. Вы же считаете их некоей фундаментальной основой жизни на Земле. Вроде уже многие на этом форуме пытаются Вам объяснить, что брать за основу именно их — странно и нелогично. Но эффекта нет.
С точки зрения инженера, проектирующего хоть механизм, хоть существо (условно "живое", но искусственное — если допустить, что возможна искусственная жизнь), страдание и наслаждение принципиально не отличаются от, к примеру, красной и зелёной лампочек, где-то на пульте механизма горящих (специально для сигнализации тому, кто этим механизмом управляет! если механизм управляет собой сам — СМЫСЛА В ЭТИХ ЛАМПОЧКАХ НЕТ! человек же является одновременно и "механизмом" (телом), и управляющим им (сознанием), только поэтому эти "лампочки" (страдание и наслаждение) и появились!
Зачем же такая сложность, какое-то разделение единого человека на две разных подсущности, одна из которых управляет, а другая подчиняется, нельзя ли было обойтись без этого? Да, никакой необходимости не было, просто так вот случайно у эволюции получилось, как, к примеру избыточно длинный нерв в шее у жирафа.
S>Биологические нейроны как раз цифровые, прямо как наши микросхемы.
"Цифровыми" можно условно назвать ВЫХОДЫ нейронов (либо посылает импульс, либо нет). Но ВХОДЫ у них — аналоговые ("если это значение превышает пороговое..." — этот порог задан в нейроне явно аналоговым способом, а не цифровым.) Впрочем, вычисления с плавающей точкой по сути довольно близки к аналоговым и вполне могут их эмулировать/моделировать.
Каша в голове — пища для ума (с)
Re[5]: Что такое вычисление? Эмерджентный эффект вычисления.
Здравствуйте, Silver_S, Вы писали:
S_S>или структура связей нейронов в нем пока не достаточно точно воспроизведена и пока не обучили страдать и наслаждаться — поэтому пока не готов?
Боюсь, обучить страдать и наслаждаться не возможно. Нейронка может обучиться трансформировать входящие данные в некие исходящие. На этом ее функция заканчивается.
Если вы считаете что ее при неких вычислениях возникают страдания — докажите это.
Re[12]: Что такое вычисление? Эмерджентный эффект вычисления.
Здравствуйте, Silver_S, Вы писали:
S_S>Нет не только гипотез, но и принципиальных способов проверить истинность или ложность каких-то утверждений на эту тему.
Я придумал способ — нужно проверять на себе прекратилось страдание или нет — одновременным реалтайм просмотром и блокировкой процессов в мозгу. Затем найти минимальный нейронный механизм и попробовать его реалтайм временно заменить на искусственный.
Хотя, может и проще все будет — когда найдем минимальный механизм, то поймем что там есть некая фундаментальная частица, свойствами которой является наслаждение и страдание.
Свойства фундаментальных частиц нужно принять как есть, т.к. они не подлежат декомпозиции.
S_S>Есть только понятия — что является извращенными представлениями, что нет ... О таком вопросе — попадет ли ChatGPT-4 в рай или ад, после очистки памяти компьютера? ... А если его доучить получше имитировать наслаждения и страдания?
Чтобы попасть в ад — нужно уметь страдать. А GPT не умеет ни страдать ни наслаждаться — ему пофиг. Это просто преобразовался входящих данных в исходящие.
Re[6]: Что такое вычисление? Эмерджентный эффект вычисления.
Здравствуйте, Shmj, Вы писали:
S>Миф 2 — ответ почему ваша гипотеза ошибочна. Так же посмотрите другие мифы.
Сплошная демагогия. Ниочекм. > почему ваша гипотеза ошибочна?
1. где вы увидели гипотезу?
2. и где ошибка?
Любое состояние можно смоделировать и описать в рамках модели. Не устраивает улучшаете модель и алга.
