Здравствуйте, Shmj, Вы писали:

vsb>>Наслаждение и страдание это сигналы нейросети, на основе которых выстраивается целеполагание

S>Вот видите — все-таки не химия а нейросеть нужна. Понятно о чем мы? Химия не о чем — это лишь широковещательный пакет.

S>Страданием мы называем не тот сигнал, который его вызывает. А само ощущение мучения.

S>Вот подали вы сигнал в болевой центр. Можно сказать сигнал боли, но не сама боль. А сама боль — этот тот процесс, который сигнал запустил в таламусе. Есть возражения?

Я не знаю, что такое таламус, какие процессы там идут и идут ли они там вообще, поэтому могу считать вышенаписанное лишь спекуляциями. Насколько я знаю, про мозг мы знаем не слишком много. Если у человека нет этого таламуса, он не испытывает страданий и мучений?

S>Что это за ощущение — какие вычисления в этот момент происхоят?

Ощущений не существует. Сознание, ощущения это лишь фикция, которую выдумала нейросеть человека из-за каких-то своих глюков. Думаю, в том, что сновидений не существует, а они лишь фикция, необходимая мозгу по какой-то причине для отдыха ночью, мало кто сомневается. Ровно то же можно сказать и про сознание. Просто мозгу так было удобней — разделиться на несколько независимых агентов. Какой-то агент отвечает за функционирование тела, органов. Какой-то агент отвечает за выполнение примитивных биологических программ. А какой-то агент отвечает за высокоуровневое целеполагание.

Какие вычисления в мозгу происходят, вряд ли мы в ближайшее время ответим, мозг слишком сложен, чтобы его анализировать на таком низком уровне, как вычисления.

vsb>>В настоящий момент в основном используются предобученные нейросети, которые после начального обучения никак не развиваются, поэтому этого функционала там нет. Если появятся нейросети, которые смогут до-обучаться на основе опыта, то именно те сигналы, которые их будут заставлять менять поведение — и будут наслаждением/страданием (а на самом деле это одно и то же, только с разными знаками).

S>Не стал бы так утверждать. Если я что-то изучаю и ошибаюсь — иногда я радуюсь больше, чем если ответил правильно. Во мне просыпается интерес — как я это я чего-то не знаю и мог ошибиться. Т.е. моя биологическая нейросеть уже не соответствует этому определению.

Ну значит твоя ошибка в некоторых случаях приводит к наслаждению. Кому-то нравится, когда его плёткой хлещут. Кто-то страдает от того, что сахар недостаточно сладкий. Пока не вижу противоречий.