Здравствуйте, Khimik, Вы писали:

K>Я о байесианстве впервые услышал из последней книги Стивена Пинкера, и там ещё было рассказано про теорию рационального выбора. По-моему между этими концепциями есть явная связь.

Связь такая: байесовское мышление (Bayesian reasoning) — это необходимое условие для того, чтобы агент был рациональным. Само по себе не достаточное — нужно ещё, чтобы у агента ещё были согласованные предпочтения.

> Изложу своё понимание теории рационального выбора, прошу меня поправить если что не так, и подсказать как от этого перейти к байесианству

То, что ты изложил — фреймворк субъективной ожидаемой полезности фон Неймана и последователей — состоит из двух кусков. Сама формула так выглядит, каждое слагаемое в ней — произведение двух сомножителей.
Первый из них — кардинальная полезность, определяется ординальными предпочтениями агента, на которые налагают ограничения вроде NVM-аксиом. Но речь сейчас не об этом.

А второй компонент — вероятности, которые определяются системой убеждений агента (через теорему Кокса). Вот тут и врывается Байесовская эпистемология.
Чтобы достичь оптимума в этой формуле ожидаемой полезности, твоё мышление должно быть байесовским, и никаким другим. Отклонение от него ведёт к менее точным убеждениям (хуже согласованными с реальностью) и как следствие мене оптимальным решениям.

Чтобы мышление было байесовским, должны выполняться два условия:

правило когерентности (coherence norm)

принцип обусловленности (principle of conditionalization)

Правило когерентности — про согасованность текущих убеждений, что в системе убеждений нет дефектов типа ошибки конъюнкции. Это формализуют как невозможность подобрать против агента некоторую систему заведомо выигрышных ставок — Dutch book argument.

Принцип обусловленности — это как раз и есть сердце байесианства, правило, по которому убеждения обновляются со временеим в свете поступающих новых свидетельств. Пересмотр убеждений происходит по правилу Байеса, откуда и происходит название этого способа мышления.

Список литературы:

Stanford Encyclopedia of Philosophy, Bayesian Epistemology: https://plato.stanford.edu/entries/epistemology-bayesian/

Eliezer Yudkowsky, Rationality: From AI to Zombies: https://rationalitybook.com

Здравствуйте, Khimik, Вы писали:

K>Я о байесианстве впервые услышал из последней книги Стивена Пинкера, и там ещё было рассказано про теорию рационального выбора. По-моему между этими концепциями есть явная связь.

Связь такая: байесовское мышление (Bayesian reasoning) — это необходимое условие для того, чтобы агент был рациональным. Само по себе не достаточное — нужно ещё, чтобы у агента ещё были согласованные предпочтения.

> Изложу своё понимание теории рационального выбора, прошу меня поправить если что не так, и подсказать как от этого перейти к байесианству

То, что ты изложил — фреймворк субъективной ожидаемой полезности фон Неймана и последователей — состоит из двух кусков. Сама формула так выглядит, каждое слагаемое в ней — произведение двух сомножителей.
Первый из них — кардинальная полезность, определяется ординальными предпочтениями агента, на которые налагают ограничения вроде VNM-аксиом. Но речь сейчас не об этом.

А второй компонент — вероятности, которые определяются системой убеждений агента (через теорему Кокса). Вот тут и врывается Байесовская эпистемология.
Чтобы достичь оптимума в этой формуле ожидаемой полезности, твоё мышление должно быть байесовским, и никаким другим. Отклонение от него ведёт к менее точным убеждениям (хуже согласованными с реальностью) и как следствие мене оптимальным решениям.

Чтобы мышление было байесовским, должны выполняться два условия:

правило когерентности (coherence norm)

принцип обусловленности (principle of conditionalization)

Правило когерентности — про согасованность текущих убеждений, что в системе убеждений нет дефектов типа ошибки конъюнкции. Это формализуют как невозможность подобрать против агента некоторую систему заведомо выигрышных ставок — Dutch book argument.

Принцип обусловленности — это как раз и есть сердце байесианства, правило, по которому убеждения обновляются со временеим в свете поступающих новых свидетельств. Пересмотр убеждений происходит по правилу Байеса, откуда и происходит название этого способа мышления.

Список литературы:

Stanford Encyclopedia of Philosophy, Bayesian Epistemology: https://plato.stanford.edu/entries/epistemology-bayesian/

Eliezer Yudkowsky, Rationality: From AI to Zombies: https://rationalitybook.com