Гопода!

объясните мне, пожалста, что такое число степеней свободы в статистике. В частности в регрессионном анализе.
я восерщенно не могу понять, как его "вычислить".

Вот, например в учебнике стоит, что число степеней свободы факторной суммы квадратов равно n-1
а вот и формулка для факторной суммы квадратов sum( y — mean(y))^2

тут вроде понятно, что если известно n значений y и чему равна эта сумма (скажем 0), то мы можем свободно "задать" только n-1 параметр y. При этом n-ный параметр мы всегда можем вычислить исходя из формулы sum( y — mean(y))^2 = 0

непонятки начинаются дальще:
в учебнике сказанно, что число степеней свободы суммы квадратных отклонений обусловленных регрессией
sum ( yr — mean(y) )^2
где yr = предсказанное при помощи регресси значение y
равно единице.

почему?

по идее если у нас есть n значений y и число, которому должна быть равна сумма, мы точно также можем вариировать n-1 игреков, а n-ный расчитать основываясь на формуле.

далее утверждается, что для sum( y — yr)^2 число степеней свободы равно n-2.
Вот тут я уже совсем нифига не понимаю.
По аналогии ведь должно получиться n-1!


Где я делаю логическую ощибку?


Заранее спасибо!

Здравствуйте, wot_tak, Вы писали:

_>непонятки начинаются дальще:
_>в учебнике сказанно, что число степеней свободы суммы квадратных отклонений обусловленных регрессией
_>sum ( yr — mean(y) )^2
_>где yr = предсказанное при помощи регресси значение y
_>равно единице.

_>почему?

Регрессия линейная? Тогда все предсказанные yr ОБЯЗАНЫ лежать на одной прямой линии! У нее две степени свободы. Думайте о ней как yr = a + bx. После того, как Вы вычитаете среднее, yr-mean(y)=yr-mean(yr)=b(x-mean(x)). Степеней свободы -- одна (выбор b).

_>по идее если у нас есть n значений y и число, которому должна быть равна сумма, мы точно также можем вариировать n-1 игреков, а n-ный расчитать основываясь на формуле.

_>далее утверждается, что для sum( y — yr)^2 число степеней свободы равно n-2.
_>Вот тут я уже совсем нифига не понимаю.
_>По аналогии ведь должно получиться n-1!

_>Где я делаю логическую ощибку?

По аналогии с уже сказанным, y-yr = y — a — bx, причем sum(y-yr) = 0. Два коэффициента здесь определяются из регрессии, а потому число степеней свободы n-2.

Здравствуйте, vadimcher, Вы писали:

V>Здравствуйте, wot_tak, Вы писали:

_>>непонятки начинаются дальще:
_>>в учебнике сказанно, что число степеней свободы суммы квадратных отклонений обусловленных регрессией
_>>sum ( yr — mean(y) )^2
_>>где yr = предсказанное при помощи регресси значение y
_>>равно единице.

_>>почему?

V>Регрессия линейная? Тогда все предсказанные yr ОБЯЗАНЫ лежать на одной прямой линии! У нее две степени свободы. Думайте о ней как yr = a + bx. После того, как Вы вычитаете среднее, yr-mean(y)=yr-mean(yr)=b(x-mean(x)). Степеней свободы -- одна (выбор b).

_>>по идее если у нас есть n значений y и число, которому должна быть равна сумма, мы точно также можем вариировать n-1 игреков, а n-ный расчитать основываясь на формуле.

_>>далее утверждается, что для sum( y — yr)^2 число степеней свободы равно n-2.
_>>Вот тут я уже совсем нифига не понимаю.
_>>По аналогии ведь должно получиться n-1!

_>>Где я делаю логическую ощибку?

V>По аналогии с уже сказанным, y-yr = y — a — bx, причем sum(y-yr) = 0. Два коэффициента здесь определяются из регрессии, а потому число степеней свободы n-2.

Большое спасибо! Стало все яснее!
Один вопрос: каково число степеней свободы у выражения sum(y)=0?
n-1?
тогда оно в плане степеней свободв принципиально не отличается от sum ( y — mean(y) )^2 = 0

или я не прав?

Здравствуйте, wot_tak, Вы писали:

_>Большое спасибо! Стало все яснее!
_>Один вопрос: каково число степеней свободы у выражения sum(y)=0?
_>n-1?
_>тогда оно в плане степеней свободв принципиально не отличается от sum ( y — mean(y) )^2 = 0

_>или я не прав?

Ого, ничего себе не отличается. Во втором случае вы требуете y1=y2=...=yn=mean(y). Степень свободы одна.

Здравствуйте, vadimcher, Вы писали:

V>Здравствуйте, wot_tak, Вы писали:

_>>Большое спасибо! Стало все яснее!
_>>Один вопрос: каково число степеней свободы у выражения sum(y)=0?
_>>n-1?
_>>тогда оно в плане степеней свободв принципиально не отличается от sum ( y — mean(y) )^2 = 0

_>>или я не прав?

V>Ого, ничего себе не отличается. Во втором случае вы требуете y1=y2=...=yn=mean(y). Степень свободы одна.

как это? разве такое требуется? сумма квадратных отклонений не требует равенства отклонений среднему. Вы, наверное "sum" проглядели...


но по поводу sum(y)=0 и n-1 я прав или нет?

Здравствуйте, wot_tak, Вы писали:

_>Здравствуйте, vadimcher, Вы писали:

V>>Здравствуйте, wot_tak, Вы писали:

_>>>Большое спасибо! Стало все яснее!
_>>>Один вопрос: каково число степеней свободы у выражения sum(y)=0?
_>>>n-1?
_>>>тогда оно в плане степеней свободв принципиально не отличается от sum ( y — mean(y) )^2 = 0

_>>>или я не прав?

V>>Ого, ничего себе не отличается. Во втором случае вы требуете y1=y2=...=yn=mean(y). Степень свободы одна.

_>как это? разве такое требуется? сумма квадратных отклонений не требует равенства отклонений среднему. Вы, наверное "sum" проглядели...


_>но по поводу sum(y)=0 и n-1 я прав или нет?

Так у Вас сумма квадратов нескольких чисел равна 0.

Здравствуйте, vadimcher, Вы писали:

V>Здравствуйте, wot_tak, Вы писали:

_>>Здравствуйте, vadimcher, Вы писали:

V>>>Здравствуйте, wot_tak, Вы писали:

_>>>>Большое спасибо! Стало все яснее!
_>>>>Один вопрос: каково число степеней свободы у выражения sum(y)=0?
_>>>>n-1?
_>>>>тогда оно в плане степеней свободв принципиально не отличается от sum ( y — mean(y) )^2 = 0

_>>>>или я не прав?

V>>>Ого, ничего себе не отличается. Во втором случае вы требуете y1=y2=...=yn=mean(y). Степень свободы одна.

_>>как это? разве такое требуется? сумма квадратных отклонений не требует равенства отклонений среднему. Вы, наверное "sum" проглядели...


_>>но по поводу sum(y)=0 и n-1 я прав или нет?

V>Так у Вас сумма квадратов нескольких чисел равна 0.

Ваша правда! я затупил.

а по поводу sum(y)=0 и n-1 я прав или нет?

Здравствуйте, wot_tak, Вы писали:

_>Здравствуйте, vadimcher, Вы писали:

V>>Здравствуйте, wot_tak, Вы писали:

_>>>Здравствуйте, vadimcher, Вы писали:

V>>>>Здравствуйте, wot_tak, Вы писали:

_>>>>>Большое спасибо! Стало все яснее!
_>>>>>Один вопрос: каково число степеней свободы у выражения sum(y)=0?
_>>>>>n-1?
_>>>>>тогда оно в плане степеней свободв принципиально не отличается от sum ( y — mean(y) )^2 = 0

_>>>>>или я не прав?

V>>>>Ого, ничего себе не отличается. Во втором случае вы требуете y1=y2=...=yn=mean(y). Степень свободы одна.

_>>>как это? разве такое требуется? сумма квадратных отклонений не требует равенства отклонений среднему. Вы, наверное "sum" проглядели...


_>>>но по поводу sum(y)=0 и n-1 я прав или нет?

V>>Так у Вас сумма квадратов нескольких чисел равна 0.

_>Ваша правда! я затупил.

_>а по поводу sum(y)=0 и n-1 я прав или нет?

Вроде да, если никаких более ограничений на них нет.

Здравствуйте, vadimcher, Вы писали:


_>>>>>>тогда оно в плане степеней свободв принципиально не отличается от


_>>а по поводу sum(y)=0 и n-1 я прав или нет?

V>Вроде да, если никаких более ограничений на них нет.

Но тогда выходит, что выражение типа
sum ( y — mean(y) ) = 0
тоже имеет n-1 степеней саободы. Поскольку оно с легкостью переписывается в sum(y) = n*mean(y) = const то есть по сути своей (по крайней мере в отношение степеней свободы) абсолютно эквивалентно выражению sum(y) = 0 = const.

то есть само по себе наличие среднего арифмитического в выражении не влияет на количество степеней свободы.

Таки почему при обосновании количества степеней свободы для вырадения sum ( yr — mean(y) )^2 принято ссылаться на то, что мы теряем одну степень свободы из-за вычитания среднего?

Я этот момент все еще не догоняю

Заранее спасибо за коментарии!

Здравствуйте, wot_tak, Вы писали:

_>>>а по поводу sum(y)=0 и n-1 я прав или нет?

V>>Вроде да, если никаких более ограничений на них нет.

_>Но тогда выходит, что выражение типа
_>sum ( y — mean(y) ) = 0
_>тоже имеет n-1 степеней саободы. Поскольку оно с легкостью переписывается в sum(y) = n*mean(y) = const то есть по сути своей (по крайней мере в отношение степеней свободы) абсолютно эквивалентно выражению sum(y) = 0 = const.

_>то есть само по себе наличие среднего арифмитического в выражении не влияет на количество степеней свободы.

_>Таки почему при обосновании количества степеней свободы для вырадения sum ( yr — mean(y) )^2 принято ссылаться на то, что мы теряем одну степень свободы из-за вычитания среднего?

_>Я этот момент все еще не догоняю

_>Заранее спасибо за коментарии!

Обычно, если Вы в выражении имеете зависимость от некоторого вектора z и подставляете z=y-mean(y), то Вы ограничиваете вектор z как раз на одну степень свободы, т.к. по сути Вы начинаете требовать, чтобы sum(z)=0.

Теперь про Ваш пример. Я так понял, что yr — предсказанные значения. Для них всегда mean(yr)=mean(y). Т.е. у Вас не просто линия, а еще и проходящая через определенную точку.