Построение доверительной области уравнения регрессии

5. 3. Доверительные области для регрессии

В некотором эксперименте измерены значения пары случайных величин y и x

Без ограничения общности можно считать, что величина x измерена точно, в то время как измерение величины y содержит случайные погрешности. Это означает, что погрешность измерения величины x пренебрежимо мала по сравнению с погрешностью измерения величины y. Таким образом, результаты эксперимента можно рассматривать как выборочные значения случайной величины h (x), зависящей от x как от параметра.

Пусть требуется построить зависимость y(x).

Регрессией называют зависимость условного математического ожидания величины h (x) от x: .

Задача регрессионного анализа состоит в восстановлении функциональной зависимости y(x) по результатам измерений <(x_i,y_i)>, i = 1, 2, …, n.

В случае простейшей линейной регрессии выдвигается гипотеза о том, что функция f(x; a₀, a₁, …, a_k) имеет вид

Доверительный коридор линии регрессии

Пусть линейная регрессия построена: .

Возьмем в области изменения аргумента некоторую точку x₀ и вычислим

.

Эта величина случайная и меняется от выборки к выборке.

Ее математическое ожидание равно истинному значению функции f(x) в точке x₀, величине y₀ = a x₀+ b.

Доверительный коридор линии регрессии — интервал

,

накрывающий истинное значение величины y₀ с вероятностью 1– a .

Величина t_{n— 2, a} — корень уравнения , где F(t_{n— 2, a} ) — функция распределения Стьюдента с (n – 2) степенями свободы.

Внимание! Функция Excel СТЬЮДРАСПОБР(p, k) возвращает значение t, при котором P(|x| > t) = p, x — значение случайной величины, имеющей распределение Стьюдента с k степенями свободы. Поэтому решение уравнения в Excel возвращает функция СТЬЮДРАСПОБР( a /2, n – 2).

Важно понимать, что доверительный коридор не является доверительной областью для всей линии регрессии — он определяет только концы доверительных интервалов для y при каждом значении x. С помощью коридора регрессии нельзя, например, построить одновременно два доверительных интервала в различных точкахx₀ и x₁. Такие доверительные интервалы можно построить с помощью доверительной полосы всей линии регрессии.

Пример 1

Видео

Пример 1. В таблице приведены некоторые экспериментальные данные:

Пример нахождения доверительных интервалов коэффициентов регрессии

1. Постройте поле корреляции и сформулируйте гипотезу о форме связи.

2. Постройте уравнение зависимости экспорта нефти от цены на нефть.

3. Рассчитайте среднюю ошибку аппроксимации и коэффициент детерминации. Оценить статистическую значимость параметров регрессии и уравнения в целом.

4. Оцените полученные результаты, выводы оформите в аналитической записке.

Таблица 5

Цена нефти марки Urals (Россия), долл/барр.

Экспорт нефти и нефтепродуктов, млн.т.

Решение:

Уравнение имеет вид y = ax + b
1. Параметры уравнения регрессии.
Средние значения

Связь между признаком Y фактором X сильная и прямая
Уравнение регрессии

По таблице Стьюдента находим Tтабл
T_табл (n-m-1;a) = (10;0.05) = 1.812
Поскольку Tнабл > Tтабл , то отклоняем гипотезу о равенстве 0 коэффициента корреляции. Другими словами, коэффициента корреляции статистически — значим.

Анализ точности определения оценок коэффициентов регрессии

S _a = 0.4906
Доверительные интервалы для зависимой переменной

Рассчитаем границы интервала, в котором будет сосредоточено 95% возможных значений Y при неограниченно большом числе наблюдений и X = 1
(-587.75;179.86)
Проверка гипотез относительно коэффициентов линейного уравнения регрессии
1) t-статистика

Статистическая значимость коэффициента регрессии a подтверждается (7.32>1.812)

Статистическая значимость коэффициента регрессии b не подтверждается (1.46 Fkp, то коэффициент детерминации статистически значим.

Доверительные интервалы для зависимой переменной

Уравнение тренда имеет вид y = at 2 + bt + c
1. Находим параметры уравнения методом наименьших квадратов.
Система уравнений

Для наших данных система уравнений имеет вид (см. таблицу).

Получаем a₀ = -11.37, a₁ = 88.47, a₂ = 2151.09
Уравнение тренда: y = -11.37t 2 +88.47t+2151.09
Оценим качество уравнения тренда с помощью ошибки абсолютной аппроксимации.

Поскольку ошибка больше 15%, то данное уравнение не желательно использовать в качестве тренда
Средние значения

т.е. в 87.35 % случаев влияет на изменение данных. Другими словами — точность подбора уравнения тренда — высокая

2. Анализ точности определения оценок параметров уравнения тренда.

Анализ точности определения оценок параметров уравнения тренда

S _a = 4.8518
Доверительные интервалы для зависимой переменной

По таблице Стьюдента находим Tтабл
T_табл (n-m-1;a) = (7;0.05) = 1.895
Рассчитаем границы интервала, в котором будет сосредоточено 95% возможных значений Y при неограниченно большом числе наблюдений и t = 6
2151.09 + 88.47*6 + -11.37*6₂ — 1.895*39.911 ; 2151.09 + 88.47*6 + -11.37*6₂ — 1.895*39.911
(-55.3814;95.8814)
Интервальный прогноз.
Определим среднеквадратическую ошибку прогнозируемого показателя.

где L — период упреждения; у_n+L — точечный прогноз по модели на (n + L)-й момент времени; n — количество наблюдений во временном ряду; Sy — стандартная ошибка прогнозируемого показателя; T_табл — табличное значение критерия Стьюдента для уровня значимости а и для числа степеней свободы, равного n — 2.
Точечный прогноз, t = 10: y(10) = -11.37*10 2 + 88.47* + 2151.09 = 1898.79
K₁ = 247.4924
1898.79 — 247.4924 = 1651.2976 ; 1898.79 + 247.4924 = 2146.2824
t = 10: (1651.2976;2146.2824)
Точечный прогноз, t = 11: y(11) = -11.37*11 2 + 88.47* + 2151.09 = 1748.49
K₂ = 261.9213
1748.49 — 261.9213 = 1486.5687 ; 1748.49 + 261.9213 = 2010.4113
t = 11: (1486.5687;2010.4113)
Точечный прогноз, t = 12: y(12) = -11.37*12 2 + 88.47* + 2151.09 = 1575.45
K₃ = 278.0099
1575.45 — 278.0099 = 1297.4401 ; 1575.45 + 278.0099 = 1853.4599
t = 12: (1297.4401;1853.4599)
Точечный прогноз, t = 13: y(13) = -11.37*13 2 + 88.47* + 2151.09 = 1379.67
K₄ = 295.4871
1379.67 — 295.4871 = 1084.1829 ; 1379.67 + 295.4871 = 1675.1571
t = 13: (1084.1829;1675.1571)
Точечный прогноз, t = 14: y(14) = -11.37*14 2 + 88.47* + 2151.09 = 1161.15
K₅ = 314.1213
1161.15 — 314.1213 = 847.0287 ; 1161.15 + 314.1213 = 1475.2713
t = 14: (847.0287;1475.2713)
3. Проверка гипотез относительно коэффициентов линейного уравнения тренда.
1) t-статистика. Критерий Стьюдента.

Статистическая значимость коэффициента уравнения подтверждается

Статистическая значимость коэффициента тренда подтверждается
Доверительный интервал для коэффициентов уравнения тренда
Определим доверительные интервалы коэффициентов тренда, которые с надежность 95% будут следующими (t_табл=1.895):
(a — t_табл·S_a; a + t_табл·S_a)
(-20.5642;-2.1758)
(b — t _табл·S_b; b + t_таблS·_b)
(36.7313;140.2087)
2) F-статистика. Критерий Фишера.

Fkp = 5.32
Поскольку F > Fkp, то коэффициент детерминации статистически значим
4. Тест Дарбина-Уотсона на наличие автокорреляции остатков для временного ряда.

Критические значения d₁ и d₂ определяются на основе специальных таблиц для требуемого уровня значимости a, числа наблюдений n и количества объясняющих переменных m.
Не обращаясь к таблицам, можно пользоваться приблизительным правилом и считать, что автокорреляция остатков отсутствует, если 1.5

8 Построение доверительных интервалов для коэффициентов регрессии

§ 8. Построение доверительных интервалов для коэффициентов регрессии

Найденные по МНК из нормальной системы значения коэффициентов регрессии, само уравнение регрессии – это не истинные значения, а приближенные, как и все, что мы находим по статистическим данным.

Те же самые формулы для другой серии наблюдений дадут и другие результаты, немного отличающиеся.

Для истинных значений мы можем построить доверительные интервалы:

Истинные значения коэффициентов с заданной вероятностью g будут лежать в построенных интервалах.

Размах доверительных интервалов определяется формулами:

; .

Рекомендуемые файлы

Здесь коэффициент определяется по таблицам критерия Стьюдента.

– стандартное отклонение остатков, характеризующие разброс данных наблюдений относительно линии регрессии.

– среднее квадратов фактора X.

Чем меньше разброс статистических данных относительно построенной линии регрессии, тем меньше дисперсия и стандартное отклонение остатков, тем уже доверительные интервалы.

С другой стороны размах доверительных интервалов можно уменьшить, увеличивая объем выборки n, т.е. количество наблюдений.

Доверительная зона для линии регрессии

Уравнения регрессии – это тоже не истинные уравнения, это приблизительное знание о них. И подсчитанные по ним теоретические значения фактора Y, т.е. – тоже. Истинные значения с заданной вероятностью γ лежат в доверительных интервалах

Размах доверительных интервалов определяется формулой:

Если подсчитать эти значения и отступить от прямой регрессии на соответствующие расстояния вверх и вниз, то получим доверительную зону для линии регрессии. Истинная линия регрессии с заданной вероятностью γ должна находиться в пределах этой доверительной зоны.

IV. Прогноз и его доверительный интервал

Прогноз — научное предвидение вероятностных путей развития экономических процессов в более-менее удаленном будущем.

Период упреждения — промежуток времени от момента, для которого есть последние статистические данные до момента, которому принадлежит прогноз.

Для прогнозируемого значения доверительный интервал определяется:

Коэффициент эластичности — в экономических задачах применяется для оценки влияния некоторого фактора (х) на соответствующий показатель (y).

В общем случае, статистический коэффициент эластичности, как правило, определяется на основе статистического ряда:

Точные значения коэффициента эластичности получают на основании операции предельного перехода, при .

k_x будет определяться для парной регрессии:

для коэффициентов регрессии

Найденные значения коэффициентов ( a, b, c, d ) в уравнениях регрессии – это не истинные значения, это только оценка для них. (Как и любая другая информация, которую мы получаем по выборочным, статистическим данным

7. Построение доверительной зоны для линии регрессии

Уравнения регрессии – это тоже не истинные уравнения, это приблизительное знание о них. И подсчитанные по ним теоретические значения фактора Y, т.е. – тоже. Истинные значения с заданной вероятностью γ лежат в доверительных интервалах

Размах доверительных интервалов определяется формулой:

Если подсчитать эти значения и отступить от прямой регрессии на соответствующие расстояния вверх и вниз, то получим доверительную зону для линии регрессии. Истинная линия регрессии с заданной вероятностью γ должна находиться в пределах этой доверительной зоны.

· В столбце BL ( ΔY_i ) вычислить доверительные интервалы для .

Выделяя весь столбец, программируем формулу

Для чисел ( S_ост , n ,) и () указать абсолютный адрес или имя ячейки ; для указать имя столбца исходных данных для фактора Х (столбец N). Закончить ввод сочетанием Ctrl + Enter.

· В столбцах BM «нижн грань» и BN «верхн грань» вычислить границы

доверительной зоны.: .

Выделять весь столбец, программировать формулу с именами. Закончить ввод сочетанием Ctrl + Enter.

· Построить график доверительной зоны. Для этого выделить пять столб-

цов данных (вместе с заголовками):

¨ столбец N, в котором находятся статистические данные для фактора X.

¨ нажав клавишу Ctrl:

§ столбец O для фактора Y,

§ столбец AG для линии регрессии Y на X,

§ столбцы BM и BN для границ доверительной зоны.

Затем вызвать Мастер Диаграмм и построить Точечную Диаграмму. Отредактировать ее, так чтобы точки, указывающие линию регрессии и линии границы доверительной зоны на графике были линиями без маркеров ( желательно линию регрессии и границы – разным цветом). График должен выглядеть так же, как приведенный выше.

8. Определение прогноза и доверительного интервала для прогноза

Построенное уравнение регрессии можно теперь использовать для прогнозирования. Задавая любое значение фактора X можно подсчитать соответствующее среднее значение фактора Y.

Найденное таким образом значение, во–первых среднее, а во–вторых, опять таки, приблизительное. Истинное прогнозное значение с заданной вероятностью γ следует ожидать в доверительном интервале .

Размах доверительного интеграла для прогноза определяется формулой, почти такой же, как и при построении доверительной зоны:

· В ячейку BS29 скопировать из N23 заданное для прогноза значение X_p.

· В ячейке BV29 вычислить по найденной формуле регрессии прогнозное значение Y_p :

· Размах доверительного интервала для прогноза найти в ячейке BS32 по приведенной формуле

· В ячейках BU32 и BW32 подсчитать границы доверительного интервала для прогноза:

§ 9. Прогноз и доверительные интервал для прогноза

Построенное уравнение регрессии можно теперь использовать для прогнозирования. Задавая любое значение фактора X можно подсчитать соответствующее среднее значение фактора Y.

Найденное таким образом значение, во–первых среднее, а во–вторых, опять таки, приблизительное. Истинное прогнозное значение с заданной вероятностью γ следует ожидать в доверительном интервале .

Размах доверительного интеграла для прогноза определяется формулой, почти такой же, как и при построении доверительной зоны: