Уравнение показательной регрессии имеет вид

Показательное уравнение регрессии

В случае b = e (примерное значение экспоненты e ≈ 2.718281828 ), показательное уравнение регрессии называется экспоненциальным и записывается как y=a·e x .

Здесь b — темп изменения в разах или константа тренда, которая показывает тенденцию ускоренного и все более ускоряющегося возрастания уровней.

Пример . Необходимо изучить зависимость потребительским расходами на моторное масло (у) и располагаемым личным доходом (х).

Составляем систему нормальных уравнений с помощью онлайн-калькулятора Нелинейная регрессия .
a•n + b∑x = ∑y
a∑x + b∑x 2 = ∑y•x

Для наших данных система уравнений имеет вид
21a + 20439.4 b = 32.32
20439.4 a + 20761197.38 b = 31007.03
Из первого уравнения выражаем а и подставим во второе уравнение:
Получаем эмпирические коэффициенты регрессии: b = -0.000515, a = 2.04
Уравнение регрессии (эмпирическое уравнение регрессии):
y = e 2.04 *e -0.000515x = 7.69529*0.99948 x
Эмпирические коэффициенты регрессии a и b являются лишь оценками теоретических коэффициентов β_i, а само уравнение отражает лишь общую тенденцию в поведении рассматриваемых переменных.
Для расчета параметров регрессии построим расчетную таблицу (табл. 1)

log(y) 2	x·log(y)
622.9	1.59	388004.41	2.53	989.93
658	1.65	432964	2.72	1084.82
700.4	1.7	490560.16	2.91	1194.01
740.6	1.72	548488.36	2.97	1275.88
774.4	1.72	599695.36	2.97	1334.11
816.2	1.67	666182.44	2.78	1361.18
853.5	1.61	728462.25	2.59	1373.66
876.8	1.55	768778.24	2.39	1356.9
900	1.53	810000	2.33	1373.45
951.4	1.61	905161.96	2.59	1531.22
1007.9	1.69	1015862.41	2.84	1699.72
1004.8	1.44	1009623.04	2.06	1441.97
1010.8	1.44	1021716.64	2.06	1450.58
1056.2	1.53	1115558.44	2.33	1611.82
1105.4	1.48	1221909.16	2.2	1637.77
1162.3	1.55	1350941.29	2.39	1798.73
1200.7	1.55	1441680.49	2.39	1858.16
1209.5	1.36	1462890.25	1.85	1646.1
1248.6	1.28	1559001.96	1.64	1599.37
1254.4	1.28	1573519.36	1.64	1606.8
1284.6	1.39	1650197.16	1.92	1780.83
20439.4	32.32	20761197.38	50.1	31007.03

1. Параметры уравнения регрессии.
Выборочные средние.



Выборочные дисперсии:


Среднеквадратическое отклонение

Показательная парная регрессия.

1.4 Гиперболическая парная регрессия рассчитывается по формуле:

Для определения параметров a и b необходимо линеаризировать предыдущую формулу. Для этого сделаем замену:

Тогда

Для определения параметров a и b используем следующие формулы:

В таблице рассчитываем средние значения величин x, x*, y, x*y, x* 2 .

n	у	х	x*=1/x	x*x*	x*y
11,92	18,26	0,0548	0,002999	0,652793
8,34	21,90	0,0457	0,002085	0,380822
7,08	12,12	0,0825	0,006808	0,584158
10,52	17,52	0,0571	0,003258	0,600457
18,68	26,28	0,0381	0,001448	0,710807
8,24	11,86	0,0843	0,007109	0,694772
10,50	15,08	0,0663	0,004397	0,696286
7,34	10,56	0,0947	0,008968	0,695076
7,28	10,40	0,0962	0,009246	0,7
6,72	10,78	0,0928	0,008605	0,623377
8,18	10,80	0,0926	0,008573	0,757407
9,04	13,64	0,0733	0,005375	0,662757
7,34	10,74	0,0931	0,008669	0,683426
6,56	11,78	0,0849	0,007206	0,556876
9,20	12,52	0,0799	0,00638	0,734824
7,60	10,42	0,0960	0,00921	0,729367
8,78	12,52	0,0799	0,00638	0,701278
6,88	10,42	0,0960	0,00921	0,660269
8,02	13,16	0,0760	0,005774	0,609422
10,28	14,92	0,0670	0,004492	0,689008
среднее	8,9250	13,7840	0,0775	0,0063	0,6562

Вычислим значение коэффициента регрессии b:

Вычислим значение коэффициента регрессии a:

Тогда показательное уравнение регрессии будет выглядеть следующим образом:

Гиперболическая парная регрессия.

1. Оцените тесноту связи с помощью показателей корреляции и детерминации.

Оценка тесноты связи с помощью показателей корреляции.

2.1.1 Показатель корреляции для линейной регрессии:

, где .

n	у	х	xx	xy	yy
11,92	18,26	333,4276	217,6592	142,0864
8,34	21,9	479,6100	182,6460	69,5556
7,08	12,12	146,8944	85,8096	50,1264
10,52	17,52	306,9504	184,3104	110,6704
18,68	26,28	690,6384	490,9104	348,9424
8,24	11,86	140,6596	97,7264	67,8976
10,5	15,08	227,4064	158,3400	110,2500
7,34	10,56	111,5136	77,5104	53,8756
7,28	10,4	108,1600	75,7120	52,9984
6,72	10,78	116,2084	72,4416	45,1584
8,18	10,8	116,6400	88,3440	66,9124
9,04	13,64	186,0496	123,3056	81,7216
7,34	10,74	115,3476	78,8316	53,8756
6,56	11,78	138,7684	77,2768	43,0336
9,2	12,52	156,7504	115,1840	84,6400
7,6	10,42	108,5764	79,1920	57,7600
8,78	12,52	156,7504	109,9256	77,0884
6,88	10,42	108,5764	71,6896	47,3344
8,02	13,16	173,1856	105,5432	64,3204
10,28	14,92	222,6064	153,3776	105,6784
среднее	8,925	13,784	207,236	132,2868	86,6963

Определим среднеквадратические отклонения:

Определим показатель корреляции: .

2.1.2 Показатель корреляции для степенной регрессии:

,где

.

n	у	х	x*=lg(x)	y*=lg(y)	y*y*	ŷ*	e=y*-ŷ*	ee
11,92	18,26	1,2615	1,0763	1,1584	1,0435	0,0328	0,0011
8,34	21,90	1,3404	0,9212	0,8485	1,1048	-0,1836	0,0337
7,08	12,12	1,0835	0,8500	0,7226	0,9053	-0,0553	0,0031
10,52	17,52	1,2435	1,0220	1,0445	1,0296	-0,0075	0,0001
18,68	26,28	1,4196	1,2714	1,6164	1,1663	0,1051	0,0111
8,24	11,86	1,0741	0,9159	0,8389	0,8980	0,0179	0,0003
10,50	15,08	1,1784	1,0212	1,0428	0,9790	0,0422	0,0018
7,34	10,56	1,0237	0,8657	0,7494	0,8589	0,0068	0,0000
7,28	10,40	1,0170	0,8621	0,7433	0,8537	0,0084	0,0001
6,72	10,78	1,0326	0,8274	0,6845	0,8658	-0,0385	0,0015
8,18	10,80	1,0334	0,9128	0,8331	0,8664	0,0463	0,0021
9,04	13,64	1,1348	0,9562	0,9143	0,9452	0,0110	0,0001
7,34	10,74	1,0310	0,8657	0,7494	0,8646	0,0011	0,0000
6,56	11,78	1,0711	0,8169	0,6673	0,8957	-0,0788	0,0062
9,20	12,52	1,0976	0,9638	0,9289	0,9163	0,0475	0,0023
7,60	10,42	1,0179	0,8808	0,7758	0,8544	0,0264	0,0007
8,78	12,52	1,0976	0,9435	0,8902	0,9163	0,0272	0,0007
6,88	10,42	1,0179	0,8376	0,7016	0,8544	-0,0168	0,0003
8,02	13,16	1,1193	0,9042	0,8175	0,9331	-0,0289	0,0008
10,28	14,92	1,1738	1,0120	1,0241	0,9754	0,0366	0,0013
среднее	8,9250	13,7840	1,1234	0,9363	0,8876	0,936325	0,000003	0,003364

Определим индекс корреляции:

; ;

.

2.1.3 Показатель корреляции для показательной регрессии:

,где

n	у	х	y*=lg(y)	y*y*	ŷ*	e=y*-ŷ*	ee
11,92	18,26	1,0763	1,1584	1,0303	0,0460	0,0021
8,34	21,90	0,9212	0,8485	1,1067	-0,1855	0,0344
7,08	12,12	0,8500	0,7226	0,9013	-0,0513	0,0026
10,52	17,52	1,0220	1,0445	1,0147	0,0073	0,0001
18,68	26,28	1,2714	1,6164	1,1987	0,0727	0,0053
8,24	11,86	0,9159	0,8389	0,8959	0,0201	0,0004
10,50	15,08	1,0212	1,0428	0,9635	0,0577	0,0033
7,34	10,56	0,8657	0,7494	0,8686	-0,0029	0,0000
7,28	10,40	0,8621	0,7433	0,8652	-0,0031	0,0000
6,72	10,78	0,8274	0,6845	0,8732	-0,0458	0,0021
8,18	10,80	0,9128	0,8331	0,8736	0,0392	0,0015
9,04	13,64	0,9562	0,9143	0,9332	0,0229	0,0005
7,34	10,74	0,8657	0,7494	0,8723	-0,0066	0,0000
6,56	11,78	0,8169	0,6673	0,8942	-0,0773	0,0060
9,20	12,52	0,9638	0,9289	0,9097	0,0541	0,0029
7,60	10,42	0,8808	0,7758	0,8656	0,0152	0,0002
8,78	12,52	0,9435	0,8902	0,9097	0,0338	0,0011
6,88	10,42	0,8376	0,7016	0,8656	-0,0280	0,0008
8,02	13,16	0,9042	0,8175	0,9232	-0,0190	0,0004
10,28	14,92	1,0120	1,0241	0,9601	0,0519	0,0027
среднее	8,9250	13,7840	0,9363	0,8876	0,9363	0,0001	0,0033

Определим индекс корреляции:

; ;

.

2.1.4 Показатель корреляции для гиперболической регрессии:

,где

n	у	х	x*=1/x	y*y	ŷ	e=y-ŷ	ee
11,92	18,26	0,0548	142,0864	11,6717	0,2483	0,0617
8,34	21,90	0,0457	69,5556	12,7713	-4,4313	19,6367
7,08	12,12	0,0825	50,1264	8,3200	-1,2400	1,5376
10,52	17,52	0,0571	110,6704	11,3922	-0,8722	0,7608
18,68	26,28	0,0381	348,9424	13,6907	4,9893	24,8929
8,24	11,86	0,0843	67,8976	8,1015	0,1385	0,0192
10,50	15,08	0,0663	110,2500	10,2765	0,2235	0,0499
7,34	10,56	0,0947	53,8756	6,8475	0,4925	0,2426
7,28	10,40	0,0962	52,9984	6,6715	0,6085	0,3703
6,72	10,78	0,0928	45,1584	7,0810	-0,3610	0,1303
8,18	10,80	0,0926	66,9124	7,1017	1,0783	1,1627
9,04	13,64	0,0733	81,7216	9,4308	-0,3908	0,1527
7,34	10,74	0,0931	53,8756	7,0392	0,3008	0,0905
6,56	11,78	0,0849	43,0336	8,0323	-1,4723	2,1677
9,20	12,52	0,0799	84,6400	8,6385	0,5615	0,3153
7,60	10,42	0,0960	57,7600	6,6938	0,9062	0,8212
8,78	12,52	0,0799	77,0884	8,6385	0,1415	0,0200
6,88	10,42	0,0960	47,3344	6,6938	0,1862	0,0347
8,02	13,16	0,0760	64,3204	9,1077	-1,0877	1,1831
10,28	14,92	0,0670	105,6784	10,1906	0,0894	0,0080
среднее	8,9250	13,7840	0,0775	86,6963	8,9195	0,0055	2,6829

Определим индекс корреляции:

; ;

.

Вывод:

Связи между признаками могут быть слабыми и сильными (тесными). Их критерии оцениваются по шкале Чеддока:
0.1

Парная регрессия и корреляция

1. Парная регрессия и корреляция

1.1. Понятие регрессии

Парной регрессией называется уравнение связи двух переменных у и х

где у – зависимая переменная (результативный признак); х – независимая, объясняющая переменная (признак-фактор).

Различают линейные и нелинейные регрессии.

Линейная регрессия описывается уравнением: y = a + b × x +e .

Нелинейные регрессии делятся на два класса: регрессии, нелинейные относительно включенных в анализ объясняющих переменных, но линейные по оцениваемым параметрам, и регрессии, нелинейные по оцениваемым параметрам.

Примеры регрессий, нелинейных по объясняющим переменным, но ли-

нейных по оцениваемым параметрам:

· полиномы разных степеней

· равносторонняя гипербола:

Примеры регрессий, нелинейных по оцениваемым параметрам:

· степенная

· показательная

· экспоненциальная

Наиболее часто применяются следующие модели регрессий:

– прямой

– гиперболы

– параболы

– показательной функции

– степенная функция

1.2. Построение уравнения регрессии

Постановка задачи. По имеющимся данным n наблюдений за совместным

изменением двух параметров x и y <(xi,yi), i=1,2. n> необходимо определить

аналитическую зависимость ŷ=f(x), наилучшим образом описывающую данные наблюдений.

Построение уравнения регрессии осуществляется в два этапа (предполагает решение двух задач):

– спецификация модели (определение вида аналитической зависимости

– оценка параметров выбранной модели.

1.2.1. Спецификация модели

Парная регрессия применяется, если имеется доминирующий фактор, который и используется в качестве объясняющей переменной.

Применяется три основных метода выбора вида аналитической зависимости:

– графический (на основе анализа поля корреляций);

– аналитический, т. е. исходя из теории изучаемой взаимосвязи;

– экспериментальный, т. е. путем сравнения величины остаточной дисперсии Dост или средней ошибки аппроксимации , рассчитанных для различных

моделей регрессии (метод перебора).

1.2.2. Оценка параметров модели

Для оценки параметров регрессий, линейных по этим параметрам, используется метод наименьших квадратов (МНК). МНК позволяет получить такие оценки параметров, при которых сумма квадратов отклонений фактических значений результативного признака у от теоретических значений ŷx при тех же значениях фактора x минимальна, т. е.

В случае линейной регрессии параметры а и b находятся из следующей

системы нормальных уравнений метода МНК:

(1.1)

Можно воспользоваться готовыми формулами, которые вытекают из этой

(1.2)

Для нелинейных уравнений регрессии, приводимых к линейным с помощью преобразования (x, y) → (x’, y’), система нормальных уравнений имеет

вид (1.1) в преобразованных переменных x’, y’.

Коэффициент b при факторной переменной x имеет следующую интерпретацию: он показывает, на сколько изменится в среднем величина y при изменении фактора x на 1 единицу измерения.

Линеаризующее преобразование: x’ = 1/x; y’ = y.

Уравнения (1.1) и формулы (1.2) принимают вид

Линеаризующее преобразование: x’ = x; y’ = lny.

Модифицированная экспонента: , (0 K и со знаком «–» в противном случае.

Степенная функция:

Линеаризующее преобразование: x’ = ln x; y’ = ln y.

Показательная функция:

Линеаризующее преобразование: x’ = x; y’ = lny.

Логарифмическая функция:

Линеаризующее преобразование: x’ = ln x; y’ = y.

Парабола второго порядка:

Парабола второго порядка имеет 3 параметра a0, a1, a2, которые определяются из системы трех уравнений

1.3. Оценка тесноты связи

Тесноту связи изучаемых явлений оценивает линейный коэффициент

парной корреляции rxy для линейной регрессии (–1 ≤ r xy ≤ 1)

и индекс корреляции ρxy для нелинейной регрессии

Имеет место соотношение

Долю дисперсии, объясняемую регрессией, в общей дисперсии результативного признака у характеризует коэффициент детерминации r2xy (для линейной регрессии) или индекс детерминации (для нелинейной регрессии).

Коэффициент детерминации – квадрат коэффициента или индекса корреляции.

Для оценки качества построенной модели регрессии можно использовать

показатель (коэффициент, индекс) детерминации R2 либо среднюю ошибку аппроксимации.

Чем выше показатель детерминации или чем ниже средняя ошибка аппроксимации, тем лучше модель описывает исходные данные.

Средняя ошибка аппроксимации – среднее относительное отклонение

расчетных значений от фактических

Построенное уравнение регрессии считается удовлетворительным, если

значение не превышает 10–12 %.

1.4. Оценка значимости уравнения регрессии, его коэффициентов,

Оценка значимости всего уравнения регрессии в целом осуществляется с

помощью F-критерия Фишера.

F-критерий Фишера заключается в проверке гипотезы Но о статистической незначимости уравнения регрессии. Для этого выполняется сравнение

фактического Fфакт и критического (табличного) Fтабл значений F-критерия

Fфакт определяется из соотношения значений факторной и остаточной

дисперсий, рассчитанных на одну степень свободы

где n – число единиц совокупности; m – число параметров при переменных.

Для линейной регрессии m = 1 .

Для нелинейной регрессии вместо r 2 xy используется R2.

Fтабл – максимально возможное значение критерия под влиянием случайных факторов при степенях свободы k1 = m, k2 = n – m – 1 (для линейной регрессии m = 1) и уровне значимости α.

Уровень значимости α – вероятность отвергнуть правильную гипотезу

при условии, что она верна. Обычно величина α принимается равной 0,05 или

Если Fтабл Fфакт, то гипотеза Но не отклоняется и признается статистическая незначимость, ненадежность уравнения регрессии.

Для оценки статистической значимости коэффициентов линейной регрессии и линейного коэффициента парной корреляции применяется

t-критерий Стьюдента и рассчитываются доверительные интервалы каждого

Согласно t-критерию выдвигается гипотеза Н0 о случайной природе показателей, т. е. о незначимом их отличии от нуля. Далее рассчитываются фактические значения критерия tфакт для оцениваемых коэффициентов регрессии и коэффициента корреляции путем сопоставления их значений с величиной стандартной ошибки

Стандартные ошибки параметров линейной регрессии и коэффициента

корреляции определяются по формулам

Сравнивая фактическое и критическое (табличное) значения t-статистики

tтабл и tфакт принимают или отвергают гипотезу Но.

tтабл – максимально возможное значение критерия под влиянием случайных факторов при данной степени свободы k = n–2 и уровне значимости α.

Связь между F-критерием Фишера (при k1 = 1; m =1) и t-критерием Стьюдента выражается равенством

Если tтабл tфакт, то гипотеза Но не отклоняется и признается случайная природа формирования а, b или .

Значимость коэффициента детерминации R2 (индекса корреляции) определяется с помощью F-критерия Фишера. Фактическое значение критерия Fфакт определяется по формуле

Fтабл определяется из таблицы при степенях свободы k1 = 1, k2 = n–2 и при

заданном уровне значимости α. Если Fтабл