Мнк оценки параметров эконометрической модели линейного уравнения

Методы оценки параметров линейных и нелинейных эконометрических моделей

Методологическая особенность эконометрики заключается в применении достаточно общих гипотез о статистических свойствах экономических параметров и ошибок при их измерении. Полученные при этом результаты могут оказаться нетождественными тому содержанию, которое вкладывается в реальный объект. Отсюда важной задачей эконометрики является создание более универсальных и специальных методов для обнаружения наиболее устойчивых характеристик в поведении реальных экономических показателей. Для этого разрабатываются методы подгонки формальной модели с целью наилучшего имитирования ею поведения моделируемого объекта на основе гипотезы о том, что отклонения модельных значений параметров от реально наблюдаемых случайны и вероятностные характеристики их известны. Математическая статистика является тем универсальным аппаратом, который удачно вписывается в содержание различных эконометрических исследований. Поскольку большинство эконометрических моделей представляют собой систему одновременных регрессионных (стохастических) уравнений, то такие разделы математической статистики, как корреляционный и регрессионный анализы, метод наименьших квадратов и прогнозирование, как нельзя лучше подходят для выявления статистических закономерностей в экономике.

Понятие системы одновременных эконометрических уравнений и методов (эконометрическая модель) их решения были впервые предложены норвежским экономистом Т.Хаавельмо, лауреатом Нобелевской премии по экономике (1989г.) за работы по основам эконометрики и анализу экономических структур. Т.Хаавельмо показал, что, используя методы математической статистики, можно получить обоснованные заключения о сложных экономических взаимосвязях, исходя из случайной выборки эмпирических наблюдений. Он рассматривал экономические ряды как реализацию случайных процессов. Главными проблемами, возникающими при работе с такими данными, являются нестационарность и сильная волатильность. Если переменные нестационарны, то есть риск установить связь там, где её нет. Вариантом решения данной проблемы служит переход от уровней ряда к их разностям. Недостатком этого метода является сложность экономической интерпретации полученных результатов, поскольку уравнение регрессии – это различные способы аппроксимации истинной регрессионной зависимости.

Для установления статистической зависимости (уравнения регрессии) между изучаемым экономическим показателем (объясняемой переменной) и влияющими на нее факторами (объясняющими переменными) проводится регрессионный анализ. Такой анализ предполагает идентификацию объясняющих переменных, спецификацию формы определяемой связи между переменными, определение и оценку конкретных числовых значений параметров уравнения регрессии.

Регрессионный анализ является одним из основных методов математической статистики. В зависимости от числа переменных этот анализ делится на однофакторный и множественный. Однофакторный регрессионный анализ позволяет найти (построить) зависимость между двумя экономическими переменными (результатом и фактором). Например, он позволяет найти зависимость расходов на питание (результат) от доходов населения (фактор). Однако в реальной экономике чаще всего наблюдаются несколько (более одного) факторов, влияющих на результативный признак. В этом случае применяется множественный регрессионный анализ, который позволяет найти (построить) зависимость между несколькими экономическими переменными (показателями). Например, с помощью множественного регрессного анализа можно найти зависимость спроса от доходов населения и от индекса цен. Множественный регрессионный анализ является обобщением однофакторного регрессионного анализа к случаю нескольких переменных (факторов).

Модели, полученные с помощью регрессионного анализа, позволяют прогнозировать варианты развития экономических процессов и явлений, изучать тенденции изменения экономических показателей, поскольку служат инструментом научно-обоснованных предсказаний. Результаты прогноза служат исходным материалом для постановки реальных экономических целей и задач, для выявления и принятия наилучших управленческих решений, для разработки хозяйственной и финансовой стратегии в будущем.

Задача регрессионных моделей состоит в экспериментальном определении параметров корреляционных зависимостей между экономическими показателями путем наблюдения за характером их изменения.

Регрессионные модели подразделяются на 2 группы: линейные и нелинейные (динамические) модели.

Линейная эконометрическая модель может быть записана в виде (структурная форма модели) формулы:

Ayt + Bxt = Et

где: A – невырожденная матрица неизвестных параметров m x m;

yt – вектор эндогенных переменных (зависимые от внутренней структуры изучаемого объекта) m x 1;

B– матрица неизвестных параметров m x k;

xt – вектор экзогенных переменных (независимых от структуры моделируемого объекта) k x 1;

Et – случайный вектор ненаблюдаемых отклонений;

t – номер наблюдения. Если эконометрическая модель является динамической (нелинейной), то t – обозначает момент времени.

В линейной эконометрической модели количество эндогенных переменных должно быть равно количеству уравнений. Характерной особенностью этих моделей является то, что эндогенная переменная, будучи зависимой переменной в одном из уравнений системы, может выступать в роли независимой переменной в другом уравнении эконометрической модели.

Нелинейные модели регрессии – это динамические макроэкономические модели, состоящие из небольшого числа соотношений между агрегированными экономическими показателями (национальный доход, конечный продукт, численность занятых, расходы на науку и т.д.). Нелинейные модели используются для исследования долгосрочных аспектов экономического развития на макроуровне. При этом любая динамическая модель в формализованном виде отражает некоторую систему теоретических представлений об основных механизмах функционирования экономики. Она позволяет описать в рамках единой и вместе с тем обозримой (то есть поддающейся исследованию в целом) динамической системе взаимодействие многочисленных и разнообразных процессов и механизмов экономического развития. Выпуск в рамках нелинейной модели, как правило, описывается одним показателем (однопродуктовая модель). Но имеются исключения, например, в разработанных К.Марксом моделях функционирования общественного воспроизводства выпуск разбивается на два сектора: на средства производства и предметы потребления. Такая модель соответствует двухсекторной эконометрической динамической модели.

Теоретико-экономические нелинейные модели позволяют изучать сбалансированность долгосрочного экономического роста, его устойчивость, факторы, определяющие долгосрочные темпы прироста, экономическую роль научно-технического прогресса. Экономико-статистические динамические модели используются, главным образом, для долгосрочного и среднесрочного прогнозирования, а также для анализа воздействия различных факторов на долгосрочную динамику роста. Важнейшим элементом большинства динамических моделей являются макроэкономические производственные функции. Все экономико-статистические динамические модели – эконометрические.

Одним из основных методов оценки регрессионных моделей является метод наименьших квадратов – это статистический метод нахождения оценок параметров генеральной совокупности. В случае линейных связей, когда наблюдения содержат лишь случайные ошибки (без систематических), то оценки, полученные с помощью метода наименьших квадратов, являются линейными функциями от наблюдаемых значений. Они называются несмещенными. Если ошибки наблюдения независимы и подчиняются нормальному распределению, то метод наименьших квадратов даёт оценки с наименьшей дисперсией, то есть эти оценки являются эффективными. В этом и состоит преимущество данного метода оценки регрессных моделей от всех остальных методов, поскольку он позволяет находить несмещенные оценки.

В то же время обычный метод наименьших квадратов, примененный к каждому уравнению эконометрической модели изолированно, может привести и к несостоятельным оценкам. В этом случае для оценивания параметров эконометрической модели применяют специальные методы одновременного оценивания. Наиболее используемыми методами одновременного оценивания эконометрической модели являются двухшаговый и трёхшаговый методы наименьших квадратов. Однако если распределение случайных ошибок существенно отличается от нормального, то метод наименьших квадратов может и не быть наилучшим. В этом случае можно использовать метод максимального правдоподобия и метод моментов.

Оценка линейных эконометрических моделей с помощью метода максимального правдоподобия производится на основе общего оценивания неизвестных параметров распределения. Оценки методом максимального правдоподобия – это те значения параметров, которые отвечают максимуму совместной плотности или функции правдоподобия. Но для малых объёмов выборки данный метод не применим, поскольку если параметры модели имеют эффективную оценку, то она совпадает с оценкой метода максимального правдоподобия.

Метод моментов – один из общих методов оценивания неизвестных параметров распределения. Суть его заключается в том, что некоторые моменты генеральной совокупности как функция неизвестных параметров приравниваются к соответствующим выборочным моментам, после чего система уравнений решается относительно неизвестных параметров. Полученные значения называют оценками метода моментов. Доказывается, что метод моментов может привести к состоятельным оценкам.

Линеаризация нелинейных регрессных моделей – это вспомогательное

преобразование, позволяющее перейти от нелинейных, относительно исходных переменных моделей (уравнений регрессии) к линейным. Например, логарифмические, гиперболические, показательные, степенные зависимости приводятся к линейному виду путём изменения исследуемых переменных, например, с помощью операций логарифмирования.

Недостаток линеаризации вследствие преобразования исследуемых переменных заключается в том, что оценки параметров, полученные после линеаризации методом наименьших квадратов (МНК), минимизируют сумму квадратов отклонений для преобразованных, а не для исходных переменных. Поэтому оценки зависимостей, полученных в результате линеаризации, нуждаются в уточнении.

Как было отмечено выше, отрицательным качеством линейных эконометрических моделей с двумя переменными, является их неадекватность к реальной действительности. Это вызвано тем, что статистическая (и, в частности, корреляционная) зависимость между экономическими величинами практически никогда не бывает в чистом виде линейной. При этом многие факторы, влияющие на эти две переменные, остаются за пределами модели и оказываются неучтенными. Эконометрическая модель, как правило, содержит несколько уравнений, а в каждом уравнении — несколько переменных. Задача оценивания параметров такой разветвленной модели решается с помощью сложных и причудливых методов. Однако все они имеют одну и ту же теоретическую основу (МНК). По мере возрастания сложности идет линейная регрессия с двумя переменными (парная регрессия). Простая линейная регрессия связана с двумерным распределением случайных величин (распределением двух переменных). Использование двух переменных дает больше информации, нежели применение одной. Например, доход от продажи товара можно анализировать, используя только данные о доходе на прошлых периодах времени вне связи с другими факторами. Но мы получим гораздо более богатую информацию, если примем во внимание другие факторы, влияющие на объем продаж — такие, как спрос, цена товара, цена товара-конкурента, период времени, затраты на рекламу и другие. Если бы при этом расходы на рекламу явились главным фактором, определяющим объём продаж, то знание вида связи объёма продаж и расходов на рекламу было бы весьма полезным для планирования финансовой политики компании. В этом случае применяются модели с коррелирующими факторами и с лаговыми зависимыми переменными.

Оценка параметров линейного регрессионного уравнения

Для оценки параметров регрессионного уравнения наиболее часто используют метод наименьших квадратов (МНК), в основе которого лежит предположение о независимости наблюдений исследуемой совокупности. Сущность данного метода заключается в нахождении параметров модели (α, β), при которых минимизируется сумма квадратов отклонений эмпирических (фактических) значений результативного признака от теоретических, полученных по выбранному уравнению регрессии:

В итоге получаем систему нормальных уравнений:

Эту систему можно записать в виде:

Решая данную систему линейных уравнений с двумя неизвестными получаем оценки наименьших квадратов:

В уравнениях регрессии параметр α показывает усредненное влияние на результативный признак неучтенных факторов, а параметр β – коэффициент регрессии показывает, насколько изменяется в среднем значение результативного признака при увеличении факторного на единицу.

Между линейным коэффициентом корреляции и коэффициентом регрессии существует определенная зависимость, выражаемая формулой:

где – коэффициент регрессии в уравнении связи;

– среднее квадратическое отклонение соответствующего статистически существенного факторного признака.

Имеются следующие данные о размере страховой суммы и страховых возмещений на автотранспортные средства одной из страховых компаний.

Зависимость между размером страховых возмещений и страховой суммой на автотранспорт

Объем страхового возмещения (тыс.долл.), Yi

Стоимость застрахованного автомобиля (тыс.долл.), X i

Лекция. Метод наименьших квадратов (мнк) Оценка параметров линейных уравнений регрессии

НазваниеМетод наименьших квадратов (мнк) Оценка параметров линейных уравнений регрессии
АнкорЛекция
Дата30.06.2021
Размер69 Kb.
Формат файла
Имя файла082_Lektsiya24_MNK.doc
ТипДокументы
#222536
С этим файлом связано 1 файл(ов). Среди них: Основые формы самостоятельных занятий.pdf.
Показать все связанные файлы Подборка по базе: Теория и методика занятий волейболом.docx, Алгоритм для реш нер-в методом интервалов.docx, 1.История и методология науки.pdf, тема ПС и ЭПС методматериал.docx, реферат Теория и методика физической культуры.docx, Коронавирусная инфекция и методы её профилактики.docx, Отчет по лабораторной работе №1 исследование электростатического, Игра как метод обучения.docx, Тест 2 Методика преподавания по программам дополнительного образ, Классификации методов психологии.docx

Метод наименьших квадратов (МНК)

Оценка параметров линейных уравнений регрессии

Процедура построения системы нормальных уравнений и исходное соотношение, используемое в МНК. Для определения параметров функции, используемой в эконометрической модели, разработаны различные методы, наиболее простым и известным из которых является метод наименьших квадратов (МНК). Рассмотрим суть этого метода на примере парной линейной регрессии.

Применение МНК к парной линейной регрессии . Итак, необходимо определить параметры а и b для функции
y = f(x) = ax + b. Пусть значения показателей y и x измерялись n раз, т.е. имеются значения показателей y1, y2, …, yn и x1, x2, …, xn, всего n пар значений обоих показателей. Определим сумму квадратов отклонений фактических значений признака-результата yi от значений, подсчитанных по уравнению регрессии f(xi):

Чтобы построенная модель была как можно ближе к реальности, эта сумма должна быть как можно меньше. Отметим, что полученная сумма представляет собой функцию от двух переменных а и b, и чтобы найти ее минимум, приравняем к нулю ее частные производные по а и по b:

Итак, получено два линейных уравнения с двумя неизвестными – а и b (система линейна относительно параметров регрессии). Такую систему называют системой нормальных уравнений. Решив ее, можно определить искомые параметры.
Применение МНК к множественной линейной регрессии. Если необходимо определить параметры множественной линейной регрессии, т.е. параметры функции y = f(x1, x2, …, xm) = a1x1 + a2x2 + … +amxm +
+ b, имея в запасе n наблюдений для каждого признака-фактора и для признака результата, то можно аналогичным образом получить систему нормальных уравнений, состоящую из (m + 1) линейного уравнения для
(m + 1) неизвестной a1, a2, …, am, b:

где ,

— i-ые значения наблюдаемых показателей (для каждого показателя их n).
Отметим, что систему уравнений для нахождения стандартизованных коэффициентов регрессии, которую мы рассматривали на лекции 31, также получают путем применения МНК к стандартизированному уравнению регрессии и преобразования полученных выражений.
Методы решения системы нормальных уравнений . Решение построенной системы может быть осуществлено различными способами:

1) методом Гаусса, который заключается в том, что матрицу коэффициентов в уравнениях поэтапно преобразуют в единичную матрицу путем линейных преобразований этих уравнений (разрешающее уравнение делят на разрешающий элемент, получая на его месте единицу, а из всех остальных уравнений вычитают преобразованное разрешающее, умноженное на те коэффициенты, которые стоят в этих уравнениях в разрешающем столбце, с целью получить на их месте нули);

2) методом Крамера, который заключается в том, что рассчитывают определитель матрицы коэффициентов в уравнениях, а затем рассчитывают частные определители, поочередно заменяя один из столбцов в этой матрице столбцом свободных членов; значения переменных равны отношениям соответствующих частных определителей к определителю первой матрицы;

3) методом обратной матрицы и т.д.

Матричная форма МНК

Рассмотрим систему нормальных уравнений МНК, используя обозначения матричной алгебры. А именно, введем следующие обозначения:

где m – число признаков-факторов,

n — число наблюдений.

Каждая строка матрицы соответствует одному из наблюдений, а каждый столбец, кроме первого, — одному из факторов.

Если транспонировать матрицу X размерности n x (m + 1), в полученной матрице X Т размерности (m + 1) x n каждый столбец будет соответствовать одному из факторов, а строки — наблюдениям. Перемножив полученную матрицу X Т на X, получим симметричную матрицу размерности (m + 1) x (m + 1):

Тогда система уравнений примет вид X Т XА = X Т Y. Умножим слева обе части этого выражения на матрицу (X Т X) -1 , получим:
(X Т X) -1 X Т XА = (X Т X) -1 X Т Y. Поскольку (X Т X) -1 X Т X = I (где I — единичная матрица), формула для нахождения вектора параметров А примет вид:

А = (X Т X) -1 X Т Y
Контрольные вопросы
1. Пусть yi – фактические значения, — расчетные значения, , тогда система нормальных уравнений получается из условия …

2. Для нахождения параметров линейной регрессии минимизируют сумму квадратов отклонений фактических значений результата от подсчитанных по уравнению регрессии. Метод, в основе которого лежит эта идея, — метод … (напишите два слова в родительном падеже)
3. В рамках метода наименьших квадратов (МНК) система нормальных уравнений — это система, решением которой являются оценки .
4. Формулы для решения системы нормальных уравнений, по которым частные определители делят на определитель системы, — формулы… (напишите фамилию ученого в родительном падеже)

5. В модель множественной регрессии включено семь факторов. Сколько уравнений будет в системе нормальных уравнений?
6. Для нахождения параметров линейной регрессии минимизируют сумму квадратов отклонений фактических значений результата от подсчитанных по уравнению регрессии. Метод, в основе которого лежит эта идея, — метод … (напишите два слова в родительном падеже)

7. В модель множественной регрессии включено три фактора. Сколько уравнений будет в системе нормальных уравнений?
8. В модель множественной регрессии включено семь факторов. Сколько неизвестных будет в системе нормальных уравнений?


источники:

http://einsteins.ru/subjects/statistika/teoriya-statistika/ocenka-parametrov

http://topuch.ru/metod-naimeneshih-kvadratov-mnk-ocenka-parametrov-linejnih-ura/index.html