Классический метод наименьших квадратов

Алтайский институт труда и права (филиал)
Академии труда и социальных отношений
Финансово-экономический факультет
КОНТРОЛЬНАЯ РАБОТА

по дисциплине Эконометрика

на тему

Классический метод наименьших квадратов

Студента 3 курса 681 группы

Бахтеевой Татьяны Михайловны

2010

Метод наименьших квадратов (МНК) – один из наиболее широко используемых методов при решении многих задач восстановления регрессионных зависимостей[1]
. Впервые МНК был использован Лежандром в 1806 г. для решения задач небесной механики на основе экспериментальных данных астрономических наблюдений. В 1809 г. Гаусс изложил статистическую интерпретацию МНК и тем самым дал начало широкого применения статистических методов при решении задач восстановления регрессионных зависимостей. Строгое математическое обоснование и установление границ содержательной применимости метода наименьших квадратов даны А.А. Марковым и А.Н. Колмогоровым. Ныне способ представляет собой один из важнейших разделов математической статистики и широко используется для статистических выводов в различных областях науки и техники.

Приведу краткое описание данного метода. Метод наименьших квадратов — один из методов регрессионного анализа для оценки неизвестных величин по результатам измерений, содержащих случайные ошибки. Применяется также для приближённого представления заданной функции другими (более простыми) функциями и часто оказывается полезным при обработке наблюдений. В настоящее время широко применяется при обработке количественных результатов естественнонаучных опытов, технических данных, астрономических и геодезических наблюдений и измерений.

Можно выделить следующие достоинства метода:

а) расчеты сводятся к механической процедуре нахождения коэффициентов;

б) доступность полученных математических выводов.

Основным недостатком МНК является чувствительность оценок к резким выбросам, которые встречаются в исходных данных.

Рассмотрю применение классического метода наименьших квадратов для нахождения неизвестных параметров уравнения регрессии на примере модели линейной парной регрессии. Пусть подобрана эмпирическая линия, по виду которой можно судить о том, что связь между независимой переменной и зависимой переменной линейна и описывается равенством:

(1)

Необходимо найти такие значения параметров и , которые бы доставляли минимум функции (1), т. е. минимизировали бы сумму квадратов отклонений наблюдаемых значений результативного признака от теоретических значений (значений, рассчитанных на основании уравнения регрессии):

(2)

При минимизации функции (1) неизвестными являются значения коэффициентов регрессии и Значения зависимой и независимой переменных известны из наблюдений.

Для того чтобы найти минимум функции двух переменных, нужно вычислить частные производные этой функции по каждой из оцениваемых п

араметров и приравнять их к нулю. В результате получаем стационарную систему уравнений для функции (2):

регрессивный оценка обработка результат

Если разделить обе части каждого уравнения системы на (-2), раскрыть скобки и привести подобные члены, то получим систему:

Эта система нормальных уравнений относительно коэффициентов и для зависимости

Решением системы нормальных уравнений являются оценки неизвестных параметров уравнения регрессии и :

Где - среднее значение зависимого признака;

- среднее значение независимого признака;

- среднее арифметическое значение произведения зависимого и независимого признаков;

- дисперсия независимого признака;

- ковариация между зависимым и независимым признаками.

Рассмотрим применение МНК на конкретном примере.

Имеются данные о цене на нефть (долларов за баррель) и индексе акций нефтяной компании (в процентных пунктах). Требуется найти эмпирическую формулу, отражающую связь между ценой на нефть и индексом акций нефтяной компании исходя из предположения, что связь между указанными переменными линейна и описывается функцией вида

Зависимой переменной в данной регрессионной модели будет являться индекс акций нефтяной компании, а независимой - цена на нефть.

Для нахождения коэффициентов и построим вспомогательную таблицу (1).

Таблица 1.

Таблица для нахождения коэффициентов и

Запишем систему нормальных уравнений исходя из данных таблицы:

Решением данной системы будут следующие числа:

Таким образом, уровень регрессии, описывающее зависимость между ценой на нефть и индексом акций нефтяной компании, можно записать как:

На основании полученного уравнения регрессии можно сделать вывод о том, что с изменением цены на нефть на 1 денежную единицу за баррель индекс акций нефтяной компании изменяется примерно на 15, 317 процентных пункта.

Метод наименьших квадратов является наиболее распространенным методом оценивания параметров уровня регрессии, и применим только для линейных относительно параметров моделей или приводимых к линейным с помощью преобразования и замены переменных[2]
.

Список использованной литературы:

1. Крянев А.В. Применение современных методов математической статистики при восстановлении регрессионных зависимостей на ЭВМ. Учебное пособие. М.: 1988. С. 4.

2. Мамаева З.М. Математические методы и модели в экономике. ч 2. Учебное пособие. Н. Новгород.: 2010. С 17

3. Эконометрика. Конспект лекций. Яковлева А.В. М.: Эксмо, 2008.С. 126.

[1]
Крянев А.В. Применение современных методов математической статистики при восстановлении регрессионных зависимостей на ЭВМ. Учебное пособие. М.: 1988. 4 с.

[2]
Мамаева З.М. Математические методы и модели в экономике. ч 2. Учебное пособие. Н.Новгород.: 2010. С 17