1. классический метод наименьших квадратов для модели парной регрессии

1. классический метод наименьших квадратов для модели парной регрессии

Рассмотрим применение метода наименьших квадратов для нахождения неизвестных параметров уравнения регрессии на примере модели линейной парной регрессии. Пусть подобрана эмпирическая линия, по виду которой можно судить о том, что связь между независимой переменной и зависимой переменной линейна и описывается равенством:

yi =А +Axi.

(1)

Необходимо найти такие значения параметров //0и //ь которые бы доставляли минимум функции (1), т. е. минимизировали бы сумму квадратов отклонений наблюдаемых значений результативного признака y от теоретических значений y (значений, рассчитанных на основании уравнения регрессии):

(2)

При минимизации функции (1) неизвестными являются значения коэффициентов регрессии/0 и f/у Значения зависимой и независимой переменных известны из наблюдений.

Для того чтобы найти минимум функции двух переменных, нужно вычислить частные производные этой функции по каждому из оцениваемых параметров и приравнять их к нулю. В результате получаем стационарную систему уравнений для функции (2):

Если разделить обе части каждого уравнения системы на (—2), раскрыть скобки и привести подобные члены, то получим систему:

nn

в і Е х+вох n=Е у ■

Это система нормальных уравнений относительно коэффициентов в0 и в для зависимости у, = в0 + А Х■

Решением системы нормальных уравнений являются оценки неизвестных параметров уравнения регрессии в0 и Д:

nn n

в = nЕхі Хуі ~Ехі уі = ~Ху_-Ху = Cov(x,у)

^ 2 (А V х2 -Х2 G2(x) ,

nEХ ЕХ

во =У-ві хХ, где у — среднее значение зависимого признака;

Х — среднее значение независимого признака;

ху — среднее арифметическое значение произведения зависимого и независимого признаков;

G 2(х) — дисперсия независимого признака;

Cov(x, у) — ковариация между зависимым и независимым признаками.

Рассмотрим применение МНК на конкретном примере.

Имеются данные о цене на нефть х (долларов за баррель) и индексе акций нефтяной компании у (в процентных пунктах). Требуется найти эмпирическую формулу, отражающую связь между ценой на нефть и индексом акций нефтяной компании исходя из предположения, что связь между указанными переменными линейна и описывается функцией вида у = в0 + в Х ■ Зависимой переменной (у) в данной регрессионной модели будет являться индекс акций нефтяной компании, а независимой (x) — цена на нефть.

Для нахождения коэффициентов в0 и в построим вспомогательную таблицу 1.

Таблица 1

Таблица для нахождения коэффициентов во и ві

ліЩЬІ: |1988,52 в +110,13 во =59 847,06,

[110,13 в1 +6 в0 =3288.

Решением данной системы нормальных уравнений будут следующие числа: в =15,317; в0 = 266,86.

Таким образом, уравнение регрессии, описывающее зависимость между ценой на нефть и индексом акций нефтяной компании, можно записать как: у = 15,317x + 266,86.

На основании полученного уравнения регрессии можно сделать вывод о том, что с изменением цены на нефть на 1 денежную единицу за баррель индекс акций нефтяной компании изменяется примерно на 15,317 процентных пункта.