19.1. взвешенный метод наименьших квадратов (weighted least squares, wls)

19.1. взвешенный метод наименьших квадратов (weighted least squares, wls)

Одной из основных гипотез МНК является предположение о равенстве дисперсий отклонений е., т.е. их разброс вокруг среднего (нулевого) значения ряда должен быть величиной стабильной. Это свойство называется гомоскедастичностью. На практике дисперсии отклонений достаточно часто неодинаковы, то есть наблюдается ге-тероскедастичность. Это может быть следствием разных причин. Например, возможны ошибки в исходных данных. Случайные неточности в исходной информации, такие как ошибки в порядке чисел, могут оказать ощутимое влияние на результаты. Часто больший разброс отклонений є. наблюдается при больших значениях зависимой переменной (переменных). Если в данных содержится значительная ошибка, то, естественно, большим будет и отклонение модельного значения, рассчитанного по ошибочным данным. Для того, чтобы избавиться от этой ошибки нам нужно уменьшить вклад этих данных в результаты расчетов, задать для них меньший вес, чем для всех остальных. Эта идея реализована во взвешенном МНК.

Пусть на первом этапе оценена линейная регрессионная модель с помощью обычного МНК. Предположим, что остатки е независимы между собой, но имеют разные дисперсии (поскольку теоретические отклонения є. нельзя рассчитать, их обычно заменяют на фактические отклонения зависимой переменной от линии регрессии е, для которых формулируются те же исходные требования, что и для є). В этом случае квадратную матрицу ковариаций cov(e/,e/) можно представить в виде:

st 0 0.. 0 s22 0 .. 0 0 si ..

ООО

где cov(e.,e)=0 при cov(e,e)=5.2; п длина рассматриваемого временного ряда.

Если величины 52 известны, то далее можно применить взве1

шенный МНК, используя в качестве весов величины ~ и минимизируя сумму

0, = Е

1-(у, а to,)2

Формула 0, записана для парной регрессии; аналогичный вид она имеет и для множественной линейной регрессии. При использовании WLSоценки параметров не только получаются несмещенными (они будут таковыми и для обычного МНК), но и более точными (имеют меньшую дисперсию), чем невзвешенные оценки.

Проблема заключается в том, чтобы оценить величины s-, поскольку заранее они обычно неизвестны. Поэтому, используя на первом этапе обычный МНК, нужно попробовать выяснить причину и характер различий дисперсий е.. Для экономических данных, например, величина средней ошибки может быть пропорциональна абсолютному значению независимой переменной. Это можно про1

верить статистически и включить в расчет МНК веса, равные ~.

Существуют специальные критерии и процедуры проверки равенства дисперсий отклонений. Например, можно рассмотреть частное отделения сумм самых больших и самых маленьких квадратов отклонений, которое должно иметь распределение Фишера в случае гомос кедастич ности.

Использование взвешенного метода в статистических пакетах, где предоставлена возможность задавать веса вручную, позволяет регулировать вклад тех или иных данных в результаты построения моделей. Это необходимо в тех случаях, когда мы априорно знаем о нетипичности какой-то части информации, т.е. на зависимую переменную оказывали влияние факторы, заведомо не включаемые в модель. В качестве примера такой ситуации можно привести случаи стихийных бедствий, засух. При анализе макроэкономических показателей (ВНП и др.) данные за эти годы будут не совсем типичными. В такой ситуации нужно попытаться исключить влияние этой части информации заданием весов. В разных статистических пакетах приводится возможный набор весов. Обычно это числа от О до 100. По умолчанию все данные учитываются с единичными весами. При указании веса меньше 1 мы снижаем вклад этих данных, а если задать вес больше единицы, то вклад этой части информации увеличится. Путем задания весового вектора мы можем не только уменьшить влияние каких либо лет из набора данных, но и вовсе исключить его из анализа. Итак, ключевым моментом при применении этого метода является выбор весов. В первом приближении веса могут устанавливаться пропорционально ошибкам невзвешен-ной регрессии.