3.4. коррекция статистических выводов при наличии гетероскедастичности (неоднородности дисперсий ошибок)

3.4. коррекция статистических выводов при наличии гетероскедастичности (неоднородности дисперсий ошибок)

Пример. Для исследования вопроса о зависимости количества руководящих работников от размера предприятия были собраны статистические данные по 27 промышленным предприятиям. Далее обозначено:

xi — численность персонала на і-м предприятии,

yi — количество руководителей на і-м предприятии.

Оцениваем линейную модель наблюдений

yi =а +/3xt + є і , і = 1,...,27.

Регрессионный анализ дает следующие результаты: R =

2

0

-1

-2

-3

0

50

100 150 200

YF

Похоже, что имеет место тенденция линейного возрастания абсолютных величин остатков с ростом у, соответствующая наличию приближенной зависимости вида

D(st ) = а2 =а

для дисперсий ошибок. Чтобы погасить

такую неоднородность дисперсий, разделим обе части соотношения yi = а + f3xt + є i на xi:

XX X

т. е. перейдем к модели наблюдений і і

выполняется

соотношение

Если действительно D{e .) = а2 = а2 • х2, то тогда в преобразованной модели

E[є ;) = 0,D(є ;) = -1 D(є i )=а

2

y = 3.803 + 0.121л: .|

Отметим уменьшение оцененных стандартных ошибок оценок обоих параметров а и р. Именно на эти значения следует опираться при построении доверительных интервалов для этих параметров. Средними точками этих интервалов будут,

соответственно, а = 3.803 и /3 = 0.121. Следующий график показывает характер зависимости стандартизованных остатков в преобразованной модели от y *.

На сей раз неоднородности дисперсий остатков (по крайней мере явной) не обнаруживается.

2і 1

і. ° ° °° ° °

о °

< О °

W, 0- ° о

0 о °

И ° п ° °

Ш ° о °

01 о °

-1-2-1 , , , °

0 50 100 150 200 250

YF*

Рассмотрим внимательнее наши действия при оценивании преобразованной модели. Оценки коэффициентов, приведенные в последней таблице, получены применением метода наименьших квадратов к модели наблюдений у* = /3+ ах* + є * , т. е. путем минимизации суммы квадратов

которую, вспоминая, что обозначают переменные со звездочками^

± ( ~-Р-*А2= ± (У,-<*-fi х, )2.

Обозначая теперь 1 І

хі

получаем, что задача минимизации суммы квадратов отклонений в преобразованной модели равносильна задаче минимизации взвешенной суммы квадратов отклонений в исходной (непреобразованной) модели. Величина wi

интерпретируется в этом контексте как вес, приписываемый квадрату отклонения в і м наблюдении. Этот вес будет тем меньше, чем больше значение х2, которое в силу наших предположений пропорционально дисперсии случайной ошибки D^s i) = cr2 а2 ■ х2 в і -м наблюдении. Следовательно, чем больше дисперсия случайной ошибки є і, тем меньше вес, с которым входит квадрат отклонения в і -м наблюдении в минимизируемую сумму.

Имея в виду, что оценивание преобразованной модели наблюдений сводится к минимизации суммы

п

Z w (у~а -Р х )2,

і=1

рассмотренный метод оценивания называют взвешенным методом наименьших квадратов (хотя точнее его следовало бы называть методом наименьших взвешенных квадратов).

Замечание. В некоторых руководствах по эконометрике и в некоторых пакетах статистического анализа данных (например, в пакете EVIEWS) используется несколько иное равносильное представление минимизируемой суммы квадратов в преобразованной модели наблюдений:

n 2

T;{Wi iyi -<*-Р xi )) .

i=1

В этом случае вес приписывается не квадрату отклонения,

а самому отклонению (yi — а — /3 xi). Разумеется, в рассмотренном примере при таком определении веса последний будет

равен

І Г~

xi

На это обстоятельство следует обратить внимание при спецификации весов в процедурах, реализующих взвешенный метод наименьших квадратов.

Обратим теперь внимание на то, в каком виде выдается информация о результатах применения взвешенного метода наименьших квадратов на примере пакета EVIEWS. При этом используем данные из рассмотренного выше примера. Согласно сказанному в Замечании, при обращении к процедуре оценивания взвешенным методом наименьших квадратов в условиях нашего примера мы специфицируем веса как w = 1/x .

Протокол оценивания имеет следующий вид: Dependent Variable: Y Method: Least Squares Date: Time: Sample: 1 27 Included observations: 27 Weighting series: 1/X

В этом протоколе приводятся значения двух видов статистик:

Weighted Statistics (взвешенные статистики)

статистики, основанные на остатках, получаемых

это по

e.

/3ax*

Уі

взвешенным данным, т. е. на остатках в преобразованной модели.

Unweighted Statistics (невзвешенные статистики) —

WLS

WLS .

Х.

■Р

это статистики, основанные на «остатках»

т. е. на отклонениях наблюyі -а

даемых значений объясняемой переменной y от значений, предсказываемых линейной моделью связи, в качестве параметров которой берутся их оценки aWLS ,Р WLS, полученные в преобразованной модели. Отметим весьма низкое (0.2696) значение коэффициента детерминации в преобразованной модели. Однако это обстоятельство не должно нас волновать — линейная связь в преобразованной модели значима, о чем говорит весьма высокое значение F -статистики, равное 180.7789, и соответствующее ему P -значение 0.0000 (см. Weighted Statistics). В конечном

счете нас интересует значение R2, находящееся в части протокола, соответствующей невзвешенным статистикам, а это значение достаточно велико (0.7580).

Отметим еще, что приведенные в начале таблицы значения оценок параметров, их стандартных ошибок и t -статистик, а также P -значения соответствуют величинам, полученным на стадии оценивания преобразованной модели.

Заметим, наконец, что значение R2 = 0.758 , указанное в числе невзвешенных статистик, отличается от значения R2 = 0.776, полученного нами при оценивании исходной (не-преобразованной) модели наблюдений. Причина этого, разумеется, в том, что при вычислении значения R2 = 0.776 использовались остатки

e = Уі -ct ~Р xi , где ос, Р — оценки наименьших квадратов параметров исходной модели, полученные без использования взвешивания отклонений.

Мы уже отмечали выше, что результатом неоднородности дисперсий случайных ошибок в модели наблюдений является смещение оценок дисперсий случайных величин в^,...,0 . В то же время, наличие такого нарушения стандартных предположений оставляет оценки в Х,...,Ъp несмещенными. В связи

с этим, один из методов коррекции статистических выводов при неоднородности дисперсий ошибок состоит в использовании обычных оценок наименьших квадратов (OLS-оценок,

Ordinary Least Squares estimates) вx,...,6p коэффициентов в 1,..., вp вместе со скорректированными на гетероскеда-стичность оценками стандартных ошибок sg ^. Один из вариантов получения скорректированных на гетероскедастичность значений sff ^ был предложен Уайтом (White) и реализован в

ряде пакетов статистического анализа данных, в том числе и в пакете EVIEWS. При этом удовлетворительные свойства оценки Уайта гарантируются только при большом количестве наблюдений. Мы не будем приводить здесь детали получения оценки Уайта, а просто воспользуемся пакетом EVIEWS для анализа данных из только что рассмотренного примера.

Пример. Используем данные из предыдущего примера, но применим для их анализа последнюю процедуру. Согласно этой процедуре, мы оцениваем коэффициенты а и /3 обычным

методом наименьших квадратов, так что в качестве оценок берутся значения а = 14.448 и J3 = 0.105. В качестве же оценок стандартных ошибок s~ и вместо значений s~ = 9.562 и

= 0.011, полученных выше при оценивании модели обычным методом наименьших квадратов, берем значения оценок Уайта s. = 10.633 и s= 0.018.

а р

Бросающееся в глаза значительное различие оценок для параметра а при применении двух рассмотренных методов (3.803 и 14.448) в действительности не столь уж удивительно, поскольку оценки стандартной ошибки для а, полученные каждым из двух методов довольно высоки (s~a = 4.570 и

s~ = 10.633, соответственно).

Избавиться от неоднородности дисперсий ошибок в ряде случаев позволяет переход к логарифмам объясняемой переменной.

Пример. По данным, использованным в двух предыдущих примерах, оценим модель наблюдений

Inyt = а + f5xi + є i , i = 1,...,27.

График зависимости стандартизованных остатков, полученных при оценивании этой модели, от предсказанных значеЛ

ний In yi (левый график)

2

2

3.5

5.5

указывает на неправильную спецификацию модели, связанную с возможным пропуском квадратичной составляющей x2 . Оценивание расширенной модели наблюдений, включающей дополнительную объясняющую переменную x2, приводит к остаткам, обнаруживающим существенно более удовле y = 3.803 + 0.121x и lny = 2.851 + 0.003 x 1.1 • 10 6x

Первую из этих двух моделей можно предпочесть из соображений простоты интерпретации.