5.1. оценивание линейной прогностической функции

5.1. оценивание линейной прогностической функции

Начнем с задачи точечного и доверительного оценивания линейной прогностической функции одной переменной.

Исходные данные набор п пар чисел (tk , Хк), к = 1,2,...,п, где tk независимая переменная (например, время), a Хк зависимая (например, индекс инфляции, курс доллара США, объем месячного производства или размер дневной выручки торговой точки). Предполагается, что переменные связаны зависимостью

хк = a (tk tcp)+ b + ек, к = 1,2, ...,п, где а и Ь параметры, неизвестные статистику и подлежащие оцениванию, а. -погрешности, искажающие зависимость. Среднее арифметическое моментов времени

tcp= (ti + h +...+t„)/n введено в модель для облегчения дальнейших выкладок.

Обычно оценивают параметры а и Ь линейной зависимости методом наименьших квадратов. Затем восстановленную зависимость используют для точечного и интервального прогнозирования.

Как известно, метод наименьших квадратов был разработан великим немецким математиком К. Гауссом в 1794 г. Согласно этому методу для расчета наилучшей функции, приближающей линейным образом зависимость х от t, следует рассмотреть функцию двух переменных

п

f(a,b) = J](xi-a(ti-tcp)-b)2.

Оценки метода наименьших квадратов это такие значения а* и Ь*, при которых функция f(a,b) достигает минимума по всем значениям аргументов. Чтобы найти эти оценки, надо вычислить частные производные от функции f(a,Ъ) по аргументам а и Ь, приравнять их О, затем из полученных уравнений найти оценки: Имеем:

df(a,b)

да

df(a,b) db

= 2]2(xI.-fl(fI.-g)-*)(-(fI--g))s

Х2(хг-а(ґг-^)-6Х-1).

Преобразуем правые части полученных соотношений. Вынесем за знак суммы общие множители 2 и (-1). Затем рассмотрим слагаемые. Раскроем скобки в первом выражении, получим, что каждое слагаемое разбивается на три. Во втором выражении также каждое слагаемое есть сумма трех. Значит, каждая из сумм разбивается на три суммы. Имеем: df(a,b)

да

df(a,b)

(-2)£>,С,-t^-a^it, ~tcpf -tcp)),

i- iin n

db

= (-2)(Y,xi-aY,(ti-tcp) -bn).

1=1 1=1

Приравняем частные производные 0. Тогда в полученных уравнениях можно сократить множитель (-2). Поскольку

(1)

уравнения приобретают вид

-Ьп = 0.

г=1

Следовательно, оценки метода наименьших квадратов имеют вид

п

■■ X

ср

(2)

Ее*-'*)2

1=1

В силу соотношения (1) оценку а* можно записать в более симметричном виде:

п

• (3)

!=1

Эту оценку нетрудно преобразовать и к виду

п п п

.■=1 п

помощью которой можно

Следовательно, восстановленная функция, прогнозировать и интерполировать, имеет вид

x*(t) = a*(t tcp)+b*.

Обратим внимание на то, что использование tcp в последней формуле ничуть не ограничивает ее общность. Сравним с моделью вида

Хк = с tk+ d + ей, к = 1,2,...,п.

Ясно, что

с = a, d =b-atn„. Аналогичным образом связаны оценки параметров:

с* = а*, d* = b*-a*trn.

Для получения оценок параметров и прогностической формулы нет необходимости обращаться к какой-либо вероятностной модели. Однако для того, чтобы изучать погрешности оценок параметров и восстановленной функции, т.е. строить доверительные интервалы для a*, b* nx*(t), подобная модель необходима.

Непараметрическая вероятностная модель. Пусть значения независимой переменной t детерминированы, а погрешности ей , к = 1,2,...,п, независимые одинаково распределенные случайные величины с нулевым математическим ожиданием и дисперсией сг2, неизвестной статистику.

В дальнейшем неоднократно будем использовать Центральную Предельную Теорему (ЦПТ) теории вероятностей для величин вк, к = 1,2,...,п (с весами), поэтому для выполнения ее условий необходимо предположить, например, что погрешности вк , к = 1,2,...,п, финитны или имеют конечный третий абсолютный момент. Однако заострять внимание на этих внутриматематических "условиях регулярности" нет необходимости.

Асимптотические распределения оценок параметров. Из формулы (2) следует,

что

п п 1 п 1 п

b* = -YJ(tl-tcp) + b+^^=b + -H^ • (5)

П i=i п i = l п i = l

Согласно ЦПТ оценка Ъ* имеет асимптотически нормальное распределение с математическим ожиданием Ъ и дисперсией <т2 / п, оценка которой приводится ниже. Из формул (2) и (5) вытекает, что

1 п

хі ~хсР =Фі-tcp) + b + et-b—£е,.,

П i=i

(її-xcp)(!i-tcp) = a{ti-tcp)2+et(tt-tcp)-{ti tcp)f,er

n i=

Последнее слагаемое во втором соотношении при суммировании по і обращается в О, поэтому из формул (2-4) следует, что

а* = а +]Гс.е., с. = }*' . (6)

2

G

Формула (6) показывает, что оценка а * является асимптотически нормальной с математическим ожиданием а и дисперсией

D(a*) = ±cfD(ei)=1>г-и2

1=1

Отметим, что многомерная нормальность имеет быть, когда каждое слагаемое в формуле

(6) мало сравнительно со всей суммой, т.е.

im^ l-tcpl{fj{tl-tcp)2}112 =0 .

Из формул (5) и (6) и исходных предположений о погрешностях вытекает также несмещенность оценок параметров.

Несмещенность и асимптотическая нормальность оценок метода наименьших квадратов позволяют легко указывать для них асимптотические доверительные границы (аналогично границам в предыдущей главе) и проверять статистические гипотезы, например, о равенстве определенным значениям, прежде всего 0. Предоставляем читателю возможность выписать формулы для расчета доверительных границ и сформулировать правила проверки упомянутых гипотез.

Асимптотическое распределение прогностической функции. Из формул (5) и (6) следует, что

М(х * (0) = М{а *(t — t) + b*} = M(a*)(t -tcp) + M(b*) = a(t-tcp) + b = x(t),

т.е. рассматриваемая оценка прогностической функции является несмещенной. Поэтому

D(x * (0) = D{a*){t -tcpf + 2М{(а * -a)(b * -b)(t -tcp)} + D(b*). При этом, поскольку погрешности независимы в совокупности и М(е{) 0, то

M{(a*-a)(b*-b)(t-t4,)} = -ftci(t-tcp)M(ef) =-(t-1ср)ст2^с,= 0 .

n ,-=i и ,-=i

Таким образом,

D(x*(t)) = a2{+ cp

Итак, оценка jc * (г*) является несмещенной и асимптотически нормальной. Для ее практического использования необходимо уметь оценивать остаточную дисперсию М(е2) = а2.

Оценивание остаточной дисперсии. В точках tt, к = 1,2,...,п, имеются исходные значения зависимой переменной Хк и восстановленные значения x*(tk). Рассмотрим остаточную сумму квадратов

SS = X (х * {t,) x(tl))2 =Х {(а * -*)(*,. tcp) + (Ъ * -Ь) е,)2.

В соответствии с формулами (5) и (6)

SS = -tj^cjej +і±е;-eL}2 = -t*)+-)ej-eL}2^±SSr

i= 7=1 7=1 i= 7=1 И г=1

Найдем математическое ожидание каждого из слагаемых:

М(^.) = ]Г{сД.-tcp)+-}2(y2-2{ciiti-tcp) + ±)a2+a2.

Из сделанных ранее предположений вытекает, что при п —> со имеем MiSSj) —» сг2,г = 1,2,...,и, следовательно, по закону больших чисел статистика SS/n

является состоятельной оценкой остаточной дисперсии сг2.

Получением состоятельной оценкой остаточной дисперсии завершается последовательность задач, связанных с рассматриваемым простейшим вариантом метода наименьших квадратов. Не представляет труда выписывание верхней и нижней границ для прогностической функции:

хверх(t) = a*(t-tcp) + b* +S(t), хнижнit) = a*it-tcp) + b*-S(t),

л (t-U2

где погрешность Sit) имеет вид

SS

У п )

Sit) = Uip)(j*{+ — ^—}1/2, сг* =

п Х('<-'*)2

г=1

Здесь р доверительная вероятность, U(p), как и в главе 4 квантиль нормального распределения порядка (1+р)/2, т.е.

1 + V

Фіиір)) = —^.

При р= 0,95 (наиболее применяемое значение) имеем U(p) = 1,96. Для других доверительных вероятностей соответствующие значения квантилей можно найти в статистических таблицах (см., например, наилучшее в этой сфере издание [1]).

Сравнение параметрического и непараметрического подходов. Во многих литературных источниках рассматривается параметрическая вероятностная модель метода наименьших квадратов. В ней предполагается, что погрешности имеют нормальное распределение. Это предположение позволяет математически строго получить ряд выводов. Так, распределения статистик вычисляются точно, а не в асимптотике, соответственно вместо квантилей нормального распределения используются квантили распределения Стьюдента, а остаточная сумма квадратов 5*5* делится не на п, а на (п-2). Ясно, что при росте объема данных различия стираются.

Рассмотренный выше непараметрический подход не использует нереалистическое предположение о нормальности погрешностей (см. начало главы 4).. Платой за это является асимптотический характер результатов. В случае простейшей модели метода наименьших квадратов оба подхода дают практически совпадающие рекомендации. Это не всегда так, не всегда два подхода бают близкие результаты. Напомним, что в задаче обнаружения выбросов методы, опирающиеся на нормальное распределение, нельзя считать обоснованными, и обнаружено это было с помощью непараметрического подхода (см. главу 4).

Общие принципы. Кратко сформулируем несколько общих принципов построения, описания и использования эконометрических методов анализа данных. Во-первых, должны быть четко сформулированы исходные предпосылки, т.е. полностью описана используемая вероятностно-статистическая модель. Во-вторых, не следует принимать предпосылки, которые редко выполняются на практике. В-третьих, алгоритмы расчетов должны быть корректны с точки зрения математико-статистической теории. В-четвертых, алгоритмы должны давать полезные для практики выводы.

Применительно к задаче восстановления зависимостей это означает, что целесообразно применять непараметрический подход, что и сделано выше. Однако предположение нормальности, хотя и очень сильно сужает возможности применения, с чисто математической точки зрения позволяет продвинуться дальше. Поэтому для первоначального изучения ситуации, так сказать, "в лабораторных условиях", нормальная модель может оказаться полезной.

Пример оценивания по методу наименьших квадратов. Пусть даны п=6 пар чисел (tk , Хк), к = 1,2,...,6, представленных во втором и третьем столбцах табл.1. В соответствии с формулами (2) и (4) выше для вычисления оценок метода наименьших квадратов достаточно найти суммы выражений, представленных в четвертом и пятом столбцах табл. 1.

2	5,67	26,83	42,67	185,17
п

В соответствии с формулой (2) Ъ* =26,83, а согласно формуле (4)

1111—161x34

6

1

I h I v 4ZL

1111-912,33 198,67

256--(34)2 6

-3,14.

256-192,67 63,33

Следовательно, прогностическая формула имеет вид

x*(t) = 3,140і 5,67) + 26,83 = 3,4t 3,14 х 5,67 + 26,83 =

= ЗД4ґ -17,80 + 26,83 = ЗД4ґ + 9,03. Следующий этап анализа данных оценка точности приближения функции методом наименьших квадратов. Сначала рассматриваются т.н. восстановленные значения

=**(*,.), і = 1,2,..., п.

Это те значения, которые полученная в результате расчетов прогностическая функция принимает в тех точках, в которых известны истинные значения зависимой переменной хг.

Вполне естественно сравнить восстановленные и истинные значения. Это и сделано в шестом восьмом столбцах табл. 1. Для простоты расчетов в шестом столбце представлены произведения а * ttседьмой отличается от шестого добавлением константы

9,03 и содержит восстановленные значения. Восьмой столбец это разность третьего и седьмого.

Непосредственный анализ восьмого столбца табл.1 показывает, что содержащиеся в нем числа сравнительно невелики по величине по сравнению с третьим столбцом (на порядок меньше по величине). Кроме того, знаки "+" и "-" чередуются. Эти два признака свидетельствуют о правильности расчетов. При использовании метода наименьших квадратов знаки не всегда чередуются. Однако если сначала идут только плюсы, а потом только минусы (или наоборот, сначала только минусы, а потом только плюсы), то это верный показатель того, что в вычислениях допущена ошибка.

Верно следующее утверждение.

Теорема.

l<-v л) 0.

Доказательство этой теоремы оставляем читателю в качестве упражнения.

Однако сумма по восьмому столбцу дает 0,06, а не 0. Незначительное отличие от 0 связано с ошибками округления при вычислениях. Близость суммы значений зависимой переменной и суммы восстановленных значений практический критерий правильности расчетов.

SS_ _ 13,4

п

В последнем девятом столбце табл.1 приведены квадраты значений из восьмого столбца. Их сумма это остаточная сумма квадратов 5*5* = 13,64. В соответствии со сказанным выше оценками дисперсии погрешностей и их среднего квадратического отклонения являются

fss

Рассмотрим распределения оценок параметров. Оценка Ъ* имеет асимптотически нормальное распределение с математическим ожиданием Ъ и дисперсией, которая оценивается как 2,27/6=0,38 (здесь считаем, что 6 "достаточно большое" число, что, конечно, можно оспаривать). Оценкой среднего квадратического отклонения является 0,615. Следовательно, при доверительной вероятности 0,95 доверительный интервал для параметра Ъ имеет вид (26,83 1,96 0,615; 26,83 + 1,960,615) = (25,625; 28,035).

В формулах для дисперсий участвует величина

п п п п п

zZ(ti-tcpf =I>-2tttcp+t2cp) =j>2 -it^Yji+K =zZfi

/=1 /=1 /=1 ш=1 i-l

Подставив численные значения, получаем, что

Y^t] -nt]p =256-6(5,67)2 =63,1.

Дисперсия для оценки а* коэффициента при линейном члене прогностической функции оценивается как 2,27/63,1=0,036, а среднее квадратическое отклонение как 0,19. Следовательно, при доверительной вероятности 0,95 доверительный интервал для параметра а имеет вид (3,14 1,96 0,19; 3,14 + 1,960,19) = (2,77; 3,51).

Прогностическая формула с учетом погрешности имеет вид (при доверительной вероятности 0,95)

х * (0 = 3,14* + 9,03 ± 1,96 х 1,49, + ■

6 63,1

В этой записи сохранено происхождение различных составляющих. Упростим:

х * (0 = 3,14* + 9,03 ± 2,92,1+ ^zM^l

6 63,1

Например, при * = 12 эта формула дает

jc*(12) = 46,7112,615.

Следовательно, нижняя доверительная граница это 44,095, а верхняя доверительная граница это 49,325.

Насколько далеко можно прогнозировать? Обычный ответ таков до тех пор, пока сохраняется тот стабильный комплекс условий, при котором справедлива рассматриваемая зависимость. Изобретатель метода наименьших квадратов Карл Гаусс исходил из задачи восстановления орбиты астероида (малой планеты) Церера. Движение подобных небесных тел может быть рассчитано на сотни лет. А вот параметры комет (например, срок возвращения) не поддаются столь точному расчету, поскольку за время пребывания в окрестности Солнца сильно меняется масса кометы. В социально-экономической области горизонты надежного прогнозирования еще менее определены. В частности, они сильно зависят от решений центральной власти.

Чтобы выявить роль погрешностей в прогностической формуле, рассмотрим формальный предельный переход *—>со. Тогда слагаемые 9,03; 1/6; 5,67 становятся бесконечно малыми, и

2 92

**(*)« 3,14* ± -£=t = (3,14 ± 0,37)*. л/бЗД

Таким образом, погрешности составляют около

3,14

от тренда (математического ожидания) прогностической функции. В социально-экономических исследованиях подобные погрешности считаются вполне приемлемыми.

5.2. Основы линейного регрессионного анализа

В предыдущем пункте метод наименьших квадратов описан в простейшем случае. Он допускает различные обобщения. Например, метод наименьших квадратов дает алгоритм расчетов в случае, если исходные данные по-прежнему набор п пар чисел (tk, Хк), к = 1,2,...,п, где tk независимая переменная (например, время), а Хк зависимая (например, индекс инфляции см. главу 7), а восстанавливать надо не линейную зависимость, а квадратическую:

x(t) = at2 +bt + c. Следует рассмотреть функцию трех переменных

п

f(a,b,c) = J](xk-at2k -btk-c)2.

S/(^M = ±^(хк-at2-btk-с)2 = ±2(-t2)(xk-at2k -btk-с)2 oa k-i oa

Оценки метода наименьших квадратов это такие значения параметров а* Ъ* и с*, при которых функция f(a,b,c) достигает минимума по всем значениям аргументов. Чтобы найти эти оценки, надо вычислить частные производные от функции f(a,b,c) по аргументам а, Ъ и с, приравнять их 0, затем из полученных уравнений найти оценки: Имеем:

£=1

Приравнивая частную производную к 0, получаем линейное уравнение относительно трех неизвестных параметров а,Ь,с:

а'.

к= к= к= к=

Приравнивая частную производную по параметру Ъ к 0, аналогичным образом получаем уравнение

її її її її

+с1л =1лх*

а і

к= к= к= к=

Наконец, приравнивая частную производную по параметру с к 0, получаем уравнение

+cn = Jlxk

а А

к= к= к=

Решая систему трех уравнений с тремя неизвестными, находим оценки метода наименьших квадратов.

Другие задачи, рассмотренные в предыдущем пункте (доверительные границы для параметров и прогностической функции и др.), также могут быть решены. Соответствующие алгоритмы более громоздки. Для их записи полезен аппарат матричной алгебры (см., например, одну из лучших в этой области монографий [2]). Для реальных расчетов используют соответствующие компьютерные программы.

Раздел многомерного статистического анализа, посвященный восстановлению зависимостей, называется регрессионным анализом. Термин "линейный регрессионный анализ" используют, когда рассматриваемая функция линейно зависит от оцениваемых параметров (от независимых переменных зависимость может быть произвольной). Теория оценивания неизвестных параметров хорошо развита именно в случае линейного регрессионного анализа. Если же линейности нет и нельзя перейти к линейной задаче, то, как правило, хороших свойств от оценок ожидать не приходится.

Продемонстрируем подходы в случае зависимостей различного вида. Если зависимость имеет вид многочлена (полинома)

x(t) = а0 + axt + a2t2 + a3t3 + ... + amtm, то коэффициенты многочлена могут быть найдены путем минимизации функции

п

f(a0,av,a2,a3,...,am) — ^^{хк — а0 — avtk — a2tk — a3tk —... — amtk ) .

Функция от t не обязательно должна быть многочленом. Можно, например, добавить периодическую составляющую, соответствующую сезонным колебаниям. Хорошо известно, например, что инфляция (рост потребительских цен) имеет четко выраженный годовой цикл в среднем цены быстрее всего растут зимой, в декабре январе, а медленнее всего (иногда в среднем даже падают) летом, в июле августе. Пусть для определенности

x(t) = а0 +alt + a2t2 + a3t3 + ... + amtm + AsinBt, тогда неизвестные параметры могут быть найдены путем минимизации функции

п

f(a0,al,a2,a3,...,am,A,B) = ^{хк -а0 -altk -a2t2k -a3t -amtk -AsinBtk)2.

k=l

Пусть I(t) -индекс инфляции в момент t. Принцип стабильности условий приводит к гипотезе о постоянстве темпов роста средних цен, т.е. индекса инфляции. Таким образом, естественная модель для индекса инфляции это

I{t) = AeBt.

Эта модель не является линейной, метод наименьших квадратов непосредственно применять нельзя. Однако если прологарифмировать обе части предыдущего равенства:

hI(t) = hA + Bt,

то получим линейную зависимость, рассмотренную в первом пункте настоящей главы.

Независимых переменных может быть не одна, а несколько. Пусть, например, по исходным данным (xk,yk,zk),k 1,2,...,и,требуется оценить неизвестные параметры а и b в зависимости

z = ах + by + є,

где є погрешность. Это можно сделать, минимизировав функцию

п

f(a,b) = J](zk-axk -byk)2.

Зависимость от х и у не обязательно должна быть линейной. Предположим, что из каких-то соображений известно, что зависимость должна иметь вид

z — ах + by + сх2у + dxy + еуг + є, тогда для оценки пяти параметров необходимо минимизировать функцию

п

f(a,b,c,d,e) = J](zk-axk -Ъук -схук -dxkyk -еуък)2.

ы

Более подробно рассмотрим пример из микроэкономики. В одной из оптимизационных моделей поведения фирмы используется т.н. производственная функция f(K,L), задающая объем выпуска в зависимости от затрат капитала К и труда L. В качестве конкретного вида производственной функции часто используется так называемая функция Кобба-Дугласа

f(K,L) = KaLp.

Однако откуда взять значения параметров а и /31 Естественно предположить, что они -одни и те же для предприятий отрасли. Поэтому целесообразно собрать информацию (fk,Kk,Lk),k = ,2,...,п,тде fk объем выпуска на А>ом предприятии, Ккобъем затрат

капитала на А>ом предприятии, Lk объем затрат труда на А:-ом предприятии (в кратком изложении здесь не пытаемся дать точных определений используемым понятиям из экономики предприятия). По собранной информации естественно попытаться оценить параметры а и /?. Но они входят в зависимость нелинейно, поэтому сразу применить метод наименьших квадратов нельзя. Помогает логарифмирование:

lnf(K,L) = аЫК + рЫЬ. Следовательно, целесообразно сделать замену переменных

хк = ^Кк,ук = Lk,zk = ln/t,A: = l,2,3,...,/i, а затем находить оценки параметров an/], минимизируя функцию

п

g(a,/3) = (zk ~ ссхк /Зук)2.

Найдем частные производные:

dg(a,P)

Y,2(zk -ахк -0Ук)(-Ук)д/3

Приравняем частные производные к 0, сократим на 2, раскроем скобки, перенесем свободные члены вправо. Получим систему двух линейных уравнений с двумя неизвестными:

п п п

£=1 £=1 к=

п п п

а^хкУк +РТ^Ул = ЦУк2кк= к= к=

Таким образом, для вычисления оценок метода наименьших квадратов необходимо найти пять сумм

п п п п п

Для упорядочения расчета этих сумм может быть использована таблица типа той, что применялась в первом пункте настоящей главы. Отметим, что рассмотренная там

постановка переходит в разбираемую сейчас при ук=, к = 1,2,..., л.

Подходящая замена переменных во многих случаях позволяет перейти к линейной зависимости. Например, если

1

У = —ЇГ' а + ох

то замена z=l/y приводит к линейной зависимости z = а + Ьх. Если у=(а+Ьх)2, то замена

z = у[у приводит к линейной зависимости z = а + Ьх.

Основной показатель качества регрессионной модели. Одни и те же данные можно обрабатывать различными способами. Показателем отклонений данных от модели служит остаточная сумма квадратов 5*5*. Чем этот показатель меньше, тем приближение лучше, значит, и модель лучше описывает реальные данные. Однако это рассуждение годится только для моделей с одинаковым числом параметров. Ведь если добавляется новый параметр, по которому можно минимизировать, то и минимум, как правило, оказывается меньше.

В качестве основного показателя качества регрессионной модели используют оценку остаточной дисперсии

сг (т) = ,

п-т

скорректированную на число т параметров, оцениваемых по наблюдаемым данным. В случае линейной прогностической модели, рассмотренной в первом пункте настоящей главы, оценка остаточной дисперсии имеет вид

~2 SS п-2

поскольку число оцениваемых параметров т=2.

Почему эта формула отличается от приведенной в первом пункте? Там в знаменателе п, а здесь {п-2). Дело в том, что в первом пункте рассмотрена непараметрическая теория при большом объеме данных (при п —> со), а при безграничном возрастании п разница между п и {п-2) сходит на нет.

А вот при подборе вида модели знаменатель дроби, оценивающей остаточную дисперсию, приходится корректировать на число параметров. Если этого не делать, то придется заключить, что многочлен второй степени лучше соответствует данным, чем линейная функция, многочлен третьей степени лучше приближает исходные данные, чем многочлен второй степени, и т.д. В конце концов доходим до многочлена степени {п-) с п коэффициентами, который проходит через все заданные точки. Но его прогностические возможности, скорее всего, существенно меньше, чем у линейной функции. Излишнее усложнение эконометрических моделей вредно.

Типовое поведение скорректированной оценки остаточной дисперсии

v{m) а2{т)

в зависимости от параметра т в случае расширяющейся системы эконометрических моделей выглядит так. Сначала наблюдаем заметное убывание. Затем оценка остаточной дисперсии колеблется около некоторой константы (теоретического значения дисперсии погрешности).

Поясним ситуацию на примере эконометрической модели в виде многочлена x{t) = а0 + axt + a2t2 + a3t3 + ... + amtm. Пусть эта модель справедлива при т-т0. При т<т0 в скорректированной оценке

остаточной дисперсии учитываются не только погрешности измерений, но и соответствующие (старшие) члены многочлена (предполагаем, что коэффициенты при них отличны от 0). При т>т0 имеем

limv(m) = сг2.

Следовательно, скорректированная оценка остаточной дисперсии будет колебаться около указанного предела. Поэтому в качестве оценки неизвестной эконометрику степени многочлена (полинома) можно использовать первый локальный минимум скорректированной оценки остаточной дисперсии, т.е.

т* = min{w : v{m -1) > v{m), v{m) < v{m +1)}.

В работе [3] найдено предельное распределение этой оценки степени многочлена. Теорема. При справедливости некоторых условий регулярности

ІітР{т*<т0) = 0, ПтР{т* = т0 + и) = Л{ Л)", и = 0,1,2,....,

где

Я = Ф(1) Ф(-1) = j= J expjуjdx я 0,68268.

Таким образом, предельное распределение оценки т* степени многочлена (полинома) является геометрическим. Это означает, в частности, что оценка не является состоятельной. При этом вероятность получить меньшее значение, чем истинное, исчезающе мала. Далее имеем:

Р(т* = т0)^ 0,68268, Р(т* = т0+1)^ 0,68268(1 0,68268) = 0,21663,

Р(т* = т0+2)^ 0,68268(1 0,68268)2 = 0,068744,

Р(т* = т0 + 3) -> 0,68268(1 0,68268)3 = 0,021814...

Разработаны и иные методы оценивания неизвестной степени многочлена, например, с помощью многократного применения процедуры проверки адекватности регрессионной зависимости с помощью статистики Фишера (см. работу [3]). Предельное поведение оценок таково же, как в приведенной выше теореме, только значение параметра Я иное.

Линейный и непараметрические парные коэффициенты корреляции. Термин "корреляция" означает "связь". В эконометрике этот термин обычно используется в сочетании "коэффициенты корреляции".

Рассмотрим способы измерения связи между двумя случайными переменными. Пусть исходными данными является набор случайных векторов (х^У;) = (хД<г>),>Д<г>)), і = 1,2,...п. Коэффициентом корреляции, более подробно, линейным

парным коэффициентом корреляции К. Пирсона называется (см. приложение 1 в конце настоящей книги)

п

-х){уі -у)

г = ^

Если гп = 1, то yt axi +b, причем а>0. Если же rn = -1, то yt axi +b, причем а<0.

Таким образом, близость коэффициента корреляции к 1 (по абсолютной величине) говорит о достаточно тесной линейной связи.

Коэффициенты корреляции типа гп используются во многих алгоритмах многомерного статистического анализа эконометрических данных. В теоретических рассмотрениях часто считают, что случайный вектор имеет многомерное нормальное распределение. Распределения реальных данных, как правило, отличны от нормальных (см. главу 4). Почему же распространено представление о многомерном нормальном распределении? Дело в том, что теория в этом случае проще. В частности, равенство 0 теоретического коэффициента корреляции (см. приложение 1) эквивалентно независимости случайных величин. Поэтому проверка независимости сводится к проверке статистической гипотезы о равенстве 0 теоретического коэффициента корреляции. Эта гипотеза принимается, если гп \<С(п,а), тдеС(п,а) некоторое граничное значение, зависящее от объема выборки п и уровня значимости а.

Если случайные вектора (xt,yt) = (хД*»),}^(&>)), і = 1,2,...п, независимы и одинаково

распределены, то выборочный коэффициент корреляции сходится к теоретическому при безграничном возрастании объема выборки:

Міх.-Міх.ЖУг-МІу,))

r« -> p

jD(Xl)jD(yi)

(сходимость по вероятности).

Более того, выборочный коэффициент корреляции является асимптотически нормальным. Это означает, что

limP

р

< X

Ф(х),

где Ф(х) функция стандартного нормального распределения с математическим ожиданием О и дисперсией 1, a D0(rn)асимптотическая дисперсия выборочного коэффициента корреляции. Она имеет довольно сложное выражение, приведенное в монографии [4, с.393]:

Мло _|_ Мм ^/J22

р_

4п

А>(0 =

4/^22 4//31 4//13

42

<. 2

v/^20 Mo2 /^2o/^o2 Ми МпМго МиМо2 J Здесь под jUkm понимаются теоретические центральные моменты порядка кит, а именно,

Mhn=M(xl-M(xl))yl-M(yl))m

(см. приложение 1 в конце книги).

Для расчета непараметрического коэффициента ранговой корреляции Спирмена необходимо сделать следующее. Для каждого хг рассчитать его ранг гг в вариационном ряду, построенном по выборке х1,х2,....хп.Для каждого ^рассчитать его ранг дг в вариационном

ряду, построенном по выборке у1,у2,....уп. Для набора из п пар

(г.,аг), і = 1,2,...,п,вычислить (линейный) коэффициент корреляции. Он называется

коэффициентом ранговой корреляции, поскольку определяется через ранги. В качестве примера рассмотрим данные из табл.2 (см. монографию [5]).

Для данных табл.2 коэффициент линейной корреляции равен 0,83, непосредственной линейной связи нет. А вот коэффициент ранговой корреляции равен 1, поскольку увеличение одной переменной однозначно соответствует увеличению другой переменной. Во многих экономических задачах, например, при выборе инвестиционных проектов для осуществления, достаточно именно монотонной зависимости одной переменной от другой.

Поскольку суммы рангов и их квадратов нетрудно подсчитать, то коэффициент ранговой корреляции Спирмена равен

бї>г-<7гУ

Рп

1

г=1

п -п

Отметим, что коэффициент ранговой корреляции Спирмена остается постоянным при любом строго возрастающем преобразовании шкалы измерения результатов наблюдений. Другими словами, он является адекватным в порядковой шкале (см. главу 3), как и другие ранговые статистики (см. статистики Вилкоксона, Смирнова, типа омега-квадрат для проверки однородности независимых выборок в главе 4 и общее обсуждение в главе 8).

Широко используется также коэффициент ранговой корреляции гКендалла, коэффициент ранговой конкордации Кендалла и Б. Смита и др. Наиболее подробное обсуждение этой тематики содержится в монографии [6], необходимые для практических расчетов таблицы имеются в справочнике [1]. Дискуссия о выборе вида коэффициентов корреляции продолжается до настоящего времени [5].

Непараметрическая регрессия. Рассмотрим общее понятие регрессии как условного математического ожидания. Пусть случайный вектор (х(со), у (со)) имеет плотность р(х,у). Как известно из любого курса теории вероятностей, плотность условного распределения у(со) при условии х(со) х0 имеет вид

Р(У I х) = р(у | х(со) = х0)= ^р(уХ,У^ ■

p(x,y)dy

—со

Условное математическое ожидание, т.е. регрессионная зависимость, имеет вид

+СО

yp(x,y)dy

fix) = ур(у | x)dy = ^ .

p(x,y)dy

—со

Таким образом, для нахождения оценок регрессионной зависимости достаточно найти оценки совместной плотности распределения вероятности р„(х,у) такие, что

Р„(х,у)^ Р(х,у)

при п —> оо. Тогда непараметрическая оценка регрессионной зависимости

+СО

уРп (x,y)dy

L(x) = ^

p«(x,y)dy

при п —> оо будет состоятельной оценкой регрессии как условного математического ожидания

/■(*)->/(*)•

Общий подход к построению непараметрических оценок плотности распределения вероятностей развит в главе 8 ниже.