Раздел 8 регрессионный анализ для стационарных переменных тема 8.1 асимптотическая обоснованность стандартных процедур
Раздел 8 регрессионный анализ для стационарных переменных тема 8.1 асимптотическая обоснованность стандартных процедур
Прежде чем перейти к изложению материала данного раздела, отметим, что в этом разделе не будем различать в обозначениях случайные величины и их наблюдаемые значения — в обоих случаях будут использоваться строчные буквы.
Асимптотическая обоснованность стандартных процедур
В разд. 6 ч. 1 учебника было отмечено, что рассмотренные там случаи, в которых можно использовать стандартные процедуры регрессионного анализа, несмотря на то что объясняющие переменные являются стохастическими (ситуации А9 А В9 Q, не охватывают наиболее интересные для нас модели стационарных и нестационарных временных рядов. Это замечание относится и к широко используемым на практике моделям авторегрессии, в том числе к стационарным.
Рассмотрим модель авторегрессии AR(p)
yt=a + axyt_x + a2yt_2 +... + apyt_p +єп t = l,2,n9
где st — инновации, образующие процесс белого шума с D(et) = а}.
Эту модель можно представить в виде линейной модели регрессии
yt=xj& + sn
где
хі=(1>Уі-\>Уі-2>—>Уі-р)Т> 0 = (а9аХ9а19...9ар)Т.
Но для нее невозможно использовать результаты, полученные в ситуациях А и В. Хотя ss и х, статистически независимы при s > t, они оказываются зависимыми уже при s — t — 1, поскольку st_x участвует в формировании случайной величиныyt_x, входящей в состав xt. Это нарушает условие, входящее в определения ситуаций АиВ.
Невозможно использовать и результаты, полученные в ситуациях А' и С. Там требовалось, чтобы условное распределение вектора є = (єх, є2, єп)Т при фиксированной матрице X значений объясняющих переменных имело вид N(0, <j2V) с положительно определенной (невырожденной) матрицей V (в ситуации А' — это единичная матрица). Однако если зафиксировать xt+x = (l9yt9yt-9 ...9yt-p+x)T и xt9 то значение st известно с полной определенностью.
Тем не менее если AR(p) модель стационарна, то положение вполне благополучно. Это подтверждается следующим фактом.
Ситуация D
Процесс yt порождается моделью
yt = а + axyt_x + a2yt_2 +... + apyt_p + et (et — инновации);
все корни полинома 1 axz a2z2 ... apzp = О лежат за пределами единичного круга;
et~ lid., E(st) = О, D(st) = (j2 > 0, E(€f) = ju4 < оо.
При выполнении перечисленных условий для оценки наименьших квадратов 6п вектора коэффициентов 0= (а, ах, а2, ар)Т9 полученной по п наблюдениям, выполняется соотношение
nl/2(0n-0)^N(O,c72Q-1),
где Q — положительно определенная матрица, элементы которой выражаются в явной форме через математическое ожидание и автокорреляции процесса yt;
cr2Q~l—ковариационная матрица асимптотического распределения, мои это
^ Х„ ^
жет быть оценена состоятельно посредством Sn
-2
п
означает, что асимптотически обоснованны статистические процедуры, трактующие распределение 6п как N(6, S2(XjXn)"1) (здесь Хп — матрица значений объясняющих переменных в п наблюдениях).
Иными словами, и в рассматриваемой ситуации можно пользоваться стандартными методами регрессионного анализа, имея в виду их асимптотическую обоснованность.
Если перейти к процессам, стационарным относительно детерминированного тренда, то следует отметить возникающую здесь особенность, связанную со сходимостью распределения оценок наименьших квадратов к асимптотическому распределению. Поясним эту особенность на следующем примере.
Пусть ряд yt порождается простой моделью временного тренда
yt=a + pt + en
где et ~ lid., E(st) = О, D(st) = g1 > 0, Е(є?) = ju4 < со.
Если и здесь записать модель в стандартной форме:
yt=xj0 + et9 xt=(,t)T, в = (а,/3),
то, для того чтобы получить невырожденное асимптотическое распределение оценки наименьших квадратов вп (а„, /Зп), придется использовать различные
нормирующие множители; (ап ап) умножается на nl2, a (fin /?„) — на п1г. Однако это различие компенсируется тем, что аналогичным образом ведут себя и стандартные ошибки для 6сп и /Зп. Как результат, обычные /-статистики имеют асимптотическое распределение N(0, 1). Иными словами, можно использовать стандартную технику регрессионного анализа, имея в виду ее асимптотическую обоснованность.
Те же принципы можно использовать и для исследования процесса авторегрессии произвольного порядка, стационарного относительно детерминированного временного тренда.
Ситуация Е
Процесс yt порождается моделью
yt=a + fit + a{yt_x + a2yt_2 +... + apyt_p + et (є, — инновации);
все корни полинома 1 axz a2z2 ... apzp = 0 лежат за пределами единичного круга;
st ~ lid., E(st) = 0, D(st) = а2 > 0, Е(є?) = ju4 < со.
При выполнении этих предположений обычные /-статистики и статистики qF (где q — количество линейных ограничений на коэффициенты, a F — обычная F-статистика критерия для проверки выполнения этих ограничений) имеют асимптотические распределения N(0, 1) и Xі (ч)Можно использовать стандартную технику регрессионного анализа, имея в виду ее асимптотическую обоснованность.
Если не ограничиваться процессами авторегрессии, но оставаться в классе стационарных моделей, то и в этом случае все еще можно надеяться на возможность использования стандартной техники регрессионного анализа, опять имея в виду ее асимптотическую обоснованность.
Рассмотрим линейную модель
у = ХЄ + є9 Х = Хп9
или в эквивалентной форме:
yt=xj0 + €i9 t = 1,2,
где xt = (xtl9 xtl9 xtp)T — вектор значений p объясняющих переменных в /-м наблюдении.
Пусть вп — оценка наименьших квадратов вектора коэффициентов в (6Х9 в29 вр)Т9 полученная по п наблюдениям. Следующие три условия обеспечивают состоятельность и асимптотическую нормальность вп при п -> оо:
1) р\т
(х п Л
= 0
(в эквивалентной форме: р\т(п хХ*е) = 0)
2) р\т
(л п
/Xtxt
= Q
(в эквивалентной форме: plim(n XnXn)-Q)9 где Q — положительно определенная матрица;
3)
N(09a2Q)
п t=
(в эквивалентной форме: {п~^2Хтпє) ->N(09 <j2Q)).
Здесь p\m — предел по вероятности; стрелка в последнем условии означает сходимость по распределению.
Если эти условия выполнены, то при п -> оо, как и в ситуации Д
Jn{en-e)->N{09a2Q-x).
В работе {Mann, Wald9 1943) дана теорема Манна — Вальда: если
( п
p\m-Yxtx] =Q
K=i j
(в эквивалентной форме: plim(n~xX^Xn ) = Q)9 где Q — положительно определенная матрица;
£t~i.i.d.9E(st) = 0, D(st) = а2 > О, E(stm) < °° для всех m = 1, 2, ...;
• st) = О, ґ= 1, 2, я,
то тогда выполнены также первое и третье условия из предыдущей тройки условий, обеспечивающих состоятельность и асимптотическую нормальность вп при п —> 00.
Заметим, что условие E(xt st) = О, t = 1, 2, п, в сочетании с E(st) = О означает, что
Cov(xtk, st) = 0, к = 1,2, ...,р,
т.е. означает некоррелированность значений объясняющих переменных с st в совпадающие моменты времени. Условие E(stm) < oo для всех т = 1, 2, ... выполняется, в частности, для нормального распределения єг Приведенные результаты теперь можно объединить.
Ситуация F
Пусть в линейной модели
yt=x*e + sn / = 1,2,...,и,
где xt = (xtX, ха, xtK)T — вектор значений К объясняющих переменных в t-м наблюдении;
вп — оценка наименьших квадратов вектора коэффициентов в(Ох, в2,вк)Т, полученная по п наблюдениям.
Пусть для этой модели выполнены следующие условия:
(в эквивалентной форме: plim(n хХтпХп ) = Q), где Q — положительно определенная матрица;
st~i.Ld., E(st) = 0, D(st) = а2 > 0, E(stm) < oo для всех m = 1, 2, ...;
Cov(xtk, st) = 0, для к =1,2, К.
Тогда при п —> оо
S0n-ff)-*N(O9*2Q-1).
Предположим теперь, что xt — стационарный векторный (А-мерный)
ряд (K-dimensional stationary time series), так что
E(xt ) = ju = const, Cov(xt) = Q, Cov(xtk, xMj) = ykl (s)
при всех t, s для каждой пары к, I = 1, 2, К. Здесь ykl{s) — кросс-ковариация (cross-covariance) значений к-й и 1-й компонент векторного ряда xt, разнесенных на s единиц времени.
Если рассматривать s как аргумент, yu(s) — как функцию от s , то ykI(s) — кросс-ковариационная функция (cross-covariance function) к-й и 1-й компонент векторного ряда хг Тогда первое из трех условий для ситуации F обеспечивает возможность оценивания неизвестной ковариационной матрицы Cov(xt) = Q простым усреднением доступных наблюдению матриц xtxj по достаточно длинному интервалу t = 1,2,
В рамки ситуации F помещается достаточно распространенный класс ARX моделей:
yt = аУг+ аіУг-2 + • •. + аРУі-р + zffi + £t>
где
z = (ztl9zt29...9zaf)T9 J3 = (P19/12,...,J3M)T. Подобная модель вписывается в ситуацию F, если положить
Xt ~ (Уґ' Уі-2 ' * * • 9 У^р 5 Zl » Z2 ' * * ' ' ZM ) 9
в = (ах,а29...9ар9 Д,/?2, ...,^Л/)Г.
Пусть для этой модели выполнены следующие условия: • zt — стационарный векторный (М-мерный) ряд;
где Qz — положительно определенная матрица;
st~U.d.9E(st) = 0, D(st) = а2 > О, E(stm) < °° для всех т = 1, 2, ...;
Cov(ztm, st) = О для т = 1, 2, М;
Cov(y,_y, £,) = 0 Для/= 1,2, ...,р;
все корни уравнения 1 axz a2z2 ... apzp = 0 лежат вне единичного круга.
Тогда выполнено и первое условие ситуации F, и при п -> оо
Последнее из перечисленных условий, касающееся корней уравнения a(z) = 0, обеспечивает стабильность модели ARX. Это означает, что по мере продвижения в будущее (т.е. с ростом t) устанавливается определенная долговременная (long-run) связь между переменнымиjy„ zn, ztl9 хш, по отношению к которой происходят достаточно быстрые осцилляции.
КОНТРОЛЬНЫЕ ВОПРОСЫ
1. Какие затруднения возникают при попытке оценивания коэффициентов процесса авторегрессии и как они разрешаются в случае использования стационарного процесса?
Какие затруднения возникают при попытке оценивания параметров процесса авторегрессии, стационарного относительно детерминированного линейного тренда, и как они разрешаются?
В чем состоит условие стабильности модели ARX?
Обсуждение Эконометрика Книга первая Часть 2
Комментарии, рецензии и отзывы