Последовательная оценка наименьших квадратов линейных параметров ARCH-процесса
Для гарантированной оценки параметров устойчивого процесса авторегрессии с условной гетероскедастичностью ARCH(q) методом наименьших квадратов в данной работе предложено использовать специальное правило остановки, которое сущестенным образом зависит от поведения минимального собственного значения наблюдаемой информационной матрицы по Фишеру. Определена асимптотика верхней границы для среднеквадратичного уклонения оценок и асимптотическая формула среднего значения момента остановки наблюдений.
Sequential least squares estimate of linear parameters of ARCH process.pdf Рассмотрим устойчивую модель с условной гетероскеда-стичностью ARCH(q) на вероятностном пространстве (, F, P)1 2 2 2 ,1211 1k q k q kk k q k qx xx x x+ + + + = + + +− −− −KK(1)где (k)k≥1 − последовательность независимых одинаково рас-пределенных (н.о.р.) стандартных гауссовских случайных ве-личин. Вектор начальных значений X0 = (x0,..., x−q+1) случай-ный с E⎢⎢X0⎢⎢2 < + и не зависит от последовательности(k)k≥1, кроме того, имеет непрерывное распределение (x).Здесь штрих означает транспонирование.Для использования оценок по методу наименьших квад-ратов (МНК) удобно ввести статистикиL x x k NL x xk k k qk k q k q= + + + = + + + − −− −1 ,1 ,2 212 2 2121KKи поделить на первую обе части уравнения (1). Далее мыбудем строить процедуру, основанную на следующеймодификации оценки МНК параметра :( ) , ,11 1111 11 =− −=−− − = − = nkk knkn k k k n n M X x L M X X (2)где ( , , ), 111= − +−k k − k k q X L x K x −1n M обозначает матрицу, обратнуюк матрице Mn, если det Mn > 0 и −1 =0n M в противном случае.Процесс (1) и его обобщения (GARCH, TARCH) широкоиспользуются при анализе временных рядов, в частности фи-нансовых. Асимптотические свойства модификации оценкиМНК (2) этого процесса сильно зависят от значений неиз-вестных параметров i.Чтобы осветить проблему гарантированного оцениванияпроцесса авторегрессии с условной гетероскедастичностью,рассмотрим модель авторегрессии первого порядка (илиARCH(1) при = 0) xi = xi−1 + i, i ≥ 1.В [2] предложена следующая последовательная оценкаМНК:( ) ( ) , ( ) 1 ( )( ) 1111 * ⎟⎠⎞⎜⎝ = ⎛ + − −=−− h hhkk k h h x x h x x (3)где( ) inf 1: ,0121 >⎭ ⎬ ⎫⎩ ⎨ ⎧≥ ≥ = =− h n x h hnii (4)и (h) − корректирующий множитель, заданный уравнениемx h x h hhkk + = − −=− 2( ) 1( ) 1121 ( ) (5)(это приводит к тому, что 0 < (h) ≤ 1 ). Показано, чтоE*(h)= , R, т.е. *(h) является несмещенной оценкой ,и sup E(* (h) )2 2 / h,R − ≤ что означает, что *(h) являетсягарантированной в среднеквадратичном смысле равномернопо (−, ).Последовательные схемы выборок, описанные выше, немогут быть применены при построении гарантированных оце-нок на основе МНК в случае AR(q), ARCH(q) порядка q > 1.Задачи гарантированного оценивания параметров в AR(q) иболее сложных моделей случайной регрессии решались в дваэтапа, что требовало несколько (случайное число) оценок на-именьших квадратов (2) [2, 7].В данной работе для модели (1) мы построим одноэтап-ную последовательную оценку наименьших квадратов. Ос-новной результат состоит в том, что при h sup ( ) (1 (1)), * 2 h oE h aKK − ≤ + где K − компактное множество в особой области устойчиво-сти процесса (1), которую определим позже; aK − некотораяконстанта, известная, если заданы параметры дисперсии, впротивном случае - константа aK не определена.МАРКОВСКИЙ ПОДХОД.РАВНОМЕРНАЯ ЭРГОДИЧНОСТЬПРОЦЕССА ARCHЧтобы исследовать модель (1), необходимо ввестиследующие случайные матрицы qq. Определим0 ,( ) ( )11⎟ ⎟⎠⎞⎜ ⎜⎝⎛ =q−qn In nA Kгде Iq−1 − единичная матрица порядка q −1; i(n) = i ++ii(n), 1 ≤ i ≤ q ( i(n), 1 ≤ i ≤ q, n ≥ 1) − н.о.р. стан-дартные гауссовские.Мы будем предполагать, что для (1) выполняетсяследующее условие H1): собственные значения матри-цы E,A1⊗A1 по модулю не превосходят единицы, где⊗ означает Кронекерово произведение матриц.Вектор линейных параметров = (1,..., q) неиз-вестен, и i, i такие, что выполняется условие H1).Пусть означает множество всех векторов = (1,..., q)с такими координатами i, что выполняется условиеH1) при фиксированном векторе коэффициентов дис-персии = (1,..., q).Согласно [6], модель (1) можно переписать в формеавторегрессии со случайными коэффициентами= ( + ) + yk 1 1 1 (k) yk−1( ( )) , 1, 2,..., + + + = − q q q k yk q k k (6)где ( ) ≥1 k k , ( ) i k k i q ≥ ≤ ≤ 1, 1 ( ) − последовательности н.о.р. стан-дартных гауссовских случайных величин. Тогда процесс(yk)k≥1 будет одинаково распределен с процессом (xk)k≥1. Ввекторной форме уравнение (6) перепишется в виде= 1 + , = 1,2,K, Yk AkYk− k k (7)где Yk = (yk,..., yk−q+1), k = (k, 0,..., 0), матрицы Ak оп-ределены выше. Выразим Yk через Y0 и матрицы Ak:L L , 1,2,K201 0 1 = + + = −=Y A A Y A A − − − k kksk k k k s k s (8)Условие H1) гарантирует устойчивость процесса(yk)k≥1, а с ним и (xk)k≥1. Действительно, оно влечет гео-метрическую скорость сходимости норм произведенияматриц Ak (см. [1], [5]) в среднеквадратическом смысле,т.е. найдутся такиe константы c > 0, 0 < < 1, чтоsup 2 2 2 , 1,2, ,L 1 ≤ = K E A A c k kkK(9)где K содержится в . Это следует из непрерывностисобственных значений EA1⊗A1 по . Тогда рассматри-ваемые нормы сходятся с геометрической скоростьюпочти всюду. Откуда следует, чтоlim < +, = 1,2, − п.н. k Yk k PK (10)Согласно [8], процесс Yn является марковским.Лемма 1. Марковская цепь (7) является -неразло-жимой, где − максимальная мера неразложимости.Кроме того, supp = Rq.Доказательство. Утверждения леммы следуют изразложения (8), результата из [8] и определения макси-мальной меры неразложимости и носителя меры в [8].Лемма 2. Марковская цепь (7) при условии H1 ) яв-ляется апериодической позитивной Харрисовой цепью.Доказательство. Можно показать, что марковскаяцепь (7) представляет собой апериодическую T-цепь(см [8]). Тогда утверждения леммы следуют из условияH1 ) , (10), леммы 1 и результатов из [8].В дальнейшем для построения гарантированнойоценки линейных параметров потребуется следующееважное свойство марковской цепи (7).Теорема 1. Процесс (7) при условии H1) является2 1+ X -равномерно эргодическим, причем для него вы-полняется условие (V4) из [8] и величина 1 − в этом усло-вии равномерно по K ограничена сверху константойстрого меньшей единицы, где K − компакт в области .Доказательство. Теорему можно доказать, используяусловия равномерной эргодичности из [8] и леммы 1, 2.Последнее утверждение теоремы следует из непрерыв-ности собственных значений матрицы E,A1⊗A1 по .ОЦЕНИВАНИЕ ЛИНЕЙНЫХПАРАМЕТРОВ МОДЕЛИ ARCH(q)Цель этого раздела − показать, что разработаннаясхема оценивания, основанная на оценке наименьшихквадратов, может быть использована для определениялинейных параметров (1) с заданной точностью.Утверждение 1. Для модели (1) выполнено условиеq(Mn) , при n P-п.н., где q(A) обозначает ми-нимальное по модулю собственное значение матрицы A.Доказательство. Утверждение можно доказать, ис-пользуя непрерывную зависимость корней многочленаот его коэффициентов и положительную определен-ность матрицы F (см. [1]).Введем случайную величину0 inf{ 1: ( ) 0}, = ≥ > n l q Mlкоторая конечна P-п.н. в силу утверждения 1. После-довательная оценка МНК линейных параметров про-цесса (1) определяется следующим образом:=−− −− = ( )111 11( )* ( ) ~ ;hkh M h k Xk Lk xk~ ( ) ;11 11( ) =− −−= hkM h k Xk Xk (11)( ) inf { : 2 1/ 2 1} ,0 h = n ≥ n Mn− ≤ h− (12)Mn задается (2). Величина k находится из соотношения⎩ ⎨ ⎧ = < =( ), если ( ),1, если ( ),h k hk hk a (h) задана уравнением( ) 1.1/ 2( ) 1 ( ) 1( ) 111 1−− −−=− − X X + h X h X h = hhkk k Утверждение 2. P-п.н. ( K) выполняется пре-дельное соотношение lim ~0 ~0 ,20 F E L Y YnMnn= = − где F −не случайная, положительно определенная матрица, L0определяется на базе вектора 0Y~ , Y~n − стационарнаяверсия процесса Yn.Доказательство. Результат следует из леммы 2 (см.[8]), а положительная определенность F доказывается,как в [1].Лемма 3. Стационарный процесс (7) удовлетворяетусловию сильного перемешивания с геометрическойскоростью сходимости, где соответствующий коэффи-циент пропорционален sn и s < 1 равномерно по K.Доказательство. Утверждение леммы следует излеммы 1, теоремы 1 и результатов из [8].Лемма 4. Введем функцию ( ) ( ) 11G X = X + XX − .Положим Zn = G(Yn ), ~ (~ ).Zn = G Yn Тогда, найдется та-кая константа C > 0, чтоsup ~ ~ k l ,k k l lKE Z − Z Z − Z < C (13)где K − компакт в области .Доказательство. Лемму можно доказать, используяразложение в ряд Тейлора нормы разности между про-цессом (7) и его стационарной аппроксимацией, а так-же разложение (8) и неравенства (9).Лемма 5. sup ~ ~ .20+ < ⎟⎠⎞⎜⎝⎛ − = kk k k kKE Z Z Z ZДоказательство. Утверждение леммы получим, ис-пользуя лемму 4 и теорему о мажорируемой сходимости.Лемма 6. Для любого компакта K − < +sup F 2 1/ 2Kи функции от F, F −2 1/ 2 равномерно непрерывны на K.Доказательство. Используя результат из [6], нера-венство для симметричных матриц , 2 2 EM ≤ E Mнеравенства (9) и (13) можно показать, что F непре-рывна по на K. F −2 1/ 2 выражается через собствен-ные числа F, которые также непрерывны по на K.Лемма 7. Для всех > 0 имеет место соотношениеsup 1 ~ ~ .1 0+ < ⎟⎟⎠⎞⎜ ⎜⎝⎛> ⎟⎠ ⎞⎜⎝ ⎛ −== nkk kn KZ Z FnPДоказательство. Используя неравенство Коши−Бу-няковского, леммы 3, 5, неравенство для ковариаций икоэффициентов сильного перемешивания (см., напри-мер, [4]) и теорему о больших уклонениях [3]), можнополучить утверждение леммы.Лемма 8. Для всех h > 0tr ~ ≤ . E M E (14)Доказательство. Доказательство сразу получается,если расписать величину M ~ tr .Основные свойства гарантированной оценки при-ведены в следующих теоремах.Теорема 2. Пусть процесс (1) устойчивый, и еголинейные коэффициенты лежат в области . Тогдадля всех компактных множеств K lim sup ( ) 0. − −2 1/ 2 = FhE hh KДоказательство. Сначала с помощью лемм 6 и 7можно показать, что lim sup ( ) < +.+ hE hh KДля этогодостаточно сходимости ряда sup .1⎟ ⎟⎠⎞⎜ ⎜⎝⎛− > = n FP Mnn KДальнейшее доказательство проводится с использова-нием леммы 7.Теорема 3. При условиях теоремы 2 для всех ком-пактных множеств K sup ( ) (1 (1)), * 2 h oE h aKK − ≤ + , aK = F −2 1/ 2 (15)o(1) 0 при h .Доказательство. Теорему можно доказать, исполь-зуя утверждение 1, результат для среднеквадратичногоуклонения последовательной оценки из [7], теорему 2 инеравенство (14)ЧИСЛЕННЫЙ ПРИМЕРВ этом разделе мы приведем результаты численногоэксперимента сравнения гарантированной оценки соценками наименьших квадратов фиксированного объ-ема линейных параметров процесса авторегрессии сусловной гетероскедастичностью. Процессом для мо-делирования послужил двухпараметрический устойчи-вый ARCH-процесс:1 2 ,222212xn = 1xn 1 + 2xn 2 + + 1 xn + xn n − − − − (16)где n − н.о.р. стандартные гауссовские, x0 = x−1 = 0. Об-ласть устойчивости (0,4;0,3) этого процесса при 1= 0,4,2 = 0,3 приведена на рис. 1.Рис. 1Утверждение 3. Матрица EXk Xk приближается к Fпо норме с геометрической скоростью при k .Доказательство. Результат основан на неравенствах(13), , 2 2 EM ≤ E M (где M − симметричная матрица)и свойствах статистики ( , , 1).11= − +−X k Lk − xk K xk qУчитывая последнее утверждение, за приближенноезначение F возьмем EXk Xk . Величина F −2 1/ 2 опре-деляет предельное значение среднего времени останов-ки последовательной процедуры E(h), деленное напорог h, при h и верхнюю границу стандартногоотклонения последовательной оценки *(h).Эксперимент включал 50 повторений последоватеСтроки табл. 2 с заголовками ( *),1 SD ( * )2 SD и hSD(* ),обозначают соответственно наблюдаемые стандартные от-клонения последовательных оценок * ( ),1 h * ( )2 h и тоже значение при ( ) ( ( ), * ( )),2*1* h = h h умноженное на h.Строка табл. 2 с заголовком F −2 1/ 2 обозначает теоре-тические верхние границы для ( ) , * − 2 hE h опреде-ленные теоремой 2. Строки табл. 2 с заголовками( ) SD es1 и ( ) SD es2 обозначают наблюдаемые стан-дартные отклонения обычных оценок МНК, построен-ные по 50 повторениям эксперимента с фиксирован-ным объемом выборки, который был равен наблюдае-мому среднему продолжительности последовательнойпроцедуры (11), (12) при тех же значениях параметров1, 2 в модели (16).
Скачать электронную версию публикации
Загружен, раз: 319
Ключевые слова
Авторы
ФИО | Организация | Дополнительно | |
Кашковский Денис Викторович | Томский государственный университет | аспирант кафедры высшей математики и математического моделирования факультета прикладной математики и кибернетики | kshkvch@mail.tomsknet.ru |
Ссылки
