Оценивание параметров и обнаружение момента их изменения для обобщенного авторегрессионного процесса с условной неоднородностью | Вестник Томского государственного университета. Управление, вычислительная техника и информатика. 2012. № 1(18).

Оценивание параметров и обнаружение момента их изменения для обобщенного авторегрессионного процесса с условной неоднородностью

Рассматривается задача обнаружения момента изменения параметров GARCH(p,q)-процесса. Авторегрессионные параметры процесса предполагаются неизвестными до и после момента разладки. Предлагается последовательная процедура оценивания параметров, основанная на взвешенном методе наименьших квадратов. Выбор весовых коэффициентов и момента остановки позволяет строить оценки с ограниченным среднеквадратическим отклонением, зависящим от параметра процедуры H. Процедура определения момента разладки основана на сравнении оценок неизвестных параметров процесса на различных интервалах наблюдения. Получены верхние границы для расчета вероятностных характеристик предложенной процедуры: вероятности ложной тревоги и ложного спокойствия.

Parameter estimation and their change-point detectionfor generalized autoregressive process with conditional heteroscedasticity.pdf В 1986 г. T. Bollerslev [1] впервые предложил использовать модель GARCH -обобщенную авторегрессионную модель гетероскедастичности для анализа вре-менных рядов. При описании процессов типа GARCH предполагается, что на те-кущую изменчивость дисперсии влияют как предыдущие изменения показателей,так и предыдущие значения дисперсии. Модели типа GARCH часто используютсяпри обработке информации в задачах последовательного анализа данных, имею-щих эконометрическую направленность, а именно, при управлении финансовымирисками, так как пренебрежение определением структурных изменений можетприводить к финансовым потерям.В настоящее время интерес к данной модели не снижается, о чем свидетельст-вует большое количество работ в этой области [2−5] и др. Так, в работе [2]E. Hillebrand предложил алгоритм оценивания, основанный на функции логариф-мического правдоподобия, с использованием ненаблюдаемого процесса условнойвариации. Davies и др. [3] для определения изменения применяют обобщенное от-ношение правдоподобия, которое приводит к квадратичной форме. Gombey иSerban в [4] используют эффективный вектор вклада в последовательной проце-дуре, когда необходимо определить изменение параметра, если начальное значе-ние задано, а остальные компоненты являются мешающими параметрами. РаботаЕ.Gombey [5] посвящена апостериорному методу обнаружения разладки, когдаполностью доступна последовательность наблюдений и не определены начальныепараметры, однако необходимо оценивать все параметры модели. Для определе-ния разладки автор использует функцию log-правдоподобия и вектор эффектив-ного вклада.Во многих практических приложениях задача обнаружения момента разладкислучайных процессов оказывается тесно связана с задачей оценивания параметровэтих процессов. Для оценивания параметров GARCH-модели часто используетсяоценка квазимаксимального правдоподобия. Таким оценкам, в частности, посвя-щены статьи [6−8]. Pan и др. [9] изучали вероятностные и асимптотические свой-ства оценки квазимаксимального правдоподобия параметров пороговой моделиGARCH. Для стандартной модели GARCH асимптотические свойства, в частностиасимптотическую нормальность, оценок такого типа рассматривали Berkes [7] иFrancq и Zakoian [8]. Straumann и Mikosch [10] установили, что оценки квазимак-симального правдоподобия для общего класса моделей с условной гетероскеда-стичностью являются асимптотически нормальными. В работе [11] рассматривал-ся класс пороговых GARCH-моделей и строились оценки по методу квазимакси-мального правдоподобия и по методу наименьших квадратов. Авторы показали,что асимптотически МНК-оценка параметров является более точной, чем оценкамаксимального правдоподобия. Робастные оценки параметров модели GARCHрассматривались в работах [12−14]. Baillie and Chung [15] предложили оценку сминимальным расстоянием для модели GARCH(1,1), которая основывается на ав-токорреляционной функции квадратов наблюдений. В статье [16] предлагаетсяметод оценивания, основанный на автоковариационной функции квадратов на-блюдений, не требующий знаний о функции распределения.В данной работе предлагается последовательная процедура обнаружения мо-мента разладки процесса GARCH(p,q) с неизвестными авторегрессионными пара-метрами. Метод обнаружения разладки для случая с известными параметрамирассмотрен в [17]. Предложен метод оценки неизвестных параметров процесса,основанный на модифицированном взвешенном методе наименьших квадратов[18], позволяющий получить оценки с гарантированной точностью.1. Постановка задачиРассматривается устойчивый случайный процесс GARCH(p,q), 0,1...xn= ƒnƒnn= , (1)где {ƒn} - последовательность независимых одинаково распределенных случай-ных величин с нулевым средним, единичной дисперсией и известным распреде-лением. Плотность распределения шумов положительна на всей числовой прямой.Условная вариация процесса xn представляет собой случайный процесс вида2 2 21 1.p qn in i i n ii ia x− −= =ƒ = +ƒƒ +ƒƒ ƒПараметры {a, ƒi} предполагаются неизвестными, а параметры ƒi - известными.Параметры процесса удовлетворяют условиям1 1> 0, 0, 0, 1 , 1 ,0 < 0 ,где ƒ является известным значением, определяющим минимальное расстояниемежду значениями параметров до и после момента разладки. Требуется понаблюдениям за процессом {xn} определить момент разладки.2. Построение оценок параметровТак как значения параметров до и после момента разладки являются неизвест-ными, то необходимо получить их оценки. Преобразуем сначала процесс (1), за-писав его в матричной форме1 ( )2 21 12 21 1 1, : 1, : ;, , , , , , ;10 0 0, 1 0 0.0 0 0 0 1 0Tn n n nTn n nq pn np q qnS X MS X q p M q qS ax xX M−− −− − −= ƒ +  + =⎡⎣ƒ ƒ ⎤⎦ ƒ =⎡⎣ ƒ ƒ ⎤⎦⎡ ⎤ ⎡ƒ ƒ ƒ ⎤⎢ ⎥ ⎢ ⎥=⎢ ⎥ =⎢ ⎥⎢ ⎥ ⎢ ⎥⎢⎣ ⎥⎦ ⎢⎣ ⎥⎦… …… …… …… … … … … … … …… …Используя это представление, получим( ) ( ) 21 1 2 1 2T T T TSn= Xnƒ + MSn− = Xnƒ +M Xn−ƒ +MSn− = Xn+MXn− ƒ +M Sn− =…( ) 11 k T k 1.Xn MXn M Xn k M +Sn k…= + − +…+ − ƒ + − − (3)Из ограничений на параметры (2) следует, что для любого j-мерного вектора S сположительными коэффициентами выполнено неравенство1 1 1max maxqqj q j j j j q jMS S≤ ≤ = ≤ ≤⎛ ⎞0 определим момент остановки ƒ = ƒ(H)ƒ=ƒ(H)=inf{N1>N+1:ƒmin(N1)≥H}, (9)где ƒmin(N1) - минимальное собственное значение матрицы ƒ(N1).Положительные весовые функции v(n,x)на интервале [N+1,N+ƒ−1] зада-ются следующим образом:( , )= 1TN n nv n xƒ U U, (10)где ƒ - наименьшее значение N1 , для которого матрица ƒ(N1) не вырождена.Веса v(n,x) на интервале [N + ƒ,ƒ −1] находятся из условийmin 2=( )( , ) .kTn nN n Nkv n xU U+ƒƒ=ƒ ƒ (11)Последняя весовая функция v(ƒ,x) находится из условийmin 2min=( )( , ) T , ( )= .n nN n Nv n xU U Hƒ+ƒƒ ƒ≥ ƒ ƒƒ ƒ (12)Из соотношенй (10) - (12) следует, что весовые функции удовлетворяют условию0 ( , ) 1 .N≤v n x ≤ƒОтсюда и из (6), (8) получаем, чтоEv2(n,x)bn2≤1.Оценка параметров ƒ∗(H) в момент времени ƒ имеет следующий вид:* 1= 1 = 1( )= ( , )TA ( ), A( )= ( , ) T.n n n nn N n NH v n x y U v n x U Uƒ ƒ−+ +⎛ ⎞ƒ ⎜ ⎟ ƒ ƒ⎝ ⎠ƒ ƒ (13)Свойства предложенной оценки определяет теорема 1.Теорема 1. Для любого значения параметра процедуры H>0 момент прекра-щения наблюдений ƒ(H) конечен с вероятностью единица и средний квадратнормы отклонения оценки ƒ*(H) от истинного значения вектора параметров ƒудовлетворяет неравенствуE (H) H p.H+ƒ −ƒ ≤Доказательство. Момент прекращения наблюдений ƒ(H) является конечнымтогда и только тогда, когда расходится почти наверное ряд2= 1( , ) T = .N n nn Nv n xU U+ƒ ƒ Для сходимости почти наверное данного ряда необходимо и достаточно, чтобывыполнялось условие [20]0 2(, ) T 0N n n kn kP vnxUU=⎧ ⎫ƒ > : ⎨ƒ ≥ ƒ⎬⎯⎯⎯ .⎩ ⎭ƒ (14)Так как T 1UnUn > , это условие может выполняться только при ƒNv2(n,x)0по вероятности. Перепишем уравнение для определения весовых коэффициентов(11) в виде [21]min ( ( ) ) min 2: 1( ) 1 minT 1 ( , ) T ( 1) ( , ) T .N Nx x n n N n nn nS A n vnxUU S v nxU U=ƒ ƒ −= − + = +ƒ ƒ ƒОтсюда получаем, что для произвольного вектора S:S =1 верно( ) ( ( ) ) 2 2( , )T ( , ) T T 1 min( 1) 0v n xUnUnƒN −v n x UnS − S A n− S−ƒ n− ≤ .Приравнивая левую часть к нулю и решая квадратное уравнение, получаем, чтооно имеет два корня, один из которых не положителен, а второй - не отрицателен.Коэффициент v(n,x) удовлетворяет условию( ) ( ) ( ( ) ) 2 44 1 min ( 1)( , ) .2T T T Tn n N n nTN n nU S U S U U S A n S nv n xU U+ + ƒ − − ƒ −≤ƒРавенство здесь достигается, когда S является собственным вектором матрицыA(n) , соответствующим ее минимальному собственному значению. Отсюда по-лучаем оценку члена ряда в (14)( ) ( ( ) )42: 1 min( , ) min 1 ( 1) .2TT n TN n n S S TN n nU Sv n xU U S A n S n= U U⎧ ⎫ƒ > ⎪⎨ + − − ƒ − ⎪⎬⎪⎩ƒ ⎪⎭(15)Правая часть этого неравенства сходится к нулю, если и только если оба ееслагаемых сходятся к нулю. Для этого вектор S должен сходиться к вектору, соотјC |-ветствующему минимальному собственному значению матрицы A(n-1), и одно-временно к вектору, ортогональному Un. Поскольку вектор Un зависит от случай-ной величины ƒn, не зависящей от A(n-1) , правая часть (15) будет больше некото-рой константы с положительной вероятностью.Используя неравенство Коши - Буняковского и соотношение (4), получаем2 2* 2 12= 1 = 1( ) ( , )T ( ) 1 ( , )T.n n n n n nn N n NE H E b vnxU A E b vnxUHƒ ƒ−+ +⎛ ⎞ƒ −ƒ ≤ ⎜ ƒ ⎟ ƒ ≤ ƒ⎝ ⎠ƒ ƒ (16)Введем усеченный момент остановки ( ƒ( N1)=min{ƒ,N1}, тогда ƒ(N1)ƒ приN1  . Выражение (16) преобразуется к виду, отличающемуся от исходноготолько пределом суммирования. Обозначим через { } Fn= ƒx1,…,xn0,ƒn0+1,…,ƒn ƒ- алгебру, порожденную случайными величинами { } x1,…,xn0,ƒn0+1,…,ƒn . Ис-пользуя свойства условного математического ожидания получаем1 11( ) 22 2 22 2 ( ) 1= 1 = 112 ( ) 1= 2 = 11 ( , ) =1 ( , )2 ( , ) ( , )N NT Tn n n n n n n n nn N n NN nTk n k n k n n nn N k NE b vnxU EE bv nxUU FH HEE b b v k x v n x U U FHƒ≤ƒ −+ +−≤ƒ −+ +⎡ ⎤ƒ ⎢ ƒƒ ⎥ +⎣ ⎦⎡ ⎤+ ⎢ ƒƒ ƒ ⎥=⎣ ⎦ƒ ƒƒ ƒ[ ]11112 2 22 ( ) 1= 112 ( ) 1= 2 = 12 2 2 22 ( ) 2= 1 = 11 ( , )2 ( , ) ( , )1 ( , ) 1 ( , ) .NTn n n n n nn NN nTk n k n k n n nn N k NNT Tn n n n N n n nn N n NE bv nxUU E FHE bb v k x v n x U U E FHE bv nxUU E bv nxUUH H≤ƒ −+−≤ƒ −+ +ƒ≤ƒ + += ƒ ⎡⎣ƒ ⎤⎦++ ƒƒ ƒ == ƒ ⎯⎯⎯⎯ƒƒ ƒƒ ƒУчитывая оценки (6), (8) и условия для выбора весов (10)-(12), получаем( )12 2 2 2 2 2 22 2 2= 1 = 1 =2 21 ( , ) ( , ) ( , )1 .Nn n n nn N n N n NNE b v n x U CE v n x U CE v n x UH H HC H p E H pH Hƒ +ƒ− ƒ+ + +ƒ≤ + ≤+ +≤ ≤ƒƒ ƒ ƒТеорема доказана.3. Построение процедуры обнаружения разладкиПостроим процедуру определения момента разладки. Пусть матрица211 2=( , )= ( , )TTn nn Tƒ T T ƒv n xU U , а ƒmin(T1,T2) - ее минимальное собственное значение.Весовые функции v(n,x) определяются аналогично (10)-(12). Построим последо-вательность моментов остановкиƒ0=N; ƒi=min{T> ƒi−1:ƒmin(ƒi−1 +1,T)≥ H}, i ≥1.На каждом интервале [ ] 1 1, i i − ƒ + ƒ найдем оценку параметров ( ) *iƒ H процесса (1),построенную по формуле, аналогичной (13). Далее сравним оценки параметров,полученные на интервалах, отстоящих друг от друга на m шагов. Если интервал[ƒi−1 +1,ƒi] не содержит момент разладки ƒ, то вектор параметров ƒ на этом интер-вале является постоянным и его значение равно или начальному значению ƒ0, иликонечному ƒ1. Если, для определенного i, разница между значениями параметров наинтервалах [ƒi−m−1+1,ƒi−m] и [ƒi−1 +1,ƒi] не меньше, чем заданная величина ƒ, тоƒi−m ≤ƒ≤ƒi−1 . Свяжем статистику Ji с интервалом [ƒi−1 +1,ƒi] для i>mJi= ƒi− ƒi−m ƒi− ƒi−m (17)Эта статистика характеризует квадрат нормы различия оценок с номерами i и i-m.Обозначим отклонение оценки ( ) *iƒ H от истинного значения вектора параметровчерез ƒi. Если выполняется условие ƒ > ƒi , то до момента ƒi значения параметровостаются неизменными и статистика (17) имеет видJi= ƒi− ƒi−m2 .Если ƒi−m ≤ƒ≤ƒi−1 , то есть изменение значений параметров произошло на ин-тервале [ƒi−m,ƒi−1 ] , то статистика Ji примет следующий вид:2Ji= ƒ1− ƒ0+ ƒi− ƒi−m .Алгоритм определения точки изменения параметров процесса заключается вследующем: значение заданной статистики (17) сравнивается с пороговым значе-нием ƒ. Решение о наличии разладки принимается при превышении значения ста-тистики Ji значения ƒ.Важными характеристиками любой процедуры обнаружения разладки являют-ся вероятности ложной тревоги и ложного спокойствия. Благодаря использованиювзвешенного метода наименьших квадратов для построения оценок, в каждомцикле наблюдений можно обеспечить заданную вероятность ложной тревоги иложного спокойствия, выбирая параметр процедуры H соответствующим образом.Теорема 2. Пусть 0 < ƒ < ƒ , тогда вероятность ложной тревоги P0 и вероят-ность ложного спокойствия P1 на любом интервале наблюдений [ƒi−1+1, ƒi] явля-ются ограниченными( ) 0 2 1 2 2P(H, ) 4(H p), P(H, ) 4(H p) .H H+ +ƒ ≤ ƒ ≤ƒ ƒ − ƒДоказательство. Рассмотрим вероятность ложной тревоги. В этом случаезначение статистики Ji превышает порог ƒ до момента разладки ƒ. Используясвойства нормы вектора и неравенство Чебышева, а также утверждение теоремы 1,получаем{ } 2 220 2( , ) { | } 2 { i i } 4( ).i i i imP H P J P E H pH −ƒ + ƒ +ƒ = > ƒ ƒ < ƒ = ƒ − ƒ > ƒ ≤ ≤ƒ ƒДля нахождения вероятности ложного спокойствия рассматриваются случаи, ко-гда момент разладки уже наступил, а значение статистики (17) не превысило по-роговое значение ƒ. Вероятность P1 имеет вид{ } { }{ }21 1 1 01 0( , ) |.i im i i imi imP H P J PP− − −−ƒ = < ƒ ƒ < ƒ < ƒ = ƒ − ƒ + ƒ − ƒ < ƒ == ƒ − ƒ + ƒ − ƒ < ƒУчитывая, что ||ƒ1-ƒ0||. >ƒ >0 и используя свойства нормы, неравенство Чебыше-ва и утверждение теоремы 1, получаем{ } { }( ) 1 2 2( , ) i im i im 4( ) .P H P P H pH− −+ƒ ≤ ƒ − ƒ − ƒ < ƒ = ƒ − ƒ < ƒ − ƒ ≤ƒ − ƒТеорема доказана.ЗаключениеВ работе построена и исследована последовательная процедура обнаружениямомента изменения значений параметров процесса GARCH(p,q), параметры кото-рого предполагаются неизвестными до и после момента разладки. Для построенияпроцедуры обнаружения разладки использовались оценки неизвестных парамет-ров процесса, вычисленные на различных интервалах наблюдений. Предлагаемыйметод построения оценок основан на использовании модифицированного взве-шанного метода наименьших квадратов с гарантированным среднеквадратиче-ским отклонением. Таким образом, точность получаемых оценок неизвестных па-раметров зависит от выбора заданного параметра процедуры. Найдены характери-стики процедуры обнаружения разладки.

Ключевые слова

mean square error, guaranteed estimation, least squares method, GARCH(p,q), change-point, гарантированное оценивание, среднеквадратическое отклонение, метод наименьших квадратов, момент разладки, GARCH(p,q)

Авторы

ФИООрганизацияДополнительноE-mail
Буркатовская Юлия БорисовнаНациональный исследовательский Томский политехнический университеткандидат физико-математических наук, доцент кафедры вычислительной техники; программист кафедры высшей математики и математического моделирования Томского государственного университетаtracey@tpu.ru
Воробейчиков Сергей ЭриковичНациональный исследовательский Томский государственный университетпрофессор, доктор физико-математических наук, профессор кафедры высшей математики и математического моделированияsev@mail.tsu.ru
Сергеева Екатерина ЕвгеньевнаНациональный исследовательский Томский политехнический университетассистент кафедры вычислительной техники; ассистент кафедры высшей математики и математического моделирования Томского государственного университетаsergeeva_e_e@mail.ru
Всего: 3

Ссылки

Дмитренко А.А., Конев В.В. О последовательной классификации процессов авторегрессии с неизвестной дисперсией помех // Проблемы передачи информации. 1995. Т. 31. Вып. 4. С. 51−62.
Meder N., Vorobejchikov S. On guaranteed estimation of parameters of random processes by the weighted least square method // Proc. 15th Triennial World Congress of the International Federation of Automatic Control. Barcelona, 2002. No. 1200.
Baillie R.T., Chung H. Estimation of GARCH models from the autocorrelation of the squares of a process // J. Time Ser. Anal. 2001. V. 22. No. 6. P. 631−650.
Storti G. Minimum distance of GARCH(1,1) models // Computattional Statistics and Data Analysis. 2006. V. 51. P. 1803−1821.
Буркатовская Ю. Б., Воробейчиков С.Э. Гарантированное обнаружение момента разладки GARCH-процесса // Автоматика и телемеханика. 2006. № 12. С. 56−70.
Peng I., Yao Q. Least absolute deviations estimation for ARCH and GARCH models // Biometrica. 2003. V. 90. N. 4. P. 967−997.
Muler N., Yohai V.J. Robust estimates for GARCH models // J. Statistical Planning and Inference. 2008. V. 138. N. 10. P. 2918−2940.
Boudt K., Croux C. Robust M-estimation of multivariate GARCH models // Computational Statistics and Data Analysis. 2010. V. 54. P. 2459−2469.
Hamadeh T., Zakoian J.-M. Asymptotic properties of LS and QML estimators for a class of nonlinear GARCH processe // J. Statist. Plann.Inference. 2011. V. 141. P. 488−507.
Bai J. Least squares estimation of a shift in linear process // J. Time Series Analysis. 1994. V. 15. N.5. P. 453−472.
Francq C., Zacoian J.M. Maximum likelihood estimation of pure GARCH and ARMA - GARCH processes // Bernoulli. 2004. V. 10. P. 605−637.
Pan J., Wang H., Tong H. Estimation and power-transformed and threshold GARCH models // J. Econometrics. 2008. V. 142. P. 352−378.
Berkes I., Horvath L., Kokoszka P.S. GARCH processes: Structure and estimation // Bernoulli. 2003. V. 9. P. 201−227.
Berkes I., Horvath L. The efficiency of the estimators of the parameters in GARCH processes // Annals of Statistics. 2004. V. 32. P. 633−655.
Gombey E., Serban D. Monitoring parameter change in AR(p) time series models // Statistics Centre Technical Reports 05.04, The University of Alberta, Edmonton, Canada, 2005.
Gombey E. Change detection in autoregressive time series // J. Multivariate Analysis. 2008. V. 99. P. 451−464.
Hillebrand E. Negleting parameter changes in GARCH models// J. Econometrics. 2005. V. 129. P. 121−138.
Davies R.A., Huang D., Yao Y.-C. Testing for change in the parameter value and order of autoregressive model // Ann. Statist. 1995. V. 23. P. 282−304.
Bollerslev T. Generalized autoregressive conditional heteroskedasticity // J. Econometrics. 1986. V. 86. P. 307−327.
 Оценивание параметров и обнаружение момента их изменения для обобщенного авторегрессионного процесса с условной неоднородностью | Вестник Томского государственного университета. Управление, вычислительная техника и информатика. 2012. № 1(18).

Оценивание параметров и обнаружение момента их изменения для обобщенного авторегрессионного процесса с условной неоднородностью | Вестник Томского государственного университета. Управление, вычислительная техника и информатика. 2012. № 1(18).

Полнотекстовая версия