О последовательном оценивании параметров непрерывной авторегрессии
Для устойчивого процесса авторегрессии с непрерывным временем предлагается последовательная процедура оценивания неизвестных параметров, использующая специальное правило остановки наблюдений. Процедура строится на основе классических оценок по методу наименьших квадратов, но в отличие от них обеспечивает контроль за среднеквадратической точностью оценок. Получены формулы для асимптотической длительности наблюдений при увеличении среднеквадратической точности оценок. Результаты могут найти применение в задачах идентификации динамических систем, подверженных действию шумов, адаптивного прогнозирования, а также для оценивания параметров спектров гауссовских процессов с непрерывным временем.
On the sequential estimation of parameters in a continuous autoregression model.pdf В задачах обработки временных рядов, идентификации, прогнозирования и управления в динамических системах широко используются модели с непрерывным временем, описываемые стохастическими дифференциальными уравнениями. Параметры этих уравнений во многих случаях неизвестны, и решению основных задач фильтрации, прогнозирования, управления обычно предшествует этап идентификации, заключающийся в оценивании неизвестных параметров. Для решения задач идентификации параметров стохастических динамических систем разработаны различные эффективные методы: максимального правдоподобия, стохастической аппроксимации, наименьших квадратов и др. (см., например, [1-4]). Использование этих методов усложняется, если получаемые оценки являются существенно нелинейными функциями и поддаются исследованию лишь в асимптотике при неограниченной длительности наблюдений. Однако в практических задачах объем доступных данных всегда конечен и желательно знать качество оценок, вычисленных по наблюдениям на ограниченном временном интервале. Для решения задач в неасимптотической постановке требуются методы, позволяющие контролировать точность оценок при малых и умеренных объемах данных. Один из подходов к решению задач идентификации динамических систем в неасимптотической постановке связан с использованием последовательного анализа, который характеризуется тем, что длительность наблюдений не фиксируется заранее и определяется специальными правилами накопления данных. Пусть наблюдаемый p-мерный процесс Xt = (X1(t),...,Xp(t))' описывается системой линейных дифференциальных уравнений dXt = AXtdt + BdWt, (1) в которой А и В - квадратные матрицы постоянных коэффициентов размера p х p, причем все характеристические числа матрицы А имеют отрицательные вещественные части, Wt - стандартный р-мерный процесс броуновского движения. Задача состоит в том, чтобы оценить неизвестные коэффициенты матрицы A = |по наблюдениям процесса Xt. К этой задаче сводится задача оценивания параметров стационарного гауссовского процесса авторегрессии p-го порядка (AP(p)) dxp-1 =(eixf-1 +... + e pxt) dt + adwt (2) с рациональной спектральной плотностью, имеющей вид f (X) = - 2 CT Предполагается, что неизвестные параметры 0,-, i = 1, p, таковы, что все корни ха рактеристического полинома Q(z) = zp-01zp 1 -...-0 p имеют отрицательные вещественные части. Процесс (2) представляется в виде (1), если положить ( J А Г 0 0 0 ^ 0 Г 0 0 0 0 ^ 0 CT A = Xt = B = CT> 0. (3) Jp-1 ,p-1 V p Одним из основных методов оценивания вектора неизвестных параметров 0 = (0j, 02,..., 0p)' является метод наименьших квадратов (МНК), согласно кото рому оценка 0Т имеет вид 0 т = м- | xsd{xt)f где (a), обозначает i-ю координату вектора-столбца a = (ab..., ap)'; Мt =| XsXs' ds - выборочная информационная матрица Фишера, Мт 1 - обратная к ней, если она не вырождена, и - в противном случае. Асимптотические свойства векто ра оценок 0Т по методам максимального правдоподобия и наименьших квадратов изучались в ряде работ [1, 5, 6 и др.]; они являются сильно состоятельными и асимптотически нормальными. В прикладных задачах использование асимптотических свойств оценок обычно основывается на предположении, что эти свойства сохраняются для малых и умеренных объемов данных. Однако поведение оценок при малых и умеренных длительностях наблюдений может существенно отличаться от асимптотического, и это может привести к неточным выводам при принятии решений. Изучение задач оценивания параметров диффузионных процессов в неасимптотической подстановке восходит к работам Новикова, Липцера и Ширяева [3, 7, 8], которые предложили последовательный план для оценивания неизвестного параметра диффузионного процесса dxt = 0xtdt + CTdwt, (4) (5) а также двумерного процесса специального вида с двумя неизвестными параметрами. В этих работах было доказано, что последовательная оценка имеет преимущества перед классической оценкой МНК: она является несмещенной и гауссов-ской [см. подробнее 7- 9 и др.] Этот метод, однако, оказывается непригодным в более общей ситуации, когда число неизвестных параметров превышает размерность наблюдаемого процесса. В [10] впервые была разработана общая последовательная процедура, позволяющая получать гарантированные оценки с любой заданной среднеквадратической точностью для авторегрессии с дискретным и непрерывным временем любого порядка по конечной реализации процесса. Предложенная в [10] процедура позволяет оценить неизвестные параметры с любой заданной среднеквадратической точностью и обладает хорошими асимптотическими свойствами. Эта процедура может оказаться, однако, достаточно сложной для практической реализации в случае многих неизвестных параметров, поскольку она включает два этапа и требует построения целой системы оценок МНК, вычисляемых в специальные моменты времени. На первом этапе строится последовательность модифицированных оценок МНК, каждая со своим правилом прекращения наблюдений, на втором этапе проводится процедура сглаживания оценок первого этапа, причем при сглаживании используется случайное число оценок, зависящее от требуемой точности оценивания неизвестных параметров. Цель данной работы - предложить одноэтапную процедуру оценивания, использующую специальное правило остановки наблюдений, которая позволяет контролировать среднеквадратическую точность оценок. Эта процедура, как и в [10], является последовательной модификацией оценки МНК и может использоваться при наличии некоторой априорной информации о параметрах. 1. Построение последовательной процедуры При построении последовательного плана будет использоваться следующая лемма, дающая оценку нормы уклонения оценки (4) от ее истинного значения. Лемма 1. Пусть матрица MT в (5) невырождена. Тогда квадрат нормы уклонения оценки (4) удовлетворяет неравенству ||еТ -е||2  n Лемма 5. Для всякого H > 0 справедливо неравенство ад Ее trMT(H у < tr F • Еет(Н ) + j tr (ЕеX0X0 ' eAs )ds . (27) 0 Доказательство. Используя рассуждения из доказательства леммы 3, имеем ад MT - TF = j eAs|seA sds = 0 ад С T T Л = jeAs X0X0'-XTXT '+jXs (dWs)'B'+ BjdWsXs' eA'sds . 0 V 0 0 J Заменяя Т на т и учитывая, что математические ожидания третьего и четвертого слагаемых в правой части этого равенства равны нулю, получаем ад ад ЕеMт -FEeт = jeAsEe (X0X0 ')eA'sds - jeAsEe (XTXT ')eAsds . ад Поэтому Ее tr MT < tr F • Еет +j tr (Ее ^.X0X0 ')eA's )ds . 0 Лемма 5 доказана. Асимптотическое поведение средней длительности процедуры дает следующая теорема. Теорема 1. Пусть т(Н) определяется формулой (9) и выполнены условия леммы 4. Тогда для любого компакта К сЛт т(Я) _||f-2||2 0 H II II lim sup H —Ш06К = 0. (н) < +ш. По определе Доказательство. Сначала покажем, что lim sup E0н —Ш06К H нию т(Н) имеем E0T(H) = ]P0 (т(Н) > T)dT = ]P0 [ |М^||2 > H \ dT. Выбирая 5 > 0, такое, что II 9 11-2 2 sup F 2  -о H V 5 dT 5 Для подынтегральной функции во втором интеграле имеем оценку „2 2 .2, г-2 1- 1 2 2II" 1 T2M_2f _ F"2 2 F "^ 2 >- 11 25 P0 + P0 25 T2M7_^ 2 >_ < P T * 5 0V V / V f ( MT F < n, V T T 2M,_2 2 _ F"^ 2 1 ^ ( MT > — + P0| T F 25 / 00 T > n 1, 0 6 K. (29)  0 и n> 0, что при T > T0, если < Д, поэтому первое слагаемое в правой 25 mt f < П, то T T2M"2 2 -F~2Ь части (29) равно нулю и неравенство (29) принимает вид ^ ( MT < P0I F T „ и- 1 ^ T2M-2\2 > MT >n |n > Л С(Н) С(Н) Покажем, что для любого n> 0 lim sup Pe Н eeK M, т(Н) - F = 0. (31) > Л П |< — 1 H т( H) ( - + ± ( -2У- _ 1)||+1Z * 2у V 2^ ' J J £к2 Переходя к пределу при H —ш , затем при от —ш , приходим к (31). Учитывая лемму (1.1.1) из [13], получим P.(t(H )< от )< V 1:(е_2уот _ О — 0 . от +■ 2у V 2у Остается убедиться в том, что для любого п > 0 \\ M, т(Н) , Н ' т(Н) lim sup Ee Н ^»SeK - F = 0. (40) > Л с(Н) Рассмотрим т(Н) Ее —--Y e Н л M M т(Н) = Ее^Л т(Н) т(Н) х(т(Н )< m) + - F - F >Л >Л  m)< M т(Н) +Ее^А т(Н) - F >Л т(Н) Н + Ee^fl х(т(Н )> m ). M т(Н) < mPe Н 9 - F >Л т(Н) Н Выбирая m из условия т > — с 5, удовлетворяющим (28), имеем 5 1 1А E (т(Н )х(т(Н) > m)) = j Pe (т(Н) > T )dT = j P, | ||t 2 Mf2p > отсюда и из (30) получаем требуемое. Теорема 1 доказана. Найдем верхнюю границу для среднеквадратической точности оценки вектора неизвестных параметров e = (e1, e2, ... , ep)' в уравнении (2) с помощью последовательного плана (9), (10). dT: Теорема 2. В условиях теоремы 1 для любого компактного множества K cAY sup e, (e * (Н )-e||2 )< Н (1+0 (1)) SeK ak = supф(е),ф(е) = trF\\F~2 2, где o(1)^0 приН . (41) где SeK Доказательство. Используя оценки (11) и (27) из лемм 2 и 5, приходим к неравенству f » 1 (42) | Ее ( * (Н)- S||2 ) < Н— tr F. Еет + j tr ( (X0X0 ') eA's) ds Н V r, В силу теоремы 1 отсюда следует неравенство (41). Теорема 2 доказана. Пример. Применим полученные результаты к процессу AP(2) с неизвестными параметрами S = (Sb S2) (43) где dXt = (Sj Xt +S2xt)dt + adwt. Этот процесс в матричной форме имеет вид dXt = AXt + BdWt, xt=ixt a=(» e2\в=f0: '2 w2 Wt - стандартный двумерный винеровский процесс, причем (Wt)2 = wt .Область устойчивости Ay процесса (43) задается равенством (см. рис. 1) Ay ={(01, 62): 62 < ^01 +Y 2,61 < 0}, Y> 0. Y2/4 Рис. 1. Область устойчивости AY Разрешая уравнение (13) относительно F, получаем 01 402^^/2+ё2т f а2 2 F = diag F - V 20201 202 У 4 а Поэтому при больших Н средняя длительность процедуры оценивания удовлетворяет соотношению 40272+0 E0t(H) ~ H а для всех 0 = (02, 02)' е K, где K - компакт в параметрической области A^, y > 0. При этом среднеквадратическая точность оценивания равномерно по компакту K определяется неравенством (41), причем Ф(0) = trFllF^Ц1 = Mfl + 012W2+94. а Подставляя полученную оценку 0 (H) = (02,02)' в (2), получаем оценку спектральной плотности f(X) процесса (43). Теорема 2 позволяет построить доверительную область для оценки f (X).
 
                        
                        
                        Ключевые слова
stopping time, 
sequential estimation, 
gaussian process with rational density, 
autoregressive process, 
fixed-accuracy estimation, 
момент остановки, 
последовательное оценивание, 
гауссовский процесс с рациональной плотностью, 
авторегрессионный процесс, 
гарантированная среднеквадратическая точностьАвторы
    			
                
    				 
    				| Емельянова Татьяна Вениаминовна | Томский государственный университет | старший преподаватель кафедры математического анализа | tv_em@mail.ru |  
| Конев Виктор Васильевич | Томский государственный университет | доктор физико-математических наук, профессор, заведующий кафедрой высшей математики и математического моделирования | vvkonev@mail.tsu.ru |  
    			
                 Всего: 2
                Ссылки
Беллман Р. Введение в теорию матриц. М.: Наука, 1969.
Kabanov Yu.M. and Pergamenshchikov S.M. Two Scale Stochastic Systems: Asymptotic Analysis and Control // Springer, Berlin, New York, 2002.
Konev V.V. and Pergamenshchikov S.M. Sequential Estimation of the Parameters in a Trigonometric Regression Model with the Gaussian Coloured Noise // Statistical Inference for Stochastic Processes 6: 215-235, 2003.
Конев В.В. Пергаменщиков С.М. Последовательное оценивание параметров линейных неустойчивых стохастических систем с гарантированной среднеквадратической точностью // Проблемы передачи информации. 1992. Т. 28. № 4.
Арато М, Колмогоров А.Н., Синай Я.Г. Об оценках параметров комплексного стационарного гауссовского марковского процесса // ДАН СССР. 1962. Т. 156. № 4. С. 747750.
Новиков А.А. Последовательное оценивание параметров процессов диффузионного типа // Мат. заметки. 1972. Т. 12. Вып. 5. С. 627-638.
Новиков А.А. Последовательное оценивание параметров диффузионных процессов // Теор. вероятн. и ее примен. 1971. Т. 16. Вып. 2. С. 394-396.
Тараскин А.Ф. Об асимптотической нормальности некоторых стохастических интегралов и оценках параметров переноса многомерного диффузионного процесса // Теор. вероятн. и мат. статистика. Киев: Наукова думка, 1970. Вып. 2. С. 205-220.
Яглом А.М. Введение в теорию стационарных случайных функций // УМН. 1955. Т. 7. Вып. 5. С. 3-168.
Тараскин А.Ф. Об асимптотической нормальности стохастических интегралов в оценках коэффициента переноса диффузионного процесса // Мат. физика. Киев: Наукова думка, 1970. Вып. 8. С. 149-163.
Ибрагимов И.А., Хасьминский Р.З. Асимптотическая теория оценивания. М.: Наука, 1979. 528 с.
Липцер Р.Ш., Ширяев А.Н. Статистика случайных процессов. М.: Наука, 1974.
Арато М. Линейные стохастические системы с постоянными коэффициентами. Статистический подход. М.: Наука, 1989.