Estimating parameters in a regression model with dependent noises.pdf 1. Введение. Постановка задачи Основной задачей при описании статистических данных является построение адекватной модели и оценка её коэффициентов [1, 2]. Когда речь идет о нахождении оценки, то классическими являются метод наименьших квадратов (МНК) и метод максимального правдоподобия. Эти методы позволяют построить оценки с хорошими свойствами, такими, как несмещенность, оптимальность и состоятельность, для схемы независимых наблюдений [3]. Применение классических методов к более общим моделям, в которых возмущения являются зависимыми и не-гауссовскими, не всегда приводит к наилучшим оценкам. В 60-х годаx 20 века Джеймс и Стейн предложили подход, позволяющий повысить точность оценки среднего многомерного нормального распределения, если не ограничиваться несмещенными оценками. Была построена процедура сжатия, которая открыла возможности для повышения качества оценивания [4]. Метод Джеймса - Стейна получил развитие для более общих моделей, в том числе с шумами, имеющими неизвестную ковариационную матрицу [5-8]. В [3, 9] были предложены процедуры улучшенного оценивания для регрессии со сферическими симметричными распределениями шумов. В данной работе рассмотрим задачу улучшенного (в смысле среднеквадрати-ческой точности) оценивания d-мерного вектора регрессии с нелинейным стохастическим условно-гауссовским шумом. Пусть на вероятностном пространстве (Q, F, P) наблюдения описываются уравнением Y = 0+v§, (1) где 0e®c Md - вектор неизвестных параметров, v - известное положительное число, = (^,...,|d) - вектор первых d значений процесса AR(p)/ARCH(q), который удовлетворяет уравнению It =Ро + E -1 + L + fajj 8,. (2) i=1 \ j=1 Предположим, что | имеет условно-гауссовское распределение относительно некоторой с-алгебры G с нулевым средним и условной ковариационной матрицей D(G), такой, что trD(G) -Хтах(D(G)) >K(d) > 0, а математическое ожидание максимального собственного значения ограниченно сверху, т.е. EXm3x(D(G)) do оценка 9 превосходит по среднеквадратической точности оценку МНК (3). Более того, разность рисков Д (9) = R (9*, 9) - R (9,9) < -с2. * Доказательство. Рассмотрим среднеквадратический риск оценки 9 : R (9*, 9) = Ee|9*-9|2 =Ee|9-9 + g (Y )Y-9|2 = = Ee 19 - 9 + E9 ((g(Y) -1)2 |Y|2 ) + 2 Z E9 (g(Y) -1) (Yj - 9), j=1 где g(x) = с/|X . Вычисляя второе и третье слагаемые, как показано, например, в [10], имеем R (9*, 9) = R (9,9) + с2 - E9W (Y) , W (x) = с2 + 2c ^^ X - 2trD(G) • с Д . |x| |x| Учитывая здесь, что шум | имеет условно-гауссовское распределение Law(l \G) = Nd (0,D(G)) и неравенство x'Ax < Xmax (A) ||x||2, получаем E9W(Y) p + vEe^|, 1 x'D-1f) x где ^ J,1^* = (2n)d '^A/det Df Rft'" 2 * Для вычисления интеграла сделаем замену переменной u = D~1/2f)x,. Тогда E0 II = TT-)d7r I D1/2 G)u|e4 du j\u\e-du. (2П) Rd (2П) Rd Переходя в последнем интеграле к сферическим координатам, получаем „2 2 d/2 _ E0||^^max(D(f))-ш | rde 2 dr < (2n)d/2Г( |) 0 r d +1 I--2 d-1 i- < Л*-^^ I (2t)T e~{dt =v2X* - , (Wi)i () r(2 Таким образом, E0 |y| 1 >Sd и Д0 < c2-ov2k(2)5d. Минимизируя правую часть по с, находим с = v2k(2)5d. Следовательно, Д0 < -c2. Теорема доказана. Замечание. Теорема утверждает, что предложенная оценка (4) превосходит по среднеквадратической точности оценку МНК. При этом минимальное снижение риска равно -c2. Далее рассмотрим пример модели (1), в которой координаты вектора шумов задаются процессом AR(1)/ARCH(1) вида It = М-1 . (5) где |Р1 < в < 1 , 0

Скачать электронную версию публикации