Адаптивное эффективное оценивание функции в гетероскедастичной регрессии | Вестник Томского государственного университета. Управление, вычислительная техника и информатика. 2019. № 49. DOI: 10.17223/19988605/49/9

Адаптивное эффективное оценивание функции в гетероскедастичной регрессии

Изучаются асимптотические свойства адаптивной улучшенной процедуры выбора модели для оценивания неизвестной функции в гетероскедастичной регрессии. Установлено, что процедура является асимптотически эффективной в смысле среднеквадратического риска, т.е. асимптотический среднеквадратический риск процедуры совпадает с соответствующей константой Пинскера, обеспечивающей точную нижнюю границу риска по всем возможным оценкам. Приводятся результаты численного моделирования.

Adaptive efficient estimation for a function in heteroscedastic regression.pdf Рассматривается задача адаптивного асимптотически эффективного оценивания в непараметрической гетероскедастичной регрессионной модели yj = S (, 1 ^ J ^ n , (1) где Xj = j / n - точки разбиения сегмента [0, 1], S - неизвестная 1-периодическая функция, которую требуется оценить, - последовательность центрированных независимых одинаково распределенных случайных величин с единичной дисперсией, - неизвестные коэффициенты вола тильности, зависящие от точек X. и функции S, n - число наблюдений. Гетероскедастичные регрессионные модели широко применяются в эконометрических исследованиях, в частности при анализе инвестиционного поведения фирм, для задачи потребления и др. [1, 2]. Также регрессионная модель типа (1) используется в стохастических дифференциальных уравнениях для аппроксимации диффузионных процессов с непрерывным временем путем применения последовательных ядерных оценок [3, 4]. Важной является задача качественной статистической идентификации таких моделей [5]. Цель данной работы - доказать свойство асимптотической (при n ) эффективности улучшенной процедуры выбора модели, предложенной авторами в [6], для оценивания функции S в модели (1). Рассматривается адаптивная постановка задачи, т.е. в условиях отсутствия информации о гладкости неизвестной функции S. Понятие асимптотической эффективности связано с оптимальной скоростью сходимости минимаксного риска, т.е. важным вопросом в результатах оптимальности является изучение точной асимптотики минимаксного риска [7]. Проблема асимптотического непараметрического оценивания в модели гетероскедастичной регрессии изучались в работах [8-10]. Для доказательства асимптотической эффективности процедуры необходимо показать, что ее асимптотический квадратичный риск совпадает с нижней границей, определяемой константой Пинскера [11]. В данной работе поставленная задача решается с использованием подхода, основанного на методах выбора модели и точных оракульных неравенств, разработанных в статьях [10, 12]. В отличие от указанных работ, в статье применяется метод улучшенного адаптивного непараметрического оценивания, предложенный в [6, 13]. 73 Е.А. Пчелинцев, С.С. Перелевский Статья состоит из четырех разделов. В разд. 1 описывается построение адаптивной улучшенной процедуры выбора модели и формулируется точное оракульное неравенство для среднеквадратического риска процедуры оценивания. В разд. 2 доказывается теорема об асимптотической эффективности процедуры выбора модели в минимаксном смысле. В разд. 3 изучается задача оценивания непериодической функции в модели (1). В разд. 4 приводятся результаты численного моделирования. 1. Адаптивная процедура выбора модели. Оракульное неравенство Для оценивания неизвестной функции S в модели (1) предлагается использовать семейство (Sx)^_A улучшенных взвешенных оценок наименьших квадратов, определенное в [6], т.е. n s:^(x) = (x), (2) J =1 где вектор весовых коэффициентов X = (Х^,...,Х^) принадлежит некоторому конечному множеству Л с [0,1]n c n > 3 , (фj )1 1 и 0 < е < 1 - функции от п, т.е. к = к^ и е = е^ такие, что 1 к lim к = +да, lim -- = 0, n “ 1 “ n nIn n lim е = 0, lim n®е =+да n ^ n n n^TO для любого 5 > 0 . Например, можно взять для n > 3 е =-^, к = к +J In n, In n где к - некоторая неотрицательная постоянная. Для любого а = (Р, t) е А положим, что весовой вектор ^ = (^j,...,^„) с компонентами 'Xa,J = l{1S^ 0 - неизвестные параметры. Обозначим через ^ множество всех оценок ^>n, измеримых относительно наблюдений Предположим, что коэффициенты волатильности удовлетворяют следующим условиям. Ci) оJ (S) = g(Xj, S) для некоторой неизвестной функции g : [0, 1] х [0, 1] ^ R, которая квадратично интегрируема по х и такая, что -X g ^( Xj, S) - ^(S) = 0 llm sup 1 n j=1 n^“ Wk где Q(S) = f g2 (x, S~)dx. Кроме того, g = inf inf gx, S) > 0 и q(S) r(S)},m), r(S) = r I g{S) и выберем a = (A:,f ) g A, где ^ > 1 - неизвестный параметр множества и С = /^e . Определим ~s = s[, І=К- Ясно, что эта оценка принадлежит семейству (2) и зависит от неизвестных параметров k, r и r (S), следовательно, не может быть явно вычислена и применяться для решения задачи оценивания в адаптивной постановке. Однако для риска этой оценки, принимая во внимание неравенство (7) и Теорему 5.1 из [10], имеем lim sup п2kk Se Wr Ykkk k 0 . Умножая уравнение (1) на функцию х(') и моделируя последовательность (^ )^

Ключевые слова

mean square risk, oracle inequalities, nonparametric heteroscedastic regression, improved estimation, асимптотическая эффективность, оракульные неравенства, среднеквадратический риск, улучшенное оценивание, непараметрическая гетероскедастичная регрессия, asymptotic efficiency

Авторы

ФИООрганизацияДополнительноE-mail
Пчелинцев Евгений АнатольевичТомский государственный университеткандидат физико-математических наук, доцентevgen-pch@yandex.ru
Перелевский Святослав СергеевичТомский государственный университетаспирантslavaperelevskiy@mail.ru
Всего: 2

Ссылки

Brua J.-Y. Asymptotically efficient estimators for nonparametric heteroscedastic regression models // Statistical Methodologie. 2009. Vol. 6, No. 1. P. 47-60.
Pchelintsev E.A., Pchelintsev V.A., Pergamenshchikov S.M. Improved robust model selection methods for a Levy nonparametric regression in continuous time // Journal of Nonparametric Statistics. 2019. P. 1-17. DOI: 10.1080/10485252.2019.1609672.
Galtchouk L., Pergamenshchikov S. Sharp non-asymptotic oracle inequalities for nonparametric heteroscedastic regression models // Journal of Nonparametric Statistics. 2009. V. 21, No. 1. P. 1-16.
Pinsker M.S. Optimal filtration of square integrable signals in Gaussian white noise // Problems Transimis. information. 1981. N 17. P. 120-133.
Galtchouk L., Pergamenshchikov S. Adaptive asymptotically efficient estimation in heteroscedastic nonparametric regression // Journal of the Korean Statistical Society. 2009. V. 38, No. 4. P. 305-322.
Efroimovich S. Sequential design and estimation in heteroscedastic nonparametric regression // Sequential Analysis. 2007. Vol. 26. P. 3-25.
Efroimovich S., Pinsker M. Sharp - optimal and adaptive estimation for heteroscedastic nonparametric regression // Statistica Sinica. 1996. Vol. 6. P. 925-942.
Ibragimov I.A., Hasminskii R.Z. Statistical Estimation: Asymptotic Theory. New York : Springer, 1981.
Пчелинцев Е.А., Перелевский С.С. Адаптивное оценивание в гетероскедастичной непараметрической регрессии // Вест ник Томского государственного университета. Математика и механика. 2019. № 57. С. 38-52.
Belomestny D., Reiss M. Spectral calibration of exponential Levy models // Finance and Stochastics. 2006. Vol. 10, No 4. P. 449 474.
Pchelintsev E.A., Perelevskiy S.S., Makarova I.A. Improved nonparametric estimation of the drift in diffusion processes // Uchenye Zapiski Kazanskogo Universiteta. Seriya Fiziko-Matematicheskie Nauki. 2018. Vol. 160, No 2. P. 364-372.
Galtchouk L., Pergamenshchikov S. Adaptive sequential estimation for ergodic diffusion processes in quadratic metric // Journal of Nonparametric Statistics. 2011. V. 23, No. 2. P. 255-285.
Goldfeld S.M., Quandt R.E. Nonlinear Methods in Econometrics. London : North-Holland, 1972.
Cai T., Wang L. Adaptive variance function estimation in heteroscedactic nonparametric regression // Annals of Statistics. 2008. V. 36, No. 5. P. 2025-2054.
 Адаптивное эффективное оценивание функции в гетероскедастичной регрессии | Вестник Томского государственного университета. Управление, вычислительная техника и информатика. 2019. № 49. DOI: 10.17223/19988605/49/9

Адаптивное эффективное оценивание функции в гетероскедастичной регрессии | Вестник Томского государственного университета. Управление, вычислительная техника и информатика. 2019. № 49. DOI: 10.17223/19988605/49/9