Laboratory of Structural Methods of Data Analysis in Predictive
Modeling Moscow Institute of Physics and Technology
ENG
Логин:
Пароль:

Statistical methods

Описание направления:

Inverse problems are related to applications, where the quantities of interest cannot be measured directly. Moreover, very often the measurements are noisy and the direct reconstruction of the quantities of interest from noisy measurements is unstable. The studies in this topical area at PreMoLab range from fundamental mathematical questions to real applications. They involve expertise in regularization theory, height dimensional non-parametric statistics and specific applications. In recent years important contributions were made to the analysis of height dimensional linear statistical inverse problems. One objective was the design of efficient reconstruction methods and computing data-driven a nearly optimal regularization parameters.

Successful statistical modeling and data analysis often requires smoothing procedures that can adapt to the unknown underlying structure. This approach includes an intrinsic detection of edges or discontinuities in imaging or signal processing as well as non-stationarities in time series. Classical parametric and nonparametric smoothing methods very often cannot meet demands from applications. This is why the main approaches developed at PreMoLab are focused on smoothing techniques related to structural adaptive inferences.

Surrogate modeling is an engineering approach used when an outcome of interest cannot be easily directly measured, so a model of the outcome is used instead. Surrogate models expedite the search for promising designs by standing in for expensive design evaluations or simulations. They provide a global model of some metric of a design (such as weight, aerodynamic drag, cost, etc.), which can then be optimized efficiently.

Time series analysis developed at PreMoLab comprises methods for analyzing time series data in order to extract meaningful features and other characteristics of the data.

Публикации:

Теорема Бернштейна–фон Мизеса в непараметрическом случае

Преподаватели: Спокойный Владимир Григорьевич, Панов Максим , Гончаров Федор Олегович, 29 декабря 2014

О концентрации целевого параметра в статистических моделях с растущей размерностью

Преподаватели: Панов Максим , 29 декабря 2014

Semiparametric Bernstein - von Mises Theorem

Преподаватели: Спокойный Владимир Григорьевич, Панов Максим , 29 декабря 2014

Finite Sample Bernstein – von Mises Theorem for Semiparametric Problems

The classical parametric and semiparametric Bernstein – von Mises
(BvM) results are reconsidered in a non-classical setup allowing finite samples and model misspecification. In the case of a finite dimensional nuisance parameter we obtain an upper bound on the error of Gaussian approximation of the posterior distribution for the target parameter which is explicit in the dimension of the nuisance and target parameters. This helps to identify the so called critical dimension p_n of the full parameter for which the BvM result is applicable. In the important i.i.d. case, we show that the condition “ p_n^3/n is small” is sufficient for the BvM result to be valid under general assumptions on the model. We also provide an example of a model with the phase transition effect: the statement of the BvM theorem fails when the dimension p_n approaches n^{1/3} . The results are extended to the case of infinite dimensional parameters with the nuisance parameter from a Sobolev class.

Преподаватели: Спокойный Владимир Григорьевич, Панов Максим , 29 декабря 2014

Critical Dimension in the Semiparametric Bernstein von Mises Theorem

The classical parametric and semiparametric Bernstein–von Mises (BvM) results are reconsidered in a nonclassical setup allowing finite samples and model misspecification. In the parametric case and in the case of a finite-dimensional nuisance parameter, we establish an
upper bound on the error of Gaussian approximation of the posterior distribution of the target parameter; the bound depends explicitly on the dimension of the full and target parameters and on the sample size. This helps to identify the so-called critical dimension 'p_n' of the full parameter for which the BvM result is applicable. In the important special i.i.d. case, we show that the condition “p_n^3/n is small” is sufficient for the BvM result to be valid under general assumptions on the model. We also provide an example of a model with the phase transition effect: the statement of the BvM theorem fails when the dimension p_n approaches n^{1/3} .

Преподаватели: Спокойный Владимир Григорьевич, Панов Максим , 29 декабря 2014

Прошедшие мероприятия:

17.04.2015
МФТИ, 303 КПМ

Fisher and Wilks Theorems for Likelihood-Based Density Estimation

We study Loader’s method for probability density estimation. This method also allows to estimate derivatives of the density function. Our goal is to describe properties of this estimate using Fisher and Wilks theorem and check the conditions of Spokoiny. I tried to clarify the presentation and make explicit statements depending only on sample size $n$ and CI width, known as $x$. We also provide some examples for low dimension to show the geometry of the estimate.

10.04.2015
МФТИ, 303 КПМ

Мажорирующие меры и generic chaining (продолжение).

На прошлом семинаре было сделано введение в методы оценки супремума гауссовских и субгауссовских процессов. Основная часть доказательства, которую не успели будет рассмотрена более подробно.

Было показано, точность оценки зависит от разбиения (дискретизации) пространства, будет приведено несколько показательных примеров, ручного построения "хороших" разбиений. Опять будут рассмотрены эллипсоиды в конечномерных и бесконечномерных пространствах, и приведены некоторые полезные утверждения к ним.
Окончание будет вариативным, возможно будет сделан некоторый обзор исторической части данного метода, либо введение в наиболее общий формализм чейнинга и мажорирующих мер.

27.03.2015
МФТИ, 303 КПМ

Generic Chaining and Majorizing measures

Аннотация: на докладе будет выведена оценка супремума Гауссовского процесса через интеграл Дадли. Данная оценка является неточной, будет показано два контрпримера. В частности в докладе будет показано, что оценка через интеграл Дадли на эллиптическом множестве неточна.
Также будет рассмотрена связь оценки Дадли с техникой generic chaining, которая дает неулучшаемую (с точностью до константы) оценку супремума. Идейно будет рассмотрено доказательство теоремы -- о мажорирующих мерах, начиная с того: почему тут использовано слово мажорирующие меры, но никаких мер в док-ве не используется, и заканчивая связью этой теоремы с общим аппаратом generic chaining и как вообще до этой теоремы можно было додуматься.
В дополнение будет показана связь техники чейнинга в общем смысле, и в работах В.Г. Спокойного.
Ссылки: Michel Talagrand. Upper and Lower bounds for stochastic processes (2013, 2014)

20.02.2015
МФТИ, 303 КПМ

Linear hypothesis testing in the problem with weak instrumental variables

In this work a new method for testing linear hypothesis on the target parameter is developed. To compute critical values for a log-likelihood ratio statistics we use miltiplier bootstrap procedure. We justify this method and then use it for a regression model with instrumental varibles included. Numerical experiments show good power properties of proposed method under both weak and strong instruments identification.

15.05.2014

16.05.2014

Advances in Optimization and Statistics

Institute of Information Transmission Problems of RAS (Kharkevich Institute)

Члены лаборатории:
Spokoiny Vladimir
Должность: Руководитель
Golubev Yuri
Должность: Ведущий научный сотрудник
Nesterov Yurii
Должность: Ведущий научный сотрудник
Shiryaev Albert
Должность: Ведущий научный сотрудник
Belyaev Mikhail
Должность: Младший научный сотрудник
Chernousova Elena
Должность: Младший научный сотрудник
Bernshtein Alexander
Должность: Ведущий научный сотрудник
Erofeev Pavel
Должность: Младший научный сотрудник
Krymova Ekaterina
Должность: Младший научный сотрудник
Panov Maxim
Должность: Младший научный сотрудник
Prihodko Pavel
Должность: Младший научный сотрудник
Suvorikova Alexandra
Должность: Младший научный сотрудник
Burnaev Evgeny
Должность: Ведущий научный сотрудник
Zhivotovskiy Nikita
Должность: Младший научный сотрудник
Klochkov Egor
Должность: Младший научный сотрудник
Vyugin Vladimir
Должность: Ведущий научный сотрудник
Goncharov Fedor Olegovich
Должность: Младший научный сотрудник
Sobolevskii Andrei Nikolaevich
Должность: Ведущий научный сотрудник