Laboratory of Structural Methods of Data Analysis in Predictive
Modeling Moscow Institute of Physics and Technology
ENG
Логин:
Пароль:

Лекция Теоретико-вероятностные методы математического моделирования

Преподаватели:
Sobolevskii Andrei Nikolaevich
Должность: Ведущий научный сотрудник

Описание курса

Программа курса

Случайные величины и распределения вероятности

Дискретные случайные величины: случайная величина и ее распределение вероятности; математическое ожидание и моменты; совместное распределение пары случайных величин, маргинальные и условные распределения; производящие функции распределения и моментов; примеры распределений, связанных с последовательностью независимых испытаний: биномиальное, геометрическое, пуассоново.

Непрерывные случайные величины: непрерывные, атомарные, сингулярные распределения; кумулятивная функция распределения и функция плотности вероятности; математическое ожидание и моменты; формула замены переменных; совместное распределение пары величин и условные плотности; характеристическая функция, характеристический показатель и кумулянты; примеры непрерывных распределений (показательное, нормальное, логарифмически нормальное, Коши).

Случайные векторы: многомерная кумулятивная функция распределения; матрица ковариации, коэффициенты корреляции, главные компоненты; независимость в совокупности; контрпример С.Н.Бернштейна; кумулянты и кластерное разложение; многомерное распределение Гаусса.

Асимптотические теоремы теории вероятностей

Закон больших чисел и сходимость по вероятности: последовательность независимых, одинаково распределенных случайных величин; неравенство Чебышёва; закон больших чисел; сходимость по вероятности последовательности случайных величин; сходимость кумулятивных функций распределения и характеристических функций.

Центральная предельная теорема: вывод центральной предельной теоремы методом характеристических функций в случае конечной дисперсии; контрпример - распределение Коши; распределения Леви-Парето как пределы распределений с «тяжелыми хвостами».

Экстремальные значения: нарушение закона больших чисел в случае «тяжелых хвостов»; порядковые статистики и их кумулятивные функции распределения; типичное наибольшее значение и предельная теорема Фишера-Типпета-Гнеденко; распределения, устойчивые относительно сложения и максимизации; устойчивость и универсальность.

Большие уклонения: случайное блуждание по целым точкам; типичные траектории и их статистический вес; теорема Шеннона и принцип больших уклонений в схеме Бернулли с конечным числом исходов; принцип больших уклонений для суммы непрерывных величин (вывод методом стационарной фазы); функция Крамера и преобразование Лежандра.

Информация и статистический вывод

Правдоподобие, энтропия и информация: пространство элементарных событий, разбиения и алгебры событий; вероятностная мера и условные вероятности; энтропия как мера неопределенности по Хартли и Шеннону; условная энтропия и взаимная информация; формулы полной вероятности и Байеса, правдоподобие; задача различения распределений и относительная энтропия (информационное отклонение); функция правдоподобия, энтропия и информационное отклонение в непрерывном случае; информация по Фишеру.

Оценивание параметров: генеральная совокупность, параметры, статистики, оценки; метод выборочного распределения; состоятельность и несмещенность; неравенства Рао-Крамера и эффективность оценок; оценки максимального правдоподобия.

Проверка гипотез: критерии согласия (хи-квадрат, G-тест, критерий Колмогорова-Смирнова); выбор из двух простых гипотез, ошибки I и II рода; критерий отношения правдоподобия.

Цепи Маркова

Конечные цепи Маркова: вероятности перехода и стохастические матрицы; маргинальное распределение вероятности; случайное блуждание на графе, поток вероятности; стационарное распределение; частные случаи симметричной матрицы и детального равновесия; классификация состояний конечной цепи Маркова; стационарные распределения и поглощающие классы.

Существование стационарного распределения: принцип сжимающих отображений для положительной стохастической матрицы; неприводимость, цикличность, перемешивание; стационарное распределение неприводимой ациклической цепи Маркова; скорость сходимости и спектр матрицы перехода; теорема Крылова-Боголюбова.

Случайное блуждание и броуновское движение: случайное блуждание и его непрерывный предел; асимметричное случайное блуждание, дрейф и диффузия; уравнение Фоккера-Планка; блуждание в непроницаемых и поглощающих границах; момент первого достижения.

Цепь Маркова в непрерывном времени и процесс Пуассона: характеристическое свойство показательного распределения; процесс Пуассона, телеграфный процесс, процесс скачков; уравнение марковской эволюции; «H-теорема» для цепи Маркова с детальным равновесием.

Даты проведения и расписание:
Дата Расписание

16.01.2015
-
15.05.2015
ФКН НИУ ВШЭ, магистерская программа

Дополнительные материалы

main