Nieparametryczna statystyka bayesowska 1000-1M15NSB

Przedmiot przeznaczony dla studentów matematyki lub informatyki interesujących się statystyką i jej zastosowaniami. Systematyczne wprowadzenie do nieparametrycznej statystyki bayesowskiej, która zdobywa coraz większą popularnosć, ma różnorodne zastosowania, a przy tym jest bardzo ciekawa z matematycznego punktu widzenia. Mówiąc najkrócej, nieparametryczne modele bayesowskie polegają na określeniu w odpowiedni sposób rozkładów prawdopodobieństwa "a priori" na przestrzeni miar probabilistycznych. Na kursowych wykładach ze statystyki, podejście bayesowskie i modele nieparametryczne są traktowane pobieżnie albo w ogóle pomijane. Renesans statystyki bayesowskiej jest w duzym stopniu związany z rozwojem technik obliczeniowych Monte Carlo, w tym algorytmów markowowskich (MCMC) i sekwencyjnych (SMC) oraz przybliżonych obliczeń bayesowskich (ABC). Ten temat zajmie sporo miejsca w wykładzie. Nieparametryczne modele bayesowskie są stosowane w regresji, klasyfikacji, analizie skupień, modelowaniu zmiennych ukrytych, segmentacji obrazów. Zastosowania dotyczą analizy obrazów, modeli tekstu, gentetyki, wyszukiwania informacji i wielu innych dziedzin.

Wymagania wstępne: Rachunek prawdopodobienstwa I i II, Statystyka I. Mile widziane ale nie konieczne: Procesy stochastyczne.

Wykład obejmuje następujące tematy.

1. Wstęp.
- Podstawowe pojęcia statystyki bayesowskiej.
Budowa modeli bayesowskich. Rozkłady a priori i a posteriori.
Bayesowska i częstosciowa interpretacja statystyki.
- Podstawowe wiadomości o procesach Poissona.
- Wymienialnosć. Twierdzenie de Finettiego.

2. Proces Dirichleta.
- Definicja Fergusona.
- Konstrukcja Blackwella - McQueena: schemat urnowy Polya.
Proces "Chinese Restaurant".
- Konstrukcja "stick-breaking" Sethuramana.
- Proces Gamma.
- Zastosowania: mieszanki, modele analizy skupień, estymacja gęstości.

3. Uogólnienia procesu Dirichleta.
- Hierarchiczne procesy Dirichleta.
- Modele zmiennych ukrytych. Proces "Indian Buffet".
- Proces Pitmana-Yora.
- Procesy "neutralne w prawo".
- Procesy związane z "miarami całkowicie losowymi".

4. Metody obliczeniowe w nieparametrycznej statystyce bayesowskiej. Metody Monte Carlo, w tym algorytmy markowowskie (MCMC) i sekwencyjne (SMC).