Dynamika kolektywna 1000-1M25WDK
Wykład ma na celu zapoznanie uczestników z podstawowymi modelami pochodzącymi z dynamiki kolektywnej. Szczególny nacisk jest położony na teorie powiązane ze sztuczną inteligencją: transformerami i generacją w LLM-ach. Uczestnicy będą mieć okazję zobaczyć kilka nowoczesnych zastosowań równań różniczkowych. Część ćwiczeń będzie przebiegać w formie warsztatów.
Plan wykładu:
1. Co to jest dynamika kolektywna. Zagadnienie konsensusu liniowego; jego stabilność i asymptotyka oraz związki z teorią grafów. Pojęcie spójności algebraicznej.
2. Potok gradientowy i jego związki z dynamiką i optymalizacją.
3. Przykłady modeli pierwszego rzędu: model Hegselmann-Krause dynamiki opinii i konsensusu, model Aw-Rascle ruchu drogowego. Model Kuramoto i jego wszechobecność w zastosowaniach.
4. Przykład modelu drugiego rzędu: model Cuckera-Smale'a powstawania stad.
5. Matematyczne spojrzenie na architekturę transformer. Generowanie zdań w LLM (large language model) jako zagadnienie dynamiki kolektywnej i jego związek z modelem Kuramoto.
Tematy zaawansowane (dodatkowe):
6. Dynamika kolektywna wielkich populacji. Równania różniczkowe cząstkowe i granica pola średniego.
7. Przewidywanie przejść fazowych (czyli znacznych zmian w strukturze populacji) w oparciu o prace C. Kuehna.
Ze względu na otwarty charakter poruszanych problemów w naturalny sposób znajdziemy tu zagadnienia mogące być podstawą licencjatu lub pracy magisterskiej.
Zapraszamy wszystkich zainteresowanych na poziomie licencjackim, magisterskim i doktoranckim.
Kierunek podstawowy MISMaP
Rodzaj przedmiotu
Tryb prowadzenia
Koordynatorzy przedmiotu
Efekty kształcenia
Student zna przykłady zachowań kolektywnych i umie je opisać matematycznie. Rozumie podstawowe związki między dynamiką kolektywną, optymalizacją i sztuczną inteligencją. Wie w jakim kierunku może dalej rozwijać tę wiedzę.
Kryteria oceniania
Projekt zaliczeniowy oraz aktywność na zajęciach. Dodatkowo egzamin ustny umożliwiający poprawę oceny.
Literatura
''Active Particles'' vol. I, vol II Bellomo, Degond, Tadmor
''A mathematical perspective on Transformers'' Geshkovski, Letrouit, Polyanskiy, Rigollet
''Predictability of Critical Transitions'' Zhang, Kuehn, Hallerberg
''Consensus Protocols for Networks of Dynamic Agents'' Olfati Saber, Murray
Więcej informacji
Więcej informacji o poziomie przedmiotu, roku studiów (i/lub semestrze) w którym się odbywa, o rodzaju i liczbie godzin zajęć - szukaj w planach studiów odpowiednich programów. Ten przedmiot jest związany z programami:
Dodatkowe informacje (np. o kalendarzu rejestracji, prowadzących zajęcia, lokalizacji i terminach zajęć) mogą być dostępne w serwisie USOSweb: