Explainable AI (XAI) 2400-MIKRO-AIBF-XAI
Przedmiot składa się z części teoretycznej i praktycznej. Koncentruje się na tworzeniu modeli uczenia maszynowego dla problemów klasyfikacyjnych, ze szczególnym uwzględnieniem dobrych praktyk modelowania biznesowego.
Omówiony zostanie kompletny proces budowy modelu:
• czyszczenie danych,
• eksploracja danych,
• selekcja zmiennych,
• inżynieria cech,
• wybór modelu,
• estymacja parametrów,
• strojenie hiperparametrów,
• walidacja modelu.
Zakłada się, że uczestnicy znają proces modelowania z wykorzystaniem uczenia maszynowego. Głównym celem kursu będzie pogłębiona analiza modeli typu „czarna skrzynka” z zastosowaniem metod XAI. Omówione zostaną metody analizy na poziomie pojedynczych obserwacji oraz całego zbioru danych, w tym:
• Permutation Feature Importance,
• Partial Dependence Profiles / Conditional Dependency Profiles / Accumulated Local Effects,
• Ceteris Paribus Profiles,
• Oscillations,
• Breakdown Plots.
Kurs zapewni kompleksowy przegląd metod XAI dostępnych w pakiecie DALEX w języku R, wraz z omówieniem ich zastosowań i dobrych praktyk.
Projekt Application of Artificial Intelligence in Business and Finance (nr BPI/SPI/2024/1/00078) realizowany przez Uniwersytet Warszawski w ramach programu Spinaker organizowanego przez Narodową Agencję Wymiany Akademickiej (w ramach projektu Wsparcie tworzenia i realizacji międzynarodowych programów kształcenia, finansowanego ze środków Funduszy Europejskich dla Rozwoju Społecznego 2021-2027).
Koordynatorzy przedmiotu
Certyfikat mikropoświadczenia
Efekty uczenia się
Po ukończeniu przedmiotu osoba biorąca udział w zajęciach:
w sferze wiedzy:
• zna i rozumie znaczenie interpretowalności modeli typu „czarna skrzynka”,
• zna przebieg kompletnego procesu budowy modelu uczenia maszynowego,
• zna narzędzia wyjaśnialnej sztucznej inteligencji i rozumie ich zastosowanie w środowisku biznesowym;
w sferze umiejętności:
• potrafi stosować narzędzia XAI w środowisku biznesowym,
• potrafi prawidłowo interpretować miary i wyniki metod XAI,
• potrafi współtworzyć modele uczenia maszynowego w praktyce;
w sferze kompetencji społecznych:
• jest gotowa do odpowiedzialnego stosowania modeli uczenia maszynowego, z uwzględnieniem ich interpretowalności, aspektów etycznych i wymogów regulacyjnych,
• jest gotowa do współpracy zespołowej przy tworzeniu i analizie modeli.
Kryteria oceniania
Zaliczenie pisemne w formie testu końcowego (post-test).
Literatura
• Biecek, P., Burzykowski, T. (2021). Explanatory Model Analysis. Chapman and Hall/CRC. https://pbiecek.github.io/ema/
• Molnar, C. (2022). Interpretable Machine Learning: A Guide for Making Black Box Models Explainable (2nd ed.). https://christophm.github.io/interpretable-ml-book/
• Biecek, P. (2018). DALEX: Explainers for Complex Predictive Models in R. Journal of Machine Learning Research, 19(84), 1–5.
• Rai, A. (2020). Explainable AI: From Black Box to Glass Box. Journal of the Academy of Marketing Science, 48, 137–141. https://doi.org/10.1007/s11747-019-00710-9
• Hassija, V., Chamola, V., Mahapatra, A., Singal, A., Goel, D., Huang, K., Hussain, A. (2024). Interpreting Black-Box Models: A Review on Explainable Artificial Intelligence. Cognitive Computation, 16(1), 45–74. https://doi.org/10.1007/s12559-023-10152-5
• Géron, A. (2017). Hands-On Machine Learning with Scikit-Learn and TensorFlow: Concepts, Tools, and Techniques to Build Intelligent Systems (1st ed.). O’Reilly Media.