Explainable Artificial Intelligence 2400-SP-DS-XAI

Celem kursu jest zaprezentowanie narzędzi wytłumaczalnego uczenia maszynowego, które pozwalają zinterpretować modele mające charakter "czarnej skrzynki". W pierwszej kolejności omówiona zostanie interpretacja globalna modelu: ocena jakości modelu (analiza reszt), ocena ważności zmiennych (lokalne metody oceny ważności zmiennych, permutacyjne metody oceny ważności zmiennych), analizy scenariuszowe typu „co jeśli” (Partial Dependence Plot, Accumulated Local Effects). W drugiej częśći zajęć wykorzystane zostaną metody lokalnej interpretacji modelu: Local Surrogate (LIME), Shapley Values, SHAP (SHapley Additive exPlanations), BreakDown.