Algorytmy i sztuczna inteligencja w politykach publicznych 3500-SŻP-ASZI
Celem zajęć jest zapoznanie studentów z krytycznymi analizami
wykorzystania nowych technologii opartych na algorytmach i
uczeniu maszynowym w polityce publicznej. Przedmiot
koncentruje się na wpływie tych technologii na relacje między
państwem a osobami podlegającymi jego władzy (w tym
obywatelami i migrantami) oraz na zagrożeniach dla
demokratycznego państwa prawa wynikających z ich stosowania.
Punktem wyjścia będą teksty ukazujące etyczny i polityczny
wymiar technologii wykorzystywanych przez instytucje publiczne.
W trakcie zajęć omówione zostanie znaczenie gromadzenia
danych, stosowania miar i klasyfikacji w kształtowaniu norm,
wartości i tożsamości jednostek. Przedmiot obejmuje także
refleksję nad tym, w jaki sposób technologie te zwiększają
możliwości sprawowania nadzoru oraz wpływają na sprawstwo i
prawa jednostek. Poruszone zostaną również wyzwania
regulacyjne związane z wykorzystaniem tych technologii na
poziomie państwowym i ponadnarodowym, w szczególności w
kontekście Unii Europejskiej.
Istotnym elementem zajęć będzie analiza konkretnych przypadków
wykorzystania technologii informacyjnych w polityce publicznej.
Szczególna uwaga zostanie poświęcona następującym
zagadnieniom:
- zautomatyzowane systemy podejmowania decyzji oraz
koncepcja human-in-the-loop,
- demokratyczna kontrola nad technologiami stosowanymi
w polityce publicznej,
- zakres dyskrecjonalności twórców i projektantów
technologii,
- nadzór państwowy i granice prywatności,
- trafność diagnoz algorytmicznych, w tym wiarygodność
danych i modeli matematycznych oraz problem uprzedzeń
algorytmicznych (bias),
- systemy wykrywania ryzyka oraz ryzyko reprodukcji
nierówności społecznych.
W ramach zajęć przewidziano projekt grupowy rozwijający
kompetencje badawcze studentów. Zadaniem uczestników będzie
zastosowanie omawianych koncepcji teoretycznych do analizy
wybranego przypadku wykorzystania technologii informacyjnych w
polityce publicznej na podstawie materiału empirycznego oraz
prezentacja wyników analizy.
Rodzaj przedmiotu
Tryb prowadzenia
Założenia (opisowo)
Koordynatorzy przedmiotu
Efekty kształcenia
ZNA I ROZUMIE
K_W02 w stopniu pogłębionym istotę metodologicznych i teoretycznych sporów w zakresie celowości, zakresu i sposobu realizacji polityk publicznych oraz dylematów związanych z decyzjami co do sposobów rozwiązywania społecznych kwestii i problemów,
K_W04 w pogłębionym stopniu wybrane metody i techniki badań oraz analiz polityk publicznych, ich specyfikę, obszary zastosowania i ograniczenia,
K_W13 zasady i normy etyczne obowiązujące przy badaniach i projektowaniu procesów zmiany społecznej, a także rozumie dylematy etyczne związane z wdrażaniem i realizacją publicznych polityk,
POTRAFI
K_U02 w sposób właściwy dobierać źródła (w języku rodzimym i obcym), krytycznie selekcjonować i syntetyzować informacje z nich pochodzące, oraz wykorzystywać je do formułowania rekomendacji w zakresie polityk publicznych, posługując się zaawansowanymi technikami informacyjno-komunikacyjnymi,
K_U07 posługiwać się narzędziami informatycznymi służącymi do gromadzenia, porządkowania i analizy danych, korzystając z ich zaawansowanych funkcji na użytek planowania, wdrażania i oceny celowych zmian społecznych,
JEST GOTÓW DO
K_K03 uznawania istnienia dylematów etycznych związanych z planowaniem, wdrażaniem i analizą interwencji społecznych oraz ze współpracą z różnymi aktorami sfery publicznej
Kryteria oceniania
Podstawą zaliczenia zajęć jest obecność na zajęciach (dopuszczalne
2 nieobecności). Ocena opiera się w 50% na aktywności na
zajęciach oraz wykonywaniu zadań (m.in. czytaniu tekstów, udziale
w dyskusji, pracy w grupie), a w 50% na wykonaniu i
zaprezentowaniu projektu grupowego. Nie można zaliczyć zajęć
bazując tylko na jednym z komponentów oceny (np. tylko
aktywności i zadaniach lub tylko wykonaniu i zaprezentowaniu
projektu grupowego).
Zaliczenie poprawkowe:
Wykonanie wyżej wymienionych zadań/uzupełnienie lub poprawa
zadań, które nie zostały wcześniej wykonane.
Literatura
Literatura (wybrane pozycje):
Bowker, G. C. & Star, S. L. (1999) Sorting things out: classification and its consequences, MIT Press, Cambridge, Mass.
Bovens, M., Zouridis, S., From Street-Level to System-Level Bureaucracies: How Information and Communication Technology is Transforming Administrative Discretion and Constitutional Control, Public Administration Review, 62 (2).
Crawford, K. (2024) Atlas Sztucznej Inteligencji. Kraków: Bo wiem.
Eubanks, V. (2017) Automating inequality: how high-tech tools profile, police, and punish the poor, St. Martin's Press.
Foucault, M. (1998) Nadzorować i karać: narodziny więzienia. (Warszawa: Fundacja Aletheia).
Gilliom, J. (2001) Overseers of the poor: surveillance, resistance, and the limits of privacy, University of Chicago Press, Chicago.
O'Neil C., Broń matematycznej zagłady: jak algorytmy zwiększają nierówności i zagrażają demokracji, PWN, Warszawa.
Miceli, M., Posada, J., and Yang, T. (2022) Studying Up Machine Learning Data: Why Talk About Bias When We Mean Power?, Proceedings of the ACM on Human-Computer Interaction 6(GROUP):1–14.
Piwowar, K. (2022) Technologie, które wykluczają. Pomiar, dane, algorytmy, Warszawa: Scholar.
Sumpter, D. (2019) Osaczeni przez l1cz3y: o algorytmach, które kontrolują nasze życie : od Facebooka i Google’a po fake newsy i bańki filtrujące, Kraków: Copernicus Center Press.
Sztandar-Sztanderska, K., Kotnarowski, M., Zieleńska M., (2021) Czy algorytmy wprowadzają w błąd? Metaanaliza algorytmu stosowanego do profilowania bezrobotnych w Polsce, Studia Socjologiczne, 1 (240).
Więcej informacji
Dodatkowe informacje (np. o kalendarzu rejestracji, prowadzących zajęcia, lokalizacji i terminach zajęć) mogą być dostępne w serwisie USOSweb: