Prowadzony w cyklu: 2025Z

Kod Erasmus: 14.1

Kod ISCED: 0312

Punkty ECTS: 1

Język: polski

Organizowany przez: Wydział Nauk Politycznych i Studiów Międzynarodowych

Wyzwania SI w sektorze bezpieczeństwa 2100-BW-L-D3SIBE

Przedmiot wprowadza studentów w problematykę wyzwań bezpieczeństwa państwa związanych z dynamicznym rozwojem sztucznej inteligencji. Kurs koncentruje się na całościowym podejściu do SI jako wyzwania dla sektora bezpieczeństwa państwa, obejmując zagadnienia implementacji, regulacji, zarządzania ryzykiem oraz wpływu SI na bezpieczeństwo wewnętrzne i zewnętrzne państwa.

Przedmiot obejmuje:

Specyfikę systemów sztucznej inteligencji i dynamikę ich rozwoju – analiza definicji i typologii systemów SI w kontekście bezpieczeństwa państwa, ewolucja technologii SI i jej wpływ na sektor bezpieczeństwa, charakterystyka współczesnych systemów SI używanych w administracji publicznej oraz zarządzanie cyklem życia systemów SI.

Wymiary użyteczności systemów sztucznej inteligencji w zarządzaniu bezpieczeństwem – wykorzystanie SI w zarządzaniu ryzykiem i analizie zagrożeń bezpieczeństwa, zastosowania w instytucjach bezpieczeństwa wewnętrznego, systemy wsparcia decyzji oparte na SI w sektorze publicznym, automatyzacja procesów bezpieczeństwa oraz predykcyjna analiza zagrożeń.

Modele SI, algorytmy, chatboty: rodzaje, funkcje, zastosowania w sferze bezpieczeństwa – przegląd modeli SI ogólnego przeznaczenia w kontekście AI Act i ich zastosowania w sektorze bezpieczeństwa, chatboty i inne systemy w sektorze publicznym, systemy rozpoznawania wzorców oraz uczenie maszynowe w wykrywaniu anomalii i zagrożeń.

Wyzwania i zagrożenia związane z rozwojem sztucznej inteligencji – gospodarcze (wpływ na rynek pracy, konkurencyjność gospodarczą), polityczne (governance, regulacje, polityka państwa w obszarze AI), społeczne (nierówności cyfrowe, prywatność, ochrona danych), militarne (systemy autonomiczne, walka informacyjna, cyberataki, obrona państwa) oraz zagrożenia dla infrastruktury krytycznej i systemów bezpieczeństwa.

Socjotechniki i media w erze sztucznej inteligencji – manipulacja i dezinformacja wspomagana przez SI, deepfakes i synthetic media jako zagrożenie bezpieczeństwa, SI w inżynierii społecznej i atakach socjotechnicznych oraz ochrona przed manipulacją w mediach społecznościowych.

Rodzaj przedmiotu

obowiązkowe

Tryb prowadzenia

w sali

Założenia (opisowo)

Przedmiot stanowi wprowadzenie do problematyki SI w systemie bezpieczeństwie państwa. Założenia kursu obejmują zarówno fundament teoretyczny, jak i elementy kształcenia praktycznego, tak aby studenci potrafili łączyć analityczne spojrzenie na problem rozwoju SI z zagadnieniami bezpieczeństwa oraz technologicznymi i regulacyjnymi realiami. Treść jest stale aktualizowana o zmiany regulacyjne (np. AI Act), standardy (np. NIST AI RMF) oraz raporty instytucji publicznych, społecznych i prywatnych. Zajęcia zakładają ścisłe odniesienie do realnych wyzwań instytucji odpowiedzialnych za bezpieczeństwo państwa. Ćwiczenia i projekt wymagają pracy z publicznie dostępnymi dokumentami i raportami. Studenci uczą się diagnozować ryzyka oraz formułować rekomendacje dla decydentów. Szczególny nacisk położono na umiejętność krytycznej oceny źródeł informacji oraz klarowne przekazywanie złożonych kwestii technologicznych i prawnych. Problemy analizowane podczas zajęć stawiają studentów przed konkretnymi i aktualnymi dylematami (np. rozwój autonomicznych systemów uzbrojenia), co sprzyja rozwijaniu samodzielności, kreatywności i odpowiedzialności za rekomendowane rozwiązania. Analiza aktualnych postępów, wdrożeń i komunikatów jest konsekwentnie zestawiana z ramami regulacyjnymi oraz etycznymi implikacjami. Od uczestników oczekuje się regularnego przygotowania do zajęć, aktywnego udziału w dyskusjach oraz krytycznego odnoszenia się do aktualnych doniesień medialnych, debat i publikacji. Prowadzący zachęcają do korzystania z różnych źródeł – od aktów prawnych po otwarte repozytoria – i do krytycznej ich oceny.

Koordynatorzy przedmiotu

Piotr Sosnowski

Efekty kształcenia

K_W03; absolwent zna i rozumie podstawowe problemy i wyzwania dla bezpieczeństwa wewnętrznego, aspekty i wymiary bezpieczeństwa wewnętrznego.
K_W07; absolwent zna i rozumie w zaawansowanym stopniu zagrożenia dla funkcjonowania współczesnego państwa i społeczeństwa, ich przeobrażenia, konsekwencje i sposoby przeciwdziałania.
K_U03 absolwent potrafi podejmować i optymalizować decyzje w zakresie procesów związanych z bezpieczeństwem wewnętrznym, rozwiązywać typowe i nietypowe problemy związane z bezpieczeństwem.

K_U06 absolwent potrafi komunikować się z otoczeniem, przekazując mu (z wykorzystaniem nowoczesnych technik) w sposób kompetentny i fachowy informacje o istniejących zagrożeniach i sposobach zabezpieczenia przed nimi.
K_U07 absolwent potrafi samodzielnie pogłębiać, uzupełniać i doskonalić zdobytą wiedzę oraz wykorzystywać ją w rozwiązywaniu problemów zawodowych.
K_K01 absolwent jest gotów do krytycznego i świadomego oceniania zakresu własnej wiedzy i kompetencji, wykorzystywania nabytej wiedzy do rozwiązywania problemów poznawczych i praktycznych w zakresie bezpieczeństwa wewnętrznego.

Kryteria oceniania

Podstawą zaliczenia jest realizacja projektu obejmującego analizę wybranego problemu SI w sektorze bezpieczeństwa.
Na ocenę końcową składają się:
• aktywny udział w zajęciach: do 15%
• przygotowanie materiałów analitycznych: do 35%
• prezentacja i obrona projektu: do 50%

Minimalna liczba punktów do zaliczenia: 60%

Skala korzystania z narzędzi sztucznej inteligencji (SI)
Poziom 4. KRYTYCZNA EWALUACJA ZADAŃ WYKONANYCH PRZEZ SI
Sztuczna inteligencja jest wykorzystywana do wykonywania określonych elementów zadania, a studenci dyskutują nad treściami wygenerowanymi przez sztuczną inteligencję. Ten poziom wymaga krytycznego zaangażowania w treści generowane przez SI oraz oceny ich wyników.

Literatura

Literatura obowiązkowa:

1. Rydlewski, Grzegorz. Rządzenie w epoce informacji, cyfryzacji i sztucznej inteligencji. Dom Wydawniczy i Handlowy Elipsa, 2021.
2. Kupiecki, Robert, Filip Bryjka, Tomasz Chłoń. Dezinformacja międzynarodowa: pojęcie, rozpoznanie, przeciwdziałanie. Wydawnictwo Naukowe Scholar, 2022.
3. Fischer, Bogdan, Adam Pązik, Marek Świerczyński (red.). Prawo sztucznej inteligencji i nowych technologii. C.H.Beck, 2023.
4. Sienkiewicz-Małyjurek, Katarzyna. "Możliwości i problemy zastosowania sztucznej inteligencji w zarządzaniu kryzysowym." Bezpieczeństwo. Teoria i Praktyka 54.1 (2024): 43-59.
5. Malec, Norbert. "Sztuczna inteligencja a bezpieczeństwo państwa." Prawo i Bezpieczeństwo 2.1 (2024): 20-24.
6. Krzewniak, Daria, i inni. Nowe technologie jako instrument realizacji polityki bezpieczeństwa informacyjnego. Uniwersytet Przyrodniczo-Humanistyczny w Siedlcach, 2024.
7. NASK. Cyberbezpieczeństwo AI. AI w cyberbezpieczeństwie. Praca zbiorowa, NASK, 2023
8. Malec, Norbert (red.). Systemy sztucznej inteligencji jako wyzwanie dla sfery bezpieczeństwa i obronności RP. Biuro Analiz Sejmowych, 2021.
9. Frączek, Mariusz, and Krzysztof Spaliński. "Bezpieczeństwo informacji w dobie sztucznej inteligencji: analiza ryzyka i wyzwania związane z ChatGPT." (2023): 287-302.

Literatura uzupełniająca:
1. Szostek, Dariusz. IBAC (IoT, blockchain, AI i cyberbezpieczeństwo) – samoregulacja kodów czy kontrola uprzednia? C.H.Beck, 2024.
2. Krasuski, Andrzej. Status prawny sztucznego agenta. Podstawy prawne zastosowania sztucznej inteligencji. C.H.Beck, 2020.
3. Grochowski, Maciej i in. "Odpowiedzialność cywilna za szkody spowodowane funkcjonowaniem sztucznej inteligencji – de lege lata i de lege ferenda." Palestra 11/2024.
4. Przybyłowicz, Paulina. "Wykorzystanie sztucznej inteligencji w kryminalistyce." Młoda Palestra–Czasopismo Aplikantów Adwokackich 1 (2024): 12-26.
5. Kreft, Jan. Władza platform. Za fasadą Google, Facebooka i Spotify. Universitas, Kraków, 2022.
6. Bednarz, Kamil, Dominik Jaśkowiec, Mateusz Zaręba. "Sztuczna inteligencja w analizie politycznej: nowe horyzonty, możliwości i wyzwania." Annales Universitatis Paedagogicae Cracoviensis. Studia Geographica 21 (2024): 55-70.
7. Szpyt, Kamil, and Artur Bilski. "Wybrane wyzwania prawne i organizacyjne związane z wdrażaniem systemów AI w działalności samorządów terytorialnych." PRAWO I WIĘŹ 54.1 (2025).
8. Osika, Grażyna. "Komunikacja człowieka ze sztuczną inteligencją. Warunki brzegowe." Ethos. Kwartalnik Instytutu Jana Pawła II KUL 36.3 (2023): 127-153.
9. Kreft, Jan, Monika Boguszewicz-Kreft, and Barbara Cyrek. "Halucynacje chatbotów a prawda: główne nurty debaty i ich interpretacje." Roczniki Nauk Społecznych 52 (2024): 165-185.

Dokumenty:
1) AI Act - Rozporządzenie PE i Rady 2024/1689 o sztucznej inteligencji
2) Krajowa ustawa o systemach sztucznej inteligencji - projekt Ministerstwa Cyfryzacji
3) Polityka rozwoju sztucznej inteligencji w Polsce [Załącznik do uchwały nr 196 Rady Ministrów z dnia 28 grudnia 2020 r. (poz. 23)]
4) DSA (akt o usługach cyfrowych), Rozporządzenie (UE) 2022/2065 w sprawie jednolitego rynku usług cyfrowych oraz zmiany dyrektywy 2000/31/WE
5) Resortowa strategia sztucznej inteligencji do roku 2039 - Ministerstwo Obrony Narodowej, 2024
6) Doktryna bezpieczeństwa informacyjnego RP, BBN 2015 (projekt)
7) Doktryna cyberbezpieczeństwa RP, BBN 2015
8) Strategia Cyfryzacji Polski do 2035 roku - Ministerstwo Cyfryzacji, 2024 (projekt)

Standardy
1) NIST AI Risk Management Framework (AI RMF 1.0)
2) ISO/IEC 23053:2022 - Framework for AI systems using ML

W cyklu 2025Z:

Literatura obowiązkowa:

1. Rydlewski, Grzegorz. Rządzenie w epoce informacji, cyfryzacji i sztucznej inteligencji. Dom Wydawniczy i Handlowy Elipsa, 2021.

2. Kupiecki, Robert, Filip Bryjka, Tomasz Chłoń. Dezinformacja międzynarodowa: pojęcie, rozpoznanie, przeciwdziałanie. Wydawnictwo Naukowe Scholar, 2022.

3. Fischer, Bogdan, Adam Pązik, Marek Świerczyński (red.). Prawo sztucznej inteligencji i nowych technologii. C.H.Beck, 2023.

4. Sienkiewicz-Małyjurek, Katarzyna. "Możliwości i problemy zastosowania sztucznej inteligencji w zarządzaniu kryzysowym." Bezpieczeństwo. Teoria i Praktyka 54.1 (2024): 43-59.

5. Malec, Norbert. "Sztuczna inteligencja a bezpieczeństwo państwa." Prawo i Bezpieczeństwo 2.1 (2024): 20-24.

6. Krzewniak, Daria, i inni. Nowe technologie jako instrument realizacji polityki bezpieczeństwa informacyjnego. Uniwersytet Przyrodniczo-Humanistyczny w Siedlcach, 2024.

7. NASK. Cyberbezpieczeństwo AI. AI w cyberbezpieczeństwie. Praca zbiorowa, NASK, 2023

8. Malec, Norbert (red.). Systemy sztucznej inteligencji jako wyzwanie dla sfery bezpieczeństwa i obronności RP. Biuro Analiz Sejmowych, 2021.

9. Frączek, Mariusz, and Krzysztof Spaliński. "Bezpieczeństwo informacji w dobie sztucznej inteligencji: analiza ryzyka i wyzwania związane z ChatGPT." (2023): 287-302.

Literatura uzupełniająca:

1. Szostek, Dariusz. IBAC (IoT, blockchain, AI i cyberbezpieczeństwo) – samoregulacja kodów czy kontrola uprzednia? C.H.Beck, 2024.

2. Krasuski, Andrzej. Status prawny sztucznego agenta. Podstawy prawne zastosowania sztucznej inteligencji. C.H.Beck, 2020.

3. Grochowski, Maciej i in. "Odpowiedzialność cywilna za szkody spowodowane funkcjonowaniem sztucznej inteligencji – de lege lata i de lege ferenda." Palestra 11/2024.

4. Przybyłowicz, Paulina. "Wykorzystanie sztucznej inteligencji w kryminalistyce." Młoda Palestra–Czasopismo Aplikantów Adwokackich 1 (2024): 12-26.

5. Kreft, Jan. Władza platform. Za fasadą Google, Facebooka i Spotify. Universitas, Kraków, 2022.

6. Bednarz, Kamil, Dominik Jaśkowiec, Mateusz Zaręba. "Sztuczna inteligencja w analizie politycznej: nowe horyzonty, możliwości i wyzwania." Annales Universitatis Paedagogicae Cracoviensis. Studia Geographica 21 (2024): 55-70.

7. Szpyt, Kamil, and Artur Bilski. "Wybrane wyzwania prawne i organizacyjne związane z wdrażaniem systemów AI w działalności samorządów terytorialnych." PRAWO I WIĘŹ 54.1 (2025).

8. Osika, Grażyna. "Komunikacja człowieka ze sztuczną inteligencją. Warunki brzegowe." Ethos. Kwartalnik Instytutu Jana Pawła II KUL 36.3 (2023): 127-153.

9. Kreft, Jan, Monika Boguszewicz-Kreft, and Barbara Cyrek. "Halucynacje chatbotów a prawda: główne nurty debaty i ich interpretacje." Roczniki Nauk Społecznych 52 (2024): 165-185.

Dokumenty:

1) AI Act - Rozporządzenie PE i Rady 2024/1689 o sztucznej inteligencji

2) Krajowa ustawa o systemach sztucznej inteligencji - projekt Ministerstwa Cyfryzacji

3) Polityka rozwoju sztucznej inteligencji w Polsce [Załącznik do uchwały nr 196 Rady Ministrów z dnia 28 grudnia 2020 r. (poz. 23)]

4) DSA (akt o usługach cyfrowych), Rozporządzenie (UE) 2022/2065 w sprawie jednolitego rynku usług cyfrowych oraz zmiany dyrektywy 2000/31/WE

5) Resortowa strategia sztucznej inteligencji do roku 2039 - Ministerstwo Obrony Narodowej, 2024

6) Doktryna bezpieczeństwa informacyjnego RP, BBN 2015 (projekt)

7) Doktryna cyberbezpieczeństwa RP, BBN 2015

8) Strategia Cyfryzacji Polski do 2035 roku - Ministerstwo Cyfryzacji, 2024 (projekt)

Standardy

1) NIST AI Risk Management Framework (AI RMF 1.0)

2) ISO/IEC 23053:2022 - Framework for AI systems using ML

Więcej informacji

Dodatkowe informacje (np. o kalendarzu rejestracji, prowadzących zajęcia, lokalizacji i terminach zajęć) mogą być dostępne w serwisie USOSweb:

Strona przedmiotu 2100-BW-L-D3SIBE w USOSweb