Conducted in term: 2025Z

Erasmus code: 14.1

ISCED code: 0312

ECTS credits: 1

Language: Polish

Organized by: Faculty of Political Science and International Studies

Challenges of AI in the security sector 2100-BW-L-D3SIBE

The module introduces students to contemporary state security challenges related to the dynamic development of artificial intelligence. The course focuses on a comprehensive approach to AI as a challenge for the state security sector, covering implementation, regulation, risk management, and the impact of AI on internal and external state security.

The module covers:

The specificity of artificial intelligence systems and the dynamics of their development – analysis of definitions and typologies of AI systems in the context of state security, evolution of AI technology and its impact on the security sector, characteristics of contemporary AI systems used in public administration, and management of AI system lifecycles.

Dimensions of artificial intelligence system utility in security management – utilisation of AI in risk management and security threat analysis, applications in internal security institutions, AI-based decision support systems in the public sector, automation of security processes, and predictive threat analysis.

AI models, algorithms, chatbots: types, functions, applications in the security sphere – overview of general-purpose AI models in the context of the AI Act, Large Language Models (LLMs) and their applications in security, chatbots and conversational systems in public services, pattern recognition systems, and machine learning in anomaly and threat detection.

Challenges and threats associated with artificial intelligence development – economic (impact on labour market, economic competitiveness), political (governance, regulations, state policy in AI), social (digital inequalities, privacy, data protection), military (autonomous systems, cyberwarfare, state defence), and threats to critical infrastructure and security systems.

Social engineering and media in the artificial intelligence era – manipulation and disinformation aided by AI, deepfakes and synthetic media as security threats, AI in social engineering and social engineering attacks, and protection against manipulation in social media.

Type of course

obligatory courses

Mode

Classroom

Prerequisites (description)

The module serves as an introduction to artificial intelligence issues within the state security system. The course assumptions encompass both theoretical foundations and practical training elements, enabling students to combine analytical perspectives on AI development with security concerns and technological and regulatory realities. Content is continuously updated with regulatory changes (e.g. AI Act), standards (e.g. NIST AI RMF), and reports from public, social, and private institutions. Classes are closely aligned with real challenges faced by institutions responsible for state security. Exercises and projects require working with publicly available documents and reports. Students learn to diagnose risks and formulate recommendations for decision-makers. Particular emphasis is placed on the ability to critically evaluate information sources and clearly communicate complex technological and legal issues. Problems analysed during classes present students with concrete and current dilemmas (e.g., development of autonomous weapons systems), which fosters the development of independence, creativity, and responsibility for recommended solutions. Analysis of current developments, implementations, and communications is consistently juxtaposed with regulatory frameworks and ethical implications. Participants are expected to prepare regularly for classes, actively participate in discussions, and critically engage with current media reports, debates, and publications. Instructors encourage the use of various sources - from legal acts to open repositories - and their critical evaluation.

Course coordinators

Piotr Sosnowski

Learning outcomes

K_W03 The graduate knows and understands basic problems and challenges for internal security, aspects and dimensions of internal security.

K_W07 The graduate knows and understands to an advanced degree threats to the functioning of contemporary state and society, their transformations, consequences and methods of counteraction.

K_U03 The graduate is able to make and optimise decisions in processes related to internal security, solve typical and atypical security-related problems.

K_U06 The graduate is able to communicate with their environment, conveying (using modern techniques) information about existing threats and methods of protection against them in a competent and professional manner.

K_U07 The graduate is able to independently deepen, supplement and enhance acquired knowledge and utilise it in solving professional problems.

K_K01 The graduate is prepared to critically and consciously evaluate the scope of their own knowledge and competencies, utilising acquired knowledge to solve cognitive and practical problems in the field of internal security.

Assessment criteria

Credit is based on the completion of a project involving the analysis of a selected IS problem in the security sector.
The final mark consists of:
- active participation in classes: up to 15%
- preparation of analytical materials: up to 35%
- presentation and defence of the project: up to 50%.

Minimum number of points to obtain a credit: 60%

Scale for the use of artificial intelligence (AI) tools
Level 4 CRITICAL EVALUATION OF TASKS PERFORMED BY AI
Artificial intelligence is used to perform specific elements of a task and students discuss the content generated by the AI. This level requires critical engagement with and evaluation of the AI-generated content.

Bibliography

Literatura obowiązkowa:

1. Rydlewski, Grzegorz. Rządzenie w epoce informacji, cyfryzacji i sztucznej inteligencji. Dom Wydawniczy i Handlowy Elipsa, 2021.
2. Kupiecki, Robert, Filip Bryjka, Tomasz Chłoń. Dezinformacja międzynarodowa: pojęcie, rozpoznanie, przeciwdziałanie. Wydawnictwo Naukowe Scholar, 2022.
3. Fischer, Bogdan, Adam Pązik, Marek Świerczyński (red.). Prawo sztucznej inteligencji i nowych technologii. C.H.Beck, 2023.
4. Sienkiewicz-Małyjurek, Katarzyna. "Możliwości i problemy zastosowania sztucznej inteligencji w zarządzaniu kryzysowym." Bezpieczeństwo. Teoria i Praktyka 54.1 (2024): 43-59.
5. Malec, Norbert. "Sztuczna inteligencja a bezpieczeństwo państwa." Prawo i Bezpieczeństwo 2.1 (2024): 20-24.
6. Krzewniak, Daria, i inni. Nowe technologie jako instrument realizacji polityki bezpieczeństwa informacyjnego. Uniwersytet Przyrodniczo-Humanistyczny w Siedlcach, 2024.
7. NASK. Cyberbezpieczeństwo AI. AI w cyberbezpieczeństwie. Praca zbiorowa, NASK, 2023
8. Malec, Norbert (red.). Systemy sztucznej inteligencji jako wyzwanie dla sfery bezpieczeństwa i obronności RP. Biuro Analiz Sejmowych, 2021.
9. Frączek, Mariusz, and Krzysztof Spaliński. "Bezpieczeństwo informacji w dobie sztucznej inteligencji: analiza ryzyka i wyzwania związane z ChatGPT." (2023): 287-302.

Literatura uzupełniająca:
1. Szostek, Dariusz. IBAC (IoT, blockchain, AI i cyberbezpieczeństwo) – samoregulacja kodów czy kontrola uprzednia? C.H.Beck, 2024.
2. Krasuski, Andrzej. Status prawny sztucznego agenta. Podstawy prawne zastosowania sztucznej inteligencji. C.H.Beck, 2020.
3. Grochowski, Maciej i in. "Odpowiedzialność cywilna za szkody spowodowane funkcjonowaniem sztucznej inteligencji – de lege lata i de lege ferenda." Palestra 11/2024.
4. Przybyłowicz, Paulina. "Wykorzystanie sztucznej inteligencji w kryminalistyce." Młoda Palestra–Czasopismo Aplikantów Adwokackich 1 (2024): 12-26.
5. Kreft, Jan. Władza platform. Za fasadą Google, Facebooka i Spotify. Universitas, Kraków, 2022.
6. Bednarz, Kamil, Dominik Jaśkowiec, Mateusz Zaręba. "Sztuczna inteligencja w analizie politycznej: nowe horyzonty, możliwości i wyzwania." Annales Universitatis Paedagogicae Cracoviensis. Studia Geographica 21 (2024): 55-70.
7. Szpyt, Kamil, and Artur Bilski. "Wybrane wyzwania prawne i organizacyjne związane z wdrażaniem systemów AI w działalności samorządów terytorialnych." PRAWO I WIĘŹ 54.1 (2025).
8. Osika, Grażyna. "Komunikacja człowieka ze sztuczną inteligencją. Warunki brzegowe." Ethos. Kwartalnik Instytutu Jana Pawła II KUL 36.3 (2023): 127-153.
9. Kreft, Jan, Monika Boguszewicz-Kreft, and Barbara Cyrek. "Halucynacje chatbotów a prawda: główne nurty debaty i ich interpretacje." Roczniki Nauk Społecznych 52 (2024): 165-185.

Dokumenty:
1) AI Act - Rozporządzenie PE i Rady 2024/1689 o sztucznej inteligencji
2) Krajowa ustawa o systemach sztucznej inteligencji - projekt Ministerstwa Cyfryzacji
3) Polityka rozwoju sztucznej inteligencji w Polsce [Załącznik do uchwały nr 196 Rady Ministrów z dnia 28 grudnia 2020 r. (poz. 23)]
4) DSA (akt o usługach cyfrowych), Rozporządzenie (UE) 2022/2065 w sprawie jednolitego rynku usług cyfrowych oraz zmiany dyrektywy 2000/31/WE
5) Resortowa strategia sztucznej inteligencji do roku 2039 - Ministerstwo Obrony Narodowej, 2024
6) Doktryna bezpieczeństwa informacyjnego RP, BBN 2015 (projekt)
7) Doktryna cyberbezpieczeństwa RP, BBN 2015
8) Strategia Cyfryzacji Polski do 2035 roku - Ministerstwo Cyfryzacji, 2024 (projekt)

Standardy
1) NIST AI Risk Management Framework (AI RMF 1.0)
2) ISO/IEC 23053:2022 - Framework for AI systems using ML

Term 2025Z:

Literatura obowiązkowa:

1. Rydlewski, Grzegorz. Rządzenie w epoce informacji, cyfryzacji i sztucznej inteligencji. Dom Wydawniczy i Handlowy Elipsa, 2021.

2. Kupiecki, Robert, Filip Bryjka, Tomasz Chłoń. Dezinformacja międzynarodowa: pojęcie, rozpoznanie, przeciwdziałanie. Wydawnictwo Naukowe Scholar, 2022.

3. Fischer, Bogdan, Adam Pązik, Marek Świerczyński (red.). Prawo sztucznej inteligencji i nowych technologii. C.H.Beck, 2023.

4. Sienkiewicz-Małyjurek, Katarzyna. "Możliwości i problemy zastosowania sztucznej inteligencji w zarządzaniu kryzysowym." Bezpieczeństwo. Teoria i Praktyka 54.1 (2024): 43-59.

5. Malec, Norbert. "Sztuczna inteligencja a bezpieczeństwo państwa." Prawo i Bezpieczeństwo 2.1 (2024): 20-24.

6. Krzewniak, Daria, i inni. Nowe technologie jako instrument realizacji polityki bezpieczeństwa informacyjnego. Uniwersytet Przyrodniczo-Humanistyczny w Siedlcach, 2024.

7. NASK. Cyberbezpieczeństwo AI. AI w cyberbezpieczeństwie. Praca zbiorowa, NASK, 2023

8. Malec, Norbert (red.). Systemy sztucznej inteligencji jako wyzwanie dla sfery bezpieczeństwa i obronności RP. Biuro Analiz Sejmowych, 2021.

9. Frączek, Mariusz, and Krzysztof Spaliński. "Bezpieczeństwo informacji w dobie sztucznej inteligencji: analiza ryzyka i wyzwania związane z ChatGPT." (2023): 287-302.

Literatura uzupełniająca:

1. Szostek, Dariusz. IBAC (IoT, blockchain, AI i cyberbezpieczeństwo) – samoregulacja kodów czy kontrola uprzednia? C.H.Beck, 2024.

2. Krasuski, Andrzej. Status prawny sztucznego agenta. Podstawy prawne zastosowania sztucznej inteligencji. C.H.Beck, 2020.

3. Grochowski, Maciej i in. "Odpowiedzialność cywilna za szkody spowodowane funkcjonowaniem sztucznej inteligencji – de lege lata i de lege ferenda." Palestra 11/2024.

4. Przybyłowicz, Paulina. "Wykorzystanie sztucznej inteligencji w kryminalistyce." Młoda Palestra–Czasopismo Aplikantów Adwokackich 1 (2024): 12-26.

5. Kreft, Jan. Władza platform. Za fasadą Google, Facebooka i Spotify. Universitas, Kraków, 2022.

6. Bednarz, Kamil, Dominik Jaśkowiec, Mateusz Zaręba. "Sztuczna inteligencja w analizie politycznej: nowe horyzonty, możliwości i wyzwania." Annales Universitatis Paedagogicae Cracoviensis. Studia Geographica 21 (2024): 55-70.

7. Szpyt, Kamil, and Artur Bilski. "Wybrane wyzwania prawne i organizacyjne związane z wdrażaniem systemów AI w działalności samorządów terytorialnych." PRAWO I WIĘŹ 54.1 (2025).

8. Osika, Grażyna. "Komunikacja człowieka ze sztuczną inteligencją. Warunki brzegowe." Ethos. Kwartalnik Instytutu Jana Pawła II KUL 36.3 (2023): 127-153.

9. Kreft, Jan, Monika Boguszewicz-Kreft, and Barbara Cyrek. "Halucynacje chatbotów a prawda: główne nurty debaty i ich interpretacje." Roczniki Nauk Społecznych 52 (2024): 165-185.

Dokumenty:

1) AI Act - Rozporządzenie PE i Rady 2024/1689 o sztucznej inteligencji

2) Krajowa ustawa o systemach sztucznej inteligencji - projekt Ministerstwa Cyfryzacji

3) Polityka rozwoju sztucznej inteligencji w Polsce [Załącznik do uchwały nr 196 Rady Ministrów z dnia 28 grudnia 2020 r. (poz. 23)]

4) DSA (akt o usługach cyfrowych), Rozporządzenie (UE) 2022/2065 w sprawie jednolitego rynku usług cyfrowych oraz zmiany dyrektywy 2000/31/WE

5) Resortowa strategia sztucznej inteligencji do roku 2039 - Ministerstwo Obrony Narodowej, 2024

6) Doktryna bezpieczeństwa informacyjnego RP, BBN 2015 (projekt)

7) Doktryna cyberbezpieczeństwa RP, BBN 2015

8) Strategia Cyfryzacji Polski do 2035 roku - Ministerstwo Cyfryzacji, 2024 (projekt)

Standardy

1) NIST AI Risk Management Framework (AI RMF 1.0)

2) ISO/IEC 23053:2022 - Framework for AI systems using ML

Additional information

Additional information (registration calendar, class conductors, localization and schedules of classes), might be available in the USOSweb system:

Description of 2100-BW-L-D3SIBE in USOSweb