Wyzwania SI w sektorze bezpieczeństwa 2100-BW-L-D3SIBE

Przedmiot wprowadza studentów w problematykę wyzwań dla bezpieczeństwa państwa wynikających z dynamicznego rozwoju, wdrażania i wykorzystywania systemów sztucznej inteligencji. Kurs ujmuje SI jako technologię o znaczeniu dual-use, która może wspierać analizę zagrożeń, zarządzanie ryzykiem, wykrywanie anomalii, ochronę infrastruktury krytycznej, cyberbezpieczeństwo i procesy decyzyjne, lecz równocześnie generuje nowe ryzyka prawne, społeczne, polityczne, etyczne i militarne.

W toku zajęć studenci analizują definicje, typologie i podstawowe mechanizmy działania współczesnych systemów SI, w tym modeli uczenia maszynowego, modeli ogólnego przeznaczenia, generatywnej SI, chatbotów oraz systemów rozpoznawania wzorców. Omawiane są zastosowania SI w administracji publicznej i instytucjach odpowiedzialnych za bezpieczeństwo wewnętrzne, a także ograniczenia automatyzacji, ryzyko błędów, uprzedzeń algorytmicznych, nieprzejrzystości modeli i nadmiernego polegania na zautomatyzowanych rekomendacjach.

Istotnym elementem przedmiotu jest analiza ram regulacyjnych i standardów, w szczególności AI Act, DSA, krajowych dokumentów strategicznych, NIST AI Risk Management Framework oraz norm dotyczących systemów SI wykorzystujących uczenie maszynowe. Studenci odnoszą aktualne przypadki wdrożeń, komunikaty instytucji publicznych i doniesienia medialne do wymagań zarządzania ryzykiem, ochrony praw podstawowych, odpowiedzialności, nadzoru człowieka oraz bezpieczeństwa systemów.

Kurs obejmuje również problematykę wykorzystania SI w cyberatakach i cyberobronie, operacjach informacyjnych, dezinformacji, rozpowszechnianiu mediów generatywnych (synthetic media) i deepfake’ów, atakach socjotechnicznych, a także w zastosowaniach wojskowych i systemach autonomicznych. Studenci uczą się krytycznie analizować źródła, rozpoznawać ryzyka i formułować uzasadnione stanowiska dotyczące wykorzystania SI przez instytucje państwa.

Bilans nakładu pracy studenta:
Udział w wykładach: 15 godzin
Lektura literatury podstawowej i uzupełniającej: 2 godziny
Analiza aktów prawnych, standardów, dokumentów strategicznych i raportów: 2 godziny
Przygotowanie pracy rocznej: 6 godzin
Łączny nakład pracy studenta 25

Liczba punktów ECTS: 1

W cyklu 2025Z:

Przedmiot wprowadza studentów w problematykę wyzwań bezpieczeństwa państwa związanych z dynamicznym rozwojem sztucznej inteligencji. Kurs koncentruje się na całościowym podejściu do SI jako wyzwania dla sektora bezpieczeństwa państwa, obejmując zagadnienia implementacji, regulacji, zarządzania ryzykiem oraz wpływu SI na bezpieczeństwo wewnętrzne i zewnętrzne państwa.

Przedmiot obejmuje:

Specyfikę systemów sztucznej inteligencji i dynamikę ich rozwoju – analiza definicji i typologii systemów SI w kontekście bezpieczeństwa państwa, ewolucja technologii SI i jej wpływ na sektor bezpieczeństwa, charakterystyka współczesnych systemów SI używanych w administracji publicznej oraz zarządzanie cyklem życia systemów SI.

Wymiary użyteczności systemów sztucznej inteligencji w zarządzaniu bezpieczeństwem – wykorzystanie SI w zarządzaniu ryzykiem i analizie zagrożeń bezpieczeństwa, zastosowania w instytucjach bezpieczeństwa wewnętrznego, systemy wsparcia decyzji oparte na SI w sektorze publicznym, automatyzacja procesów bezpieczeństwa oraz predykcyjna analiza zagrożeń.

Modele SI, algorytmy, chatboty: rodzaje, funkcje, zastosowania w sferze bezpieczeństwa – przegląd modeli SI ogólnego przeznaczenia w kontekście AI Act i ich zastosowania w sektorze bezpieczeństwa, chatboty i inne systemy w sektorze publicznym, systemy rozpoznawania wzorców oraz uczenie maszynowe w wykrywaniu anomalii i zagrożeń.

Wyzwania i zagrożenia związane z rozwojem sztucznej inteligencji – gospodarcze (wpływ na rynek pracy, konkurencyjność gospodarczą), polityczne (governance, regulacje, polityka państwa w obszarze AI), społeczne (nierówności cyfrowe, prywatność, ochrona danych), militarne (systemy autonomiczne, walka informacyjna, cyberataki, obrona państwa) oraz zagrożenia dla infrastruktury krytycznej i systemów bezpieczeństwa.

Socjotechniki i media w erze sztucznej inteligencji – manipulacja i dezinformacja wspomagana przez SI, deepfakes i synthetic media jako zagrożenie bezpieczeństwa, SI w inżynierii społecznej i atakach socjotechnicznych oraz ochrona przed manipulacją w mediach społecznościowych.

Koordynatorzy przedmiotu

W cyklu 2025Z:

Piotr Sosnowski

W cyklu 2026Z:

Piotr Sosnowski
Jacek Ziółkowski

Rodzaj przedmiotu

obowiązkowe

Tryb prowadzenia

w sali

Założenia (opisowo)

Przedmiot jest przeznaczony dla studentów studiów pierwszego stopnia na kierunku bezpieczeństwo wewnętrzne. Zakłada podstawową wiedzę z zakresu bezpieczeństwa państwa, bezpieczeństwa wewnętrznego, współczesnych zagrożeń oraz funkcjonowania instytucji publicznych, zdobytą w toku dotychczasowego kształcenia. Od studenta oczekuje się podstawowej umiejętności korzystania z literatury naukowej, dokumentów publicznych oraz wiarygodnych źródeł internetowych, a także gotowości do rozwijania umiejętności analizy informacji i formułowania uzasadnionych wniosków dotyczących bezpieczeństwa. Pomocna jest ogólna orientacja w zagadnieniach cyberbezpieczeństwa, mediów społecznościowych, ochrony informacji i zagrożeń bezpieczeństwa państwa. Przedmiot nie wymaga wiedzy programistycznej, znajomości metod budowy modeli sztucznej inteligencji ani wcześniejszego doświadczenia technicznego w zakresie SI. Od studentów oczekuje się systematycznego przygotowywania do zajęć, aktywnego udziału w dyskusjach oraz samodzielnego przygotowania do egzaminu końcowego.

Efekty uczenia się

K_W03 Student identyfikuje, charakteryzuje i wyjaśnia w zaawansowanym stopniu podstawowe problemy, aspekty i wymiary bezpieczeństwa wewnętrznego, ze szczególnym uwzględnieniem wyzwań wynikających z rozwoju i zastosowania systemów sztucznej inteligencji.
K_W07 Student analizuje i wyjaśnia w zaawansowanym stopniu zagrożenia dla funkcjonowania współczesnego państwa i społeczeństwa, ich przeobrażenia, konsekwencje oraz sposoby przeciwdziałania, w tym zagrożenia technologiczne, informacyjne, społeczne, prawne i militarne związane z SI.
K_U03 Student podejmuje i optymalizuje decyzje dotyczące procesów bezpieczeństwa wewnętrznego oraz rozwiązuje typowe i nietypowe problemy związane z oceną zastosowań, ryzyk i ograniczeń systemów SI.
K_U06 Student komunikuje się kompetentnie i fachowo z otoczeniem, wykorzystując nowoczesne techniki przekazu, oraz przedstawia informacje o zagrożeniach związanych z SI i sposobach ograniczania ich skutków.
K_U07 Student samodzielnie pogłębia, uzupełnia i doskonali wiedzę dotyczącą SI i bezpieczeństwa oraz wykorzystuje ją do rozwiązywania problemów zawodowych i analitycznych.
K_K01 Student krytycznie i świadomie ocenia zakres własnej wiedzy i kompetencji oraz wykorzystuje nabytą wiedzę do rozwiązywania problemów poznawczych i praktycznych w obszarze bezpieczeństwa wewnętrznego.

Kryteria oceniania

Zasady zaliczenia przedmiotu

Praca roczna
Udział w ocenie końcowej: 100%.
Praca obejmuje demonstrację znajomości pojęć, regulacji, standardów, Warunkiem zaliczenia przedmiotu jest uzyskanie co najmniej 60% łącznej liczby punktów za pracę roczną. Praca roczna stanowi jedyną podstawę oceny końcowej i służy weryfikacji osiągnięcia efektów uczenia się w zakresie wiedzy, umiejętności oraz kompetencji społecznych.

Ocena końcowa jest w całości oparta na pracy rocznej, której udział w ocenie wynosi 100%.

Praca roczna ma formę samodzielnie przygotowanej pracy analitycznej dotyczącej wybranego problemu związanego z wykorzystaniem sztucznej inteligencji w sektorze bezpieczeństwa. Powinna wykazywać znajomość podstawowych pojęć, regulacji, standardów, zastosowań, zagrożeń oraz mechanizmów zarządzania ryzykiem SI.

Praca powinna obejmować analizę wskazanego przypadku, dokumentu, ryzyka albo dylematu dotyczącego wykorzystania SI w kontekście bezpieczeństwa państwa. Student przedstawia opis i analizę problemu, odnosi go do właściwego wymiaru bezpieczeństwa - w szczególności bezpieczeństwa państwa, bezpieczeństwa wewnętrznego, bezpieczeństwa informacyjnego, cyberbezpieczeństwa, ochrony infrastruktury krytycznej albo bezpieczeństwa społecznego - oraz formułuje własne, logicznie uzasadnione wnioski i rekomendacje.

Praca roczna powinna zostać przygotowana na podstawie wiarygodnych źródeł, w szczególności literatury naukowej, aktów prawnych, dokumentów strategicznych, standardów, raportów instytucji publicznych oraz materiałów analitycznych. Ocenie podlega poprawność merytoryczna, umiejętność analizy problemu, krytyczne wykorzystanie źródeł, trafność wniosków i rekomendacji, struktura pracy oraz poprawność językowa i formalna.

Łączny udział pracy rocznej w ocenie końcowej wynosi 100%, a minimalny próg zaliczenia przedmiotu wynosi 60%.

Dopuszcza się dwie nieobecności, które należy odpracować składając samodzielnie sporządzoną pracę pisemną na temat ustalony z wykładowcą (3-6 stron, czcionka TNR 12, interlinia 1,5).

Poziom 1. BRAK SI
Weryfikacja efektów uczenia się jest przeprowadzana całkowicie bez pomocy sztucznej inteligencji. Studenci polegają wyłącznie na swojej wiedzy, zrozumieniu i umiejętnościach.
Sztuczna inteligencja nie może być wykorzystywana w żadnym momencie oceniania. (zgodnie z uchwałą nr 75 Uniwersyteckiej Rady ds. Kształcenia z dnia 11 września 2026 r. w sprawie wytycznych dotyczących korzystania z narzędzi sztucznej inteligencji w procesie kształcenia oraz uchwałą nr 29/2025 Rady Dydaktycznej z dnia 7 maja 2025 r. w sprawie szczegółowych zasad korzystania z narzędzi sztucznej inteligencji w procesie kształcenia)

K_W03