AI in Finance 2400-MIKRO-AIBF-AIF

Główne obszary zainteresowania:
- Sytuacja w zakresie AI w Wielkiej Brytanii i UE: zapoznanie się z aktualnym stanem, trendami wzrostowymi, kluczowymi graczami oraz inicjatywami rządowymi.
- Sztuczna inteligencja w finansach: analiza zastosowań, takich jak chatboty i modele językowe (LLM), w operacjach front office, middle office i back office.
- Zarządzanie ryzykiem związanym ze sztuczną inteligencją: nauka rozpoznawania i ograniczania ryzyka, takiego jak stronniczość, kwestie prywatności, obawy i niezamierzone konsekwencje.
- Podstawy etyczne i prawne: zgłębienie rozważań filozoficznych, ze szczególnym uwzględnieniem autonomii, prawa do wyjaśnienia oraz dostosowania wartości.

Temat 1: Wprowadzenie do sztucznej inteligencji Ta sesja pozwoli rozwiać mity związane ze sztuczną inteligencją i stworzy podstawy do zrozumienia jej kluczowych aspektów etycznych. Zaczniemy od omówienia podstawowych pojęć związanych ze sztuczną inteligencją, w tym uczenia maszynowego i uczenia głębokiego, oraz prześledzimy ich ewolucję na przestrzeni czasu. Uczestnicy uzyskają jasne zrozumienie tego, jak działają te technologie i w jaki sposób zmieniły one różne branże. Zasady etyczne w sztucznej inteligencji Następnie zagłębimy się w fundamentalne zasady etyczne, które powinny kierować rozwojem i wdrażaniem sztucznej inteligencji.
Omówimy:
- Sprawiedliwość, przejrzystość, odpowiedzialność i zasada niekrzywdzenia jako filary odpowiedzialnej sztucznej inteligencji.
- Strategie rozpoznawania i ograniczania stronniczości – niezależnie od tego, czy wynika ona z danych, algorytmów, czy ludzkiego niedopatrzenia.
- Kluczowe znaczenie kontroli człowieka nad systemami sztucznej inteligencji, na praktycznych przykładach zaczerpniętych z chatbotów i aplikacji generatywnej sztucznej inteligencji (GenAI).
- Ramy etyczne sztucznej inteligencji.
Na koniec przeanalizujemy ugruntowane ramy etyczne, które stanowią punkt odniesienia do analizy społecznego wpływu sztucznej inteligencji: ✓ Analiza ram takich jak utylitaryzm i deontologia. ✓ Analiza zastosowania etyki cnót w kontekście sztucznej inteligencji oraz koncepcji tożsamości cyfrowej.

Temat 2. Zastosowanie sztucznej inteligencji w finansach Podczas tej sesji omówimy praktyczne wdrożenie sztucznej inteligencji w sektorze finansowym – od rzeczywistych zastosowań po strategiczne plany wdrożeniowe. Rzeczywiste zastosowania i dylematy etyczne Rozpoczniemy od przeanalizowania różnorodnych zastosowań sztucznej inteligencji w finansach, w tym wykrywania oszustw, a następnie zagłębimy się w studia przypadków, takie jak centrum innowacji AI firmy Kenshoo Technologies dla działu sprzedaży i marketingu (S&G) oraz piaskownica AI brytyjskiego urzędu nadzoru finansowego (FCA) o nazwie „Kaizen”. Przeanalizujemy również dylematy etyczne pojawiające się podczas wdrażania sztucznej inteligencji, posługując się przykładami takimi jak inicjatywy Barclay's w zakresie sztucznej inteligencji oraz narzędzia typu „Teaching Chatbot”. Pokażemy, w jaki sposób platformy takie jak Bloomberg są wykorzystywane w rzeczywistych środowiskach finansowych (funkcje DS), a także omówimy współpracę Refinitiv z Microsoftem mającą na celu wprowadzenie asystentów opartych na sztucznej inteligencji i wykorzystujących dane rynkowe w aplikacji Microsoft Teams.

Temat 3: Zarządzanie ryzykiem w zakresie sztucznej inteligencji Sesja ta będzie poświęcona identyfikacji, ocenie i ograniczaniu różnorodnych zagrożeń związanych ze sztuczną inteligencją.
1. Identyfikacja zagrożeń związanych ze sztuczną inteligencją Potencjalne zagrożenia podzielimy na trzy kluczowe obszary: ✓ Zagrożenia techniczne: analiza wyzwań, takich jak stronniczość modeli i naruszenia prywatności danych. ✓ Ryzyko społeczne: omówienie szerszych skutków, takich jak utrata miejsc pracy, konsekwencje stosowania broni autonomicznej oraz zagrożenia związane z deepfake’ami. ✓ Ryzyko gospodarcze i finansowe: zajęcie się zagrożeniami, takimi jak przestępstwa finansowe i cyberprzestępstwa, które są umożliwiane lub nasilane przez sztuczną inteligencję.
2. Ocena ryzyka i strategie ograniczania ryzyka Dowiedz się, jak proaktywnie zarządzać ryzykiem związanym ze sztuczną inteligencją: ✓ Kwantyfikacja ryzyka: Opracowywanie metod pomiaru i oceny powagi ryzyka związanego ze sztuczną inteligencją. ✓ Skuteczne środki zaradcze: Projektowanie i wdrażanie strategii mających na celu ograniczanie zidentyfikowanego ryzyka. ✓ Zgodność z przepisami i ramy zarządzania: Zrozumienie kontekstu regulacyjnego w zakresie sztucznej inteligencji, w tym brytyjskich zasad regulacyjnych dotyczących sztucznej inteligencji, unijnej ustawy o sztucznej inteligencji (AI Act) oraz amerykańskiej polityki w zakresie sztucznej inteligencji. ✓ Studia przypadków z życia wziętych: Analiza rzeczywistych incydentów związanych z ryzykiem sztucznej inteligencji i ich konsekwencji, takich jak wprowadzające w błąd informacje podane przez chatbota linii Air Canada, „halucynacje” ChatGPT firmy OpenAI oraz incydenty związane z rasistowskimi komentarzami chatbota firmy Microsoft.

Temat 4: Sztuczna inteligencja, kwestie prawne, zarządzanie i przywództwo Podczas tej sesji omówione zostaną kluczowe aspekty zarządzania sztuczną inteligencją, budowania przywództwa oraz zapewniania odpowiedzialnych inwestycji. 1. Zarządzanie sztuczną inteligencją i nadzór Ta sekcja skupia się na tworzeniu solidnych ram zarządzania sztuczną inteligencją: ✓ Określenie jasnych ról i obowiązków: zdefiniowanie, kto ponosi odpowiedzialność za strategię, rozwój i wdrażanie sztucznej inteligencji w organizacji. ✓ Tworzenie struktur zarządzania: budowanie mechanizmów nadzoru w celu zarządzania ✓ inicjatywami w zakresie sztucznej inteligencji oraz zapewnienia zgodności z zasadami etycznymi i prawnymi. ✓ Studia przypadków: rola dyrektora ds. sztucznej inteligencji (CAIO) w kierowaniu inicjatywami związanymi ze sztuczną inteligencją. Znaczenie komisji ds. etyki sztucznej inteligencji w procesie weryfikacji i zatwierdzania projektów dotyczących sztucznej inteligencji. 2. Inwestycje w sztuczną inteligencję i alokacja zasobów Opracowywanie strategii skutecznego wdrażania sztucznej inteligencji: ✓ Ustalenie priorytetów inicjatyw związanych ze sztuczną inteligencją: identyfikacja projektów, które przyniosą najbardziej obiecujące korzyści i najlepiej wpisują się w cele organizacji. ✓ Strategiczna alokacja zasobów: przydzielanie zasobów na inicjatywy związane ze sztuczną inteligencją w oparciu o ich priorytet i przewidywany zwrot z inwestycji. 3. Sztuczna inteligencja a zrównoważony rozwój Odpowiedzialne praktyki w zakresie sztucznej inteligencji: analiza kluczowego punktu styku rozwoju i wdrażania sztucznej inteligencji z szerszymi praktykami odpowiedzialnego biznesu oraz długoterminowymi celami zrównoważonego rozwoju.

Projekt Application of Artificial Intelligence in Business and Finance (nr BPI/SPI/2024/1/00078) realizowany przez Uniwersytet Warszawski w ramach programu Spinaker organizowanego przez Narodową Agencję Wymiany Akademickiej (w ramach projektu Wsparcie tworzenia i realizacji międzynarodowych programów kształcenia, finansowanego ze środków Funduszy Europejskich dla Rozwoju Społecznego 2021-2027).