Deep Learning 2400-SP-DS-DL

Celem kursu jest zapoznanie uczestników z różnymi typami sieci neuronowych i ich zastosowaniami. Podczas zajęć wykorzystywane będą narzędzia Keras i TensorFlow. Słuchacze poznają podstawowe definicje i ideę Deep Learningu, jego wady i zalety. Omówione zostaną najważniejsze funkcje aktywacji (sigmoid, ReLU, tanh, itp.) oraz optymalizacja wag metodą stochastic gradient descent, a także bardziej zaawansowanymi metodami (ADAM, RMSProp, AdaDelta,…). Wspomniana zostanie klasyczna regularyzacja L1/L2 i dropout. Następnie zostaną zaprezentowane metody budowania modeli w Keras oraz optymalizacja hiperparametrów z pakieten tfruns. Przedstawione zostaną sieci konwolucyjne (warstwy konwolucyjna, poolingu i głęboka z przykładami) i ich budowa w Keras wraz ze strojeniem parametrów i omówieniem przykładowych architektur (VGG, ResNet), wizualizacją filtrów i map aktywacji. Ostatnim etapem będzie omówienie sieci rekurencyjnych (LSTM, GRU) i ich zastosowań w keras.