Wprowadzenie do dużych modeli językowych oraz systemów RAG 3800-KOG-MS2-DML
Pełny opis kursu:
1. Wprowadzenie do dużych modeli językowych (LLM):
- Omówienie podstaw działania LLM-ów i ich roli w przetwarzaniu języka naturalnego.
- Przegląd najnowszych osiągnięć w dziedzinie modeli językowych i ich zastosowania w różnych branżach.
2. Praktyczne wykorzystanie LLM:
- Praca z repozytorium modeli Hugging Face i biblioteką Transformers.
- Zastosowanie modeli enkoderów do analizy semantycznej, embeddingów i klasyfikacji zero-shot.
- Wykorzystanie modeli dekoderów do generowania odpowiedzi, tekstów i kodu.
3. Budowanie aplikacji opartych na LLM:
- Zarządzanie stanem i komponowanie wywołań modeli w celu zapewnienia bezpieczeństwa i dokładności generowanych odpowiedzi.
- Wprowadzenie do frameworków takich jak LangChain i PyTorch oraz narzędzi do szybkiego wdrażania aplikacji (np. FastAPI).
4. Tworzenie systemów RAG (Retrieval-Augmented Generation):
- Omówienie architektury systemów RAG i ich zastosowań w biznesie.
- Praca z embeddingami i wyszukiwaniem podobieństw za pomocą FAISS.
- Implementacja agenta RAG zdolnego do odpowiadania na pytania na podstawie przeszukiwanego zbioru danych.
Laboratoria i warsztaty:
- Seria warsztatów, podczas których uczestnicy będą pracować nad praktycznymi zadaniami i budować aplikacje wykorzystujące LLM i systemy
RAG.
- Przykłady zastosowań biznesowych, takich jak chatboty, analiza dokumentów i wsparcie klienta.
Rodzaj przedmiotu
Koordynatorzy przedmiotu
Efekty kształcenia
- Zrozumienie kluczowych koncepcji i technologii związanych z dużymi modelami językowymi.
- Umiejętność implementacji i wdrażania aplikacji opartych na LLM i systemach RAG.
- Zdolność do analizy i oceny najnowszych rozwiązań w dziedzinie przetwarzania języka naturalnego.
Kryteria oceniania
- Projekty praktyczne (100%): Zaliczenie kursu na podstawie realizacji projektów końcowych, które obejmują budowę aplikacji opartej na LLM/RAG.
Kurs we współpracy z firmą NVIDIA I zaliczenie kursu będzie równoważne z uzyskaniem certyfikatu NVIDIA w dziedzinie LLM oraz RAG.
Uwagi
W cyklu 2024Z:
Harmonogram spotkań: |
Więcej informacji
Dodatkowe informacje (np. o kalendarzu rejestracji, prowadzących zajęcia, lokalizacji i terminach zajęć) mogą być dostępne w serwisie USOSweb: