Detail předmětu

Introduction to Neural Models for AI

INAa Ak. rok 2026/2027 letní semestr 5 kreditů

Kurz umožňuje studentům porozumět základním stavebním kamenům modelů umělé inteligence současné generace, které vycházejí z rozsáhlých jazykových modelů a chatbotů.

Kurz začíná základními pojmy, od lineárních modelů přes vkládání slov až po neuronové jazykové modely, jako jsou transformery, a jejich aplikace na konkrétní úkoly v oblasti zpracování přirozeného jazyka.

V závěrečných přednáškách se zabýváme pokročilými tématy, jako je ladění instrukcí, řetězec myšlenek a učení s posilováním.

Kurz propojuje teoretické pojmy s praktickými cvičeními (Jupyter Notebooks, laboratoře) a postupně vede k finálním konkrétním projektům.

Garant předmětu

Černocký Jan, prof. Dr. Ing. (UPGM)

Koordinátor předmětu

Fajčík Martin, Ing., Ph.D. (UPGM)
Kesiraju Santosh, Ph.D. (UPGM)

Jazyk výuky

angličtina

Zakončení

zkouška (kombinovaná)

Rozsah

  • 26 hod. přednášky
  • 13 hod. seminář
  • 12 hod. projekty

Bodové hodnocení

  • 52 bodů závěrečná zkouška
  • 16 bodů půlsemestrální test
  • 8 bodů průběžné testy
  • 24 bodů projekty

Zajišťuje ústav

Ústav počítačové grafiky a multimédií (UPGM)

Přednášející

Černocký Jan, prof. Dr. Ing. (UPGM)
Fajčík Martin, Ing., Ph.D. (UPGM)
Kesiraju Santosh, Ph.D. (UPGM)

Cvičící

Černocký Jan, prof. Dr. Ing. (UPGM)

Cíle předmětu

Allow students to understand the fundamental building blocks of current generation AI models that are based on large language models and chat bots. The course builds theoretical concepts with practical sessions (jupyter notebooks, labs) incrementally leading to final tangible projects.

Požadované prerekvizitní znalosti a dovednosti

Základy programování (Python, C).

Základy teorie pravděpodobnosti, statistiky a matematické analýzy.

Předmět se zabývá také základními pojmy z oblasti teorie pravděpodobnosti, statistiky a matematické analýzy, avšak určité předchozí znalosti v těchto oblastech budou výhodou.

Literatura studijní

  • Machine Learning with PyTorch and Scikit-Learn. Packt Publishing Ltd. ISBN-10: 1801819319 ISBN-13: 978-1801819312. https://github.com/rasbt/machine-learning-book
  • Natural Language Processing with Transformers. O'Reilly https://github.com/nlp-with-transformers

Literatura referenční

  • Deep Learning - Foundations and Concepts. Springer https://link.springer.com/book/10.1007/978-3-031-45468-4
  • Deep learning. MIT Press. https://www.deeplearningbook.org/

Osnova přednášek

  1. Introduction to present-day AI
  2. Perceptron model 
  3. Word embeddings: purpose, training, interpretation
  4. Multi-layer perceptron (MLPs)
  5. Feedforward NN for Language Modelling
  6. Optimization in MLPs
  7. Recurrent NN for LM
  8. Transformer LM
  9. Fine-tuning pre-trained LMs
  10. Instruction tuning and Chain of thought
  11. Fine-tuning with human preferences
  12. Reinforcement learning - Agentic systems
  13. Poster session - project demonstrations (depending on number of students) or Guest lecture

Průběžná kontrola studia

  1. Závěrečná zkouška bude písemná, pokud bude počet studentů příliš vysoký. Ústní zkouška, pokud bude počet studentů kolem 30. (52 bodů)
  2. Projekt (24 bodů) - metoda hodnocení bude určena na základě počtu studentů a skupin.
  3. Dva testy v rámci kurzu budou považovány za průběžné zkoušky. Budou to otázky s výběrem odpovědí (MCQ) v délce 30 minut s bodovou penalizací (~30 min). (16 bodů).
  4. Testy v rámci kurzu, které nejsou průběžnými zkouškami (formát MCQ), budou mít poloviční váhu průběžných zkoušek, protože budou kratší (~15 min) (8 bodů).

Rozvrh

DenTypTýdnyMístn.OdDoKapacitaPSKSkupInfo
Čt přednáška výuky E105 14:0015:5070 2BIA 2BIB 3BIT xx Černocký
Čt seminář výuky E105 16:0016:5070 2BIA 2BIB 3BIT xx Černocký

Zařazení předmětu ve studijních plánech

  • Program BIT, 2. ročník, volitelný
  • Program BIT (anglicky), 2. ročník, volitelný
Nahoru