Detail předmětu
Zpracování přirozeného jazyka
ZPD Ak. rok 2022/2023 zimní semestr
Východiska počítačového zpracování přirozeného jazyka, historická perspektiva, statistické metody zpracování přirozeného jazyka a aktuální přístupy založené na strojovému učení, zejména na modelech umělých neuronových sítí. Význam jednotlivých slov, lexikologie a lexikografie, slovníkové významy a neuronové modely pro výpočet vektorové reprezentace slov, klasifikace významů slov a jejich automatická inference. Složková a závislostní syntaxe, syntaktická víceznačnost, neuronové parsery vytvářející závislostní stromy. Jazykové modelování a jeho využití v obecných architekturách. Strojový překlad, historický pohled na statistické modely překladu, překladače založené na neuronových sítích a způsoby jejich vyhodnocování. Modely typu seq2seq a mechanismy pozornosti v neuronových modelech. Odpovídání na otázky v přirozeném jazyce s využitím neuronových modelů, komponenty pro vyhledávání informací v textu, porozumění textu, učení modelů z obecných textů. Klasifikace textů a její moderní aplikace, konvoluční neuronové sítě pro klasifikaci vět. Jazykově nezávislé reprezentace, texty ze sociálních sítí vymykající se normě, reprezentace částí slov, modely reprezentující informace z částí slov. Kontextuální reprezentace a předtrénování kontextuálně-závislých jazykových modulů. Sítě typu transformer a self-attention pro generativní modely. Komunikační agenti a generování přirozeného jazyka. Koreference a její automatické zpracování, souvislost s dalšími komponentami porozumění textu.
Okruhy otázek k SDZ:
- Distribuční sémantika slov, modely Word2Vec, Glove a FastText
- Jazykové modelování
- Strojový překlad
- Modely typu seq2seq a mechanismus pozornosti (attention)
- Odpovídání na otázky v přirozeném jazyce
- Konvoluční neuronové sítě pro klasifikaci vět
- Modelování kontextů použití: kontextuální reprezentace a předtrénování
- Sítě typu transformer a self-attention pro generativní modely
- Generování přirozeného jazyka
- Koreference a její automatické zpracování
Garant předmětu
Jazyk výuky
Zakončení
Rozsah
- 39 hod. přednášky
Bodové hodnocení
- 100 bodů závěrečná zkouška
Zajišťuje ústav
Získané dovednosti, znalosti a kompetence z předmětu
Studenti se v rámci předmětu seznámí s problematikou počítačového zpracování přirozeného jazyka a porozumí celé škále modelů neuronových sítí, které jsou v oblasti NLP běžně aplikovány. Pochopí rovněž základní principy neuronových realizací mechanismů pozornosti a modelů pro reprezentaci významu promluv a tomu, jak mohou být tyto modulární komponenty kombinovány při tvorbě současných systémů NLP. Budou schopni implementovat a vyhodnocovat běžné neuronové modely pro různé aplikace NLP.
Studenti se zdokonalí v praktickém užívání nástrojů pro práci s modely hlubokých neuronových sítí a se zpracováním textových dat.
Cíle předmětu
Porozumět počítačovému zpracování přirozeného jazyka a naučit se aplikovat moderní metody strojového učení v této oblasti. Seznámit se s pokročilými architekturami hlubokých neuronových sítí, které jsou úspěšně používány v rozličných úkolech zpracování přirozeného jazyka. Porozumět použití neuronových sítí pro sekvenční jazykové modelování, jejich použití pro podmíněné jazykové modely a porozumění přístupů kombinujících tyto techniky s jinými mechanismy v pokročilých aplikacích. Pochopit základní principy reprezentace znalostí a inference s využitím neuronových modelů.
Literatura studijní
- Géron, Aurélien. Hands-on machine learning with Scikit-Learn and TensorFlow: concepts, tools, and techniques to build intelligent systems. " O'Reilly Media, Inc.", 2017.
- Goldberg, Yoav. "Neural network methods for natural language processing." Synthesis Lectures on Human Language Technologies 10, no. 1 (2017): 1-309.
Osnova přednášek
- Úvod, historie oboru, aplikace a moderní přístupy založené na hlubokém učení
- Významy slov a jejich vektorová reprezentace
- Závislostní syntaxe
- Jazykové modely
- Strojový překlad
- Modely typu seq2seq a pozornost (attention)
- Odpovídání na otázky v přirozeném jazyce
- Konvoluční neuronové sítě pro klasifikaci vět
- Informace z částí slov: modely typu subword
- Modelování kontextů použití: kontextuální reprezentace a předtrénování
- Sítě typu transformer a self-attention pro generativní modely
- Generování přirozeného jazyka
- Koreference a její automatické zpracování
Průběžná kontrola studia
Diskuse v rámci přednášek či individuálních konzultací, kontrola zpracování tématické práce.
Kontrolovaná výuka
Přednášky a zpracování projektu.
Zařazení předmětu ve studijních plánech
- Program DIT, libovolný ročník, povinně volitelný skupina O
- Program DIT, libovolný ročník, povinně volitelný skupina O
- Program DIT-EN (anglicky), libovolný ročník, povinně volitelný skupina O
- Program DIT-EN (anglicky), libovolný ročník, povinně volitelný skupina O
- Program VTI-DR-4, obor DVI4, libovolný ročník, volitelný
- Program VTI-DR-4, obor DVI4, libovolný ročník, volitelný
- Program VTI-DR-4 (anglicky), obor DVI4, libovolný ročník, volitelný
- Program VTI-DR-4 (anglicky), obor DVI4, libovolný ročník, volitelný