4IZ559 — Umělé neuronové sítě a hluboké učení

O předmětu

Cílem předmětu je poskytnout studentům teoretické znalosti i praktické dovednosti v oblasti umělých neuronových sítí a jejich aplikací při zpracování obrazových a textových dat. Předmět se zaměří jak na vysvětlení základních principů fungování neuronových sítí, tak na použití hlubokých neuronových sítí s důrazem na obrazová a textová data v programovacím jazyce Python.

Co se naučíš

Po úspěšném absolvování budou studenti schopni vysvětlit základy umělých neuronových sítí a jejich tvorby (biologické vs. umělé neuronové sítě, model jednoho neuronu, vícevrstvé sítě, proces učení neuronových sítí, principy základních aktivačních a nákladových funkcí, kapacita, délka kroku, regularizace, dropout) a hlubokých neuronových sítí (konvoluční neuronové sítě, obohacování dat, přenesené učení, rekurentní sítě, transformery a generativní modely). Dále budou studenti schopni aplikovat (hluboké) neuronové sítě na obrazová a textová data v programovacím jazyce Python.

Obsah předmětu

• Biologické a umělé neuronové sítě. • Model jednoho neuronu (Perceptron) a vícevrstvá neuronová síť (Multilayer Perceptron). • Učení v modelu jednoho neuronu a učení ve vícevrstvé síti. • Aktivační funkce (lineární, sigmoidální, hyperbolický tangens, softmax, ReLU, LeakyReLU). • Nákladové funkce (MSE, křížová entropie, Hinge Loss). • Praktické otázky tvorby umělých neuronových sítí (kapacita, optimalizace, generalizace, aktivační funkce, ztrátové funkce, délka kroku, regularizace, dropout). • Umělé neuronové sítě a obrazová data. • Konvoluční neuronové sítě, obohacování dat, přenesené učení a kontrastivní učení. • Neuronové sítě a textová data. • Rekurentní neuronové sítě (RNN, LSTM, GRU), jejich architektury a textová data. • Konvoluce a textová data. • Slovní vnoření. • Transformery pro textová data a obrazová data. • Hluboké neuronové sítě a generativní modely.

Literatura

Základní:

Jak uspět v předmětu

Doporučená příprava:

• Pravidelná příprava během semestru místo drcení na zkoušku
• Přednáškové slidy a materiály dostupné přes Moodle VŠE (dl.vse.cz)
• Stará zkouška / typové otázky — zeptej se cvičícího nebo hledej na InSIS
• Studijní skupiny a sdílení poznámek s kolegy z ročníku

• Přečti si sylabus — co je povinná vs. doporučená literatura
• Podmínky zápočtu (zápočtové testy, projekty, docházka)
• Termíny zkoušek zapisovat včas — kapacita bývá omezená

Doporučené zdroje

• Sylabus na InSIS — osnova, literatura, garant
• Moodle VŠE — prezentace a studijní materiály od vyučujících
• Knihovna VŠE — přístup k e-knihám a databázím (EBSCO, ProQuest...)
• SIS VŠE — výsledky zkoušek, zkušební termíny, docházka