Strojové učení (FSI-VSC)

Cílem předmětu je seznámit studenty s metodami strojového učení a jejich aplikacemi na klasifikaci, regresi a shlukování. Studenti se seznámí s parametrickými i neparametrickými klasifikačními a regresními modely, i klíčovými koncepty, jako jsou metriky chyb, regularizace, křížová validace, gradientní sestup a moderní přístupy, včetně boostingu a směsí Gaussovských rozdělení. Předmět propojuje teorii s praxí pro návrh a implementaci modelů strojového učení.

1. Úvod do strojového učení: životní cyklus modelu strojového učení, učební paradigmata a typy úloh, generalizace modelu, křížová validace.


2. Předzpracování dat: chybějící hodnoty, odlehlé hodnoty, normalizace/standardizace, kódování kategorií, transformace proměnných, základní výběr atributů.


3. Regrese: lineární a polynomiální regrese, metoda nejmenších čtverců, gradientní sestup, ztrátové funkce, metriky výkonu, redundantní proměnné, regularizace.


4. Lineární regresní klasifikace, logistická a regularizovaná logistická regrese, základní ztrátové funkce a metriky pro měření výkonu klasifikátorů, vliv nevyvážených tříd na trénink a výkon klasifikátoru a jeho hodnocení.


5. Stroj s podporou vektorů pro klasifikační a regresní úlohy, jádrové funkce.


6. Percepton, vícevrstvý perceptron, extreme learning machine, dopředná a zpětná propagace, varianty gradientního sestupu, metody zmenšení rizika přeučení.


7. Stromové metody pro klasifikační a regresní úlohy: rozhodovací stromy, kritéria štěpení, ořezávání stromů, ensemble metody.


8. Paměťové metody pro klasifikační a regresní úlohy: metoda nejbližších sousedů, vzdálenosti, volba počtu sousedů a váhování.


9. Úvod do teorie pravděpodobnosti, Bayesův klasifikátor, Gaussovská diskriminační analýza, Naivní Bayesův klasifikátor.


10. Směsi Gaussovských rozdělení, EM- algoritmus.


11. Shlukování, k-průměrové shlukování, směsi Gaussovských rozdělení, shlukování podle hustoty.


12. Redukce dimenze dat, Boosting.


13. Opakování.

1. Seznámení se s programovým prostředím.


2. Předzpracování dat


3. Lineární a polynomiální regrese s využitím MNČ a regularizované MNČ


4. Klasifikace lineárně separovatelných dat


5. Klasifikace nelineárně separovatelných dat


6. Využití vícevrstvého perceptonu pro klasifikační a regresní úlohy.


7. Využití rozhodovacích stromů pro klasifikační a regresní úlohy.


8. Využití metody nejbližších sousedů pro klasifikační a regresní úlohy


9. Bayesův klasifikátor, Gaussovská diskriminační analýza, a Naivní Bayesův klasifikátor.


10. Využití směsi Gaussovských rozdělení pro klasifikační a regresní úlohy.


11. Shlukování dat.


12. Redukce dimenze dat, Boosting


13. Zápočet.

BISHOP, Christopher M. Pattern recognition and machine learning. Information science and statistics. New York: Springer, c2006. ISBN 978-0-387-31073-2.

ALPAYDIN, Ethem. Introduction to machine learning. Third edition. Adaptive computation and machine learning. Cambridge: The MIT Press, [2014]. ISBN 978-0-262-02818-9.