Neuronové sítě a strojové učení (FSI-VSC)

Cílem předmětu je seznámit studenty s metodami strojového učení a jejich aplikacemi na klasifikaci, regresi a shlukování. Studenti se seznámí parametrickými i neparametrickými klasifikačními a regresními modely, i klíčovými koncepty, jako jsou metriky chyb, regularizace, křížová validace, gradientní sestup a moderní přístupy, včetně boostingu a směsí Gaussovských rozdělení. Předmět propojuje teorii s praxí pro návrh a implementaci modelů strojového učení.

Předpokládá se znalost základních souvislostí ze statistiky, optimalizace a programování.

Předmět poskytuje úvod do teorie a metod strojového učení se zaměřením na jejich aplikaci při řešení klasifikačních, regresních a shlukovacích úloh.

Znalosti a dovednosti jsou ověřovány zápočtem a zkouškou. Požadavky pro zápočet: zpracování zadaných úloh. Účast na přednáškách je doporučená, účast na cvičeních je povinná. Cvičení, která nemůže student absolvovat v řádné termínu je možno nahradit v termínu náhradním. Zkouška je ústní a pokrývá celé probrané učivo.

1. Úvod, učení s učitelem a bez učitele, regrese vs. klasifikace, rozdělení datové sady, metriky chyb, ztrátové funkce, křížová validace, přeučení, regularizace


2. lineární regrese, metoda nejmenších čtverců, gradientní sestup, regularizovaná metoda nejmenších čtverců


3. Lineární klasifikace, logistická regrese, regularizovaná logistická regrese


4. Neparametrické modely, metoda nejbližších sousedů


5. Rozhodovací stromy pro klasifikační a regresní problémy


6. Generativní modely pro klasifikaci, Bayesův klasifikátor, Gaussovská diskriminační analýza


7. Naivní Bayesův klasifikátor


8. Stroj s podporou vektorů, jádrové funkce


9. Shlukování, k-průměrové shlukování


10. Směsi Gaussovských rozdělení


11. Redukce dimenze dat, Boosting


12. Matematický model neuronu, aktivační funkce, vícevrstvý perceptron, dopředná a zpětná propagace


13. Dopředné jedno a vícevrstvé sítě neuronové sítě, rekurentní sítě, topologicky organizované neuronové sít

1. Seznámení se s programovým prostředím.


2. Metoda nejmenších čtverců, a regularizovaná metoda nejmenších čtverců


3. Lineární klasifikace, logistická regrese, regularizovaná logistická regrese


4. Metoda nejbližších sousedů


5. Rozhodovací stromy pro klasifikační a regresní problémy


6. Bayesův klasifikátor, Gaussovská diskriminační analýza


7. Naivní Bayesův klasifikátor


8. Stroj s podporou vektorů


9. k-průměrové shlukování


10. Směsi Gaussovských rozdělení


11. Redukce dimenze dat, Boosting


12. Vícevrstvý perceptron


13. Zápočet

BISHOP, Christopher M. Pattern recognition and machine learning. Information science and statistics. New York: Springer, c2006. ISBN 978-0-387-31073-2.

ALPAYDIN, Ethem. Introduction to machine learning. Third edition. Adaptive computation and machine learning. Cambridge: The MIT Press, [2014]. ISBN 978-0-262-02818-9.