Oddělení strojového učení

Oddělení strojového učení

Mise

Základním úkolem oddělení strojového učení je výzkum teoretických základů algoritmů strojového učení a souvisejících biologicky inspirovaných optimalizačních algoritmů a podpora jejich využívání v širokém spektru aplikací založených zejména na separaci dat a predikci časových řad v oblasti vědy, inženýrství a ostatní společenské praxe.

Oblast našeho výzkumu

Strojové učení je podoblast počítačových věd, která se zabývá výzkumem systémů, které se učí pouze na základě znalosti dat. Tyto systémy jsou v současné době základem aplikací umělé inteligence v různorodých oborech vědy, průmyslu, zdravotnictví a sociologie. Rozmach aplikací umělé inteligence založené na metodách strojového učení, který je patrný v poslední době(1), je umožněn zejména dvěma aspekty. Jednak masivní dostupností dat popisujících studované procesy, která souvisí s rozšířením digitálního snímání informací pro jejich následné zpracování, jednak významným pokrokem ve výkonu výpočetních prostředků a jejich masivní paralelizací. Tyto dvě skutečnosti umožnily využití metod umělé inteligence v širokých oblastech lidské činnosti a současný vzrůst výpočetního výkonu způsobil, že v některých netriviálních aplikacích umělá inteligence využívající metod strojového učení mnohonásobně předčí lidské schopnosti (jako příklad lze uvést hru šachy či go).

Mnoho aplikací strojového učení je založeno na využití výpočetních struktur označovaných jako hluboké neuronové sítě, jejich variantách a dále na optimalizačních distribuovaných metodách typu genetické algoritmy. I přes nesporný praktický úspěch tohoto přístupu, teoretické základy těchto metod nejsou dostatečně prozkoumány. Tato skutečnost omezuje další možnosti rozvoje aplikací těchto metod na dnes převažující empirický přístup, který postrádá efektivitu danou exaktním přístupem založeným na hlubokém poznání principů, na jejichž základě zmiňované metody pracují.

Členové oddělení strojového učení se zaměřují na studium teoretických vlastností metod strojového učení, zejména na studium vlastností hlubokých neuronových sítí (deep neural networks) optimalizovaných učením s učitelem (supervised learning), dále pak na různé varianty a návrhy těchto modelů a na souvisejíci jevy, mimo jiné rychlost konvergence učení, statistická spolehlivost naučených sítí, robustnost vůči odlehlým pozorováním či matoucím vzorům a další.

Vize

Dlouhodobým cílem oddělení strojového učení je hluboké a široké pochopení principů strojového učení a využití těchto znalostí pro návrh efektivnějších metod v aplikacích založených na strojovém učení.

S ohledem na indikace, že vyšší úrovně lidské inteligence jsou realizovány obdobnými neurálními strukturami jako schopnosti kongitivní, očekáváme, že pochopení principů strojového učení současně přispěje k vytvoření nových teoretických oblastí informatiky, které tyto vyšší úrovně lidské inteligence podchytí.

Vybrané publikace

On convergence of kernel density estimates in particle filtering, 2016, D. Coufal

On locally most powerful sequential rank tests, 2017, J. Kalina

Implicitly Weighted Methods in Robust Image Analysis, 2012, J. Kalina

Human-Inspired Eigenmovement Concept Provides Coupling-Free Sensorimotor Control in Humanoid Robot, 2017, A. V. Alexandrov, V. Lippi, T. Mergner, A. A. Frolov, G. Hettich and D. Húsek

Comparison of Seven Methods for Boolean Factor Analysis and Their Evaluation by Information Gain, 2015, A. A. Frolov, D. Húsek, P. Y. Polyakov

Probabilistic lower bounds for approximation by shallow perceptron networks, 2017, V. Kůrková, M. Sanguineti

Constructive lower bounds on model complexity of shallow perceptron networks, 2017, V. Kůrková

Measures of ruleset quality for general rules extraction methods, 2015, M. Holeňa

Using Copulas in Data Mining Based on the Observational Calculus, 2015, M. Holeňa, L. Bajer, M. Ščavnický

Evolution Strategies for Deep Neural Network Models Design, 2017, M. Vidnerová, R. Neruda

Semináře

Oddělení organizuje seminář HORA INFORMATICAE, vedený J. Wiedermannem a V. Kůrkovou. M. Holeňa pořádá Seminář strojového učení a modelování na MFF UK.

Témata pro disertační a diplomové práce

Odhady počtu vzorů v PAC modelu pro nekonzistentní metody separace.

Analýza možností data-minningu pomocí univalentních neuronových sítí a zobrazení.

Aktuální projekty

  • Metaučení pro extrakci pravidel s numerickými konsekventy, No. GA17-01251S
  • Výzkumná infrastruktura pro experimenty ve Fermilab, No. LM2015068
  • Automated Knowledge and Plan Modeling for Autonomous Robots, No. P103-15-19877S
  • Modelová složitost neuronových, radiálních a jádrových sítí, No. P202-15-18108S

Ocenění

  • Čestná oborová medaile B. Bolzana za zásluhy v matematických vědách, AV ČR, 2010 (V. Kůrková)
  • Cena za nejlepší příspěvek, BIOSTEC/BIOINFORMATICS Conference, Rome, Italy, 2016 (J. Kalina, J. Hlinka)
  • Cena za nejlepší příspěvek, ITAT, 2017, Slovensko, (P. Vidnerová, R. Neruda)
  • Outstanding paper award at the conference EANN 2016 (V. Kůrková)
  • Prémie Otto Wichterleho pro mladé vědecké pracovníky v AV ČR, 2012 (J. Kalina)
  • Famelab Olympics v Dublinu, zlatá medaile, 2012 (J. Kalina)
  • Cena za nejlepší publikaci v oblasti biomedicínského inženýrství a lékařské informatiky, 2013 (J. Kalina)

Výuka, účast v grémiích, ostatní

  • Účast v redakčních radách časopisů: Neural Networks, Elsevier (od 2009); Neural Processing Letters, Springer (od 1995); IEEE Transactions of Neural Networks (2008-2009); hostující editor speciálního vydání Neural Networks 23(4), 2010, and Neurocomputing 96, 2012.
  • Účast ve vědeckých radách: prezident European Neural Network Society, od 2007; Poradní výbor SIREN (Societa Italiana Reti Neuronali, od 2009; Poradní výbor ICANNGA (2001-2015); Řídící výbor COST Actions IntelliCIS (2009-2013); EuNetAir (2012-2016);
  • Zvané plenární přednášky na konferencích: ICANN 2016, Španělsko; WCIDM 2014, Slovensko; MENDEL 2013, ČR; CINTI 2012, Maďarsko; ICAFS 2010, CR; IPDDM 2010, Rakousko; IP:MS 2010, Turecko; WIRN 2009, Itálie
  • Výukové přednášky na konferencích: EANN 2015, Řecko; EANN 2011, Řecko; ICANNGA 2007, Polsko
  • Patent č. 306533: Hardwarová implementace neuronové sítě s přepínacími jednotkami (F. Hakl)

Mediální odkazy vztahující se k AI a strojovému učení(1)

Členové oddělení

Vedoucí oddělení: Ing. František Hakl, CSc.

Sekretářka: Ing. Iveta Kubíková