Deep learning

Bc. Lukáš Daubner

Bakalářská práce

Anotace:

Deep learning je nový a v dnešní době velmi populární větev strojového učení. Deep learning znamená zejména vývojový stupeň umělých neuronových sítí. Tato práce se věnuje deep learningu právě z jejich pohledu. Popisuje v první řadě nejzákladnější principy klasických, tedy mělkých, neurnonových sítí. Dále a především se věnuje hlubokým variantám neuronových sítí a to konkrétně Hlubokým belief sítím a Skládaným autokodérům. Také popisuje jejich stavební kameny, tedy Omezené Boltzmannovy stroje a Autokodéry. Věnuje se také volbám nastavení neuronových sítí. Tyto teoretické poznatky dále ověřuje na třech různých datových sadách pro klasifikaci: obrázků číslic MNIST, zemského povrchu z pixelů LANDSAT 5 TM a mluvených písmen ISOLET. U těchto datasetů poskytuje srovnání klasických přístupu ke strojovému učení, mělkých a hlubokých neuronových sítích.

Abstract:

Deep learning is new and currently very popular branch in machine learning. Deep learning is considered as a next step in neural networks and this thesis follows that approach. In the first part it maps the most basic principles of shallow neural nets. In the second it covers its deep variants, namely Deep belief networks and Stacked autoencoders. It also covers the building blocks of those nets: Restricted Boltzmann machines and Autoencoders. In the third part, this thesis is discussing some of possible settings of neural nets. These theoretical insights are verified trough three datasets for classification of: images of numbers MNIST, pixels of surface images LANDSAT 5 TM and spoken letters ISOLET. These experiments are providing comparison of classic machine learning algorithms, shallow neural nets and deep neural nets.

Klíčová slova

deep learning, strojové učení, neuronové sítě, hluboké belief sítě, omezený boltzmannův stoj, autokodér, MNIST, LANDSAT 5 TM, ISOLET

Jazyk práce: čeština

Datum vytvoření / odevzdání či podání práce: 4. 1. 2016

Obhajoba závěrečné práce

• Obhajoba proběhla 12. 2. 2016
• Vedoucí: doc. RNDr. Lubomír Popelínský, Ph.D.
• Oponent: doc. RNDr. Tomáš Brázdil, Ph.D.

Masarykova univerzita

Fakulta informatiky

Bakalářský studijní program / obor:
Informatika / Umělá inteligence a zpracování přirozeného jazyka