Využití autoenkodérů pro tvorbu hlubokých sítí
Loading...
Date
Authors
ORCID
Advisor
Referee
Mark
A
Journal Title
Journal ISSN
Volume Title
Publisher
Vysoké učení technické v Brně. Fakulta informačních technologií
Abstract
Tato práce se zabývá předtrénováním hlubokých sítí autoenkodéry. V prvních kapitolách jsou popsány prvky neuronové sítě. Další kapitoly jsou věnovány trénování hlubokých sítí a výsledkům, ve kterých je porovnáváno předtrénování autoenkodéry a algoritmus Backpropagation. Z výsledků experimentů na dvou datasetech vyplývá, že předtrénování autoenkodéry má kladný přínos, zvláště v kombinaci s Finetuningem.
This thesis deals with pretraining deep networks by autoencoders. Components of neural networks are described in first chapters. Rest of chapters aims to deep network trainings and to results of experiments where autoencoder pretraining and Backpropagation algorithm are compared. Results showed positive contribution of autoencoder pretraining, mainly in combination with Finetuning.
This thesis deals with pretraining deep networks by autoencoders. Components of neural networks are described in first chapters. Rest of chapters aims to deep network trainings and to results of experiments where autoencoder pretraining and Backpropagation algorithm are compared. Results showed positive contribution of autoencoder pretraining, mainly in combination with Finetuning.
Description
Citation
LOHNISKÝ, M. Využití autoenkodérů pro tvorbu hlubokých sítí [online]. Brno: Vysoké učení technické v Brně. Fakulta informačních technologií. 2012.
Document type
Document version
Date of access to the full text
Language of document
cs
Study field
Informační technologie
Comittee
prof. Ing. Martin Drahanský, Ph.D. (předseda)
doc. RNDr. Pavel Smrž, Ph.D. (místopředseda)
doc. Ing. Jan Kořenek, Ph.D. (člen)
Ing. Petr Matoušek, Ph.D., M.A. (člen)
doc. Mgr. Adam Rogalewicz, Ph.D. (člen)
Date of acceptance
2012-06-13
Defence
Student nejprve prezentoval výsledky, kterých dosáhl v rámci své práce. Komise se pak seznámila s hodnocením vedoucího a posudkem oponenta práce. Student následně odpověděl na otázky oponenta a na další otázky přítomných. Komise se na základě posudku oponenta, hodnocení vedoucího, přednesené prezentace a odpovědí studenta na položené otázky rozhodla práci hodnotit stupněm " A ". Otázky u obhajoby: Q1: Bylo by rozumné použít více než 2 skryté vrstvy? Q2: Proč backpropagation algoritmus selže při přímé aplikaci na sítě s velkým počtem skrytých vrstev? Q3: Považujete trénovací množinu Caltech101 s 1515 vzorky za dostatečně velkou pro trénování neuronové sítě?
Result of defence
práce byla úspěšně obhájena
Document licence
Standardní licenční smlouva - přístup k plnému textu bez omezení