Optimalizace hlubokých neuronových sítí
No Thumbnail Available
Date
Authors
Bažík, Martin
ORCID
Advisor
Sekanina, Lukáš
Referee
Wiglasz, Michal
Mark
A
Journal Title
Journal ISSN
Volume Title
Publisher
Vysoké učení technické v Brně. Fakulta informačních technologií
Abstract
Cieľom tejto bakalárskej práce bolo navrhnúť, implementovať a analyzovať rôzne optimalizácie vybraných hlbokých neurónových sietí. Ich účelom bolo zlepšenie sledovaných parametrov neurónovej siete. Implementované optimalizácie spočívajú v práci s reprezentáciou dát využívaných operáciami neurónovej siete a hľadaní najlepšej kombinácie jej hyper-parametrov. Jednotlivé optimalizácie boli prevedené na konvolučných neurónových sieťach založených na architektúre LeNet-5 pri využití dátových sád MNIST, CIFAR-10 a SVHN. Implementácia a následná optimalizácia neurónových sietí boli prevedené využitím knižnice Tiny-dnn v programovacom jazyku C++.
The goal of this thesis was to design, implement and analyze various optimizations of deep neural networks, in order to improve the observed parameters. The optimizations are based on modification of the data representation used by neural network operations and searching for the best combination of its hyper-parameters. The convolutional neural networks used for these optimizations were built on LeNet-5 architecture and trained on MNIST, CIFAR-10, and SVHN datasets. The neural networks and their optimizations were implemented within Tiny-dnn library using C++ programming language.
The goal of this thesis was to design, implement and analyze various optimizations of deep neural networks, in order to improve the observed parameters. The optimizations are based on modification of the data representation used by neural network operations and searching for the best combination of its hyper-parameters. The convolutional neural networks used for these optimizations were built on LeNet-5 architecture and trained on MNIST, CIFAR-10, and SVHN datasets. The neural networks and their optimizations were implemented within Tiny-dnn library using C++ programming language.
Description
Citation
BAŽÍK, M. Optimalizace hlubokých neuronových sítí [online]. Brno: Vysoké učení technické v Brně. Fakulta informačních technologií. 2018.
Document type
Document version
Date of access to the full text
Language of document
cs
Study field
Informační technologie
Comittee
prof. Ing. Lukáš Sekanina, Ph.D. (předseda)
prof. Ing. Jan M. Honzík, CSc. (místopředseda)
Ing. Radek Kočí, Ph.D. (člen)
Ing. Zbyněk Křivka, Ph.D. (člen)
Ing. Igor Szőke, Ph.D. (člen)
Date of acceptance
2018-06-12
Defence
Student nejprve prezentoval výsledky, kterých dosáhl v rámci své práce. Komise se poté seznámila s hodnocením vedoucího a posudkem oponenta práce. Student následně odpověděl na otázky oponenta a na další otázky přítomných. Komise se na základě posudku oponenta, hodnocení vedoucího, přednesené prezentace a odpovědí studenta na položené otázky rozhodla práci hodnotit stupněm A. Otázky u obhajoby: V části 6.1.3 uvádíte, že použitá chybová funkce může způsobit předčasné ukončení učení sítě. Zkoušel jste zde použít jinou chybovou funkci, např. MSE, kterou jste použil v předchozích experimentech?
Result of defence
práce byla úspěšně obhájena
Document licence
Standardní licenční smlouva - přístup k plnému textu bez omezení