Využití evolučních algoritmů při učení neuronových sítí
Loading...
Date
Authors
ORCID
Advisor
Referee
Mark
B
Journal Title
Journal ISSN
Volume Title
Publisher
Vysoké učení technické v Brně. Fakulta informačních technologií
Abstract
Tato práce má za úkol nalézt a porovnat možnosti spolupráce evolučních algoritmů při učení neuronové sítě a také jejich následné porovnání s klasickým přístupem učení pomocí back-propagation. Toto porovnání je demonstrováno na hluboké dopředné síti, která je využita při klasifikačních úlohách. Optimalizace probíhá na úrovni hledání optimálních hodnot vah a biasů sítě při zachování její stejné topologie. Jako evoluční algoritmy pro tuto optimalizaci jsou vybrány tři metody. Jedná se o genetický algoritmus, diferenciální evoluci a optimalizaci hejnem částic. Demonstrační program je implementován v programovacím jazyce Python3 a to bez použití knihoven pro strojové učení.
Main point of this thesis is to find and compare posibilities of cooperation between evolutionary algorithms and neural network learning and their comparison with classical learning technique called backpropagation. This comparison is demonstrated with deep feed-forward neural network which is used for classification tasks. The process of optimalization is via search of optimal values of weights and biases within neural network with fixed topology. We chose three evolutionary approaches. Genetic algorithm, differential evolution and particle swarm optimization algorithm. These three approaches are also compared between each other. The demonstrating program is implemented in Python3 programming language without usage of any third parties libraries focused on deep learning.
Main point of this thesis is to find and compare posibilities of cooperation between evolutionary algorithms and neural network learning and their comparison with classical learning technique called backpropagation. This comparison is demonstrated with deep feed-forward neural network which is used for classification tasks. The process of optimalization is via search of optimal values of weights and biases within neural network with fixed topology. We chose three evolutionary approaches. Genetic algorithm, differential evolution and particle swarm optimization algorithm. These three approaches are also compared between each other. The demonstrating program is implemented in Python3 programming language without usage of any third parties libraries focused on deep learning.
Description
Keywords
neuroevoluce, evoluční algoritmy, genetický algoritmus, diferenciální evoluce, optimalizace hejnem částic, neuronová síť, hluboké učení, strojové učení, Python, neuroevolution, evolutionary algorithms, genetic algorithm, differential evolution, particle swarm optimization, neural network, deep learning, machine learning, Python
Citation
VOSOL, D. Využití evolučních algoritmů při učení neuronových sítí [online]. Brno: Vysoké učení technické v Brně. Fakulta informačních technologií. 2019.
Document type
Document version
Date of access to the full text
Language of document
cs
Study field
Informační technologie
Comittee
doc. RNDr. Pavel Smrž, Ph.D. (předseda)
doc. Dr. Ing. Otto Fučík (místopředseda)
doc. Mgr. Lukáš Holík, Ph.D. (člen)
Ing. Igor Szőke, Ph.D. (člen)
Ing. Vladimír Veselý, Ph.D. (člen)
Date of acceptance
2019-06-10
Defence
Student nejprve prezentoval výsledky, kterých dosáhl v rámci své práce. Komise se poté seznámila s hodnocením vedoucího a posudkem oponenta práce. Student následně odpověděl na otázky přítomných. Komise se na základě posudku oponenta, hodnocení vedoucího, přednesené prezentace a odpovědí studenta na položené otázky rozhodla práci hodnotit stupněm B. Otázky u obhajoby: Jaká byla motivace vaší práce?
Result of defence
práce byla úspěšně obhájena
Document licence
Standardní licenční smlouva - přístup k plnému textu bez omezení