Aktivní učení s neuronovými sítěmi
Loading...
Date
Authors
ORCID
Advisor
Referee
Mark
B
Journal Title
Journal ISSN
Volume Title
Publisher
Vysoké učení technické v Brně. Fakulta informačních technologií
Abstract
Práce se věnuje problematice propojení aktivního učení a konvolučních neuronových sítí při rozpoznávání obrazu. Cílem je pozorovat chování vybraných strategií aktivního učení v širším spektru podmínek. Nejprve se v práci nachází teoretický úvod do problematiky aktivního učení, následně je věnován prostor motivaci a obtížím spojení aktivního učení s neuronovými sítěmi. Samotné chování vybraných strategií při kontinuálním učení je pak pozorováno pomocí několika experimentů, testujících závislost výkonu na obtížnosti datasetu, kvalitě trénovaného modelu, trénovacích epochách, velikosti přidávané sady vzorků, spolehlivosti anotátora a použití techniky pseudo-označování. Výsledky ukazují závislost kontinuálního aktivního učení na obtížnosti datasetu a počtu trénovacích iterací, dále pak odolnost strategií na rozumnou míru chybovosti anotátora. Benefity z pseudo-označování jsou úzce spjaty s dostatečnou kvalitou modelu. Konečně, tradiční strategie aktivního učení mohou v několika případech konkurovat strategiím šitým na míru pro konvoluční sítě.
The topic of this thesis is the combination of active learning strategies used in conjunction with deep convolutional networks in image recognition tasks. The goal is to observe the behaviour of selected active learning strategies in a wider array of conditions. The first section of the thesis is dedicated to the theory of active learning, followed by the motivation and challenges of combining them with convolutional neural networks. The goal of this thesis is achieved by a series of experiments, in which the behaviour of active learning strategies is tested for dependencies on the difficulty of the dataset, quality of the learning model, number of training epochs, the size of a batch of samples added in each iteration, the oracle's consistency and the usage of pseudo-labeling technique. The results show the dependency of continuous active learning on the number of training epochs in each iteration and the difficulty of a given dataset. Chosen strategies also seem somewhat resistant to the oracle's faults. The benefits of using pseudo-labeling come hand in hand with the quality of the learning model. Finally, traditional active learning strategies have shown in some cases that they are capable of keeping the pace with modern, tailored strategies.
The topic of this thesis is the combination of active learning strategies used in conjunction with deep convolutional networks in image recognition tasks. The goal is to observe the behaviour of selected active learning strategies in a wider array of conditions. The first section of the thesis is dedicated to the theory of active learning, followed by the motivation and challenges of combining them with convolutional neural networks. The goal of this thesis is achieved by a series of experiments, in which the behaviour of active learning strategies is tested for dependencies on the difficulty of the dataset, quality of the learning model, number of training epochs, the size of a batch of samples added in each iteration, the oracle's consistency and the usage of pseudo-labeling technique. The results show the dependency of continuous active learning on the number of training epochs in each iteration and the difficulty of a given dataset. Chosen strategies also seem somewhat resistant to the oracle's faults. The benefits of using pseudo-labeling come hand in hand with the quality of the learning model. Finally, traditional active learning strategies have shown in some cases that they are capable of keeping the pace with modern, tailored strategies.
Description
Citation
BENEŠ, Š. Aktivní učení s neuronovými sítěmi [online]. Brno: Vysoké učení technické v Brně. Fakulta informačních technologií. 2018.
Document type
Document version
Date of access to the full text
Language of document
cs
Study field
Informační technologie
Comittee
prof. Ing. Adam Herout, Ph.D. (předseda)
doc. Ing. František Zbořil, CSc. (místopředseda)
Ing. Vladimír Bartík, Ph.D. (člen)
RNDr. Vlasta Krupková, CSc. (člen)
Ing. Josef Strnadel, Ph.D. (člen)
Date of acceptance
2018-06-11
Defence
Student nejprve prezentoval výsledky, kterých dosáhl v rámci své práce. Komise se poté seznámila s hodnocením vedoucího a posudkem oponenta práce. Student následně odpověděl na otázky oponenta a na další otázky přítomných. Komise se na základě posudku oponenta, hodnocení vedoucího, přednesené prezentace a odpovědí studenta na položené otázky rozhodla práci hodnotit stupněm B. Otázky u obhajoby: Jaké konkrétní klasifikační metody jsou tradiční a které moderní?
Result of defence
práce byla úspěšně obhájena
Document licence
Standardní licenční smlouva - přístup k plnému textu bez omezení