Vizualizace průběhu trénování neuronové sítě
Loading...
Date
Authors
ORCID
Advisor
Referee
Mark
A
Journal Title
Journal ISSN
Volume Title
Publisher
Vysoké učení technické v Brně. Fakulta informačních technologií
Abstract
Tato práce se zabývá studiem průběhu trénování modelu neuronové sítě. Cílem je zobrazit a zkoumat trénovací proces modelu neuronové sítě. Pro tyto účely jsem zvolila implementaci v jazyce Python. Implementace úspěšně replikuje vizualizaci průběhu trénování pommocí lineární interpolace, identifikaci robustních a ambient vrstev a zobrazení plochy, vytvořené účelovou funkcí okolo natrénovaného modelu. V této práci je navržena a představena metoda zobrazovaní průběhu trénování pomocí kvadratické interpolace parametrů. Výsledek práce je znázorněn grafy a diskuzí nad dopady změn parametrů modelu na jeho trénování.
This work studies a neural network model during its training. The aim of this thesis is to visualize the training of the model and to examine the training. To achieve this goal I choose to implement a set of tools in Python language. The implementation successfully reproduces the linear path experiment, the identification of robust and ambient layers and the visualization of the loss surface. In addition the quadratic path experiment is presented in this thesis as novel method for analyzing the neural network training progress visualization.
This work studies a neural network model during its training. The aim of this thesis is to visualize the training of the model and to examine the training. To achieve this goal I choose to implement a set of tools in Python language. The implementation successfully reproduces the linear path experiment, the identification of robust and ambient layers and the visualization of the loss surface. In addition the quadratic path experiment is presented in this thesis as novel method for analyzing the neural network training progress visualization.
Description
Citation
NĚMCOVÁ, S. Vizualizace průběhu trénování neuronové sítě [online]. Brno: Vysoké učení technické v Brně. Fakulta informačních technologií. 2021.
Document type
Document version
Date of access to the full text
Language of document
en
Study field
Informační technologie
Comittee
doc. Ing. František Zbořil, Ph.D. (předseda)
doc. Mgr. Adam Rogalewicz, Ph.D. (místopředseda)
Ing. Michal Hradiš, Ph.D. (člen)
Ing. Lukáš Kekely, Ph.D. (člen)
Ing. Vladimír Veselý, Ph.D. (člen)
Date of acceptance
2021-06-15
Defence
Studentka nejprve prezentovala výsledky, kterých dosáhla v rámci své práce. Komise se poté seznámila s hodnocením vedoucího a posudkem oponenta práce. Studentka následně odpověděla na otázky oponenta a na další otázky přítomných. Komise se na základě posudku oponenta, hodnocení vedoucího, přednesené prezentace a odpovědí studentky na položené otázky rozhodla práci hodnotit stupněm A. Otázky u obhajoby: Limitations of the quadratic path approach Why Lagrange's interpolation polynomial is used over other quadratic interpolation techniques ? How this method can be extended ? Co přesně interpolujete? Proč si např. neuložíte více stavů sítě?
Result of defence
práce byla úspěšně obhájena
Document licence
Standardní licenční smlouva - přístup k plnému textu bez omezení