Využití aproximovaných aritmetických obvodů v neuronových sítí

but.committeedoc. RNDr. Jitka Kreslíková, CSc. (předseda) doc. Ing. Jaroslav Zendulka, CSc. (místopředseda) Ing. David Bařina, Ph.D. (člen) doc. RNDr. Milan Češka, Ph.D. (člen) doc. Ing. Peter Chudý, Ph.D., MBA (člen) Doc. Ing. Ivan Polášek, Ph.D. (člen)cs
but.defenceStudent nejprve prezentoval výsledky, kterých dosáhl v rámci své práce. Komise se poté seznámila s hodnocením vedoucího a posudkem oponenta práce. Student následně odpověděl na otázky oponenta a na další otázky přítomných. Komise se na základě posudku oponenta, hodnocení vedoucího, přednesené prezentace a odpovědí studenta na položené otázky rozhodla práci hodnotit stupněm B. Otázky u obhajoby: Jaké kroky je nutné provést pro aproximaci existujícího modelu neuronové sítě? Souvisí počet operací v aproximované konvoluční vrstvě s poklesem přesnosti celé sítě? (obrázky 5.7 a 5.8)cs
but.jazykangličtina (English)
but.programInformační technologiecs
but.resultpráce byla úspěšně obhájenacs
dc.contributor.advisorČeška, Milanen
dc.contributor.authorMatula, Tomášen
dc.contributor.refereeMrázek, Vojtěchen
dc.date.accessioned2020-06-23T08:24:13Z
dc.date.available2020-06-23T08:24:13Z
dc.date.created2019cs
dc.description.abstractTáto práca sa zaoberá využitím aproximovaných obvodov v neurónových sieťach so zámerom prínosu energetických úspor. K tejto téme už existujú štúdie, avšak väčšina z nich bola príliš špecifická k aplikácii alebo bola demonštrovaná v malom rozsahu. Pre dodatočné preskúmanie možností sme preto skrz netriviálne modifikácie open-source frameworku TensorFlow vytvorili platformu umožňujúcu simulovať používanie approximovaných obvodov na populárnych a robustných neurónových sieťach ako Inception alebo MobileNet. Bodom záujmu bolo nahradenie väčšiny výpočtovo náročných častí konvolučných neurónových sietí, ktorými sú konkrétne operácie násobenia v konvolučnách vrstvách. Experimentálne sme ukázali a porovnávali rozličné varianty a aj napriek tomu, že sme postupovali bez preučenia siete sa nám podarilo získať zaujímavé výsledky. Napríklad pri architektúre Inception v4 sme získali takmer 8% úspor, pričom nedošlo k žiadnemu poklesu presnosti. Táto úspora vie rozhodne nájsť uplatnenie v mobilných zariadeniach alebo pri veľkých neurónových sieťach s enormnými výpočtovými nárokmi.en
dc.description.abstractThis thesis is concerned with the utilization of approximate circuits in neural networks to provide energy savings. Various studies showing interesting results already exist, but most of them were very application specific or demonstrated on a small scale. To take this further, we created a platform by nontrivial modifications of robust open-source framework Tensorflow allowing us to simulate approximate computing on known state-of-the-art neural networks e.g. Inception or MobileNet. We focused only on replacement of most computationally expensive parts of convolutional neural networks, which are multiplication operations in convolution layers. We experimentally demonstrated and compared various setups and even that we proceeded without relearning, we were able to obtain promising results. For example, with zero accuracy loss on Inception v4 architecture, we gained almost 8% energy savings which could be valuable, especially in low-power devices or in large neural networks with enormous computational demands.cs
dc.description.markBcs
dc.identifier.citationMATULA, T. Využití aproximovaných aritmetických obvodů v neuronových sítí [online]. Brno: Vysoké učení technické v Brně. Fakulta informačních technologií. 2019.cs
dc.identifier.other122221cs
dc.identifier.urihttp://hdl.handle.net/11012/180437
dc.language.isoencs
dc.publisherVysoké učení technické v Brně. Fakulta informačních technologiícs
dc.rightsStandardní licenční smlouva - přístup k plnému textu bez omezenícs
dc.subjectumelá inteligenciaen
dc.subjectneurónové sieteen
dc.subjectaproximované obvodyen
dc.subjectqvantizáciaen
dc.subjectenergetická úsporaen
dc.subjectTensorFlowen
dc.subjectInceptionen
dc.subjectMobileNeten
dc.subjectartificial intelligencecs
dc.subjectneural networkscs
dc.subjectapproximate circuitscs
dc.subjectquantizationcs
dc.subjectenergy savingscs
dc.subjectTensorFlowcs
dc.subjectInceptioncs
dc.subjectMobileNetcs
dc.titleVyužití aproximovaných aritmetických obvodů v neuronových sítíen
dc.title.alternativeExploiting Approximate Arithmetic Circuits in Neural Networks Inferencecs
dc.typeTextcs
dc.type.drivermasterThesisen
dc.type.evskpdiplomová prácecs
dcterms.dateAccepted2019-06-17cs
dcterms.modified2019-07-08-13:31:34cs
eprints.affiliatedInstitution.facultyFakulta informačních technologiícs
sync.item.dbid122221en
sync.item.dbtypeZPen
sync.item.insts2021.11.22 23:09:54en
sync.item.modts2021.11.22 22:13:52en
thesis.disciplineManagement a informační technologiecs
thesis.grantorVysoké učení technické v Brně. Fakulta informačních technologií. Ústav inteligentních systémůcs
thesis.levelInženýrskýcs
thesis.nameIng.cs
Files
Original bundle
Now showing 1 - 4 of 4
Loading...
Thumbnail Image
Name:
final-thesis.pdf
Size:
1.45 MB
Format:
Adobe Portable Document Format
Description:
final-thesis.pdf
Loading...
Thumbnail Image
Name:
Posudek-Vedouci prace-22230_v.pdf
Size:
86.19 KB
Format:
Adobe Portable Document Format
Description:
Posudek-Vedouci prace-22230_v.pdf
Loading...
Thumbnail Image
Name:
Posudek-Oponent prace-22230_o.pdf
Size:
125.36 KB
Format:
Adobe Portable Document Format
Description:
Posudek-Oponent prace-22230_o.pdf
Loading...
Thumbnail Image
Name:
review_122221.html
Size:
1.47 KB
Format:
Hypertext Markup Language
Description:
review_122221.html
Collections