Implementace neuronové sítě bez operace násobení

but.committeeprof. Ing. Tomáš Vojnar, Ph.D. (předseda) prof. RNDr. Alexandr Meduna, CSc. (místopředseda) doc. Mgr. Jaroslav Hrdina, Ph.D. (člen) Ing. Martin Hrubý, Ph.D. (člen) RNDr. Marek Rychlý, Ph.D. (člen) doc. Ing. František Zbořil, Ph.D. (člen)cs
but.defenceStudent nejprve prezentoval výsledky, kterých dosáhl v rámci své práce. Komise se poté seznámila s hodnocením vedoucího a posudkem oponenta práce. Student následně odpověděl na otázky oponenta a na další otázky přítomných. Komise se na základě posudku oponenta, hodnocení vedoucího, přednesené prezentace a odpovědí studenta na položené otázky rozhodla práci hodnotit stupněm B. Otázky u obhajoby:  Any suggestions on how these binarized NN models can be scaled to large-scale datasets ? What were the glitches in the current implementation which lead to degradation in performance compared to full-precision models (From results in Chaper-6) ?cs
but.jazykčeština (Czech)
but.programInformační technologiecs
but.resultpráce byla úspěšně obhájenacs
dc.contributor.advisorSzőke, Igorcs
dc.contributor.authorSlouka, Lukášcs
dc.contributor.refereeBaskar, Murali Karthickcs
dc.date.accessioned2018-10-21T20:55:17Z
dc.date.available2018-10-21T20:55:17Z
dc.date.created2018cs
dc.description.abstractPredmetom tejto diplomovej práce je akcelerácia neurónových sietí s cieľom redukcie počtu operácií násobenia reálnych čísiel. Teoretická časť tejto práce sleduje súčasné trendy a metódy využívané v oblasti akcelerácie neurónových sietí. Najväčší dôraz je kladený na binarizačné techniky, ktoré umožňujú nahradiť násobenia logickými operátormi. Teoretický základ je zavedený do praxe hneď dvomi spôsobmi. Prvým z nich je implementácia kritických binárnych operátorov spustiteľných na GPU vo frameworku TensorFlow a ich rýchlostný benchmark. Druhým je aplikácia týchto operátorov v jednoduchom klasifikátore obrázkov. Výsledky sú rozhodne povzbudivé. Implementované operátory dosiahli 2,5-násobné zrýchlenie v porovnaní s vysoko optimalizovanými cuBLAS operátormi. Posledná kapitola práce sleduje úspešnosť dosiahnutú binarizačnými modelmi.cs
dc.description.abstractThe subject of this thesis is neural network acceleration with the goal of reducing the number of floating point multiplications. The theoretical part of the thesis surveys current trends and methods used in the field of neural network acceleration. However, the focus is on the binarization techniques which allow replacing multiplications with logical operators. The theoretical base is put into practice in two ways. First is the GPU implementation of crucial binary operators in the Tensorflow framework with a performance benchmark. Second is an application of these operators in simple image classifier. Results are certainly encouraging. Implemented operators achieve speed-up by a factor of 2.5 when compared to highly optimized cuBLAS operators. The last chapter compares accuracies achieved by binarized models and their full-precision counterparts on various architectures.en
dc.description.markBcs
dc.identifier.citationSLOUKA, L. Implementace neuronové sítě bez operace násobení [online]. Brno: Vysoké učení technické v Brně. Fakulta informačních technologií. 2018.cs
dc.identifier.other114558cs
dc.identifier.urihttp://hdl.handle.net/11012/85000
dc.language.isocscs
dc.publisherVysoké učení technické v Brně. Fakulta informačních technologiícs
dc.rightsStandardní licenční smlouva - přístup k plnému textu bez omezenícs
dc.subjectdopredná neurónová sieťcs
dc.subjectkonvolučná neurónová sieťcs
dc.subjectbinarizáciacs
dc.subjectkvantizáciacs
dc.subjectakcelerácia neurónovej sietecs
dc.subjectXNOR-sieťcs
dc.subjectBinaryConnectcs
dc.subjectBinaryNetcs
dc.subjectAlexNetcs
dc.subjectImageNetcs
dc.subjectMNISTcs
dc.subjectCIFAR-10cs
dc.subjectSVHNcs
dc.subjectTensorFlowcs
dc.subjectnásobenie matíccs
dc.subjectCUDAcs
dc.subjectGPUcs
dc.subjectfeedforward networken
dc.subjectconvolutional neural networken
dc.subjectbinarizationen
dc.subjectquantizationen
dc.subjectneural network accelerationen
dc.subjectXNOR-networken
dc.subjectBinaryConnecten
dc.subjectBinaryNeten
dc.subjectAlexNeten
dc.subjectImageNeten
dc.subjectMNISTen
dc.subjectCIFAR-10en
dc.subjectSVHNen
dc.subjectTensorFlowen
dc.subjectmatrix multiplicationen
dc.subjectCUDAen
dc.subjectGPUen
dc.titleImplementace neuronové sítě bez operace násobenícs
dc.title.alternativeNeural Network Implementation without Multiplicationen
dc.typeTextcs
dc.type.drivermasterThesisen
dc.type.evskpdiplomová prácecs
dcterms.dateAccepted2018-06-15cs
dcterms.modified2020-05-10-16:12:49cs
eprints.affiliatedInstitution.facultyFakulta informačních technologiícs
sync.item.dbid114558en
sync.item.dbtypeZPen
sync.item.insts2021.11.10 14:16:43en
sync.item.modts2021.11.10 13:18:25en
thesis.disciplineMatematické metody v informačních technologiíchcs
thesis.grantorVysoké učení technické v Brně. Fakulta informačních technologií. Ústav počítačové grafiky a multimédiícs
thesis.levelInženýrskýcs
thesis.nameIng.cs
Files
Original bundle
Now showing 1 - 4 of 4
Loading...
Thumbnail Image
Name:
final-thesis.pdf
Size:
4.17 MB
Format:
Adobe Portable Document Format
Description:
final-thesis.pdf
Loading...
Thumbnail Image
Name:
Posudek-Oponent prace-19117_o.pdf
Size:
88.57 KB
Format:
Adobe Portable Document Format
Description:
Posudek-Oponent prace-19117_o.pdf
Loading...
Thumbnail Image
Name:
Posudek-Vedouci prace-19117_v.pdf
Size:
86.58 KB
Format:
Adobe Portable Document Format
Description:
Posudek-Vedouci prace-19117_v.pdf
Loading...
Thumbnail Image
Name:
review_114558.html
Size:
1.45 KB
Format:
Hypertext Markup Language
Description:
review_114558.html
Collections