Implementace neuronové sítě bez operace násobení
but.committee | prof. Ing. Tomáš Vojnar, Ph.D. (předseda) prof. RNDr. Alexandr Meduna, CSc. (místopředseda) doc. Mgr. Jaroslav Hrdina, Ph.D. (člen) Ing. Martin Hrubý, Ph.D. (člen) RNDr. Marek Rychlý, Ph.D. (člen) doc. Ing. František Zbořil, Ph.D. (člen) | cs |
but.defence | Student nejprve prezentoval výsledky, kterých dosáhl v rámci své práce. Komise se poté seznámila s hodnocením vedoucího a posudkem oponenta práce. Student následně odpověděl na otázky oponenta a na další otázky přítomných. Komise se na základě posudku oponenta, hodnocení vedoucího, přednesené prezentace a odpovědí studenta na položené otázky rozhodla práci hodnotit stupněm B. Otázky u obhajoby: Any suggestions on how these binarized NN models can be scaled to large-scale datasets ? What were the glitches in the current implementation which lead to degradation in performance compared to full-precision models (From results in Chaper-6) ? | cs |
but.jazyk | čeština (Czech) | |
but.program | Informační technologie | cs |
but.result | práce byla úspěšně obhájena | cs |
dc.contributor.advisor | Szőke, Igor | cs |
dc.contributor.author | Slouka, Lukáš | cs |
dc.contributor.referee | Baskar, Murali Karthick | cs |
dc.date.accessioned | 2018-10-21T20:55:17Z | |
dc.date.available | 2018-10-21T20:55:17Z | |
dc.date.created | 2018 | cs |
dc.description.abstract | Predmetom tejto diplomovej práce je akcelerácia neurónových sietí s cieľom redukcie počtu operácií násobenia reálnych čísiel. Teoretická časť tejto práce sleduje súčasné trendy a metódy využívané v oblasti akcelerácie neurónových sietí. Najväčší dôraz je kladený na binarizačné techniky, ktoré umožňujú nahradiť násobenia logickými operátormi. Teoretický základ je zavedený do praxe hneď dvomi spôsobmi. Prvým z nich je implementácia kritických binárnych operátorov spustiteľných na GPU vo frameworku TensorFlow a ich rýchlostný benchmark. Druhým je aplikácia týchto operátorov v jednoduchom klasifikátore obrázkov. Výsledky sú rozhodne povzbudivé. Implementované operátory dosiahli 2,5-násobné zrýchlenie v porovnaní s vysoko optimalizovanými cuBLAS operátormi. Posledná kapitola práce sleduje úspešnosť dosiahnutú binarizačnými modelmi. | cs |
dc.description.abstract | The subject of this thesis is neural network acceleration with the goal of reducing the number of floating point multiplications. The theoretical part of the thesis surveys current trends and methods used in the field of neural network acceleration. However, the focus is on the binarization techniques which allow replacing multiplications with logical operators. The theoretical base is put into practice in two ways. First is the GPU implementation of crucial binary operators in the Tensorflow framework with a performance benchmark. Second is an application of these operators in simple image classifier. Results are certainly encouraging. Implemented operators achieve speed-up by a factor of 2.5 when compared to highly optimized cuBLAS operators. The last chapter compares accuracies achieved by binarized models and their full-precision counterparts on various architectures. | en |
dc.description.mark | B | cs |
dc.identifier.citation | SLOUKA, L. Implementace neuronové sítě bez operace násobení [online]. Brno: Vysoké učení technické v Brně. Fakulta informačních technologií. 2018. | cs |
dc.identifier.other | 114558 | cs |
dc.identifier.uri | http://hdl.handle.net/11012/85000 | |
dc.language.iso | cs | cs |
dc.publisher | Vysoké učení technické v Brně. Fakulta informačních technologií | cs |
dc.rights | Standardní licenční smlouva - přístup k plnému textu bez omezení | cs |
dc.subject | dopredná neurónová sieť | cs |
dc.subject | konvolučná neurónová sieť | cs |
dc.subject | binarizácia | cs |
dc.subject | kvantizácia | cs |
dc.subject | akcelerácia neurónovej siete | cs |
dc.subject | XNOR-sieť | cs |
dc.subject | BinaryConnect | cs |
dc.subject | BinaryNet | cs |
dc.subject | AlexNet | cs |
dc.subject | ImageNet | cs |
dc.subject | MNIST | cs |
dc.subject | CIFAR-10 | cs |
dc.subject | SVHN | cs |
dc.subject | TensorFlow | cs |
dc.subject | násobenie matíc | cs |
dc.subject | CUDA | cs |
dc.subject | GPU | cs |
dc.subject | feedforward network | en |
dc.subject | convolutional neural network | en |
dc.subject | binarization | en |
dc.subject | quantization | en |
dc.subject | neural network acceleration | en |
dc.subject | XNOR-network | en |
dc.subject | BinaryConnect | en |
dc.subject | BinaryNet | en |
dc.subject | AlexNet | en |
dc.subject | ImageNet | en |
dc.subject | MNIST | en |
dc.subject | CIFAR-10 | en |
dc.subject | SVHN | en |
dc.subject | TensorFlow | en |
dc.subject | matrix multiplication | en |
dc.subject | CUDA | en |
dc.subject | GPU | en |
dc.title | Implementace neuronové sítě bez operace násobení | cs |
dc.title.alternative | Neural Network Implementation without Multiplication | en |
dc.type | Text | cs |
dc.type.driver | masterThesis | en |
dc.type.evskp | diplomová práce | cs |
dcterms.dateAccepted | 2018-06-15 | cs |
dcterms.modified | 2020-05-10-16:12:49 | cs |
eprints.affiliatedInstitution.faculty | Fakulta informačních technologií | cs |
sync.item.dbid | 114558 | en |
sync.item.dbtype | ZP | en |
sync.item.insts | 2021.11.10 14:16:43 | en |
sync.item.modts | 2021.11.10 13:18:25 | en |
thesis.discipline | Matematické metody v informačních technologiích | cs |
thesis.grantor | Vysoké učení technické v Brně. Fakulta informačních technologií. Ústav počítačové grafiky a multimédií | cs |
thesis.level | Inženýrský | cs |
thesis.name | Ing. | cs |
Files
Original bundle
1 - 4 of 4
Loading...
- Name:
- final-thesis.pdf
- Size:
- 4.17 MB
- Format:
- Adobe Portable Document Format
- Description:
- final-thesis.pdf
Loading...
- Name:
- Posudek-Oponent prace-19117_o.pdf
- Size:
- 88.57 KB
- Format:
- Adobe Portable Document Format
- Description:
- Posudek-Oponent prace-19117_o.pdf
Loading...
- Name:
- Posudek-Vedouci prace-19117_v.pdf
- Size:
- 86.58 KB
- Format:
- Adobe Portable Document Format
- Description:
- Posudek-Vedouci prace-19117_v.pdf
Loading...
- Name:
- review_114558.html
- Size:
- 1.45 KB
- Format:
- Hypertext Markup Language
- Description:
- review_114558.html