Paralelní trénování neuronových sítí pro rozpoznávání řeči
| but.committee | prof. Dr. Ing. Pavel Zemčík (předseda) prof. RNDr. Milan Češka, CSc. (místopředseda) Ing. Vladimír Bartík, Ph.D. (člen) doc. Ing. Peter Chudý, Ph.D., MBA (člen) doc. Ing. Stanislav Racek, CSc. (člen) doc. RNDr. Pavel Smrž, Ph.D. (člen) | cs |
| but.defence | Student nejprve prezentoval výsledky, kterých dosáhl v rámci své práce. Komise se pak seznámila s hodnocením vedoucího a posudkem oponenta práce. Student následně odpověděl na otázky oponenta a na další otázky přítomných. Komise se na základě posudku oponenta, hodnocení vedoucího, přednesené prezentace a odpovědí studenta na položené otázky rozhodla práci hodnotit stupněm A. Otázky u obhajoby: V CUDA implementaci jste přesunuli část parametrizace z CPU na GPU s tím, že dvě CPU vlákna představují úzké hrdlo výpočtu. Kdybychom použili výkonnější CPU s více jádry, mělo by smysl vrátit parametrizaci zpět na CPU? Představuje konkrétní typ grafické karty specifické omezení na topologii trénované sítě? Je možné vyhodnotit využití potenciálu GPU v závislosti na úloze? Pokud bychom měli k dispozici mnohojádrový počítač s jedinou výkonnou grafickou kartou, bylo by možné tuto kartu sdílet více paralelními tréninky bez ztráty výkonnosti? | cs |
| but.jazyk | čeština (Czech) | |
| but.program | Informační technologie | cs |
| but.result | práce byla úspěšně obhájena | cs |
| dc.contributor.advisor | Burget, Lukáš | cs |
| dc.contributor.author | Veselý, Karel | cs |
| dc.contributor.referee | Fousek, Petr | cs |
| dc.date.accessioned | 2019-04-03T22:27:22Z | |
| dc.date.available | 2019-04-03T22:27:22Z | |
| dc.date.created | 2010 | cs |
| dc.description.abstract | Tato diplomová práce je zaměřena na paralelizaci trénování neuronových sítí pro rozpoznávání řeči. V rámci této diplomové práce byly implementovány a porovnány dvě strategie paralelizace. První strategií je paralelizace dat s využitím rozdělení trénování do několika POSIX vláken. Druhou strategií je paralelizace uzlů s využitím platformy pro obecné výpočty na grafických kartách CUDA. V případě první strategie bylo dosaženo 4x urychlení, v případě využití platformy CUDA bylo dosaženo téměř 10x urychlení. Pro trénování byl použit algoritmus Stochastic Gradient Descent se zpětným šířením chyb. Po krátkém úvodu následuje druhá kapitola práce, která je motivační a zasazuje probém do kontextu rozpoznávání řeči. Třetí kapitola práce je teoretická a diskutuje neuronové sítě a metodu trénování. Následující kapitoly jsou zaměřené na návrh a implementaci a popisují iterativní vývoj tohoto projektu. Poslední obsáhlá kapitola popisuje testovací systém a uvádí výsledky provedených experimentů. V závěru jsou krátce zhodnoceny dosažené výsledky a nastíněna perspektiva dalšího vývoje projektu. | cs |
| dc.description.abstract | This thesis deals with different parallelizations of training procedure for artificial neural networks. The networks are trained as phoneme-state acoustic descriptors for speech recognition. Two effective parallelization strategies were implemented and compared. The first strategy is data parallelization, where the training is split into several POSIX threads. The second strategy is node parallelization, which uses CUDA framework for general purpose computing on modern graphic cards. The first strategy showed a 4x speed-up, while using the second strategy we observed nearly 10x speed-up. The Stochastic Gradient Descent algorithm with error backpropagation was used for the training. After a short introduction, the second chapter of this thesis shows the motivation and introduces the neural networks into the context of speech recognition. The third chapter is theoretical, the anatomy of a neural network and the used training method are discussed. The following chapters are focused on the design and implementation of the project, while the phases of the iterative development are described. The last extensive chapter describes the setup of the testing system and reports the experimental results. Finally, the obtained results are concluded and the possible extensions of the project are proposed. | en |
| dc.description.mark | A | cs |
| dc.identifier.citation | VESELÝ, K. Paralelní trénování neuronových sítí pro rozpoznávání řeči [online]. Brno: Vysoké učení technické v Brně. Fakulta informačních technologií. 2010. | cs |
| dc.identifier.other | 35005 | cs |
| dc.identifier.uri | http://hdl.handle.net/11012/54327 | |
| dc.language.iso | cs | cs |
| dc.publisher | Vysoké učení technické v Brně. Fakulta informačních technologií | cs |
| dc.rights | Standardní licenční smlouva - přístup k plnému textu bez omezení | cs |
| dc.subject | neuronová síť | cs |
| dc.subject | akustický model | cs |
| dc.subject | rozpoznávání řeči | cs |
| dc.subject | rychlé trénování | cs |
| dc.subject | paralelizace dat | cs |
| dc.subject | POSIX vlákna | cs |
| dc.subject | paralelizace uzlů | cs |
| dc.subject | CUDA | cs |
| dc.subject | GPGPU | cs |
| dc.subject | neural network | en |
| dc.subject | acoustic model | en |
| dc.subject | speech recognition | en |
| dc.subject | fast training | en |
| dc.subject | data parallelization | en |
| dc.subject | POSIX threads | en |
| dc.subject | node parallelization | en |
| dc.subject | CUDA | en |
| dc.subject | GPGPU | en |
| dc.title | Paralelní trénování neuronových sítí pro rozpoznávání řeči | cs |
| dc.title.alternative | Parallel Training of Neural Networks for Speech Recognition | en |
| dc.type | Text | cs |
| dc.type.driver | masterThesis | en |
| dc.type.evskp | diplomová práce | cs |
| dcterms.dateAccepted | 2010-06-24 | cs |
| dcterms.modified | 2020-05-09-23:42:19 | cs |
| eprints.affiliatedInstitution.faculty | Fakulta informačních technologií | cs |
| sync.item.dbid | 35005 | en |
| sync.item.dbtype | ZP | en |
| sync.item.insts | 2021.11.12 18:11:34 | en |
| sync.item.modts | 2021.11.12 17:08:42 | en |
| thesis.discipline | Počítačová grafika a multimédia | cs |
| thesis.grantor | Vysoké učení technické v Brně. Fakulta informačních technologií. Ústav počítačové grafiky a multimédií | cs |
| thesis.level | Inženýrský | cs |
| thesis.name | Ing. | cs |