Neuronové sítě a genetické algoritmy

Abstract

Tato práce se zabývá evolučními a genetickými algoritmy a jejich možnou spoluprací při tvorbě a učení neuronových sítí. V teoretické části jsou popsány genetické algoritmy a neuronové sítě. Také jsou popsány možnosti jejich kombinace a je proveden přehled existujících algoritmů. V praktické části je popsána implementace algoritmu NEAT. Dále jsou s algoritmem NEAT provedeny experimenty a na základě jejich výsledků je navrhnuta kombinace algoritmu s diferenciální evolucí. Výsledky kombinace algoritmů jsou zhodnoceny. V závěru je algoritmus NEAT porovnán s klasickými učícími metodami backpropagation (pro dopředné neuronové sítě) a backpropagation through time (pro rekurentní neuronové sítě) a to z hledika rychlosti učení, kvality odezvy sítě i jejich závislosti na velikosti sítě.

This thesis deals with evolutionary and genetic algorithms and the possible ways of combining them. The theoretical part of the thesis describes genetic algorithms and neural networks. In addition, the possible combinations and existing algorithms are presented. The practical part of this thesis describes the implementation of the algorithm NEAT and the experiments performed. A combination with differential evolution is proposed and tested. Lastly, NEAT is compared to the algorithms backpropagation (for feed-forward neural networks) and backpropagation through time (for recurrent neural networks), which are used for learning neural networks. Comparison is aimed at learning speed, network response quality and their dependence on network size.