Moderní metody vývoje a modifikace evolučních technik

Ing. Michal Pluháček

Doctoral thesis

Modern methods of development and modification of evolutionary computational techniques

Abstract:

Hlavním cílem této práce je ukázat, že je možné vylepšit výkonnost evolucních výpocetních technik pro spojitou optimalizaci s jednou výstupní velicinou využitím ruzných metod modifikace. Je ukázáno, že s využitím relativne jednoduchým modifikací je možné zlepšit výkonnost algoritmu Rojení cástic (Particle Swarm Optimization - PSO) jak pro umelé testovací funkce, tak pro reálné problémy. Nejdríve je vysvetlena duležitost optimalizace a základní principy evolucní optimalizace. Dále jsou predstaveny moderní trendy v návrhu modifikací evolucních výpocetních technik spolu s oblastmi využití. Vysvetleno je též zamerení práce na algoritmus Rojení cástic. Dále jsou v práci popsány základy tzv. ?Swarm Intelligence? ci inteligence hejna a významní zástupci této trídy evolucních technik. Algoritmus Rojení cástic použitý v této práci je popsán detailne. Popsány jsou také využité testovací funkce. Jelikož se významná cást tohoto výzkumu zabývá užitím generátoru pseudonáhodných císel založených na chaotických systémech, je teoretická cást uzavrena detailním popisem užitých chaotických systému vcetne rovnic a grafu. V experimentální cásti jsou prezentovány výsledky dlouhodobého výzkumu. Nejdríve je detailne popsán algoritmus PSO využívající chaos. Zpusob implementace chaotických sekvencí jako generátoru pseudo-náhodných císel je vysvetlen a výkonnost a chování PSO algoritmu s temito generátory je detailne prozkoumána. Dále je prezentován ladící experiment. První cást je uzavrena ukázkovou aplikací chaosem obohaceného PSO algoritmu na modelový prípad návrhu PID regulátoru. V další sekci je prezentován tzv. multi-chaotický prístup pro PSO. Jedná se o velmi slibnou metodu vyvinutou behem tohoto výzkumu. V tomto je prístupu je v rámci jednoho behu algoritmu využito více chaotických generátoru pseudonáhodných císel. Tímto zpusobem je možné vylepšit výkonnost algoritmu a upravit chování roje požadovaným zpusobem. Je uvedeno i využití tohoto prístupu pro jinou evolucní výpocetní techniku ? algoritmus Diferenciální evoluce. Behem výzkumu chaotického PSO byla detailne studována vnitrní dynamika algoritmu PSO. Jako reakce na získané poznatky bylo navrženo a otestováno nekolik modifikací algoritmu PSO. Jako první je popsána tzv. ?Multiple-choice? strategie pro PSO. V tomto návrhu je vytvoren heterogenní roj a jednotlivé role jsou rozdeleny náhodne. Jako druhý príklad úspešné modifikace PSO algoritmu je uveden nove navržený tzv. shromaždovací (Gathering) algoritmus. V tomto algoritmu je využit tzv. lavinový efekt ci efekt snehové koule ke zduraznení slibných regionu pomocí shromáždení množství cástic. Tímto prístupem je možné vyhnout se problémum typickým pro algoritmus využívající pevný bod pro atrakci cástic. Výkonnost všech popsaných algoritmu byla testována na typicky využívaných testovacích funkcích a výsledky jsou srovnány s obycejným PSO ci zástupci nejnovejších algoritmu Výsledky výzkumu byly prubežne publikovány a presentovány na mezinárodních konferencích a byly velmi dobre prijaty. Výsledky získané behem tohoto výzkumu umožnuji tvrdit, že výkonnost evolucních výpocetních metod muže být vylepšena využitím ruzných moderních metod, jako jsou napríklad chaotické sekvence ci modifikace vnitrních principu algoritmu.

Abstract:

The main aim of this work is to show that it is possible to improve the performance of evolutionary computational techniques for single-objective continuous optimization problems by various modification methods. It is shown that by relatively simple modifications it is possible to improve the performance of Particle swam optimization algorithm on both artificial benchmark functions and real-world problems. Firstly it is introduced the importance of optimization and the basic principles of evolutionary optimization. Further the modern trends in modification of evolutionary computational techniques are introduced alongside with the areas of application for these methods. Also the thesis focus on Swarm intelligence representative Particle swarm optimization algorithm is explained. Further the basics of swarm intelligence are described alongside with notable representatives of this category of evolutionary techniques. The Particle Swarm optimization algorithm that has been used in this work is described in detail. Used benchmarks are also described. As a significant part of the research dealt with using of pseudo-random number generators based on chaotic systems, the theoretical part concludes with detailed description of used chaotic systems including equations and plots. In the experimental part the results of long-term research are presented. Firstly the Chaos PSO is described in detail. The implementation of chaotic sequences as pseudo-random number generators is explained and the performance and behavior of PSO algorithm driven by chaotic pseudo-random number generator is investigated in detail. Further a tuning experiment is presented. The first part concludes with an example application of the chaos driven PSO algorithm on a model task of PID controller design. In the next section it is presented the multi-chaotic approach for chaos driven PSO - promising method developed during this work. In this approach multiple chaotic pseudo-random number generators are used within one run of the algorithm and enhance its performance by changing the behavior of the swarm in a desirable way. It is also shown the utilization of this approach for another evolutionary computational technique ? the Differential evolution algorithm. During the research of chaos driven PSO the inner dynamics of the PSO algorithm were studied in detail. As a reaction several modifications of PSO algorithm were proposed and tested. As first the Multiple-choice strategy for PSO is described. In this design a heterogeneous swarm is created and the roles are randomly assigned. As a second example of successful PSO modification the newly developed Gathering algorithm is presented. In the Gathering algorithm the phenomenon known in literature as ?snowball effect? is used to highlight the promising regions by gathering of multiple particles and avoid the problems common for algorithm with static attraction points. The performance of all above mentioned algorithms was tested using common benchmark functions and the results are compared either with canonical PSO algorithm or state-of-art representatives. The research results were continuously published and presented in international conferences with great reception. Based on results obtained during this research is possible to claim that the performance of evolutionary computation techniques can be improved by various modern methods such as chaotic sequence implementation or inner principles modifications.

Keywords

Evoluční výpočty, Optimalizace, Inteligence hejna, Rojení částic, Chaos

Language used: Czech

Date on which the thesis was submitted / produced: 25. 11. 2015

Accessible from:: 25. 11. 2015

Thesis defence

• Date of defence: 21. 1. 2016

Tomas Bata University in Zlín

Faculty of Applied Informatics

Doctoral programme / field:
Engineering Informatics / Engineering Informatics