مقایسه الگوریتم‏های فراکاووشی در آموزش شبکه عصبی
پذیرفته شده برای پوستر XML
شناسه دیجیتال (DOI): 10.22631/ICCECONF.2017.16235.1427
نویسندگان
1تهران- بزرگراه زین الدین - دوراهی رهبر - وفادار شرقی - دانشکده هوافضا دانشگاه خواجه نصیر - خوابگاه دانش 2
2فوق دکترا دانشگاه خواجه نصیر طوسی
3دانشیار دانشگاه خواجه نصیر الدین طوسی
چکیده
امروزه استفاده از مدل‌های داده محور همچون شبکه‌های عصبی مصنوعی برای مدل‌سازی جریان بارش-رواناب رایج گشته است. یکی از موضوعات مهم در این مدل‌ها انتخاب روش آموزش شبکه است. روش رایج در آموزش شبکه های عصبی روش پس انتشار خطا است که با محدودیت‌هایی روبرو است. به همین منظور در این مقاله بکارگیری روش‌های فراکاووشی برای این موضوع بصورت مقایسه‌ای انجام گرفته است. برای این کار سه روش رایج فراکاووشی شامل الگوریتم ژنتیک ، الگوریتم هارمونی و الگوریتم ازدحام ذرات مورد استفاده قرار گرفته و بر اساس آنها با استفاده از زبان برنامه نویسی فرترن آموزش شبکه عصبی مدلسازی شده است. مدل بارش-رواناب شامل یک مدل شبیه‌ساز از نوع شبکه عصبی و یک مدل بهینه‌ساز بر اساس هریک از روش‌های فراکاووشی برای آموزش شبکه می باشد. برای ارزیابی و مقایسه روشها از داده‌های هیدرومتری ایستگاه هروی در حوضه آبریز لیقوان و همچنین از داده‌های بارش در این حوضه و حوضه‌های اطراف استفاده گردیده است. مقایسه نتایج نشان می‌دهد که روش‌های فراکاووشی عملکرد بهتری نسبت به روش پس انتشار خطا داشته اند. همچنین روش PSO در میان الگوریتم های فراکاووشی نتایج مطلوبتری داشته است.
کلیدواژه ها
موضوعات
 
Title
Comparison of Evolutionary Algorithms in Neural Network Training
Authors
mohamad reza tehran, Farzane Karami, Ali reza Borhani Darian
Abstract
Nowadays data-driven models such as artificial neural networks become more and more an essential part in rainfall-runoff modeling. One of the important issues in these models is training method. A data driven model is used to determine the relationship between a system’s inputs and outputs using a training data set that is representative of all the behavior found in the system. Backpropagation is a common method for training a neural network. This method calculates the error contribution of each neuron after a batch of data is processed. The gradient descent based algorithm is generally very slow because it requires small learning rates for stable learning. Moreover, gradient descent with backpropagation is not guaranteed to find the global minimum of the error function, but only a local minimum. In this paper, the neural network is trained with three evolutionary methods including Genetic Algorithm (GA), Harmony Search (HS) and Particle Swarm Optimization Algorithm (PSO). The hydrometric data of Heravi station in Lighvan watershed and also rainfall data in this basin and surrounding areas have been used to evaluate and compare the methods. Comparison of the results shows that evolutionary methods have a better performance than the back propagation method. The PSO method also shows better results among other the other method in this problem.
Keywords
Runoff forecasting, Artificial Neural Network, Genetic Algorithm, Harmony Search, Particle Swarm Optimization Algorithm