Stokastik ve deterministik hareketlerin optimizasyon süreçlerindeki etkileri

Authors : Ebubekir SEYYARER, Ali KARCİ, Abdullah ATEŞ

Pages : 949-966

Doi:10.17341/gazimmfd.887976

View : 25 | Download : 8

Publication Date : 2022-02-28

Article Type : Research Paper

Abstract :Bu çalışmada Çok Değişkenli Lineer Regresyon (Multivariate Linear Regression-MLR) modeli kullanarak iris veri setini temsil eden lineer bir fonksiyon elde edilmektedir. Bu fonksiyondaki katsayıların optimum değerlerini bulmak için Stokastik Dik İniş (Stochastic Gradient Descent-SGD), Momentum, Adagrad, RMSProp, Adadelta ve Adam optimizasyon algoritmaları kullanılmaktadır. MLR’lerde genelde sabit veya rastgele bir değer ile başlatılan bu katsayılar için başlangıç popülasyonuna sahip bir başlatma yöntemi önerilmektedir. Kullanılan MLR modelinde amaç fonksiyonu olarak Mutlak Hata Değeri (Integral of the Absolute Value of the Error-IAE), Zaman Ağırlıklı Mutlak Hata Değeri (Integral of the Time-Weighted Absolute Error-ITAE), Ortalama Karesel Hata Değeri (Mean Square of the Error-MSE) ve Karesel Hata Değeri (Integral of the Square Error-ISE) hata fonksiyonlarından yararlanılmaktadır. Öncelikle alt ve üst sınırlar arasında önerilen bir deterministik ve klasik stokastik başlatma yöntemleri ile uygulamaların başlangıç popülasyonları oluşturulmaktadır. Stokastik olarak başlatılan uygulama literatürdeki gibi birçok defa çalıştırılıp ortalama değerleri alınmaktadır. Buna karşılık deterministik olarak başlatılan uygulama ise bir kez çalıştırılmaktadır. Deterministik ve stokastik başlatma yöntemlerinin sonuçlarına göre iki uygulamada da elde edilen katsayıların ve adım sayılarının birbirine yakın olduğu gözlemlenmektedir. Buna rağmen deterministik olarak başlatılan uygulamada çok yüksek zamansal kazanım elde edilmektedir. İki uygulama arasında elde edilen sonuçlar karşılaştırılarak analiz edilmektedir. Karşılaştırmalar sonucunda Adadelta optimizasyon algoritması ve MSE amaç fonksiyonuyla elde edilen lineer model en kısa zamanda sonuca ulaşmaktadır.
Keywords : Deterministik başlangıç popülasyonları, stokastik başlangıç popülasyonları, çok değişkenli lineer regresyon, optimizasyon algoritmaları, iris veri seti