Performance Comparisons of Model Selection Criteria: AIC, BIC, ICOMP and Wold’s for PLSR

Authors : Özlem GÜRÜNLÜ ALMA

Pages : 15-34

View : 16 | Download : 7

Publication Date : 2013-12-13

Article Type : Research Paper

Abstract :Kısmi en küçük kareler regresyonu (KEKKR), çoklu bağlantının olduğu durumlarda, yanıt değişkeni Y NxM  ile açıklayıcı değişkenler X NxK  arasında modelleme yapabilen istatistiksel bir yöntemdir. Kısmi en küçük kareler bölümünde, yanıt değişkenini en iyi açıklayabilecek gizli (latent) değişkenlerin elde edilmesi için bazı model seçme kriterleri uygulanır. Gizli değişkenlerin seçiminde kullanılan genel yaklaşımlar Akaike bilgi kriteri (AIC) ve Wold’s R kriteridir. Bu çalışmada, gözlem sayısının açıklayıcı değişken sayısından fazla olduğu durumlarda, geleneksel yöntemler AIC ve Wold’s R’a ek olarak Bayes bilgi kriteri (BIC) ve Bilgi karmaşıklık kriteri de (ICOMP) KEKKR için model seçme kriterleri olarak incelenmiştir. AIC, BIC, ICOMP ve Wold’s R model seçme kriterlerinin performansları gerçek veri örneği ve benzetim çalışması yoluyla karşılaştırılmıştır. Benzetim çalışması sonuçları, farklı örneklem büyüklükleri, farklı sayıda açıklayıcı değişken ve yanıt değişkeninin olduğu durumlarda elde edilmiştir. Yapılan benzetim çalışması sonuçları BIC ve ICOMP model seçme kriterlerinin KEKKR modelleri için, gizli değişkenin seçiminde diğer model seçme kriterlerinden (AICveWold’s R) çok daha etkili olduklarını ve daha doğru sayıda gizli değişken seçimi yaptıklarını göstermiştir.
Keywords : AIC, BIC ve ICOMP bilgi kriterleri, K çapraz doğrulama, Kısmi en küçük kareler regresyonu, Model seçimi, Wolds R kriteri