Lineer regresyonda küçültme yöntemlerinin karşılaştırılması

İstatistiksel araştırmalar ve analizlerde veri kümesine dayalı olarak elde edilen regresyon modelleri çok önemli rol oynar. Bu modellerden biride çoklu doğrusal regresyon modelidir. Ancak çoklu doğrusal regresyon analizinde, iç ilişki problemi ortaya çıktığında en küçük kareler tahmin edicileri yansız olmasına rağmen büyük varyanslı olarak elde edilirler. Bu durum yapılan istatistiksel analizin doğruluğunu olumsuz yönde etkilemektedir. İstatistiksel araştırmalarda küçültme yöntemlerinin birinin kullanılması ile tahmin edicilerin varyansı küçültülerek iç ilişki problem ortadan kalkabilmektedir. Bu tez çalışmasında iç ilişki problemi ele alınarak, iç ilişkinin giderilmesi için Ridge Regresyon, LASSO, Elastik Net ve Liu gibi küçültme yöntemleri incelenmiştir.Uygulama çalışması olarak da, iç ilişkinin saptandığı veri üzerinden adı geçen küçültme yöntemlerinin hata kareler toplamı, hata kareler ortalamaları ve belirleme katsayıları karşılaştırılmıştır. Bu karşılaştırmalarda yukarıdaki küçültme yöntemlerinin tamamı en küçük karelere göre daha iyi sonuçlar vermekle birlikte, LASSO hem en küçük karelere göre hem de ele alınan bütün küçültme yöntemlerine göre daha iyi sonuçlar vermiştir. Sonuç olarak iç ilişki problemin varlığı durumunda en küçük kareler yöntemi yerine küçültme yöntemlerinin, özelliklede LASSO nun kullanılmasının daha doğru sonuçlar verdiği kararına varılmıştır.