Evrişimli sinir ağları için regresyon temelli hiper parametre optimizasyonu

Makine Öğrenmesi problemlerinde modelin performansını etkileyen, ayarlanabilir parametreler olan hiper parametrelerin kullanıcı tarafından tayin edilmesi beklenir. Fakat modelin performansını, eğitim ve test başarısını etkileyen bu hiper parametrelerin seçimini kullanıcıya bırakmak geniş seçim uzayının olduğu ortamlarda büyük bir risktir. Bu duruma karşı hiper parametre optimizasyonu için geliştirilen pek çok yöntem vardır. Kimisi zaman, kimisi de doğruluk ölçütlerinde avantajlı durumda iken her veri kümesine ya da probleme göre farklı yöntemler kullanmak gerekebilir. Ayrıca iyi sonuçlar verdiği bilinen yöntemler ücretli çözümler sunması sebebiyle de tercih edilemeyebilir. Bu çalışmada zaman ve doğruluk açısından ön planda olabilecek, farklı veri kümelerinde de kabul görebilecek sonuçlar veren bir hiper parametre optimizasyon yöntemi geliştirilmiştir. Yalnızca makine öğrenmesi problemleri ile çalışan araştırmacılar için değil optimize edilmesi gereken parametrelere sahip tüm problem çözücüler için kullanılabilir bir yöntem olması amaçlanmıştır. Geliştirilen bu yöntem, kabul görmüş rastgele arama ve Bayesian optimizasyon adlı iki farklı yöntem ile karşılaştırılmış olup ayrıca CIFAR-10, FASHIONMNIST ve MNIST adlı 3 farklı veri kümesi kullanılarak test edilmiştir. Rastgele arama ve Bayesian optimizasyonu karşısında avantajlı durumda olduğu sonuçlar elde edilmiştir.