İstatistiksel ve makine öğrenme ile derin sinir ağlarında hiper-parametre seçimi için melez yaklaşım

Literatürde, derin sinir ağlarında çok önemli bir problem hiper-parametre seçimidir. Veri analizinde kullanılacak hiper-parametrelerin seçimi için denenebilecek çok fazla kombinasyon vardır. Özellikle büyük veri söz konusu olduğunda, olası tüm kombinasyonların denenmesi mümkün değildir. Literatürde belirtilen seçimin yapılabilmesi için genel kurallar bulunmamasına rağmen, önerilen ve kullanılan bazı yaklaşımlar mevcuttur. Buna karşın, YSA veri odaklı bir yöntem olduğu için belli bir veride kullanılan bir yaklaşımı başka bir veri için kullanmak çoğu zaman mümkün ve uygulanabilir olmamaktadır. Aladağ 2019 yılındaki çalışmasında YSA'nın en önemli problemlerinden biri olan mimari seçim probleminin çözümü için istatistiksel ve makine öğrenmesine dayanan bir melez yaklaşım önermiştir. Belirtilen yaklaşımda, YSA'nın mimarileri ile öngörü performansı arasındaki ilişkinin yapısı basit doğrusal regresyon modeli kullanılarak analiz edilebilmektedir. Bu sayede, mimari seçimi istatistiksel olarak gerçekleştirilmekte ve mimaride kullanılan nöron sayıları ve öngörü performansı arasındaki ilişki yapısı da ortaya konulabilmektedir. Aladağ tarafından önerilen yaklaşım, çok önemli iki avantaj sağlamaktadır. Öncelikle analiz edilen veriye özgü olarak mimari seçimi istatistiksel ve sistematik olarak yapılabilmektedir. İkinci olarak, mimari modeli ile performans arasındaki ilişki yapısı modeli elde edildiğinden, birçok mimarinin performansı çözümleme yapılmadan bile bilenebilmektedir. Gerçekleştirilen tez ii çalışmasında da, Aladağ 2019 tarafından YSA mimari seçimi için önerilen yaklaşım, derin sinir ağlarında hiper-parametre seçimi için genişletilmiştir ve ayrıca hem doğrusal regresyon analizi hem de doğrusal olmayan regresyon analizi uygulanarak kullanılmıştır. Belirtilen melez yaklaşım diyabet hastalığı verisine uygulanmıştır. Diyabet verisi uygulaması sonucunda elde edilen bulgulara göre genişletilen melez yaklaşımın oldukça iyi sonuçlar ürettiği gözlemlenmiştir.