Aşırı öğrenme makinelerinin seyrek geri çatma algoritmaları ile optimizasyonu

Son zamanlarda, Aşırı Öğrenme Makinaları (AÖM) makina öğrenmesi alanında ilgi duyulan bir konu haline gelmiştir. AÖM, Tek Gizli Katmanlı İleri Beslemeli (TGKİB) ağlar için önerilmiş yeni bir öğrenme algoritmasıdır. AÖM öğrenme algoritması iyi genelleme performansı, aşırı hızlı öğrenme yeteneği ve düşük işlem karmaşıklığı gibi avantajlara sahiptir. Bu avantajlarının yanı sıra, AÖM'nin bazı eksiklikleri vardır. Öncelikle, AÖM çıkış ağırlıklarının hesaplanmasında en küçük kareler minimizasyonu kullanıldığından dolayı ezberleme problemi ile karşı karşıyadır. Bir diğer sakınca ise AÖM'nin başarımının gizli katman nöron sayısına bağlı olmasıdır. Ayrıca gizli katman nöron sayısı eğitim veri setinden büyük olması durumunda en küçük kareler çözümünden dolayı AÖM'de tekillik problemi ortaya çıkabilir ve çözüm kararsız bir davranış göstermektedir. Bu tez çalışmasında, AÖM çıkış ağırlıkları seyrek kabul edilerek, çıkış ağırlıklarının Yinelemeli Fırsatçı Takip (YFT) algoritmaları kullanılarak hesaplatılması amaçlanmıştır. Araştırılan YFT algoritmaları aşağıda belirtilmiştir; 1.Yinelemeli Sert Eşikleme (YSE), Dikgen Eşleme Takip (DET), Sıkıştırmalı Örneklemeli Eşleme Takip (SÖET) ve Kademeli Dikgen Eşleme Takip (KDET) 2.İleri Geri Takip (İGT) 3.Dikgen En küçük Kareler (DEK). Önerilen YFT tabanlı AÖM yöntemleri regresyon (grup 1), sınıflandırma (grup 2) ve zaman serisi (grup 3) problemlerine uygulanmıştır. Deneysel çalışmalar, önerilen yöntemlerin tekillik ve ezberleme problemlerine karşı dayanıklı bir AÖM mimarisi elde edildiğini göstermektedir. Ayrıca deneysel sonuçlar en uygun gizli katman nöron sayısı elde edildiğini göstermektedir. Anahtar Kelimeler: Tek-gizli katmanlı ileri beslemeli ağlar, aşırı öğrenme makinaları, seyreklik, seyrek geri çatma, yinelemeli fırsatçı takip algoritmaları.