Rolling look-ahead approaches for optimal classification trees

Son zamanlardaki ikili sınıflandırma karar ağacı ̈oğrenim en iyileme formülasyonları, büyük derinliklerde veya büyük verisetlerinde ̈olçeklenebilirlikle ilgili sorunlar yaşamaktadır. Uzun saatler süren ̧calışma sürelerine rağmen, en iyi değeri kanıtlamakta sorun yaşamaktadırlar. Ayrıca, eğitim sürecinde amaç fonksiyonu olarak yanlış sınıflandırma metriği sonucu, test setinde yanlı bir sonuç ̧cıkabilmekte, iyi sınıflandırma yapmakta sorun yaşamaktadır. Bu ̧calışmada, ̈onceki ̧calışmaların veri boyutuna bağlı olan ve takip eden değişkenlerinden kurtulup, CART gibi algoritmalardan da esinlenerek, 2 derinlikli ağaçlar için yenilikçi bir formülasyon sunuyoruz. Algoritma açgözlü yaklaşımlar ve global optimizasyon yöntemleri arasında kalan spektrumdan faydalanıyor. Daha büyük derinlikli ağaçlar için ise, 2 seviye ileri görerek öğrenen hibrit bir algoritma geliştirdik. Bu algoritma, yaklaşık 50 bin satırlı, 135 ̈ozellikli bir veride 8 derinlikli bir ağacı 4 dakikadan daha kısa sürede çözebilir ve gelişime açıktır. Ayrıca, mevcutta bulunan en iyi global optimizasyon ve CART yaklaşımını skor sayısıyla geçebilirken, global optimizasyon modellerine göre test setinde %16.8'e kadar bir artış, CART'a göre ise %11.9'a kadar bir artış gözlemlenmiştir. Gözlemler 19 veri seti, 7 farklı derinlik ve 10 katlamalı veri grubunda test edilmiştir. v