Ağaç bazlı metod ile kategorik değişkenlerin sayısallaştırılması

Kategorik değişkenler çoğu datasette bulunur, genellikle yüksek kardinalite kategorik değişkenler olarak adlandırılır ve çok sayıda seviyeden oluşurlar. Çoğu makine öğrenme algoritması, kategorik değişkenleri numerik formata dönüştürmek için bir mekanizmaya sahip değildir, bu nedenle kategorik değişkenlerin kodlanmaları gereklidir. Kategorik değişkenlerin kodlanması, nominal değişkenlerin numerik formata çevrilmesi için kullanılan genel terimdir. Kategorik değişkenlerin kodlanması için birçok kodlama stratejisi mevcuttur ve bu stratejiler bu tezde incelenmektedir. Bu tez, yeni bir kodlama stratejisi olan kategorik bölünmüş kodlamayı ve var olan kodlama metodlarının analizini sunmaktadır. Kategorik bölünmüş kodlama, ağaç tabanlı bir algoritma aracılığıyla, kategorik değişkenler için vektör temsili olarak birincil ve yedek bölünmüş bilgileri kullanır; bu yöntem, bağımlı değişken bilgilerini kullanarak her kategorik değişken için ikili kolonlar üretir. Eksik değerler, karar ağacı algoritmasında izledikleri yola göre benzer kategoriler bir araya kümelenirken, yedek bölünmüş bilgiler kullanılarak doldurulur. Kategorik bölünmüş kodlama ve var olan kodlama metodları karşılaştırılmaktadır. Kategorik bölünmüş kodlama ve diğer kodlama yöntemlerinin performansı, regresyon, ikili ve çok sınıflı sınıflandırma ayarlarından veri kümeleri kullanılarak üç farklı makine öğrenme algoritması (genelleştirilmiş doğrusal modeller, rastgele orman ve xgboost) ile karşılaştırılmıştır. Kullanılan datasetler, deneylerin tekrarlanabilmesi amacıyla herkese açık hale getirilmiştir. Sonuç olarak, kategorik bölünmüş kodlama, mevcut kodlama stratejilerine kıyasla rekabetçi sonuçlar sağlar.