Algorithms for sparsity constrained principal component analysis

Klasik Temel Bileşen Analizi problemi, orijinal veri kümesinin boyutunu azaltırken varyansyonun çoğunluğunu koruyan bir lineer dönüşüm bulmayı hedefler. Ekstra seyreklik kısıtı, katsayıların çoğunu sıfıra sabitler ve lineer dönüşümün yorumlanmasını kolaylaştırır. Seyreklik kısıtlı Temel Bileşen Analizi için iki yaklaşım sunuyoruz. İlk olarak, çok yüksek boyutlu problemlerde kullanılabilecek hesaplamalı olarak ucuz sezgisel yöntemler geliştiriyoruz. Sezgisel yöntemlerimiz, doğrusal cebir yaklaşımları ve teorik garantilerle haklı çıkarılmıştır. Ayrıca, optimizasyon modeli için gerekli koşulları uygulayarak algoritmalarımızı güçlendiriyoruz. İkincisi, yarı belirli uzayda dışbükey olmayan log-toplam cezası kullanıyoruz. Bu fonksiyonun kardinalite fonksiyonuyla bağlantısını gösteriyor ve bu problemi çözmek için PCA Sparsified adlı bir dizi dışbükey optimizasyon problemini çözen bir algoritma geliştiriyoruz. Bu algoritmanın teorik özelliklerini analiz ediyor ve sayısal uygulaması hakkında yorum yapıyoruz. Ayrıca, önceki yaklaşımlarla birlikte kullanılabilecek bir ön işleme yöntemi türetiyoruz. Son olarak, yaptığımız sayısal deneylerden elde ettiğimiz bulgular, açgözlü algoritmalarımızın yüksek boyutlu problemlere kolayca ölçeklendiğini ve birçok problemde halihazırda mevcut olan algoritmalarla oldukça rekabetçi olduğunu hatta bazı durumlarda devamlı olarak geride bıraktığını göstermektedir. Ayrıca, PCA Sparsified'in açıklanan varyans açısından düşük boyutlu problemlerdeki etkinliğini gösteriyoruz. Hesapsal olarak pahalı olmasına rağmen, yerel ve açgözlü yaklaşımları sürekli olarak geride bırakmaktadır.