Yapay öğrenme sınıflandırıcı algoritmalarında veriye dayalı keşif saldırılarının tespiti

Günümüzde internet siteleri, kullanıcı ihtiyaçlarını karşılamak ve hayatlarını kolaylaştırmak amacıyla oldukça akıllı hale gelmiştir. Öyle ki artık internet sitelerinin arka planında yapay zeka ve makine öğrenmesi işlemleri yapabilen sistemler çalıştırılmaya başlanmıştır. Şu an makine öğrenimi ile sınıflandırma yapabilen internet sunucuları, kullanıcılara hizmet verebilmektedir. Bu sistemler tasarlandıklarında herhangi bir güvenlik endişesi yoktu ve güvenlik konusu düşünülmeden geliştirildiler. Bu nedenle bu sistemler saldırılara açıktır. Fakat günümüzde siber saldırıları göz ardı etmek imkansızdır. Bu çalışmada sınıflandırma sisteminin zaafiyetlerini görebilmek adına sisteme bir saldırgan gibi ataklar düzenleyerek sistem hakkında bilgi keşfi yaparak öncelikle kısıtlı bir miktar veri elde edildi. Daha sonra elde edilen veriyi gradyan iniş metodu ile eğittiğimiz sistemimizde daha geniş bir sahte veri kümesi haline getirerek sisteme saldırmak üzere hazırlandı. Saldırı veri kümesi ile sınıflandırma sistemine ataklar yapılarak sonuçlar elde edildi. Elde edilen sonuçlar gerçek sonuçlar ile karşılaştırıldığında, yapılan saldırılar neticesinde sistemin yanlış tarafa yönelmesini ve sınıflandırma başarımının düşüşe geçmesi sağlandı.