Gpu sunucular üzerinde çalışan derin öğrenme tabanlı dağıtık ve ölçeklenebilir gerçek zamanlı video analitik platformu

Bu doktora tezi, şehir güvenliği, endüstriyel otomasyon ve otonom sistemler gibi kritik alanlarda gerçek zamanlı video analitiği ihtiyacına yenilikçi bir çözüm sunmaktadır. Geleneksel yöntemlerin karşılaştığı ölçeklenebilirlik, düşük gecikme ve yüksek verimlilik zorluklarını aşmak amacıyla DiVA (Distributed Video Analytics) platformu geliştirilmiştir. Çok boyutlu ve karmaşık video analizi problemlerinde, tüm olası senaryoları kabul edilebilir bir sürede işlemek imkansız olduğundan, derin öğrenme tabanlı yaklaşımlar bu alanda önemli ilerlemeler sağlamaktadır. Literatürde yeni derin öğrenme modelleri ve analitik platformlar geliştirmeye yönelik çalışmalar devam etmekte olup, DiVA bu sürece alternatif ve etkin bir çözüm sunmaktadır. Tez çalışması, dağıtık ve ölçeklenebilir, derin öğrenme tabanlı gerçek zamanlı video analitik platformu DiVA'nın tasarımını, implementasyonunu ve performans değerlendirmesini sunar. DiVA, video akışlarının alınmasından derin öğrenme çıkarımına, karmaşık olay algılamaya ve otomatik ölçeklendirmeye kadar tüm aşamaları entegre bir şekilde yöneten bütünsel bir mimariye sahiptir. Platformun model-agnostik mimarisi, farklı derin öğrenme modellerinin (örn. YOLOv8s) kolayca entegre edilmesini ve değiştirilmesini sağlar. Bu esneklik, yapay zeka alanındaki hızlı gelişmelere adaptasyon açısından kritik bir avantajdır. DiVA'nın Kubernetes tabanlı ölçeklenebilir dağıtım yeteneği, artan video akışı yükleri altında dahi sistemin kararlılığını ve performansını koruyarak maliyet etkin bir operasyonel model sunar. DiVA platformunun çekirdeğindeki YOLOv8s modelinin performansı, farklı donanım (CPU ve GPU) ve yazılım konfigürasyonları altında detaylıca incelenmiştir. Bulgular, GPU'ların CPU'lara kıyasla çok daha yüksek kare hızı (FPS) ve düşük gecikme süreleri sunduğunu göstermiştir. NVIDIA Triton Inference Server ve DeepStream SDK gibi çıkarım çatılarının kullanımı, model sunumu süreçlerini optimize etmede önemli rol oynamıştır. TensorRT ile nicemleme (FP32, FP16, INT8) ve ONNX optimizasyonlarının performansa etkileri de değerlendirilmiştir. FP16 ve INT8 nicemleme teknikleri, kabul edilebilir doğruluk düşüşüyle önemli ölçüde daha yüksek çıkarım hızı sağlamıştır. DiVA'nın gerçek zamanlı video analitiği yetenekleri, RTSP video akışları üzerinde yapılan kapsamlı gecikme ve throughput analizleriyle doğrulanmıştır. Platform, sadece nesne tespiti yapmakla kalmayıp, Karmaşık Olay İşleme (CEP) yetenekleriyle daha yüksek seviyeli olayları algılayabilmektedir. CEP modülü, Temporal Buffer Manager ile entegre çalışarak nesne tespitleri arasındaki zamansal ve mekansal ilişkileri analiz eder ve belirli bir bölgede uzun süre kalma, yasaklı alana giriş veya şüpheli hareketlilik gibi karmaşık olayları otomatik olarak algılar. DiVA platformunun performansı ve yetenekleri, literatürdeki benzer sistemler ile karşılaştırılmıştır. Karşılaştırmalı analizler, DiVA'nın hem FPS hem de gecikme süreleri açısından rekabetçi bir performans sergilediğini ve artan video akışı yükleri altında ölçeklenebilirlik yeteneğinin diğer sistemlere kıyasla daha üstün olduğunu göstermiştir. Bu tez çalışması, gerçek zamanlı video analitiği alanına bütünsel bir platform sunarak, Kubernetes tabanlı Auto-Scaler algoritması ile dinamik yük değişimlerine karşı proaktif ve reaktif ölçeklendirme yetenekleri sağlayarak, Temporal Buffer Manager ve Karmaşık Olay İşleme (CEP) zincirinin entegrasyonu ile operasyonel zekayı artırarak ve modelden bağımsız tasarımı ile gelecekteki araştırmalar için esnek bir temel sunarak önemli bilimsel katkılar sağlamaktadır.