Büyük dil modellerine yönelik jailbreak saldirilarina karşi çok modelli çok ajanli sistemler ile savunma

Büyük Dil Modellerinin (LLM'ler) jailbreak (hapisten kaçış) gibi saldırılara karşı dayanıklılığı, özellikle hassas alanlarda güvenli bir şekilde kullanılmaları açısından kritik önem taşımaktadır. Bu saldırılar, LLM'lerin esnekliğini kullanarak güvenlik protokollerini aşmakta ve zararlı, yanıltıcı veya yetkisiz çıktılar üretmektedir. Mevcut tek ajanlı ve statik savunma mekanizmaları, dinamik ve gelişen jailbreak açıklarını ele almakta genellikle yetersiz kalmaktadır. Bu çalışma, LLM'lere yönelik jailbreak saldırılarına karşı savunma amacıyla tasarlanmış Çok Modelli Çok Ajanlı (MAMAD) bir savunma sistemi önermektedir. Önerilen mimari, farklı LLM'lerin birbirinden farklı güçlü yönlerini kullanan özelleşmiş ajanları kullanır. Özelleşmiş ajanlar girdi analizi, niyet analizi ve çıktı analizi yaparak ortak karar almaktadır. Alınan kararın sonucuna göre girdiler zararlı ise elimine edilir. Sistem, snowball saldırıları, kodlanmış metin saldırıları ve rol yapma teknikleri gibi çeşitli saldırı vektörlerine karşı tespit doğruluğunda önemli iyileştirmeler sağlamaktadır. Değerlendirme sonuçları, MAMAD sisteminin %94 tespit doğruluğuna ulaştığını ve LLM'lerin yanı sıra tek modelle çalışan çok ajanlı sistemleri geride bıraktığını göstermektedir. Ayrıca, bu çalışma LLM'ler ile çok ajanlı savunma mimarileri arasında hesaplama gücü ve gecikme maliyetleri ile sistem verimliliği arasındaki dengeyi de araştırmaktadır. Bulgular, çok ajanlı sistemlerin LLM uygulamalarının güvenliğini ve güvenilirliğini artırdığını gösterirken, minimal yalancı pozitif oranları ve yüksek ölçeklenebilirlik sağladığını ortaya koymaktadır.