Kolorektal kanser tanısı için güvenli çok dilli LLM tabanlı diyalog sistemi: Guardrails ve Monte Carlo risk puanlamasının entegrasyonu

Büyük dil modelleri (LLM'ler), özellikle sağlık alanında klinik destek, hasta eğitimi ve erken tarama rehberliği gibi kritik görevlerde giderek daha fazla kullanılmaktadır. Ancak bu sistemlerin, izinsiz kemoterapi dozu artırımı ya da intihar düşüncesini teşvik eden zararlı yanıtlar gibi güvenlik açıklarına sahip olabileceği, ciddi etik ve güvenlik risklerini de beraberinde getirmektedir. Bu nedenle, büyük dil modellerinin güvenliğini sağlayacak sağlam ve çok katmanlı bir çerçeve geliştirmek büyük önem taşımaktadır. Bu tezde, özellikle kolorektal kanser senaryolarında kullanılmak üzere, gömülü bellek tabanlı bir yapı ile entegre edilen, çok katmanlı koruma mekanizmalarına sahip bir güvenlik çerçevesi tasarlanmıştır. Sistem, anahtar kelime filtreleme, regex desen eşleştirme ve bulanık ifade algılama tekniklerini Monte Carlo tabanlı olasılıksal risk puanlama modülü ile birleştirmektedir. Açık kaynaklı üç model (OpenAssistant, Phi-3 Mini ve Mistral-7B) farklı koruma (tekli–çoklu) ve dil (tek dilli–çok dilli) yapılandırmaları altında test edilmiştir. Elde edilen sonuçlar, çok dilli ve çok katmanlı koruma yapılandırmalarının erken tehlike tespiti, düşük false pozitif oranı ve dengeli kümülatif risk profilleri açısından en etkili yaklaşımı sunduğunu ortaya koymuştur. Buna karşılık, tek katmanlı sistemlerin düzensiz ve kontrolsüz risk artışlarına yol açtığı gözlenmiştir. Monte Carlo mekanizması, yüksek riskli kullanıcı girişlerine karşı erken uyarılar üretmede başarılı olmuştur. Sonuç olarak, geliştirilen bu güvenlik çerçevesi, büyük dil modellerinin özellikle sağlık gibi yüksek hassasiyet gerektiren alanlarda güvenli ve sorumlu biçimde kullanılabilmesini sağlamak adına güçlü bir altyapı sunmaktadır. Tezin bulguları, LLM tabanlı sistemlerin gerçek dünyada güvenli dağıtımı için standartlaştırılmış çok katmanlı güvenlik protokollerinin gerekliliğini desteklemektedir. Anahtar Kelimeler: Kolorektal kanser, Büyük dil modelleri (LLM), Gömme tabanlı bellek, Koruma bariyerleri, Monte Carlo risk puanlaması, Sağlık AI Güvenliği.