BÜYÜK DİL MODELLERİNİN GÜVENLİĞİ VE SALDIRILARINA KARŞI GÜVENLİK STRATEJİLERİNİN GELİŞTİRİLMESİ - GÖKÇİMEN, TUNAHAN (Fırat Üniveristesi, 2024)
Bu tez önerisinde, Büyük Dil Modellerinin (LLM'ler) güvenliğini artırmayı amaçlayan yenilikçi stratejiler geliştirilmesi amaçlanmaktadır. LLM'lerin karşılaştığı başlıca güvenlik sorunları arasında eğitim verilerindeki önyargıların modele yansıması ve enjeksiyon saldırıları yer almaktadır. Tez çalışmasında, bu sorunlara yönelik çözüm önerileri sunulacak olup ve halüsinasyon ile dahili veri ifşası gibi konulara odaklanarak LLM'lerin güvenliğini sağlanması hedeflemektedir. Önerilen yazılım sistemi, Kernel ve Retrieval-Augmented Generation (RAG) gibi gelişmiş güvenlik araçlarını kullanarak LLM'lerin güvenliğini artırmak için etkili bir yaklaşım sunmaktadır. Bu bağlamda, tez önerisi teorik ve pratik anlamda önemli katkılar sağlamayı amaçlamaktadır ve yapay zekâ etiği ve güvenliği alanında yeni araştırmalara ilham verebilecek potansiyele sahiptir.

This thesis proposal aims to develop innovative strategies aimed at improving the security of Large Language Models (LLMs). The main security issues faced by LLMs include biases in the training data being reflected in the model and injection attacks. In the thesis, solutions to these problems will be presented and it aims to ensure the security of LLMs by focusing on issues such as hallucination and internal data disclosure. The proposed software system offers an effective approach to enhance the security of LLMs by using advanced security tools such as Kernel and Retrieval-Augmented Generation (RAG). In this context, the thesis proposal aims to make significant contributions in theoretical and practical terms and has the potential to inspire new research in the field of artificial intelligence ethics and security.
Security of large language models and developmaent of securitystrategies against their attacks
Keywords: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol