MAKİNE ÖĞRENMESİ TABANLI KÖTÜCÜL YAZILIMLARIN TESPİTİ

Abstract

Günümüzde bilgi güvenliği açısından en önemli problemlerden birisi de kötücül yazılımları tespit etmektir. Bilgisayar korsanları çoğunlukla kötücül yazılımları kullanarak sistemleri sömürmeyi hedeflemektedir. Bu sebepten dolayı, kötücül yazılımların tespiti ve bu tür zararlıların engellenmesi bilgi güvenliği için kritik öneme sahiptir. Genel olarak bir kötücül yazılımın davranışları belirlenir ve bu yazılımlar imza tabanlı bir sistem kullanılarak tespit edilir. Ancak, teorik olarak kötücül yazılımlar belirli bir kalıpla ifade edilemeyecek davranışlara sahip olabilirler. Bu durumda kötücül yazılım tespitinin deterministik sistemler kullanılarak yapılmasının zor olduğu ve daha da zorlaşacağı bilinmektedir. Bu problemi çözebilmek için yapay zekâ ve makine öğrenmesi yöntemleri kullanılmaktadır. Son zamanlarda derin öğrenme, makine öğrenmesi ve yapay zekânın fenomeni olarak görülmekte ve kullanım alanı yaygınlaşmaktadır. Derin öğrenme sistemleri görüntü, ses ve metin tanıma gibi alanların yanı sıra bilgi güvenliği alanında da kullanılmaktadır. Özellikle kötücül yazılım tanımada derin öğrenme yöntemleri sıklıkla kullanılan yöntemler arasında sayılmaktadır. Ancak heterojen kötücül yazılım (malware) veri setlerinde de derin öğrenme yöntemleri %85 tanıma oranlarında kalmaktadır. Bu tez çalışmasında bilgisayar korsanlarının sık sık kullandığı araçlar, kötücül yazılımlar ve anti-kötücül yazılım çözümleri araştırılarak kötücül yazılım tanımadaki etkileri incelenmiş ve böylece bu tür kötücül yazılımları yeni nesil özellik çıkarma ve öğrenme yöntemleri kullanılarak daha yüksek doğrulukta tanımak amaçlanmıştır.

Nowadays, one of the most important problems in terms of information security is to detect malware. Hackers often aim to exploit systems using malicious software. For this reason, the detection and prevention of malware is critical to information security. In general, the behavior of a malware is determined and detected using a signature-based system. However, theoretically malicious software can have endless behavior. It is known that detection of malware by using deterministic systems is difficult and will be more difficult. Artificial intelligence and machine learning methods are used to solve this problem. Recently, deep learning has been seen as a phenomenon of machine learning and artificial intelligence and its use is becoming widespread. Deep learning systems are used in information security as well as in areas such as image, voice and text recognition. In particular, deep learning methods are often used in malware detection, but deep learning methods remain at 85% recognition rates in heterogeneous malware data sets. In this thesis, the tools that hackers frequently, the effects of malware and anti-malware solutions have been investigated and their effects on malware recognition have been investigated and thus, it has been aimed to recognize such malware with higher accuracy by using new generation feature extraction and learning methods.