The traditional network structure used today has become unable to meet the increasing requirements of information and communication technologies in terms of management, scalability and performance. With its flexible, programmable and dynamic architecture, Software Defined Networks (SDN) are expected to replace traditional networks in the near future as they have the ability to respond to new technologies that require high bandwidth and dynamic management, such as cloud computing, big data, virtualization, and mobile. Despite the many advantages of Software Defined Networks, such as manageability, scalability and performance, they have inherent security threats. In particular, Denial of Service (DoS) attacks are a major threat to Software Defined Networks. In DoS attacks against the controller, the processing and communication capacity of the controller is overloaded. The capacity of the key flow chart fills up due to the unnecessary flows that the controller creates for the attack packets. DoS attacks against the controller cause the network performance to drop into critical levels. In this thesis, detection and prevention of DoS attacks against Software Defined Network controller were examined. The POX controller, `l3_learning` component, that does not have the capacity to prevent `Packet_In` messages sent to the controller due to DoS attacks, has been developed. The developed POX controller component was tested in Mininet simulation environment with hping3 tool by creating artificial DoS attacks. Thanks to the developed POX controller component, unnecessary packets are prevented from being accessed by the controller and thus the key flow chart from being filled with unnecessary flows.

Günümüzde kullanılan geleneksel ağ yapısı, yönetim, ölçekleme ve performans açısından bilgi ve iletişim teknolojilerinin artan gereksinimlerine cevap veremez hale gelmiştir. Esnek, programlanabilir ve dinamik mimariye sahip olan Yazılım Tanımlı Ağlar (YTA) bulut bilişim, büyük veri, sanallaştırma, mobil gibi yüksek bant genişliği ve dinamik yönetim isteyen yeni teknolojilere cevap verme niteliği taşıdığı için yakın bir gelecekte geleneksel ağların yerini alması beklenmektedir. Yazılım Tanımlı Ağlar, yönetilebilirlik, ölçekleme, performans gibi konularda sunduğu birçok avantaja rağmen, beraberinde kendine has güvenlik tehditleri getirmiştir. Özellikle Denial of Service (DoS) saldırıları Yazılım Tanımlı Ağlar için büyük tehlike oluşturmaktadır. YTA kontrolcüsüne yönelik yapılan DoS saldırılarında YTA kontrolcüsünün işlem ve iletişim kapasitesi aşırı yüklenmektedir. Kontrolcünün saldırı paketleri için oluşturduğu gereksiz akışlardan dolayı da anahtar akış tablosunun kapasitesi dolmaktadır. Kontrolcüye yönelik DoS saldırıları ağ performansının kritik seviyelere düşmesine neden olur. Bu tez çalışmasında YTA kontrolcüsüne yönelik gerçekleştirilen DoS saldırılarının tespiti ve engellenmesi üzerine çalışma yapılmıştır. DoS saldırısından dolayı kontrolcüye gönderilen `Packet_In` mesajlarını önleme kapasitesine sahip olmayan YTA POX kontrolcüde, `l3_learning` bileşeni geliştirilmiştir. Geliştirilen POX kontrolcü bileşenine Mininet benzetim ortamında yapay DoS saldırısı oluşturulup test edilmiştir. Geliştirilen POX kontrolcü bileşeni sayesinde, gereksiz paketlerin kontrolcüye erişimi ve anahtar akış tablosunun gereksiz akışlarla dolması engellenmiştir.