The transceiver structures used in recent communication systems are insufficient to meet next communication technologies and user requirements. It is considered that the waveforms that are used in recent technologies are not sufficient to meet the demands of the next 5G communication system. The waveform design is studied in this thesis to overcome the disadvantages of the recent waveforms and candidate waveforms of 5G wireless communication systems. The studies that are done in this thesis can be collected under four items. In the first part of the thesis, the requirements of next generation communication system are revealed. Then, recent waveforms and their qualifications are discussed to meet these requirements. The waveform design fundamentals and criteria are examined. In addition to recent waveforms, the candidate waveforms are introduced and compared to each other. In the second part of the thesis, considering the requirements of 5G communication technologies, filtered multitone structures have been studied for users at different data rates. Thus, frequency spectrum sharing has been realized in the physical layer according to user data rate demands. In the third part of the thesis, the transceiver structures based on the filtering models are proposed for the users who have different data rates. Subband-based filtering and subcarrier-based filtering models are proposed that are utilized polyphase filters and Fourier transform. According to these two proposed methods, the computational complexity of the conventional FBMC method is reduced and the peak-to-average power ratios are also improved.In the fourth part of the thesis, the proposed toroidal waveform are studied. In order to adapt the toroidal waveform to the next generation communication systems, the transceiver structure is redesigned to make more efficient and it is compared with the candidate waveforms for next generation communication systems. Thus, the proposed method has efficient usage of the time-bandwidth product by using time-frequency lattice structure with a low computational complex way.

Teknoloji ve kullanıcı gereksinimlerinin artması ile mevcut haberleşme sistemlerinde kullanılan alıcı verici yapıları bu gereksinimleri karşılamada yetersiz kalmaktadır. 5G kablosuz haberleşme sistemleri için mevcutta kullanılan dalga şekillerinin kullanılamayacağı ve yeni dalga şekillerine ihtiyaç duyulacağı öngörülmektedir. Literatürde yer alan ve 5G haberleşme sistemleri için aday gösterilen dalga şekillerinin ve mevcut kullanılan dalga şekillerinin dezavantajlarından yola çıkarak bu tezde yeni dalga şekilleri tasarımları ortaya konulmuştur. Bu tezde yapılan bu çalışmaları dört bölüme ayırmak mümkündür.Tezin ilk bölümünde gelecek nesil haberleşme sistemlerinin gereksinimleri ortaya konulmuştur. Daha sonra mevcut dalga şekli ve bu dalga şekillerinin bu gereksinimleri karşılayıp karşılamayacağı tartışılmıştır. Yeni bir dalga şekli tasarımı için gerekli olan aşamalar ve tasarım kriterleri verilmiştir. Mevcut dalga şekillerine ek olarak literatürde üzerinde çalışılan aday dalga şekilleri anlatılmış ve karşılaştırılmıştır. Tezin ikinci kısmında, 5G haberleşme teknolojileri gereksinimleri göz önüne alınarak farklı veri hızlarındaki kullanıcılar için filtrelenmiş çoklu ton (FMT) yapıları üzerinde çalışılmıştır. Böylece frekans spektrumu paylaşımları kullanıcı ihtiyaçlarına uygun olarak fiziksel katmanda gerçekleştirilmiştir.Tezin üçüncü kısmında farklı veri hızlarına sahip olan kullanıcılar için filtre bankası tabanlı iletim modelleri önerilmiştir. Alt-bant tabanlı filtreleme ve alt-taşıyıcı tabanlı filtreleme modelleri olarak adlandırılan bu iki yöntemde çok fazlı filtre bileşenleri ve Fourier dönüşümleri kullanılmıştır. Önerilen bu iki yöntem ile geleneksel FBMC yönteminin işlem karmaşıklığı düşürülmüş ve tepe-ortalama güç oranları da iyileşmiştir. Tezin dördüncü kısmında daha önce önerilen toroidal dalga şekilleri üzerinde çalışılmıştır. Toroidal dalga şeklinin gelecek nesil haberleşme sistemine uygulanması için sistem modelleri yeniden tasarlanarak daha basit hale getirip gelecek nesil haberleşme sistemlerine aday dalga şekliyle karşılaştırılmıştır. Böylece önerilen yöntem ile birim zaman-frekans düzleminde zaman-bant genişliği çarpım alanının daha etkin kullanılmasına yönelik bir yapı önerilmiş ve işlem karmaşıklığı düşürülmüştür.