Discrete cosine transform (DCT) is one of the fundamental stages, which is widely used and studied in lossy image compression. This technique aims to generate a minimum visible distortion in the image with respect to human visual system (HVS). The studies until now propose DCT quantization matrices for low dynamic range (LDR) images to display on LDR monitors. In this thesis research, the visibility of DCT quantization noise is studied for high dynamic range (HDR) images. High luminance patterns for DCT quantization noise are formed with mean luminance levels of 100 cd/m2, 500 cd/m2, 1000 cd/m2 and 1500 cd/m2, for various DCT frequencies and amplitude levels. A novel rendering algorithm is proposed to generate the high luminance patterns for DCT quantization noise by using an HDR monitor (SIM2 HDR47). The visibility of DCT quantization noise is measured with psycho-visual experiments based on geometric search and QUEST methodology. The estimated quantization levels with geometric search is utilized to form the initial statistics for the QUEST search. The quantization levels for each frequency are then obtained by fitting the QUEST results to Weibull function. The experimental results first indicate that HVS is more sensitive to high DCT frequencies and high mean luminance levels. Second, although increased luminance levels cause increased quantization levels, they cause a decrease in contrast threshold values. Finally, both the geometric search and QUEST methodologies are observed to produce coherent results in the experiments.

Ayrık kosinüs dönüşümü (AKD), yaygın olarak kullanılan ve üzerinde çalışılan kayıplı görüntü sıkıştırmada temel aşamalardan biridir. Bu teknik, insan görme sistemine (İGS) göre görüntülerde minimum görünür bozulma oluşturmayı hedeflemektedir. Şu ana kadarki çalışmalar, alçak dinamik oranlı (ADO) monitörlerde gösterilmek üzere, ADO görüntüleri sıkıştırmak için gerekli AKD nicemleme matrislerini önermişlerdir. Bu tez çalışmasında, yüksek dinamik oranlı (YDO) görüntüler için AKD niceleme gürültüsünün görünürlüğü incelenmiştir. Yüksek parlaklıklı AKD gürültüsü içeren örüntüler ortalama parlaklık seviyeleri 100 cd/m2, 500 cd/m2, 1000 cd/m2 ve 1500 cd/m2 için ve farklı frekans ve genlik seviyelerinde oluşturulmuştur. Bu görüntülerin, YDO monitörde (SIM2 HDR47) oluşturulması için yenilikçi bir algoritma geliştirilmiştir. AKD nicemleme gürültülerinin görünülürlüğü geometrik arama ve QUEST metodolojisine dayanan psiko-görsel deneyler ile ölçülmüştür. QUEST araması için başlangıç istatistiklerini oluşturmak üzere geometrik arama ile tahmin edilen nicemleme seviyeleri kullanılmıştır. Deneysel sonuçlar ilk olarak İGS'nin yüksek frekans ve yüksek ortalama parlaklık değerlerine daha hassas olduğunu göstermiştir. İkinci olarak, artan parlaklık seviyeleri nicemleme seviyelerinin artmasına neden olsa da, kontrast eşik değerlerinin azalmasına neden olmaktadır. Son olarak, deneylerde geometrik arama ve QUEST yöntemlerinin uyumlu sonuçlar verdiği gözlemlenmiştir.