A Language Model Optimization Method for Turkish Automatic Speech Recognition System

Saadin Oyucu; Hüseyin Polat

Makale detayları

A Language Model Optimization Method for Turkish Automatic Speech Recognition System

Yazarlar:

Saadin Oyucu | Hüseyin Polat

Yayıncı:

Gazi University

Ana Başlıklar:

Mühendislik

Dergi:

Politeknik Dergisi Vol.26 Issue 3, pp.1167-1178

Belge Tipi:

Makale

Yayın Tarihi:

1/2023

Belge Dili:

İngilizce

Document ID (Org No.):

2001300220

pISSN:

2147-9429

Anahtar kelimeler:

Özet:

 Türkçe gibi sınırlı kaynaklara sahip dillerle karşı karşıya kaldığında mevcut Otomatik Konuşma Tanıma ASR: Automatic Speech Recognition modelleme stratejisi hala büyük bir performans düşüşü yaşıyor. Özellikle Dil modeli, akustik modeli yeterince desteklemediğinde Kelime Hata Oranı WER: Word Error Rate yükselmektedir. Bu yüzden, sağlam bir Dil modeli LM: Language Model mevcut corpusdan kelime bağıntıları oluşturarak ASR performansını iyileştirmeye güçlü bir katkı sağlar. Ancak Türkçenin sondan eklemeli yapısı nedeniyle sağlam bir dil modeli geliştirmek zorlu bir görevdir. Bu çalışmada, sınırlı kaynaklara sahip Türkçe ASRnin WER performansını iyileştirmek için cümle düzeyinde bir LM optimizasyon yöntemi önerilmiştir. Önerilen yöntemde Markov varsayımlarından elde edilen sabit bir kelime dizisi yerine, kelime dizisinin cümle oluşturma olasılığı hesaplanmıştır. Kelime dizisi olasılığını elde etmek için n-gram ve atlama gramı özelliklerine sahip bir yöntem sunulmuştur. Önerilen yöntem hem istatistiksel hem de Yapay Sinir Ağı ANN: Artificial Neural Network tabanlı LMler üzerinde test edilmiştir. Sadece kelimeler değil, aynı zamanda alt kelime seviyesi kullanılarak yapılan deneylerde, Dilsel Veri Konsorsiyumu LDC: Linguistic Data Consortium aracılığıyla paylaşılan iki Türkçe korpus ODTÜ ve Boğaziçi ve HS olarak adlandırdığımız özel olarak oluşturduğumuz ayrı bir korpus kullanılmıştır. İstatistik tabanlı LMden elde edilen deneysel sonuçlara göre, ODTÜkcorpusda 0,5 WER artışı, Boğaziçi korpusda 1.6 WER azalması ve HS kopusta 2,5 WER azalması gözlemlenmiştir. İleri Beslemeli Sinir Ağları tabanlı LMde ODTÜ corpusda 0,2, Boğaziçi korpusda 0,8 ve HS korpusda 1.6 WER düşüşleri gözlendi. Ayrıca Tekrarlayan Sinir Ağı - Uzun Kısa Süreli Bellek tabanlı LMde ODTÜ korpusda 0,6, Boğaziçi korpusda 1.1 ve HS korpusda 1.5 WER düşüşleri gözlendi. Sonuç olarak önerilen yöntem Turkçe ASRde kullanılan LMlere uygulandığında WER azalmış ve ASRnin toplam performansı artmıştır.

 Türkçe gibi sınırlı kaynaklara sahip dillerle karşı karşıya kaldığında mevcut Otomatik Konuşma Tanıma ASR: Automatic Speech Recognition modelleme stratejisi hala büyük bir performans düşüşü yaşıyor. Özellikle Dil modeli, akustik modeli yeterince desteklemediğinde Kelime Hata Oranı WER: Word Error Rate yükselmektedir. Bu yüzden, sağlam bir Dil modeli LM: Language Model mevcut corpusdan kelime bağıntıları oluşturarak ASR performansını iyileştirmeye güçlü bir katkı sağlar. Ancak Türkçenin sondan eklemeli yapısı nedeniyle sağlam bir dil modeli geliştirmek zorlu bir görevdir. Bu çalışmada, sınırlı kaynaklara sahip Türkçe ASRnin WER performansını iyileştirmek için cümle düzeyinde bir LM optimizasyon yöntemi önerilmiştir. Önerilen yöntemde Markov varsayımlarından elde edilen sabit bir kelime dizisi yerine, kelime dizisinin cümle oluşturma olasılığı hesaplanmıştır. Kelime dizisi olasılığını elde etmek için n-gram ve atlama gramı özelliklerine sahip bir yöntem sunulmuştur. Önerilen yöntem hem istatistiksel hem de Yapay Sinir Ağı ANN: Artificial Neural Network tabanlı LMler üzerinde test edilmiştir. Sadece kelimeler değil, aynı zamanda alt kelime seviyesi kullanılarak yapılan deneylerde, Dilsel Veri Konsorsiyumu LDC: Linguistic Data Consortium aracılığıyla paylaşılan iki Türkçe korpus ODTÜ ve Boğaziçi ve HS olarak adlandırdığımız özel olarak oluşturduğumuz ayrı bir korpus kullanılmıştır. İstatistik tabanlı LMden elde edilen deneysel sonuçlara göre, ODTÜkcorpusda 0,5 WER artışı, Boğaziçi korpusda 1.6 WER azalması ve HS kopusta 2,5 WER azalması gözlemlenmiştir. İleri Beslemeli Sinir Ağları tabanlı LMde ODTÜ corpusda 0,2, Boğaziçi korpusda 0,8 ve HS korpusda 1.6 WER düşüşleri gözlendi. Ayrıca Tekrarlayan Sinir Ağı - Uzun Kısa Süreli Bellek tabanlı LMde ODTÜ korpusda 0,6, Boğaziçi korpusda 1.1 ve HS korpusda 1.5 WER düşüşleri gözlendi. Sonuç olarak önerilen yöntem Turkçe ASRde kullanılan LMlere uygulandığında WER azalmış ve ASRnin toplam performansı artmıştır.

 Türkçe gibi sınırlı kaynaklara sahip dillerle karşı karşıya kaldığında mevcut Otomatik Konuşma Tanıma ASR: Automatic Speech Recognition modelleme stratejisi hala büyük bir performans düşüşü yaşıyor. Özellikle Dil modeli, akustik modeli yeterince desteklemediğinde Kelime Hata Oranı WER: Word Error Rate yükselmektedir. Bu yüzden, sağlam bir Dil modeli LM: Language Model mevcut corpusdan kelime bağıntıları oluşturarak ASR performansını iyileştirmeye güçlü bir katkı sağlar. Ancak Türkçenin sondan eklemeli yapısı nedeniyle sağlam bir dil modeli geliştirmek zorlu bir görevdir. Bu çalışmada, sınırlı kaynaklara sahip Türkçe ASRnin WER performansını iyileştirmek için cümle düzeyinde bir LM optimizasyon yöntemi önerilmiştir. Önerilen yöntemde Markov varsayımlarından elde edilen sabit bir kelime dizisi yerine, kelime dizisinin cümle oluşturma olasılığı hesaplanmıştır. Kelime dizisi olasılığını elde etmek için n-gram ve atlama gramı özelliklerine sahip bir yöntem sunulmuştur. Önerilen yöntem hem istatistiksel hem de Yapay Sinir Ağı ANN: Artificial Neural Network tabanlı LMler üzerinde test edilmiştir. Sadece kelimeler değil, aynı zamanda alt kelime seviyesi kullanılarak yapılan deneylerde, Dilsel Veri Konsorsiyumu LDC: Linguistic Data Consortium aracılığıyla paylaşılan iki Türkçe korpus ODTÜ ve Boğaziçi ve HS olarak adlandırdığımız özel olarak oluşturduğumuz ayrı bir korpus kullanılmıştır. İstatistik tabanlı LMden elde edilen deneysel sonuçlara göre, ODTÜkcorpusda 0,5 WER artışı, Boğaziçi korpusda 1.6 WER azalması ve HS kopusta 2,5 WER azalması gözlemlenmiştir. İleri Beslemeli Sinir Ağları tabanlı LMde ODTÜ corpusda 0,2, Boğaziçi korpusda 0,8 ve HS korpusda 1.6 WER düşüşleri gözlendi. Ayrıca Tekrarlayan Sinir Ağı - Uzun Kısa Süreli Bellek tabanlı LMde ODTÜ korpusda 0,6, Boğaziçi korpusda 1.1 ve HS korpusda 1.5 WER düşüşleri gözlendi. Sonuç olarak önerilen yöntem Turkçe ASRde kullanılan LMlere uygulandığında WER azalmış ve ASRnin toplam performansı artmıştır.

 Türkçe gibi sınırlı kaynaklara sahip dillerle karşı karşıya kaldığında mevcut Otomatik Konuşma Tanıma ASR: Automatic Speech Recognition modelleme stratejisi hala büyük bir performans düşüşü yaşıyor. Özellikle Dil modeli, akustik modeli yeterince desteklemediğinde Kelime Hata Oranı WER: Word Error Rate yükselmektedir. Bu yüzden, sağlam bir Dil modeli LM: Language Model mevcut corpusdan kelime bağıntıları oluşturarak ASR performansını iyileştirmeye güçlü bir katkı sağlar. Ancak Türkçenin sondan eklemeli yapısı nedeniyle sağlam bir dil modeli geliştirmek zorlu bir görevdir. Bu çalışmada, sınırlı kaynaklara sahip Türkçe ASRnin WER performansını iyileştirmek için cümle düzeyinde bir LM optimizasyon yöntemi önerilmiştir. Önerilen yöntemde Markov varsayımlarından elde edilen sabit bir kelime dizisi yerine, kelime dizisinin cümle oluşturma olasılığı hesaplanmıştır. Kelime dizisi olasılığını elde etmek için n-gram ve atlama gramı özelliklerine sahip bir yöntem sunulmuştur. Önerilen yöntem hem istatistiksel hem de Yapay Sinir Ağı ANN: Artificial Neural Network tabanlı LMler üzerinde test edilmiştir. Sadece kelimeler değil, aynı zamanda alt kelime seviyesi kullanılarak yapılan deneylerde, Dilsel Veri Konsorsiyumu LDC: Linguistic Data Consortium aracılığıyla paylaşılan iki Türkçe korpus ODTÜ ve Boğaziçi ve HS olarak adlandırdığımız özel olarak oluşturduğumuz ayrı bir korpus kullanılmıştır. İstatistik tabanlı LMden elde edilen deneysel sonuçlara göre, ODTÜkcorpusda 0,5 WER artışı, Boğaziçi korpusda 1.6 WER azalması ve HS kopusta 2,5 WER azalması gözlemlenmiştir. İleri Beslemeli Sinir Ağları tabanlı LMde ODTÜ corpusda 0,2, Boğaziçi korpusda 0,8 ve HS korpusda 1.6 WER düşüşleri gözlendi. Ayrıca Tekrarlayan Sinir Ağı - Uzun Kısa Süreli Bellek tabanlı LMde ODTÜ korpusda 0,6, Boğaziçi korpusda 1.1 ve HS korpusda 1.5 WER düşüşleri gözlendi. Sonuç olarak önerilen yöntem Turkçe ASRde kullanılan LMlere uygulandığında WER azalmış ve ASRnin toplam performansı artmıştır.

Makale detayları

A Language Model Optimization Method for Turkish Automatic Speech Recognition System

Yazarlar:

Saadin Oyucu | Hüseyin Polat

Yayıncı:

Gazi University

Ana Başlıklar:

Mühendislik

Dergi:

Politeknik Dergisi Vol.26 Issue 3, pp.1167-1178

Belge Tipi:

Makale

Yayın Tarihi:

1/2023

Belge Dili:

İngilizce

Document ID (Org No.):

2001300220

pISSN:

2147-9429

Turkish Automatic speech recognition

Turkish language model

Turkish language model score optimization

Turkish corpusTürkçe Otomatik konuşma tanıma

Türkçe korpus

Türkçe dil modelleme

Türkçe dil modeli optimizasyonu

Sayı

Makale detayları

Yazarlar: Saadin Oyucu | Hüseyin Polat

Yayıncı: Gazi University

Ana Başlıklar: Mühendislik

Dergi: Politeknik Dergisi Vol.26 Issue 3, pp.1167-1178

Belge Tipi: Makale

Yayın Tarihi: 1/2023

Belge Dili: İngilizce

Document ID (Org No.): 2001300220

pISSN: 2147-9429

Sayı

Yazarlar:

Saadin Oyucu | Hüseyin Polat

Yayıncı:

Gazi University

Ana Başlıklar:

Mühendislik

Dergi:

Politeknik Dergisi Vol.26 Issue 3, pp.1167-1178

Belge Tipi:

Makale

Yayın Tarihi:

1/2023

Belge Dili:

İngilizce

Document ID (Org No.):

2001300220

pISSN:

2147-9429