Sözcüksel anlam değişimi problemine yönelik olarak KocLab tarafından Gauss sözcük gömmesine (w2g) dayalı ilk yaklaşım geliştirilmiş ve IEEE Transactions on Audio, Speech and Language Processing dergisinde yayımlanan “Semantic Change Detection with Gaussian Word Embeddings” başlıklı makalede tanıtılmıştır. Önerilen yöntem, alanın standart değerlendirme çerçevesi olan SemEval 2020 Görev 1’de üst sıralarda yer almış ve iki alt görevden birinde birinci olmuştur.
Kültürel ve dilsel etkiler sözcüklerin anlamsal uzaydaki anlamlarını değiştirdiği için diller zamanla evrilir. Artzamanlı anlam değişimi çalışmaları sözcük anlamlarındaki bu değişimleri inceler. Sözcüksel anlam değişiminin hesaplamalı olarak tespiti ve analizi, hesaplamalı anlambilim ve dilbilim açısından kuramsal öneminin yanı sıra, anlamı değişmiş sözcüklerin belirlenmesi pek çok üst düzey doğal dil işleme uygulamasının başarımını artırdığı için de temel öneme sahiptir.
KocLab, w2g gömmelerini kullanan ve insan yargılarıyla yüksek ilişki gösteren bu kuramsal temelli yaklaşımla sözcüksel anlam değişimi tespiti alanına önemli bir katkı sağlamaktadır. W2g gömmelerinin varyans bileşenleri, sözcüklerin anlamsal vektör uzayındaki göreli konumlarının yanı sıra anlamsal kapsamlarını da modellemektedir. Anlam değişimi yalnızca anlamın uzayda kayması olarak değil, anlamsal kapsamın daralması ya da genişlemesi olarak da gerçekleştiği için bu özellik önemli bilgi sağlamaktadır.
Makaleye [buradan] erişilebilir.
Özet:
Dillerin evriminin artzamanlı incelenmesi doğal dil işlemede önemlidir. Son yıllarda gelişen sözcük temsil teknikleri ve artzamanlı derlemlerin erişilebilirliği sayesinde sözcüksel anlam değişiminin (LSC) tespiti ve nitelendirilmesi için hesaplamalı yaklaşımlarda belirgin bir artış görülmüştür. Bu çalışmada Gauss sözcük gömmesine (w2g) dayalı bir yöntem önerilmekte ve LSC tespiti için kapsamlı bir inceleme sunulmaktadır. W2g, olasılık dağılımına dayalı bir sözcük gömme modelidir ve sözcükleri ortalama (sözcük vektörü) ile birlikte kovaryans bilgisini kullanan Gauss karışım modelleri olarak temsil eder. W2g tabanlı LSC tespitinin çeşitli yönleri SemEval-2020 Görev 1 değerlendirme çerçevesinde ve Google N-gram derlemi kullanılarak ayrıntılı biçimde incelenmiştir. SemEval-2020 Görev 1’in Alt Görev 1’inde (LSC ikili sınıflandırma) en yüksek genel sıralama ile dört dilden ikisinde (Almanca ve İsveççe) en yüksek sıralama elde edilmiştir. Alt Görev 2’de (LSC sıralama) İsveççe için en yüksek Spearman ilişkisi elde edilmiştir. LSC sınıflandırma ve sıralama alt görevlerindeki genel sıralamalar sırasıyla 1. ve 7.’dir. Nitel bir analiz de sunulmaktadır.