Aykut Koç ve çalışma arkadaşları imzalı “Graph Neural Networks Improve Quantized Transformers by Incorporating Global Relationships” başlıklı çalışma IEEE Transactions on Signal and Information Processing over Networks dergisinde yayımlandı (Ocak 2026).
Büyük dil modellerini çalıştırmak maliyetli ve parametrelerini düşük hassasiyete sıkıştırmak, yani nicemleme, genellikle başarımı düşürüyor. Makale, eğitim sırasında nicemlenmiş transformer modellerini çizge sinir ağlarıyla birleştiren BitTransGNN’i tanıtıyor. Yöntem, bellek ve enerji tasarrufunu korurken bu başarım farkını büyük ölçüde azaltıyor ve çoğu zaman kapatıyor. Bu da verimli dil modellerini sınırlı donanımda daha kullanışlı hale getiriyor.
Yazarlar: Cihan Eralp Kumbasar, Haldun M. Özaktaş, Aykut Koç