Duyurular

Recent research by Prof. Dr. Oktay Algın and his collaborators has led to the development of MRI-compatible brain biopsy and ablation techniques. These innovations have received support from the Turkish Institutes of Health (TÜSEB), MARVIS—a manufacturer of MRI- compatible guidewires—and NORAS, a manufacturer of MRI coils. These studies will evaluate the ability to perform MRI-compatible biopsies on lesions located in different regions of the brain, as well as the feasibility of conducting various brain-related treatments using interventional MRI techniques.

We are proud to share our interdisciplinary and collaborative work at the Department of Electrical and Electronics Engineering and UMRAM of Bilkent University and the School of Medicine of Koç University on single-cell RNA sequencing (scRNA-seq) with graph- and transformer-based neural networks! Our article is now published in the Special Issue on Learning on Graphs for Biology and Medicine of the IEEE Transactions on Signal and Information Processing over Networks (IEEE TSIPN)! In this article, we introduce scGraPhT, a graph- and transformer-based cell type annotation method for scRNA-seq, which is a state-of-the-art technique to examine gene expression profiles at the individual cell level, paving the way for significant discoveries in research fields such as pathology, immunology, cancer, genomics, and regenerative medicine. Our approach, scGraPhT, allows integrating pre-trained transformers to extract rich representations of scRNA-seq data with a multi-layered graph neural network (GNN) to capture cell-cell and cell-gene relationships. scGrapPhT brings together the power of transformers that excel in modeling local contextual information and GNNs excelling in modeling global structural relationships. Moreover, scGraPhT also: – can work with both homogeneous and heterogeneous relationships through subgraph layers to offer comprehensive assessment, – does not require exhaustive pre-training stages by being able to leverage the readily available existing pre-trained works as the initial point, – outperforms existing works regarding model performance on the standard scRNA-seq benchmark datasets.   For more details and code: Paper: https://ieeexplore.ieee.org/document/11015257 Code: https://github.com/koc-lab/scgrapht   Abstract: The invention of single-cell RNA sequencing (scRNA-seq) has enabled transcriptomic examination of cells on an individual basis, uncovering cell-to-cell phenotypic heterogeneity within isogenic cell populations and tissues. Inevitably, cell type annotation has emerged as a fundamental, albeit challenging task in scRNA-seq data analysis, which involves identifying and characterizing cells based on their unique molecular profiles. Recently, deep learning techniques with their data-driven priors have shown significant promise in this task. On the one hand, task-agnostic transformer networks pre-trained on large-scale biological databases can capture generalizable data representations to serve as foundation models despite their ineffectiveness in characterizing intricate relationships between biological entities such as cells or genes. Contrarily, task-specific graph neural networks (GNNs) can be trained on target datasets to sensitively characterize entity relationships, but they can suffer from relatively poor generalizability. Furthermore, existing GNNs focus exclusively on either homogeneous or heterogeneous relationships, limiting their ability to offer a complete picture of the diverse inner structure of cells. In this study, we propose a novel merged transformer-graph model, scGraPhT, that integrates a pre-trained transformer to extract rich representations of scRNA-seq data with a multi-layered GNN to capture cell-cell, cell-gene, and gene-gene relationships. Different from previous GNNs, scGraPhT examines both homogeneous and heterogeneous relationships through subgraph layers to offer a more comprehensive assessment. Since the graph construction in scGraPhT relies on representations from a pre-trained transformer model, our approach does not require costly training procedures. Moreover, scGraPhT can also be adapted to leverage any transformer-based single-cell annotation method, such as scGPT or scBERT, that produces suitable embedding representations as input for GNNs. Demonstrations on three scRNA-seq benchmark datasets indicate that scGraPhT outperforms state-of-the-art annotation methods without compromising efficiency. We offer insights into performance improvements by employing Grad-CAM, a visual explainability method that elucidates the complementary nature of the GNN- and transformer-based components of scGraPhT to improve its predictive performance. We share our publicly available source codes and datasets for reproducibility.

“Emotion Classification with Visibility Graphs” başlıklı çalışmamız IEEE Signal Processing Letters dergisinde yayımlanmıştır. Çalışmada, dönüştürücülerin sabit bağlam pencerelerinin ötesine geçen ve metin içindeki genel ilişkileri yakalayan, görünürlük çizgesine dayalı ardışık bir modelleme yaklaşımı önerilmektedir. Yöntem, herhangi bir dönüştürücü tabanlı modele eklenebilen modüler bir çizge uzantısı olarak çalışmakta ve bu modellerin SemEval2018 ile GoEmotions gibi yaygın büyük ölçekli veri setlerinde en güncel yöntemleri geride bırakmasını sağlamaktadır.   Makale: https://ieeexplore.ieee.org/document/10985783 Kod: https://github.com/koc-lab/EmoVis   Özet: Dönüştürücüler, temsil güçleri ve başarımları nedeniyle doğal dil işlemede öne çıkmıştır. Dönüştürücüler doğal dili sınırlı bağlam pencereleri üzerinde bir dizi olarak işler, ancak bu pencerelerin ötesindeki sözcükler arası genel ilişkiler yalnızca dizi işleme ile tam olarak modellenemez. Bu sorunu hafifletmek için, sinir ağlarına geometrik uzantılar getiren ve metin içindeki ilişkilerin öğrenilmesini sağlayan çizge sinir ağı (GNN) tabanlı modeller önerilmiştir. Ancak sıradan çizge tabanlı yöntemler metnin ardışık yapısını göz ardı eder. Bu çalışmada, klasik zaman serisi bilgisini çizge temsillerine dönüştüren görünürlük çizgelerini kullanan ilk genel çizge tabanlı sinir ağı olan EmoVis önerilmektedir. Problem bir duygu sınıflandırma görevi olarak ele alınmış ve modelin etiketler ile cümledeki sözcükler arasındaki ilişkileri öğrenmesi sağlanmıştır. EmoVis, herhangi bir dönüştürücü tabanlı modele modüler bir çizge uzantısı olarak eklenebilmekte ve farklı dillerde bu modellerin başarımını ve öğrenme yeteneğini belirgin biçimde artırmaktadır. Deneyler, EmoVis’in dönüştürücü tabanlı modellerin SemEval2018 yarışma veri setlerinde farklı dillerdeki üç veri setinde ve GoEmotions veri setinde en güncel yöntemleri geride bırakmasını sağladığını göstermektedir.

Signal Processing dergisinde yayımlanan çalışmamızda, geleneksel ortak zaman-düğüm analizini kesirli alana genişleten yeni bir çerçeve olan ortak zaman-düğüm kesirli Fourier dönüşümü (JFRT) sunulmaktadır. Hem zaman hem de çizge alanında kesirli dereceler kullanan JFRT, mevcut Fourier tabanlı yöntemleri genellemekte ve gürültü giderme, süzgeçleme ve kümeleme gibi görevlerde daha iyi başarım sağlamaktadır. Öne çıkan noktalar: ● Ortak zaman-düğüm sinyallerinin kesirli analizi için birleşik bir yaklaşım. ● İndis toplanabilirliği, tersinirlik ve birim dönüşüme indirgenme gibi kuramsal güvenceler. ● Gürültülü veriyi güvenilir biçimde işleyen, Tikhonov düzenlileştirmesine dayalı bir gürültü giderme yöntemi. ● En güncel tekniklere göre daha iyi sonuçlar gösteren kapsamlı sayısal deneyler.   Makale: https://doi.org/10.1016/j.sigpro.2025.109944   Özet: Çizge sinyal işleme (GSP), çizge düğümleri üzerinde tanımlı sinyalleri kullanarak Öklid dışı alanlardaki yüksek boyutlu verilerin analizini kolaylaştırır. Durağan verinin yanı sıra her düğüm sürekli zaman serisi sinyalleri de sağlayabilir ve böylece çizge sinyalleri her düğümde zaman serisine dönüşür. Ortak zaman-düğüm Fourier dönüşümü (JFT) çerçevesi bu sinyallerin spektral analizine olanak tanır. Kesirli Fourier dönüşümünün (FRT) sıradan Fourier dönüşümünü genişletmesine benzer biçimde, bu çalışmada JFT’nin bir genellemesi olarak ortak zaman-düğüm kesirli Fourier dönüşümü (JFRT) tanıtılmaktadır. JFRT, Fourier analizini hem zaman hem de düğüm alanında kesirli derecelere genişleterek ortak zaman-düğüm işlemede kesirli analizi mümkün kılar. JFRT’nin JFT’yi genellediği ve belirli çizge topolojileri için indis toplanabilirliği, tersinirlik, birim dönüşüme indirgenme ve üniterlik özelliklerini koruduğu kuramsal olarak gösterilmektedir. Ayrıca JFRT alanında Tikhonov düzenlileştirmesine dayalı, güvenilir ve iyi davranışlı çözümler veren bir gürültü giderme yöntemi türetilmektedir. Sentetik ve gerçek veri setleri üzerindeki kapsamlı sayısal deneyler, JFRT’nin gürültü giderme ve kümeleme görevlerinde en güncel yaklaşımlardan daha başarılı olduğunu göstermektedir.

Oktay Algin and his colleagues conducted two studies published in two international scientific journals. The names of these studies are ‘Evaluation of the Glymphatic System in Rabbits Using Gadobutrol-Enhanced MR Cisternography With T1 and T2 Mapping’ and ‘Thalamo-insular cortex connections in the rat and human’. The related articles can be accessed at the following links: https://pubmed.ncbi.nlm.nih.gov/39746567/ https://pubmed.ncbi.nlm.nih.gov/39746567/

Happy to share the first semantic communication framework on insertion-deletion-substitution (IDS) channels as published in our latest paper titled “Semantic Communication over Channels with Insertions, Deletions, and Substitutions” published in IEEE Communications Letters! A significant class of binary input channels are prone to synchronization errors, which are modeled as IDS channels. IDS channels occur in many scenarios like wireless communications, file synchronization, bit-patterned media, racetrack memories, and DNA storage. In our paper, we propose the first joint semantic transmission scheme for binary channels with synchronization errors, a novel training strategy that utilizes a pre-trained error correction network in the joint-source channel coding schemes with a transfer learning approach. Our proposed architecture consists of a three-stage training algorithm that combines, for the first time, gated recurrent unit (GRU) networks for marker detection, transformer-based semantic communication for continuous latent space, and lookup-free quantization for binarized latent space optimization, specifically tailored to IDS channels.   Check out the paper for more details! Paper: https://ieeexplore.ieee.org/abstract/document/10852305 Code: https://github.com/koc-lab/deepjsoc   Abstract: We present deep joint source-outer channel coding (DeepJSOC), an end-to-end deep learning-based semantic communication architecture designed for channels with insertions, deletions, and substitutions (IDS). We propose a three-stage training algorithm that combines, for the first time, gated recurrent unit (GRU) networks for marker detection, transformer-based semantic communication for continuous latent space, and lookup-free quantization for binarized latent space optimization, specifically tailored to IDS channels. The proposed DeepJSOC is the first to integrate deep learning-based error correction networks into joint-source channel coding schemes for binary channels with synchronization errors. We demonstrate the effectiveness of DeepJSOC by experiments, achieving significant improvements over existing methods in text transmission.

“Sememe Based Semantic Communications” başlıklı çalışmamız IEEE Communications Letters dergisinde yayımlanmıştır. Çalışmada, dilbilimde semem olarak adlandırılan kavram anlamsal iletişim alanına taşınmaktadır. Sememler, sözcük anlamının en küçük ve bölünemez anlamsal birimleridir. Önceden tanımlanmış bir semem kümesi, kuramsal olarak bir doğal dildeki anlamın “periyodik tablosu” olarak kabul edilir. Sözcüklerin sınırlı sayıda sememin birleşimi olarak ifade edilmesi, bir sözcüğün özündeki anlamın yorumlanması için gereklidir. Bu da anlamsal iletişimde merkezi önem taşıyan “bitlerin ardındaki anlamın tanımlanması” yolunda temel bir adımdır. Metin iletimi için sememlere dayalı yeni bir anlamsal kodlama yöntemi ile derin öğrenmeye dayalı bir anlamsal kod çözme yöntemi kullanan SememeSC önerilmiştir. Kapsamlı deneyler, SememeSC’nin toplanır beyaz Gauss gürültülü (AWGN) ve Rayleigh sönümlemeli kanallarda karşılaştırılan yöntemlerden daha başarılı olduğunu göstermektedir.   Makale: https://ieeexplore.ieee.org/document/10648841 Kod: https://github.com/koc-lab/sememesc   Özet: Bit dizileri yerine alttaki anlamsal bilginin doğru iletilmesine odaklanan anlamsal iletişimin etkili olduğu gösterilmiştir. Metinlerin anlamsal iletişiminde ağırlıklı olarak temel doğal dil işleme teknikleriyle birlikte derin öğrenme tabanlı yöntemler kullanılmaktadır. Ancak önceki çalışmaların çoğu, doğal dillerin özündeki ileri dilbilimsel özelliklerden yararlanmadan metni genel bir bilgi dizisi olarak ele almaktadır. Bu dilbilimsel özelliklerin başlıca örneği, metinsel bilginin en küçük ve bölünemez anlamsal birimleri olan sememlerdir (maddenin periyodik tablosuna benzer biçimde). Bu çalışmada, doğal dillerdeki semem bilgisinden yararlanan bir anlamsal iletişim yaklaşımı olan semem tabanlı anlamsal iletişim (SememeSC) önerilmektedir. Deneysel sonuçlar, önerilen SememeSC’nin AWGN ve Rayleigh sönümlemeli kanallarda karşılaştırılan yöntemlerden daha başarılı olduğunu doğrulamaktadır.

“VISPool: Enhancing Transformer Encoders with Vector Visibility Graph Neural Networks” başlıklı çalışmamız Bangkok’ta düzenlenen ACL 2024 konferansında sunulmuştur. Çalışmada, doğal dil işlemenin sınırlarını genişletmek için dönüştürücüler ile çizge sinir ağlarının (GNN) birleşimi incelenmektedir. Dönüştürücüler doğal dil işlemeyi köklü biçimde değiştirmiştir. GNN’lerin bu yapılara katılması umut verici bir yol sunsa da mevcut yöntemler çıkarımsal (transdüktif) yaklaşımın sınırları, ölçeklenebilirlik ve karmaşık metin işleme gereksinimi gibi sorunlarla karşılaşmaktadır. Bu sorunları gidermek için, dönüştürücü çıktılarından üretilen vektör görünürlük çizgelerini (VVG) kullanan, metin belgeleri için yeni bir dinamik çizge oluşturma yöntemi önerilmektedir. Önerilen görünürlük havuzlayıcısı (VISPool), VVG evrişim ağlarını dönüştürücü işlem zincirlerine doğrudan katmaktadır. VISPool, daha az eğitilebilir parametreyle GLUE veri setlerinde karşılaştırılan yöntemlerden daha başarılı olmaktadır.   Makale: https://aclanthology.org/2024.findings-acl.149 Kod: https://github.com/koc-lab/vispool   Özet: Dönüştürücülerin ortaya çıkışı, çeşitli görevlerde görüldüğü gibi doğal dil işlemeyi köklü biçimde değiştirmiştir. Çizge sinir ağları (GNN) doğal dil işlemede umut vaat etse de dönüştürücülerin yerini tek başına alamaz. Bu nedenle son çalışmalar dönüştürücüler ile GNN’lerin birleştirilmesini araştırmaktadır. Mevcut GNN tabanlı yaklaşımlar aşırı metin işleme gerektiren durağan çizge oluşturma yöntemlerine dayanmakta ve çoğu belge ve sözcük sayısı arttıkça ölçeklenememektedir. Bu sınırlamalar, dönüştürücü çıktısından üretilen vektör görünürlük çizgelerine (VVG) dayanan, metin belgeleri için yeni bir dinamik çizge oluşturma yöntemiyle giderilmektedir. Ardından VVG evrişim ağlarını dönüştürücü işlem zincirlerine doğrudan katan, ölçeklenebilir bir model mimarisi olan görünürlük havuzlayıcısı (VISPool) tanıtılmaktadır. Önerilen model, Genel Dil Anlama Değerlendirmesi (GLUE) veri setlerinde değerlendirilmiştir. VISPool, daha az eğitilebilir parametreyle karşılaştırılan yöntemlerden daha başarılı olmakta ve görünürlüğe dayalı çizge oluşturmanın dönüştürücüleri GNN’lerle güçlendirmede uygulanabilir olduğunu göstermektedir.

Kesirli Fourier dönüşümünü çizge alanına genelleyen “Graph Fractional Fourier Transform: A Unified Theory” başlıklı çalışmamız IEEE Transactions on Signal Processing dergisinde yayımlanmıştır. Çalışmanın başlıca katkıları:

• Çizge kesirli Fourier dönüşümünün (GFRFT) kesirli kuvvete dayalı tanımının her çizge yapısını ve dönüşüm derecesini kapsayacak biçimde titizlikle genişletilmesi.
• Klasik FRFT kuramıyla tutarlı olan ve büyük çizgelerde daha hızlı hesaplama sağlayan, hiperdiferansiyel operatöre dayalı yeni bir GFRFT tanımı.
• Dönüşüm derecesinin öğrenme yoluyla en uygun biçimde seçilmesini sağlayan ve GFRFT’nin sinir ağları ile makine öğrenmesi uygulamalarında kullanılmasını mümkün kılan bir yöntem.
• GFRFT tanımlarının eşdeğerliğini ve gürültü giderme, sınıflandırma ve örnekleme görevlerinde GFT ile diğer çizge sinyal işleme yöntemlerine göre üstünlüğünü gösteren kapsamlı deneyler.

  Makale: https://doi.org/10.1109/TSP.2024.3439211 Kod: https://github.com/koc-lab/gfrft-unified   Özet: Kesirli Fourier dönüşümü (FRFT), Fourier dönüşümünü bir dönüşüm derecesiyle parametrik olarak genelleyerek sinyalleri ara zaman-frekans alanlarında temsil eder. FRFT’nin Fourier dönüşümünün kesirli kuvveti, zaman-frekans düzleminde döndürme ve hiperdiferansiyel operatör gibi birbirine eşdeğer birçok tanımı vardır ve her biri türetme kolaylığı ya da hesaplama verimliliği gibi üstünlükler sunar. Çizge sinyal işleme (GSP) ise geleneksel sinyal işlemeyi düzensiz çizge yapıları üzerindeki verilere genişleterek çizge sinyalleri için örnekleme, süzgeçleme ve Fourier dönüşümü gibi kavramları mümkün kılar. Çizge kesirli Fourier dönüşümü (GFRFT) kısa süre önce GSP alanına taşınmıştır. Ancak bu genişletme yalnızca belirli çizge yapılarına ve sınırlı bir dönüşüm derecesi aralığına dayanan kesirli kuvvet tanımını genellemektedir. İdeal olarak GFRFT, olabildiğince çok sayıda alternatif tanımla tutarlı olmalıdır. Bu çalışmada önce her çizge yapısını ve dönüşüm derecesini destekleyen titiz bir kesirli kuvvet tabanlı GFRFT tanımı verilmektedir. Ardından büyük çizgelerde ileri ve ters dönüşüm matrislerinin daha hızlı hesaplanmasını sağlayan, hiperdiferansiyel operatöre dayalı yeni GFRFT tanımı tanıtılmaktadır. Bu tanım yoluyla dönüşüm derecesinin veriden öğrenilerek seçilmesine dayanan yeni bir yaklaşım türetilmektedir. Bant sınırlılık, süzgeçler ve diğer dönüşümlerle ilişki gibi temel GSP kavramları da GFRFT bağlamında ele alınmaktadır. Son olarak gürültü giderme, sınıflandırma ve örnekleme görevlerini içeren kapsamlı deneylerle GFRFT’nin paralel tanımlarının eşdeğerliği, dönüşüm derecesinin öğrenilebilirliği ve GFRFT’nin GFT ile diğer GSP yöntemlerine göre üstünlüğü gösterilmektedir.

Happy to share our latest paper titled “Text-RGNNs: Relational Modeling for Heterogeneous Text Graphs” published in IEEE Signal Processing Letters! Building on the foundational Text-graph convolutional Network (TextGCN), which represents corpus with heterogeneous text graphs, we addressed a key limitation: GCNs are inherently designed to operate within homogeneous graphs, potentially limiting their performance. To overcome this, based on relational graph neural networks (RGNNs), we introduced Text-RGNNs, assigning dedicated weight matrices to each relation using heterogeneous GNNs for more nuanced and effective modeling. Our extensive experimentation shows that Text-RGNNs significantly outperform existing state-of-the-art models, especially with complete labeled nodes and minimal labeled training data, achieving up to 10.61% improvement in evaluation metrics!   Check out the paper for more details! Paper: https://doi.org/10.1109/LSP.2024.3433568 Code: https://github.com/koc-lab/text-rgnn   Abstract: Text-graph convolutional network (TextGCN) is the fundamental work representing corpus with heterogeneous text graphs. Its innovative application of GCNs for text classification has garnered widespread recognition. However, GCNs are inherently designed to operate within homogeneous graphs, potentially limiting their performance. To address this limitation, we present Text Relational Graph Neural Networks (Text-RGNNs), which offer a novel methodology by assigning dedicated weight matrices to each relation within the graph by using heterogeneous GNNs. This approach leverages RGNNs, enabling nuanced and compelling modeling of relationships inherent in the heterogeneous text graphs, ultimately resulting in performance enhancements. We present a theoretical framework for the relational modeling of GNNs for text classification within the context of document classification and demonstrate its effectiveness through extensive experimentation on benchmark datasets. Conducted experiments reveal that Text-RGNNs outperform the existing state-of-the-art in scenarios with complete labeled nodes and minimal labeled training data proportions by incorporating relational modeling into heterogeneous text graphs. Text-RGNNs outperform the second-best models by up to 10.61% for the corresponding evaluation metric.

  UMRAM araştırmacıları 4-9 Mayıs 2024 tarihinde Singapur’da gerçekleşen ISMRM & ISMRT Annual Meeting & Exhibition toplantısında birçok seminer ve sunum gerçekleştirdi.   Educational lecture: Dr. Ergin Atalar: “Gradient Coil Design” Dr. Emine U. Saritas: “Emerging AI Methods To Address Motion & Susceptibility Artifacts” Oral: Abdallah Alkilani: “A Phase-Injected Complex Forward-Distortion Approach for Deep Unsupervised Correction of Susceptibility Artifacts in EPI” Atakan Bedel: “Explaining Deep fMRI Classifiers with Diffusion-Driven Counterfactual Generation” Yilmaz Korkmaz: “Diffusion Modeling with Unrolled Transformers for Self-Supervised MRI Reconstruction” Usama Mirza: “Accelerated MRI Reconstruction with Fourier-Constrained Diffusion Schrodinger Bridges” Valiyeh Nezhad: “Peer-to-Peer Generative Learning for Architecture-Agnostic Federated MRI Reconstruction” Power pitch: Atakan Topcu: “Unsupervised q-Space Interpolation Using Physics-Constrained Coordinate-Based Implicit Network” Digital poster: Reza Babaloo: “Head-Only Z-gradient Array Coil: Induced Electric Field Analysis of 2- and 3-layer Designs” Mehmet E. Ozturk: “Pulse Sequence Design for Gradient Arrays in MRI” Manouchehr Takrimi: “Calculation of Eddy Power Losses Within the Cryostat Generated by Array or Conventional Gradient Assembly for Arbitrary Pulse Sequences”

Elektrik-Elektronik Mühendisliği Bölümü öğretim üyesi ve UMRAM Direktörü Prof. Dr. Tolga Çukur, hesaplamalı manyetik rezonans görüntüleme (MRG) teknolojilerine üstün katkılarından ötürü, International Society for Magnetic Resonance in Medicine (ISMRM) tarafından Fellow olarak seçildi. 30 yıllık tarihiyle tıp, biyoloji ve ilgili diğer alanlarda MRG araştırma, geliştirme ve uygulama etkinliklerini desteklemeyi sürdüren uluslararası bilim kuruluşu ISMRM, Dr. Çukur’u medikal görüntü rekonstrüksiyonu, sentezi ve analizi için makine öğrenimi algoritmaları ile MRG’nin klinik ve nörobilim uygulamalarına ilişkin çalışmalarından dolayı bu prestijli payeyle ödüllendirmiştir (https://www.ismrm.org/24m/fellows/).