Ppormer: 가중 그래프에 대한 효과적인 노드 표현 학습을 위한 PPR 기반 확산 트랜스포머
Ppormer: A PPR-based Diffusion Transformer for Effective Node Representation Learning on Weighted Graphs
0
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
본 논문은 가중 그래프의 노드에 대한 표현을 더욱 효과적으로 학습할 수 있는 새로운 그래프 신경망 모델인 Ppormer(PPR-based DiffusionTransformer)를 제안한다. Ppormer는 각 노드의 표현 학습 과정에 다음 3가지 정보를 반영한다: (1) 그래프 전역 정보: 확산 모델에 기반한 노드간 셀프 어텐션(self-attention)을 사용하여 그래프 내 모든 노드의 정보를 반영, (2) 그래프 국소 정보: 그래프 합성곱 신경망(Graph ConvolutionalNetwork, GCN) 기반의 메시지 패싱 기법을 사용하여 인접 노드의 정보를 반영, (3) 그래프 구조 정보: 개인화된 페이지랭크(Personalized PageRankPPR)를 사용하여 먼 노드의 정보를 노드 간 연결 강도에 기반하여 반영. Ppormer는 최종적으로 이 3가지 정보를 FusionAttenion 모듈을 통해효과적으로 융합한다. Cora 데이터셋에 대해 노드 간 가중치를 자카드(Jaccard) 거리, 캔버라(Canberra) 거리, 유클리디안(Euclidean) 거리 등 다양한방법으로 할당하고 제안 모델을 사용하여 노드를 분류한 결과 각각 84.00%, 83.94%, 85.54%의 정확도를 보여 기존 모든 그래프 신경망에 비해좋은 성능을 보임을 확인하였다.
Abstract
This paper proposes Ppormer (PPR-based Diffusion Transformer), a novel graph neural network designed to improve node representationlearning on weighted graphs. Ppormer incorporates three complementary types of information into the node representation process: (1)Global contextual information, captured via diffusion-based self-attention mechanisms that model semantic relationships across the entiregraph; (2) Local structural information, obtained through Graph Convolutional Network (GCN)-based message passing over immediateneighbors; and (3) Global structural information, derived from Personalized PageRank (PPR) to reflect long-range topological relevancebased on edge strength. These heterogeneous signals are adaptively fused using the proposed FusionAttention module. Experimentsconducted on the Cora dataset, with edge weights computed using Jaccard, Canberra, and Euclidean similarities, demonstrate that Ppormerachieves accuracy scores of 84.00%, 83.94%, and 85.54%, respectively—outperforming all baseline models. These results validate theeffectiveness and generalizability of Ppormer in various weighted graph scenarios.