핵심 개념
그래프 대조 학습에서 구조적 근거에 집중하는 기존 방식의 한계를 극복하고자, 그래프 표현의 차원 근거를 탐구하고 이를 활용하여 성능을 향상시키는 방법을 제안한다.
초록
이 논문은 그래프 대조 학습(GCL)에서 기존 방식의 한계를 극복하고자 그래프 표현의 차원 근거(Dimensional Rationale, DR)를 탐구하고 이를 활용하는 방법을 제안한다.
기존 GCL 방식은 그래프의 구조적 근거(Structural Rationale, SR)에 집중하지만, 이는 그래프 표현의 해석 가능성을 저해하고 과제 무관 정보를 학습할 수 있다는 한계가 있다.
이에 저자들은 그래프 표현의 차원 근거(DR)에 주목하였다. 실험을 통해 DR이 존재하며 이를 활용하면 성능 향상을 달성할 수 있음을 확인하였다.
저자들은 DR을 인과 관점에서 재고찰하고, DR이 GCL에서 혼란변수(confounder)임을 밝혔다. 이를 바탕으로 DR 기반 GCL 방법(DRGCL)을 제안하였다.
DRGCL은 학습 가능한 DR 획득 네트워크와 중복성 감소 제약을 도입하여 DR을 효과적으로 활용한다. 이를 통해 판별력과 전이성 측면에서 우수한 성능을 달성하였다.
통계
그래프 표현의 특정 차원만 보존하면 기존 표현보다 더 나은 성능을 보인다.
보존되는 차원 비율에 따라 성능이 일관되지 않고 상하로 변동된다.
인용구
"Does there exist a manner to explore the intrinsic rationale in graphs, thereby improving the GCL predictions?"
"We rethink the dimensional rationale in graph contrastive learning from a causal perspective and further formalize the causality among the variables in the pre-training stage to build the corresponding structural causal model."