核心概念
복소수 표현을 사용하는 지식 그래프 임베딩 모델의 메모리 효율성을 높이기 위해 관계 임베딩에서 공액 매개변수를 공유하는 방법을 제안한다.
摘要
이 논문은 지식 그래프 임베딩(KGE) 모델에서 복소수 표현을 사용할 때 발생하는 메모리 및 학습 시간 문제를 해결하기 위한 방법을 제안한다.
- 관계 임베딩에서 공액 매개변수를 공유하는 방법을 제안한다. 이를 통해 관계 임베딩 크기를 절반으로 줄일 수 있다.
- 제안한 방법을 기존의 두 가지 최고 성능 KGE 모델인 ComplEx와 5⋆E에 적용하여 실험을 수행했다.
- 실험 결과, 제안한 방법인 Complϵx와 5⋆ϵ는 원본 모델과 비교하여 성능 저하 없이 메모리 효율성을 2배 향상시켰으며, 5⋆ϵ의 경우 평균 31%의 학습 시간 단축 효과도 있었다.
- 제안한 방법은 다양한 복소수 표현 KGE 모델에 쉽게 적용할 수 있다.
統計資料
지식 그래프 FB15K-237의 엔티티 수는 14,541개, 관계 수는 237개이다.
지식 그래프 WN18RR의 엔티티 수는 40,943개, 관계 수는 11개이다.
지식 그래프 YAGO3-10의 엔티티 수는 123,188개, 관계 수는 37개이다.
지식 그래프 FB15K의 엔티티 수는 14,951개, 관계 수는 1,345개이다.
지식 그래프 WN18의 엔티티 수는 40,943개, 관계 수는 18개이다.
引述
"지식 그래프 임베딩 모델은 종종 얕은 기계 학습 모델로 구성되어 있으며, 단순한 연산(예: 행렬 곱셈)을 수행한다."
"복소수 표현을 사용하는 KGE 모델은 최고 성능을 보이지만, 높은 메모리 비용을 요구한다."