이 연구는 신경망이 자체적으로 생성한 개념 수준의 지식을 지식 그래프 형태로 표현하고, 이를 인간이 제공한 지식 그래프와 정렬하는 혁신적인 방법을 제안한다.
기존 연구에서는 신경망에서 추출한 지식을 단순히 설명을 위한 용도로만 사용했지만, 이 연구에서는 이 지식을 신경망 학습 과정에 직접 활용할 수 있도록 한다.
구체적으로, 연구진은 자동 인코더 구조에 벡터 상징 아키텍처(VSA)를 결합하여 신경망 지식 그래프(KGVNN)를 생성하고, 이를 인간이 제공한 지식 그래프(KGG)와 정렬하는 방법을 고안했다. 이를 통해 신경망이 생성한 개념을 인간 지식과 일치시킬 수 있으며, 나아가 인간 지식을 활용하여 신경망 학습을 개선할 수 있다.
실험 결과, 제안 방법은 신경망이 생성한 개념과 인간 지식 간의 정렬을 효과적으로 달성할 수 있었다. 특히 인간 지식의 양과 질이 풍부할수록, 그리고 신경망의 개념 수가 많을수록 더 나은 성능을 보였다. 이는 이 방법이 신경망의 해석 가능성을 높이고 기호 논리 추론 기법과의 통합을 촉진할 수 있음을 시사한다.
In eine andere Sprache
aus dem Quellinhalt
arxiv.org
Wichtige Erkenntnisse aus
by Tangrui Li,J... um arxiv.org 04-29-2024
https://arxiv.org/pdf/2404.16884.pdfTiefere Fragen