이 논문은 언어 모델의 성능 향상을 위해 지식 표현을 활용하는 다양한 방법을 탐구한다. 구조화된 지식과 비구조화된 지식을 모두 활용하여 다양한 NLP 과제에서 성능 향상을 달성하였다.