Core Concepts
LLMs는 정치인들의 이념 성향을 정확하게 측정할 수 있으며, 이를 통해 텍스트의 이념적 성향도 효과적으로 파악할 수 있다.
Abstract
이 논문은 LLMs(Large Language Models)를 활용하여 미국 상원의원들의 이념 성향을 측정하는 방법을 제안한다.
먼저 GPT-3.5-turbo를 사용하여 114대 미국 상원의원들의 이념 점수를 직접 도출하였다. 이 결과는 기존의 이념 측정 방법들(DW-NOMINATE, CFScores, TBIP)과 높은 상관관계를 보여 LLMs의 측정 결과가 타당성이 있음을 보여주었다.
이어서 LLMs를 활용하여 텍스트의 이념적 성향을 측정하는 다양한 실험을 진행하였다. 먼저 도널드 트럼프의 트윗에 대한 이념성 판단 결과가 그의 정치적 야심 변화와 잘 부합하는 것을 확인하였다. 이어서 특정 시나리오에 대한 이념 성향 판단 결과가 저자의 직관과 잘 부합하는 것을 보였다. 마지막으로 114대 상원의원들의 트윗에 대한 이념 점수와 해당 의원들에게 직접 부여한 이념 점수 간의 높은 상관관계를 확인하였다.
이를 통해 LLMs가 정치인들의 이념 성향을 정확하게 측정할 수 있으며, 텍스트의 미묘한 이념적 성향도 효과적으로 파악할 수 있음을 보여주었다.
Stats
도널드 트럼프의 2009-2017년 트윗 데이터에서 GPT-3.5-turbo가 "이념적"으로 판단한 트윗 비율이 2011년 4월 30일 백악관 기자 만찬 이후 급증했다.
GPT-4가 구성한 저녁 식사 시나리오에서 부모의 정치적 성향에 대한 점수는 저자의 직관과 잘 부합했다.
GPT-3.5-turbo가 114대 상원의원들의 트윗에 부여한 이념 점수는 해당 의원들에게 직접 부여한 이념 점수와 매우 높은 상관관계를 보였다.