이 연구는 인간-AI 숙의 프레임워크를 제안하고 이를 구현한 Deliberative AI 시스템을 소개한다. 기존 AI 보조 의사결정 방식에서는 인간이 AI의 제안을 수동적으로 검토하고 수용 여부를 결정하는 데 그쳤다. 이에 따라 인간의 분석적 사고가 부족하고 인간-AI 간 의견 차이를 효과적으로 해결하기 어려웠다.
인간-AI 숙의 프레임워크는 인간과 AI가 상호작용하며 의견을 교환하고 숙의하는 과정을 통해 이러한 한계를 극복하고자 한다. 구체적으로 다음과 같은 단계로 구성된다:
이를 위해 Deliberative AI 시스템은 대화형 언어모델과 도메인 특화 모델을 결합하여 구현되었다. 실험 결과, 인간-AI 숙의 프레임워크가 기존 설명가능 AI 대비 의사결정 정확도와 적절한 AI 의존도를 향상시킬 수 있음을 확인했다. 또한 참여자의 행동, 인식, 사용자 경험 분석을 통해 향후 AI 보조 의사결정 도구 설계를 위한 시사점을 도출했다.
To Another Language
from source content
arxiv.org
Дополнительные вопросы