Core Concepts
법률 전문가와 고객을 위한 정확하고 투명하며 다양한 관점을 제공하는 오픈소스 기반의 법률 AI 시스템 개발이 필요하다.
Abstract
이 연구는 ChatGPT와 같은 범용 AI의 법률 문제 해결 능력을 평가하고, 이러한 AI 시스템의 한계를 극복하기 위해 도메인 특화 지식을 활용한 기반 모델을 활용할 것을 제안한다.
연구진은 정확성, 투명성, 다양성 있는 서술을 제공하는 오픈소스 기반의 법률 AI 시스템 개발을 옹호한다. 이를 통해 범용 AI의 법률 분야 한계를 해결할 수 있다.
구체적으로 연구진은 편향 위험, 사실 확인, 법적 추론 능력, 서술 다양성 등을 평가하는 벤치마크를 개발하고자 한다. 또한 www.OpenJustice.ai라는 플랫폼을 통해 협력적이고 군중 참여적인 방식으로 법률 전문가와 지원 센터를 위한 맞춤형 AI 솔루션을 설계하고 테스트하는 방안을 제안한다.
Stats
최근 연구에 따르면 AI 시스템의 능력이 시간이 지남에 따라 크게 변동될 수 있다.
범용 AI는 "환각"을 일으키고 편향된 조언을 제공할 수 있다는 우려가 있다.
범용 AI는 주류 관점을 반영하는 경향이 있어, AI 생성 텍스트가 웹에 재유입되면 "AI 에코 챔버"가 생길 수 있다.
Quotes
"AI 모델은 유명한 거짓말쟁이이다."
"AI는 법률 문제에 대한 다양한 관점을 제공하지 못하고 편향된 조언을 줄 수 있다."
"AI는 법률 용어의 의미 미묘함을 충분히 포착하지 못한다."