Основні поняття
인간 가치는 인간 의사결정에 필수적이다. 다양한 가치가 서로 상충될 수 있는 가치 다원주의를 인공지능 시스템이 모델링하는 것이 중요하다.
Анотація
이 논문은 인간 가치, 권리, 의무의 다원주의를 모델링하는 방법을 제안한다.
먼저 VALUEPRISM이라는 대규모 데이터셋을 소개한다. 이 데이터셋은 31,000개의 실제 상황에 대해 218,000개의 맥락화된 가치, 권리, 의무를 포함한다. GPT-4가 생성한 이 데이터는 인간 평가자들에 의해 91%의 높은 품질로 평가되었다. 또한 다양한 사회적, 인구통계학적 배경의 평가자들을 통해 데이터셋의 다양성을 검증하였다.
이 데이터셋을 바탕으로 VALUE KALEIDOSCOPE (KALEIDO)라는 언어 기반 다중 과제 모델을 개발하였다. KALEIDO는 맥락에 따른 가치, 권리, 의무를 생성, 설명, 평가할 수 있다. 사람들은 KALEIDO가 생성한 가치 세트를 GPT-4보다 더 정확하고 포괄적이라고 평가했다. 또한 KALEIDO는 상충되는 가치를 출력함으로써 인간 의사결정의 모호성을 설명할 수 있다. 마지막으로 KALEIDO의 표현이 다른 철학적 프레임워크와 데이터셋에 전이되는 것을 보여, 명시적이고 모듈화된 접근법의 이점을 확인했다.
이 연구는 인간 의사결정의 암묵적 가치를 명시적으로 만들고, 이를 바탕으로 인공지능 시스템의 의사결정을 개선하는 데 기여할 것으로 기대된다.
Статистика
인간 가치, 권리, 의무는 상황에 따라 서로 다른 정도로 관련되고 지지 또는 반대될 수 있다.
KALEIDO는 맥락에 따른 가치, 권리, 의무를 생성, 설명, 평가할 수 있다.
사람들은 KALEIDO가 생성한 가치 세트를 GPT-4보다 더 정확하고 포괄적이라고 평가했다.
Цитати
"인간 가치는 인간 의사결정에 필수적이다."
"다양한 가치가 서로 상충될 수 있는 가치 다원주의를 인공지능 시스템이 모델링하는 것이 중요하다."
"KALEIDO는 상충되는 가치를 출력함으로써 인간 의사결정의 모호성을 설명할 수 있다."