核心概念
사용자의 요구사항을 이해하고 이를 바탕으로 설명 가능한 AI 인터페이스를 설계하며, 사용자 평가를 통해 개선하는 것이 중요하다.
要約
이 논문은 53개의 출판물을 체계적으로 조사하여 현재 인간-XAI 상호작용의 동향과 설명 가능한 인터페이스(EI) 설계 및 개발을 위한 유망한 방향을 파악하고자 한다.
주요 내용은 다음과 같다:
- 사용자 참여 단계:
- 대부분의 연구(84.9%)에서 사용자를 평가에 참여시켰지만, 사용자 요구사항 분석 단계에는 28.3%만 참여시켰다.
- 사용자 요구사항 분석과 평가를 모두 수행한 연구는 17%에 불과했다.
- EI 설계:
- 시각적 계층 구조: 다중 인스턴스(30.2%), 전체 개요(11.3%), 초점 포인트(11.3%) 등이 주요 요구사항이었다.
- 필수 기능: 대화형 인터페이스(37.7%), 자연어 사용(30.2%), 적응형 디스플레이(17.0%) 등이 주요 요구사항이었다.
- 정보 구조: 순차적(47.8%), 매트릭스(17.4%), 계층적(8.7%) 등의 구조를 사용했다.
- 상호작용 유형: 지시(37.7%), 탐색(17.4%), 조작(8.7%) 등의 유형을 사용했다.
- EI 평가:
- 주요 평가 지표: 시스템 효과성(37.7%), 사용자 과업 수행 능력(26.4%), 사용자 이해도(34.0%) 등이었다.
- 평가 유형: 시스템 특성(60.4%), 사용자 인지 능력(35.8%), 사용자 행동 능력(30.2%) 등을 평가했다.
전반적으로 사용자 요구사항 분석과 평가를 통합적으로 수행하는 연구가 부족하며, 사용자 중심 설계 프로세스가 필요하다. 또한 EI 설계와 평가에 대한 체계적인 접근이 필요하다.
統計
"사용자의 80% 이상이 XAI 설명을 충분히 이해하지 못했다."
"사용자 요구사항 분석과 평가를 모두 수행한 연구는 전체의 17%에 불과했다."
引用
"사용자 요구사항 분석은 전체 연구의 28.3%에서만 수행되었다."
"다중 인스턴스(30.2%)와 전체 개요(11.3%)가 주요 시각적 계층 구조 요구사항이었다."
"대화형 인터페이스(37.7%)와 자연어 사용(30.2%)이 주요 필수 기능 요구사항이었다."