Keskeiset käsitteet
사용자의 요구사항을 이해하고 이를 바탕으로 설명 가능한 AI 인터페이스를 설계하며, 사용자 평가를 통해 개선해 나가는 것이 중요하다.
Tiivistelmä
이 논문은 설명 가능한 AI(XAI) 시스템의 사용성, 실용적 해석 가능성, 실제 사용자에 대한 효과를 개선하기 위해 사용자 인터페이스와 사용자 경험 설계 측면에 초점을 맞추는 설명 가능한 인터페이스(EI) 연구에 대한 체계적 조사를 수행했다.
주요 내용은 다음과 같다:
- 사용자 참여 설계 및 개발 현황:
- 대부분의 XAI 연구(84.9%)에서 사용자 평가를 수행했지만, 사용자 요구사항 분석은 28.3%에 불과했다.
- 사용자 그룹으로는 도메인 전문가(46.7%), ML/AI 전문가(33.3%), UI/UX 전문가(6.7%), 일반 사용자(20%)가 참여했다.
- EI 설계 현황:
- 시각적 계층 구조: 다중 인스턴스(30.2%), 전체 개요(11.3%), 초점 포인트(11.3%) 등이 주로 사용되었다.
- 필수 기능: 대화형(47.8%), 인간 언어(47.8%), 적응형 디스플레이(17.4%) 등이 주로 요구되었다.
- 정보 구조: 순차적(47.8%), 매트릭스(17.4%), 유기적(17.4%) 등이 사용되었다.
- 상호작용 유형: 지시(37.7%), 조작(17.4%), 탐색(17.4%) 등이 주로 사용되었다.
- EI 평가 현황:
- 평가 지표: 시스템 효과성(37.7%), 사용자 과업 수행(26.4%), 사용자 이해(34%) 등이 주로 사용되었다.
- 평가 유형: 시스템 특성(60.4%), 사용자 인지(35.8%), 사용자 행동(30.2%) 등이 평가되었다.
이 연구는 XAI 시스템의 사용자 중심 설계와 평가를 위한 통찰력을 제공한다.
Tilastot
"사용자 평가를 수행한 XAI 연구는 전체의 84.9%에 달한다."
"사용자 요구사항 분석을 수행한 XAI 연구는 전체의 28.3%에 불과하다."
"도메인 전문가가 참여한 XAI 연구는 전체의 46.7%이다."
"ML/AI 전문가가 참여한 XAI 연구는 전체의 33.3%이다."
"UI/UX 전문가가 참여한 XAI 연구는 전체의 6.7%이다."
"일반 사용자가 참여한 XAI 연구는 전체의 20%이다."
Lainaukset
"사용자의 요구사항을 이해하고 이를 바탕으로 설명 가능한 AI 인터페이스를 설계하며, 사용자 평가를 통해 개선해 나가는 것이 중요하다."
"대화형, 인간 언어, 적응형 디스플레이 등의 필수 기능이 주로 요구되었다."
"시스템 효과성, 사용자 과업 수행, 사용자 이해 등의 평가 지표가 주로 사용되었다."