인간 중심 설명 가능한 AI 인터페이스의 설계와 평가에 대한 체계적 조사

Core Concepts

사용자의 요구사항을 이해하고 이를 바탕으로 설명 가능한 AI 인터페이스를 설계하며, 사용자 평가를 통해 개선하는 것이 중요하다.

Abstract

이 논문은 53개의 출판물을 체계적으로 조사하여 현재 인간-XAI 상호작용의 동향과 설명 가능한 인터페이스(EI) 설계 및 개발을 위한 유망한 방향을 파악하고자 했다.
주요 결과는 다음과 같다:

사용자 참여: 대부분의 XAI 연구(84.9%)에서 사용자를 평가에 참여시켰지만, 사용자 요구사항 분석 단계에 참여시킨 경우는 28.3%에 불과했다. 이는 사용자 중심 설계 프로세스가 잘 이루어지지 않고 있음을 보여준다.

EI 설계: EI 설계 시 주로 순차적 정보 구조(47.8%)와 지시형 상호작용(37.7%)을 사용했다. 시각적 계층 구조로는 다중 인스턴스(30.2%)가 가장 많이 사용되었고, 필수 기능으로는 인간 언어(22.6%), 상호작용성(17.0%), 적응형 디스플레이(11.3%)가 주요했다.

EI 평가: EI 평가 시 시스템의 유효성(37.7%), 사용자의 과제 수행 능력(26.4%), 사용자의 이해도(34.0%) 등을 주로 측정했다. 대부분의 평가는 전체 XAI 시스템을 대상으로 했으며, EI 자체를 독립적으로 평가한 경우는 1건에 불과했다.

이를 통해 사용자 요구사항 분석, EI 설계, 평가 등 인간 중심 접근법이 XAI 연구에 더욱 필요함을 알 수 있다.

Stats

"사용자의 과제 수행 능력을 측정하기 위해 참여자의 목표 수행 능력, 완료/오류율, 완료 시간 등을 평가했다."
"시스템의 유효성을 측정하기 위해 정확도, 유용성, 품질 등을 평가했다."
"사용자의 이해도를 측정하기 위해 사용자의 이해 능력과 학습 능력을 평가했다."

Quotes

"대부분의 XAI 연구(84.9%)에서 사용자를 평가에 참여시켰지만, 사용자 요구사항 분석 단계에 참여시킨 경우는 28.3%에 불과했다."
"EI 설계 시 주로 순차적 정보 구조(47.8%)와 지시형 상호작용(37.7%)을 사용했다."
"EI 평가 시 시스템의 유효성(37.7%), 사용자의 과제 수행 능력(26.4%), 사용자의 이해도(34.0%) 등을 주로 측정했다."

Key Insights Distilled From

How Human-Centered Explainable AI Interface Are Designed and Evaluated

by Thu Nguyen,A... at arxiv.org 03-22-2024

https://arxiv.org/pdf/2403.14496.pdf

Deeper Inquiries

XAI 연구에서 사용자 요구사항 분석 단계의 참여가 부족한 이유는 무엇일까?

XAI 연구에서 사용자 요구사항 분석 단계의 참여가 부족한 이유는 다양한 요인으로 설명될 수 있습니다. 첫째, XAI 시스템은 기술적으로 복잡하고 전문적인 지식을 요구하기 때문에 사용자 요구사항을 분석하는 것이 어려울 수 있습니다. 사용자 요구사항을 이해하려면 사용자 그룹의 특성과 도메인 지식이 필요하며, 이는 추가적인 노력과 시간을 요구할 수 있습니다. 둘째, XAI 연구는 종종 기술 중심적인 측면에 초점을 맞추기 때문에 사용자 중심의 설계 및 평가가 부족할 수 있습니다. 이로 인해 사용자 요구사항을 분석하는 단계가 충분히 강조되지 않을 수 있습니다. 마지막으로, XAI 연구에서는 사용자 요구사항을 분석하는 것이 기술적인 성과나 모델의 정확성에 비해 상대적으로 중요성이 떨어질 수 있기 때문에 참여가 부족할 수 있습니다.

EI 설계 시 순차적 정보 구조와 지시형 상호작용이 주로 사용되는 이유는 무엇일까?

EI 설계 시 순차적 정보 구조와 지시형 상호작용이 주로 사용되는 이유는 다양한 이유가 있습니다. 먼저, 순차적 정보 구조는 사용자에게 설명을 선형적으로 제공하여 사용자가 정보를 쉽게 이해하고 따를 수 있도록 도와줍니다. XAI 시스템은 복잡한 기술적 설명을 제공해야 하기 때문에 순차적 정보 구조는 사용자에게 설명을 명확하게 전달하는 데 도움이 됩니다. 또한, 지시형 상호작용은 사용자가 시스템과 상호작용하면서 정보를 탐색하고 이해할 수 있도록 도와줍니다. 사용자가 지시형 상호작용을 통해 시스템을 조작하고 정보를 탐색하면서 더 깊이 있는 이해를 얻을 수 있습니다. 이러한 이유로 순차적 정보 구조와 지시형 상호작용이 EI 설계에서 주로 사용됩니다.

EI 자체를 독립적으로 평가하지 않고 전체 XAI 시스템을 평가하는 이유는 무엇일까?

EI 자체를 독립적으로 평가하지 않고 전체 XAI 시스템을 평가하는 이유는 몇 가지 이유가 있습니다. 먼저, EI는 XAI 시스템의 일부로 작동하며, 사용자에게 기술적 설명을 제공하는 데 중요한 역할을 합니다. 따라서 EI의 효과적인 기능과 성능은 전체 XAI 시스템의 성과에 직접적인 영향을 미칠 수 있습니다. 또한, EI는 사용자와 시스템 간의 인터페이스 역할을 하기 때문에 사용자가 XAI 시스템을 올바르게 이해하고 상호작용할 수 있도록 하는 데 중요합니다. 따라서 EI를 독립적으로 평가하는 것보다 전체 XAI 시스템을 평가하는 것이 더 유용하며, 사용자 경험과 시스템의 효율성을 평가하는 데 더 많은 통찰력을 제공할 수 있습니다.