Core Concepts
AI systems should embrace seams to enhance explainability and empower users.
Abstract
이 논문은 AI 시스템에서 'seams'을 채택하여 설명력을 향상시키고 사용자에게 권한을 부여하는 방법을 제안합니다. Seamful XAI 디자인 프로세스를 소개하고, breakdowns를 예측하고, seams를 만들고, seams를 사용자의 권한을 강화하기 위해 설계하는 방법을 설명합니다. 이 프로세스는 참가자들이 seams를 식별, 제작 및 설계하는 데 도움이 되었으며, 참가자들이 이러한 개념을 자신의 사용 사례로 전이하는 데 효과적이었습니다.
Introduction
- AI systems often hide seams, but embracing them can enhance user experience.
Mistakes in AI Systems
- Mistakes are inevitable due to technical limitations and sociotechnical gaps.
- Black-boxing AI systems can make user experience seamless but risks disempowering users.
Concept of Seamful XAI
- Seamful design can foster AI explainability by revealing and leveraging sociotechnical and infrastructural mismatches.
- Seamful XAI design process helps users foresee AI harms, identify reasons, and improve XAI and user agency.
Design Process
- Envisioning breakdowns, anticipating and crafting seams, designing with seams.
- Breakdowns are inevitable and reveal seams, which can be strategically revealed to support user agency.
Empirical Study
- Study with 43 AI practitioners and end-users showed effectiveness of Seamful XAI in enhancing explainability and user agency.
Stats
AI 시스템에서 'seams'을 채택하여 설명력을 향상시키고 사용자에게 권한을 부여하는 방법을 제안합니다.
Quotes
"Making breakdown a goal-centered task is super effective." - P19
"Seams are revealed through breakdowns." - P07