핵심 개념
TSFeatLIME 프레임워크는 보조 특성을 통합하고 생성된 샘플과 질의 시계열 간의 거리를 고려하여 블랙박스 모델의 행동을 더 잘 모방할 수 있는 대리 모델을 제공한다.
초록
이 연구는 시계열 예측 모델의 설명 가능성을 높이기 위한 TSFeatLIME 프레임워크를 소개한다. TSFeatLIME은 TSLIME을 기반으로 하며, 보조 특성을 통합하고 생성된 샘플과 질의 시계열 간의 거리를 고려하여 대리 모델의 충실도를 향상시킨다. 또한 160명의 참가자를 대상으로 한 온라인 사용자 연구를 통해 이러한 설명이 사용자 이해에 미치는 영향을 평가한다. 연구 결과, TSFeatLIME 프레임워크를 사용하면 거리를 고려하여 블랙박스 모델의 행동을 더 잘 모방할 수 있으며, 특히 컴퓨터 과학 배경이 없는 참가자들에게 설명이 더 효과적인 것으로 나타났다.
통계
만약 지연 특성이 양의 기여를 하는 경우, 그 값을 증가시키면 모델의 예측 출력이 증가하고 감소시키면 출력이 감소한다.
만약 지연 특성이 음의 기여를 하는 경우, 그 값을 증가시키면 모델의 예측 출력이 감소하고 감소시키면 출력이 증가한다.
인용구
"사용자로서 우리는 본질적으로 호기심이 많은 존재이며, 의사 결정 프로세스의 근거를 이해하고자 한다."
"사용자가 모델의 예측을 완전히 이해하지 못하면 해당 모델을 활용하지 않을 것이다."