핵심 개념
본 논문은 산업 공정 모델링에서 설명 가능한 인공 지능(XAI) 기법의 강건성을 실증적으로 평가하고, 특히 노이즈가 XAI 기법의 성능에 미치는 영향을 분석합니다.
초록
산업 공정 모델링에서 설명 가능한 인공 지능의 강건성: 노이즈 영향 분석
본 연구는 산업 공정 모델링에서 설명 가능한 인공 지능(XAI) 기법의 강건성을 평가하는 것을 목표로 합니다. 특히, 실제 산업 환경에서 발생할 수 있는 노이즈가 XAI 기법의 성능에 미치는 영향을 분석합니다.
본 연구에서는 전기 아크 용광로(EAF) 모델을 사용하여 데이터를 생성하고, 이를 기반으로 다양한 블랙박스 모델(선형 회귀, 신경망 앙상블, LightGBM)을 학습시켰습니다. 이후 SHAP, LIME, ALE, SG 등의 XAI 기법을 적용하여 모델의 예측 결과를 설명하고, 노이즈를 추가하여 데이터를 오염시킨 후 XAI 기법의 성능 변화를 측정했습니다.
새로운 평가 방법론
본 연구에서는 서로 다른 XAI 기법의 결과를 비교하기 위해 새로운 평가 방법론을 제시합니다. 이 방법론은 특징 중요도 점수를 동일한 척도로 조정하고, 정규화를 통해 기준 진실 효과와 비교 가능하도록 합니다.