Core Concepts
생성형 AI(GenAI)의 등장으로 설명 가능성(XAI)에 대한 새로운 요구사항, 목표 및 가능성이 등장했다. 이 연구는 GenAI와 관련된 XAI의 중요성, 과제 및 필요 사항을 다룬다.
Abstract
이 연구는 생성형 AI(GenAI)의 등장으로 설명 가능성(XAI)에 대한 새로운 요구사항, 목표 및 가능성이 등장했음을 설명한다.
핵심 내용은 다음과 같다:
GenAI의 중요성:
사용자가 출력을 조정하고 맞춤화할 수 있어 설명 가능성에 대한 수요가 증가했다.
GenAI 출력의 신뢰성 검증이 필요하다.
GenAI의 사회적 영향력이 커졌다.
GenAI가 고영향 애플리케이션에 사용되고 있다.
GenAI의 응용 분야를 자동으로 평가하기 어렵다.
GenAI에 대한 보안 및 안전 우려가 있다.
GenAI의 책임성과 법적 문제가 대두되고 있다.
GenXAI의 과제:
모델 내부 및 학습 데이터에 대한 접근성 부족
상호작용성 증가
시스템, 모델, 데이터, 학습의 복잡성 증가
출력의 복잡성 증가
자동 평가의 어려움
다양한 사용자층
윤리적 위반 위험
GenAI 모델의 기술적 한계(환각, 추론 오류 등)
GenXAI를 위한 필요 사항:
검증 가능성: 출력 검증을 지원해야 한다.
계보: 데이터, 알고리즘, 프로세스에 대한 추적 정보를 제공해야 한다.
상호작용성 및 개인화: 사용자 선호에 따라 설명을 맞춤화할 수 있어야 한다.
동적 설명: 샘플, 목적 등에 따라 설명 내용과 품질을 자동으로 선택해야 한다.
비용: XAI 구현 및 가치 유출 위험에 대한 비용을 고려해야 한다.
정렬 기준: 도움, 정직, 무해 등의 기준에 부합해야 한다.
보안: 보안을 위협하지 않도록 해야 한다.
불확실성: 출력의 신뢰도와 불확실성을 이해하고 전달해야 한다.
Stats
GenAI는 대학 수준의 시험을 통과할 수 있다.
GenAI는 창의성이 필요한 분야에서도 뛰어난 성과를 보인다.
ChatGPT는 100만 명의 사용자를 가장 빨리 확보한 제품이다.
GenAI는 연간 수조 달러의 가치를 창출할 잠재력이 있다.
Quotes
"GenAI는 인류를 위협할 수 있다."
"GenAI는 수조 달러의 가치를 창출할 수 있다."