核心概念
AI 모델 및 시스템 개발 과정에서 투명성을 높이기 위한 인간 중심 문서화 프로세스의 실효성을 평가하고, 이를 통해 얻은 통찰을 제공한다.
摘要
이 연구는 AI 모델 및 시스템 개발 팀이 인간 중심 문서화 프로세스를 적용하여 AI FactSheet를 작성하는 과정을 평가한다.
주요 내용은 다음과 같다:
- 인간 중심 문서화 프로세스의 실용성:
- 팀원들은 프로세스의 각 단계를 잘 따랐으며, 특히 문서 소비자 파악 단계가 가장 유용했다고 평가했다.
- 팀원들은 프로세스를 자신들의 상황에 맞게 적절히 조정하여 적용했다.
- 프로세스를 통해 새로운 문서화 요구사항을 발견할 수 있었다.
- 문서화의 유용성:
- 소비자들은 작성된 FactSheet의 품질이 전반적으로 높다고 평가했다.
- 소비자들은 FactSheet에 추가로 필요한 정보를 역할별로 구체적으로 제시했다.
- 프로세스의 장단점:
- 장점: 문서 통합, 탐색 용이성, 단일 정보 출처 제공 등
- 단점: 시간 소요, 소비자 일정 조율의 어려움 등
이 연구 결과는 AI 모델 투명성 제고를 위한 문서화 프로세스와 도구 개발에 유용한 시사점을 제공한다.
統計資料
"AI 기반 시스템은 개인의 삶에 큰 영향을 미칠 수 있는 결정을 내리거나 이에 관여하고 있다."
"AI 모델 개발은 매우 협업적이다. 다양한 전문성을 가진 사람들이 기여하며, 이들은 서로 다른 전문 용어를 사용한다."
"AI 모델 개발은 매우 반복적이다. 실험을 거치면서 잦은 실패와 되돌아가기가 발생하며, 중요한 의사결정 사항들이 종종 기록되지 않는다."
引述
"이 문서는 모든 정보를 한 곳에 통합하여 제공하므로 매우 유용합니다."
"이전에는 여러 문서를 찾아다녀야 했지만, 이제는 이 문서 하나만으로도 필요한 정보를 찾을 수 있습니다."
"이 문서를 통해 모델에 대한 전반적인 이해도가 높아졌습니다."