Core Concepts
AI 시스템이 사회적 가치와 규범에 부합하고 잠재적 위험을 크게 상회하는 이점을 제공하도록 하기 위해서는 AI 전문가들이 규제 요구사항 준수 여부를 검증할 수 있어야 한다.
Abstract
이 논문은 AI 시스템을 효과적으로 규제하기 위한 기술적 혁신 방향을 탐구한다. 공공 부문 조달 체크리스트를 통해 현재 가능한 기술적 접근법, 향후 기술 혁신이 필요한 부분, 그리고 다학제적 접근이 필요한 부분을 살펴본다.
데이터 품질 검사: 데이터 문서화, 편향 및 일반화 가능성 측정 등의 기술적 접근법이 존재하지만, 데이터 품질과 모델 성능 간 연관성 정량화, 사전 학습 모델의 데이터 품질 검사, 비정형 데이터에 대한 품질 검사 등의 추가 혁신이 필요하다.
시스템 모니터링: 다양한 지표 모니터링, 사용 사례 인증, 배포 후 모델 수정 등의 기술이 존재하지만, 많은 지표 모니터링의 효율성, 관련 없는 분포 변화 식별, 온라인 학습 에이전트 모니터링 등의 과제가 남아있다.
전역 설명: 해석 가능한 모델 구축, 대규모 모델의 부분 공개 등의 기술이 있지만, 비정형 데이터에 대한 해석 가능성, 대화형 모델 설명, 가치 정렬 측정 등의 혁신이 필요하다.
국소 설명: 근접 데이터 정의, 비해석적 데이터에 대한 설명, 데이터 출처 추적 등의 기술이 있지만, 데이터 분포 외 입력에 대한 설명, 프라이버시-설명 간 균형 등의 과제가 남아있다.
목표 설계: 다양한 목표 함수 강건성, 목표와 학습 모델 행동 간 연관성 이해 등의 기술이 있지만, 목표 함수와 실제 목표 간 연관성 측정, 다중 목표 최적화 등의 혁신이 필요하다.
프라이버시: 차등 프라이버시 등의 기술이 있지만, 프라이버시와 성능 간 균형, 프라이버시 보장 하 다양한 질의 처리 등의 과제가 남아있다.
이러한 기술적 혁신과 더불어 다학제적 접근이 필요한 부분도 있다. 데이터 품질, 공정성, 프라이버시 등의 정의와 측정은 법, 정책, 사회과학 등의 영역과 협력이 필요하다.
Stats
"AI 시스템은 점점 더 복잡해지고 다양한 환경에 통합되고 있어, 이들에 대한 효과적인 규제가 중요해지고 있다."
"규제 요구사항을 준수하는지 확인하는 것이 어려워지고 있다."
"규제 가능한 AI 시스템을 만들기 위해서는 AI 시스템이 규제 요구사항을 준수할 수 있도록 설계되어야 한다."
Quotes
"AI 시스템이 사회적 가치와 규범에 부합하고 잠재적 위험을 크게 상회하는 이점을 제공하도록 하기 위해서는 AI 전문가들이 규제 요구사항 준수 여부를 검증할 수 있어야 한다."
"규제 요구사항을 준수할 수 없는 요구사항은 실질적인 보호를 제공하지 못한다."
"AI 시스템이 규제되어야 한다면, AI 시스템은 규제 가능하도록 설계되어야 한다."