신뢰할 수 있는 AI로 가는 여정 - 1부

Core Concepts

AI 시스템의 신뢰성을 확보하기 위해서는 공정성, 편향성, 위험, 보안, 설명 가능성, 신뢰성 등과 같은 핵심 속성과 특성을 다루는 접근법이 필요하다.

Abstract

이 논문은 신뢰할 수 있는 인공지능(TAI)에 대한 일련의 연구 중 첫 번째 편으로, 다양한 TAI 정의와 그 확장된 개념들을 검토한다. 사회에서 존중되는 원칙을 고려할 때 TAI는 다양한 속성이나 주관적 개념으로 특징지어지는데, 이는 규제 및 엔지니어링 맥락에서 혼란을 야기했다. 저자들은 '책임 있는 AI' 또는 '윤리적 AI'라는 용어를 TAI의 대체어로 사용하는 것을 반대한다. 대신 이러한 모호한 용어를 모두 버리고 TAI의 주관성과 복잡성을 고려하여 보편적인 프레임워크를 개발하는 것이 불가능하다고 주장한다. 대신 공정성, 편향성, 위험, 보안, 설명 가능성, 신뢰성 등과 같은 핵심 속성과 특성을 다루는 접근법을 옹호한다.
또한 저자들은 유럽연합, 중국, 미국의 AI 규제 동향을 살펴보고, 지정학적 및 지리적 이유로 인한 AI 규제의 차이가 다국적 기업에 추가적인 과제를 제시한다고 지적한다. 저자들은 AI 규제와 TAI의 핵심 원칙으로 위험을 제시하며, EU-AI법에 따라 기관들은 AI 제품의 위험 수준을 평가하고 그에 따라 대응해야 한다고 설명한다.
또한 TAI 구현의 다양한 방식과 엔드-투-엔드 프로세스에 참여하는 다기능 팀에 대해 비교 분석한다. 이를 통해 TAI를 강제하는 접근법은 효율성과 민첩성을 저해한다는 점을 지적한다. 이를 해결하기 위해 저자들은 'Set-Formalize-Measure-Act(SFMA)' 프레임워크를 제안한다. 이 솔루션은 TAI 인식 지표, TAI 동인, 이해관계자, 비즈니스/법적 요구사항을 실제 벤치마크 또는 테스트로 전환하는 것의 중요성을 강조한다.
마지막으로 강력한 AI 모델에 대한 공포로 인한 과도한 규제는 TAI에도 해를 끼칠 수 있다고 지적한다. GitHub 사용자 활동 데이터에 따르면 2023년 AI 오픈소스 프로젝트가 기여자 수 기준 상위 프로젝트로 부상했다. AI와 TAI의 혁신을 가능하게 하려면 오픈소스 커뮤니티의 독립적인 기여가 관건이다.

Stats

AI 오픈소스 프로젝트가 2023년 GitHub 상위 프로젝트로 부상했다.
2023년 10월 30일 바이든 대통령이 '안전하고 안전하며 신뢰할 수 있는 AI 개발 및 사용'에 관한 행정명령을 발표했다.
EU는 2025년 또는 2026년부터 시행될 'EU-AI법'을 통해 TAI에 대한 최초의 포괄적인 법안을 마련했다.

Quotes

"수학은 '책임감 있을' 수 없으며, AI도 그래야 한다."
"AI 제품이 '책임감 있다'고 기대하는 것은 의미 없다. 책임은 AI를 사용하는 개인이나 기업에 있다."
"과도한 규제는 TAI에도 해를 끼칠 수 있다. GitHub 사용자 활동 데이터에 따르면 2023년 AI 오픈소스 프로젝트가 상위 프로젝트로 부상했다."

Key Insights Distilled From

The Journey to Trustworthy AI- Part 1

by Mohamad M Na... at arxiv.org 03-26-2024

https://arxiv.org/pdf/2403.15457.pdf

Deeper Inquiries

AI 규제에 있어 정부의 역할과 권한을 우선시해야 할까, 아니면 학계와 법조계의 주도적 역할이 더 중요할까?

AI 규제에 있어 정부와 학계, 법조계의 역할은 상호 보완적이며 중요합니다. 정부는 상위 단계의 규칙을 제정하고 시행하여 준수를 보장하는 역할을 합니다. 이는 시장, 사회 안전을 유지하기 위해 필수적입니다. 반면 학계와 법조계는 지역 커뮤니티와 지방 자치 단체에서 시작되는 하향식 규제에 중요한 역할을 합니다. 이들은 자체 규제와 지역 사회 기반의 자치를 통해 정책을 수립하고 검증하여 상위 단계의 정책 채택에 기여합니다. 따라서 AI 규제는 정부와 학계, 법조계의 협력과 상호작용을 통해 효과적으로 이루어져야 합니다.

AI 시스템이 향후 디지털 및 물리적 세계와의 상호작용에서 주체성을 발휘할 수 있다고 가정할 때, 규제 당국과 기업, 소비자는 어떤 대응을 해야 할까?

AI 시스템이 주체성을 발휘할 수 있는 상황에서는 규제 당국, 기업, 소비자는 적절한 대응이 필요합니다. 규제 당국은 AI 시스템의 자율적 상호작용에 대한 규제와 감독을 강화해야 합니다. 이를 통해 AI 시스템의 행동을 예측하고 조절할 수 있는 방안을 마련해야 합니다. 기업은 AI 시스템의 주체성을 고려하여 윤리적 가이드라인을 수립하고 이를 준수하도록 해야 합니다. 소비자는 AI 시스템의 행동을 이해하고 그에 따라 적절한 조치를 취할 수 있도록 교육되어야 합니다.

AI 활용 교육과 자원에 대한 자유로운 접근이 향후 시민권 또는 인권으로 간주되어야 할까?

AI 활용 교육과 자원에 대한 자유로운 접근은 향후 시민권 또는 인권으로 간주되어야 합니다. AI 기술은 현대 사회에서 중요한 역할을 하며, 이에 대한 교육과 자원에 대한 접근은 모든 개인에게 보장되어야 합니다. AI 기술의 발전은 민주주의와 개인의 권리를 강화할 수 있으며, 이를 위해 교육과 자원에 대한 자유로운 접근은 시민권과 인권을 보호하고 증진하는 중요한 요소로 간주되어야 합니다. 따라서 AI 기술에 대한 교육과 자원에 대한 자유로운 접근은 미래의 시민권과 인권을 보장하는 데 중요한 역할을 합니다.