공공 부문 AI 시스템의 공정성 관련 의사결정을 위한 인간 의사소통 분석 및 조직화

Core Concepts

다양한 이해관계자 간 의사소통 부족으로 인해 AI 시스템의 공정성 관련 의사결정에 문제가 발생할 수 있다.

Abstract

이 연구는 공공 부문에서 AI 알고리즘을 다루는 다양한 이해관계자들 간의 의사소통 과정을 조사했다. 반구조화된 인터뷰를 통해 알고리즘 수명 주기 전반에 걸쳐 역할, 과제, 필요 기술, 그리고 인지된 문제점들을 파악했다.
질적 코딩 분석을 통해 공정성 관련 의사결정의 핵심 요소들을 도출했다. 이를 바탕으로 개념적 프레임워크를 구축했는데, 여기에는 행위자, 역할, 기술, 과제, 정보 교환, 그리고 알고리즘 수명 주기 단계 등의 요소와 이들 간의 관계가 포함된다. 또한 특정 역할이나 기술이 부족한 등의 문제점도 표현할 수 있다.
분석 결과, 다음과 같은 3가지 주요 패턴이 도출되었다:

개발자 역할이 가장 두드러지지만, 정책 입안자나 도메인 전문가의 지침이 부족하다.
최종 사용자와 정책 입안자들은 시스템의 한계와 불확실성을 해석하는 데 기술적 역량이 부족하다.
시민들(데이터 주체)의 참여가 전반적으로 부족하다.

이러한 의사소통 문제는 알고리즘 시스템의 오해와 오용을 초래할 수 있으며, 영향을 받는 인구에 심각한 결과를 초래할 수 있다. 본 연구에서 개발한 개념적 프레임워크는 이러한 문제를 사전에 파악하는 데 도움이 될 수 있다.

Stats

"개발자 역할이 가장 많이 언급되었다(N=189)."
"최종 사용자와 정책 입안자 역할도 많이 언급되었다(각각 N=107, N=92)."
"데이터 주체 역할은 가장 적게 언급되었다(N=22)."

Quotes

"기술 동료들이 모델이 충분히 좋다고 조언할 때 그것이 회색 영역이다. 우리는 문헌과 기술팀의 판단에 의존한다."
"외부 기관을 고용해 알고리즘을 감사하고 조사했다. 왜냐하면 사회 분야가 계속 변화해서 이런 변화를 추적하기 어려웠기 때문이다."
"시민들은 기술에 대한 일반적인 거부감을 표현했지만, 구체적인 질문을 하지는 않았다."

Key Insights Distilled From

Analysing and Organising Human Communications for AI Fairness-Related Decisions

by Mirthe Dankl... at arxiv.org 04-02-2024

https://arxiv.org/pdf/2404.00022.pdf

Deeper Inquiries

시민 참여를 높이기 위한 효과적인 방법은 무엇일까?

시민 참여를 높이기 위한 효과적인 방법은 다양한 접근 방식을 통해 이루어질 수 있습니다. 먼저, 투명성과 의사소통을 강화하는 것이 중요합니다. 시민들에게 프로젝트나 의사결정과정에 대한 정보를 쉽게 이해할 수 있는 방식으로 제공하고, 그들의 의견을 수용하고 존중하는 것이 필요합니다. 또한, 시민들이 참여할 수 있는 다양한 플랫폼을 제공하여 의견을 제시하고 토론할 수 있는 기회를 확대하는 것이 중요합니다. 더불어, 시민들의 참여를 유도하기 위해 보상이나 인센티브를 제공하는 방법도 효과적일 수 있습니다. 마지막으로, 시민들이 실제로 영향을 미칠 수 있는 의사결정에 대한 투표나 의견 수렴 과정을 마련하여 진정한 민주주의적 참여를 유도하는 것이 중요합니다.