이 연구는 미국 중서부 도시 밀워키에서 수행되었으며, 지역사회 구성원 39명, 기술 전문가 14명, 법집행 담당자 7명 등 총 60명의 참여자를 대상으로 진행되었다. 연구팀은 참여자들이 범죄 지도 알고리즘을 직접 사용해볼 수 있는 대화형 애플리케이션을 개발하여 제공하였다. 이를 통해 참여자들의 배경과 경험이 알고리즘 사용에 어떤 영향을 미치는지, 그리고 이들이 제기한 윤리적 설계와 활용에 대한 요구사항을 파악하고자 하였다.
연구 결과, 지역사회 구성원들은 범죄 지도 알고리즘의 활용 목적에 대해 우려를 표했다. 이들은 해당 기술이 특정 지역을 과도하게 단속하거나 벌금 수익을 창출하는 수단으로 악용될 수 있다고 지적했다. 반면 기술 전문가와 법집행 담당자들은 알고리즘의 유용성을 인정하면서도, 데이터의 신뢰성과 편향성, 그리고 실무와의 연계 방안 등에 대한 우려를 표했다.
참여자들의 상호작용 양상을 살펴보면, 지역사회 구성원과 기술 전문가들은 다양한 매개변수를 조정하며 능동적으로 지도를 생성하고 해석하는 모습을 보였다. 반면 법집행 담당자들은 초기에 제공된 지도에 강하게 의존하는 경향을 보였다. 이는 법집행 담당자들이 지역에 대한 미시적 지식에 기반하여 지도를 해석하는 반면, 다른 참여자들은 보다 거시적인 관점에서 접근했기 때문으로 보인다.
이러한 결과를 바탕으로 연구팀은 다음과 같은 시사점을 도출했다. 첫째, 지역사회 구성원, 기술 전문가, 법집행 담당자 등 다양한 이해관계자들이 알고리즘의 전 생애주기에 걸쳐 의미 있는 피드백을 제공할 수 있다. 둘째, 직관적인 알고리즘 애플리케이션은 지역사회 구성원들의 이해를 높이고 알고리즘의 한계를 인식하게 할 수 있다. 셋째, 법집행 담당자들의 실무 지식과 알고리즘 예측 결과 간의 불일치로 인해 인간-AI 의사결정이 복잡해질 수 있다. 이를 해결하기 위해서는 법집행 담당자들의 요구사항을 반영한 알고리즘 설계가 필요할 것으로 보인다.
To Another Language
from source content
arxiv.org
ข้อมูลเชิงลึกที่สำคัญจาก
by MD Romael Ha... ที่ arxiv.org 03-20-2024
https://arxiv.org/pdf/2402.05348.pdfสอบถามเพิ่มเติม