기술 증거에 대한 의문: 공공 변호사들이 법정에서 AI 시스템을 검토하는 데 직면하는 어려움

Centrala begrepp

공공 변호사들은 기술 개발자와 사용자의 관행, 법관과 배심원의 기술에 대한 비판적이지 않은 인식, 전문가 확보의 어려움 등 다양한 기술적, 사회적, 제도적 장애에 직면하며 AI 시스템의 신뢰성을 평가하고 이의를 제기하는 데 어려움을 겪고 있다.

Sammanfattning

본 연구는 미국 공공 변호사 커뮤니티의 17명을 대상으로 한 인터뷰를 통해 공공 변호사들이 형사 사법 절차에서 AI 시스템의 신뢰성을 평가하고 이의를 제기하는 데 직면하는 어려움을 조사했다.
첫째, 공공 변호사들은 AI 시스템 개발자와 사용자의 관행 및 정책으로 인해 시스템 신뢰성을 평가하고 이의를 제기하는 데 어려움을 겪었다. 예를 들어 검찰이나 소프트웨어 회사가 법원이 시스템 검토 기회를 허용할 때 증거를 철회하거나 유리한 거래 제안을 하는 등의 행동으로 인해 공공 변호사들이 시스템 신뢰성을 충분히 검토할 수 없었다.
둘째, 법관과 배심원의 기술에 대한 비판적이지 않은 인식으로 인해 공공 변호사들이 시스템 신뢰성을 입증하는 데 어려움을 겪었다. 이를 극복하기 위해 공공 변호사들은 전문가 증인에 크게 의존했지만, 관련 전문가를 찾고 확보하는 데 어려움을 겪었다.
이러한 연구 결과를 바탕으로 AI 시스템 성능 평가가 실제 현장에서 효과적으로 활용될 수 있도록 하는 방안을 제안했다. 특히 성능 평가 설계와 커뮤니케이션 과정에서 공공 변호사들의 요구사항을 반영하고, 전문가 확보와 협업 지원 도구 개발 등의 필요성을 강조했다.

Statistik

공공 변호사들은 AI 시스템 개발자와 사용자의 관행으로 인해 시스템 신뢰성을 평가하고 이의를 제기하는 데 어려움을 겪었다.
법관과 배심원의 기술에 대한 비판적이지 않은 인식으로 인해 공공 변호사들이 시스템 신뢰성을 입증하는 데 어려움을 겪었다.
관련 전문가를 찾고 확보하는 데 어려움을 겪었다.

Citat

"[경찰은] 그저 얼굴 인식 기술을 사용했다는 사실을 완전히 숨겼고, 이런 병행 구축 과정을 만들어 내어 당신이 어떻게 용의자가 되었는지 이해할 수 없게 만들었습니다."
"[법원은] 그 이전 단계[얼굴 인식이 사용된 단계]를 문제 삼지 않습니다. 법집행과 검찰이 그렇게 프레임하고 있습니다."

Viktiga insikter från

(Beyond) Reasonable Doubt

by Angela Jin,N... på arxiv.org 03-21-2024

https://arxiv.org/pdf/2403.13004.pdf

Djupare frågor

질문 1

공공 변호사들이 AI 시스템의 신뢰성을 검토하는 과정에서 직면한 어려움을 극복하기 위해 제도적 개선이 필요합니다. 먼저, AI 시스템의 개발 및 사용에 대한 문서화 요구사항을 강화해야 합니다. 이를 통해 변호사들이 소프트웨어 신뢰성을 평가하고 도전하는 데 필요한 정보에 더욱 쉽게 접근할 수 있습니다. 또한, 독립적인 검증을 통해 소프트웨어의 성능을 실제 사용 환경에서 평가하는 것이 중요합니다. 마지막으로, 변호사들이 소프트웨어 신뢰성을 도전하는 데 필요한 정보에 대한 접근을 제한하는 행동에 대한 법적 규제가 필요합니다.

질문 2

공공 변호사들이 AI 시스템의 신뢰성을 효과적으로 입증하기 위해서는 몇 가지 전략을 채택해야 합니다. 먼저, 변호사들은 소프트웨어의 신뢰성을 평가하고 도전하기 위한 전문가와의 협력을 강화해야 합니다. 또한, 변호사들은 소프트웨어의 성능 평가 결과를 법관과 배심원에게 명확하게 전달하는 능력을 향상시켜야 합니다. 마지막으로, 변호사들은 소프트웨어의 신뢰성을 도전하는 데 필요한 정보를 효율적으로 수집하고 활용하는 능력을 향상시켜야 합니다.

질문 3

AI 시스템의 신뢰성 검토 과정에서 공공 변호사들의 역할은 소프트웨어의 신뢰성을 평가하고 도전하는 것입니다. 이와 더불어 법관은 변호사들이 제시하는 증거와 주장을 검토하고 판단하는 역할을 합니다. 검찰은 소프트웨어의 신뢰성을 지지하고 변호사들의 도전에 대응하는 역할을 합니다. 또한, 시스템 개발자들은 소프트웨어의 개발 및 운용에 대한 기술적 지식을 제공하고 변호사들의 의견을 고려하는 역할을 합니다. 이러한 이해관계자들은 모두 공통 목표인 공정한 재판과 신뢰성 있는 판단을 위해 협력해야 합니다.