Główne pojęcia
알고리즘 소유자의 결정으로 인해 해로운 알고리즘 시스템의 개발, 배포 또는 사용이 중단되는 것
Streszczenie
이 연구는 실제 사례 분석을 통해 해로운 알고리즘을 포기하게 되는 역학 관계를 규명했다. 연구팀은 40개의 사례를 조사하여 알고리즘 포기로 이어지는 6단계 프로세스를 도출했다:
발견 단계: 알고리즘의 존재 또는 잠재적/실제 해로운 영향이 공개되면서 비판이 시작됨
진단 단계: 알고리즘의 행동을 분석하고 증거를 수집하여 해로운 영향을 입증
확산 단계: 대중에게 알고리즘 문제를 알리고 여론을 형성
대화 단계: 알고리즘 소유자와 비판자 간 논의가 이루어짐
결정 단계: 알고리즘 소유자가 수정 또는 포기 여부를 결정
사망 단계: 포기된 알고리즘의 잔재가 지속되는 경우
또한 알고리즘 포기에 영향을 미치는 7가지 핵심 요인을 도출했다: 사용자 vs. 대상, 가치 제안, 의존성, 절차적 투명성, 접근성, 비판의 가시성, 규제 환경.
이 연구는 해로운 알고리즘을 포기하는 과정을 체계적으로 이해하고, 다양한 이해관계자들이 이를 지원할 수 있는 방안을 제시한다.
Statystyki
아칸소 주 메디케이드 수혜자들의 재가 돌봄 시간이 대폭 줄어들었다.
오리건 주 아동복지부가 4년 동안 사용한 아동 학대 위험 예측 알고리즘 파일럿 프로그램이 2주 만에 중단되었다.
네덜란드 정부는 수당 사기 혐의로 잘못 고발된 가정에 각 30,000유로씩 보상금을 지급했다.
Cytaty
"알고리즘 소유자들이 알고리즘의 잠재적 해로운 영향에 대한 비판을 즉시 인정하고 수용하면, 해당 알고리즘을 더 신속하게 포기할 수 있다."
"알고리즘이 다른 시스템에 깊이 내재되어 있을수록, 해당 알고리즘을 포기하기가 더 어려워진다."
"정책 입안자들은 특정 유형의 알고리즘을 명시적으로 금지하는 새로운 규정을 제정함으로써, 알고리즘 포기를 더 신속하게 추진할 수 있다."