Are We Asking the Right Questions?: Designing for Community Stakeholders’ Interactions with AI in Policing

Centrala begrepp

Algorithmic crime mapping impacts human-AI decision-making, highlighting stakeholder feedback and concerns.

Sammanfattning

この研究は、アルゴリズムによる犯罪マッピングが人間とAIの意思決定に与える影響を探求しました。コミュニティメンバーや技術者、警察官などの異なるステークホルダーが、アプリケーションとのインタラクションを通じて異なる視点やニーズを示しました。特に、警察官は初期の情報に強く依存する傾向があり、デフォルトのマップを受け入れやすいことが明らかになりました。また、参加者全体が課題を精神的に要求されるものと感じており、特に警察官は高い精神的要求を経験していました。

Participants' Perspectives on Algorithmic Crime-Mapping (RQ1)

• コミュニティメンバーや技術者はアルゴリズム犯罪マッピングの有用性を認めつつも、その使用動機への懸念を共有しました。
• 警察官（LEA）はホットスポットを著しく過大評価しました。
• パトロールカー配置に関する理由 - 犯罪抑止力と迅速なバックアップ提供。
• 参加者が異なるマップで実験 - コミュニティメンバーと技術者は新しいマップ生成に傾向していた。

Participants' Interactions With Algorithmic Crime Mapping (RQ2)

• LEAは新しいマップを生成せず、最初の提示されたマップに深く関わっていました。
• 参加者の精神的負荷評価中、LEAは高い精神的要求レベルでした。

Assessing Participants’ Mental Workload During the Interaction With Crime Mapping

• すべてのグループがタスクを精神的要求されるものと感じており、LEAの平均重み付けMDスコアが他よりも高かった。
• LEAおよび技術参加者はパフォーマンスパラメータで高得点であり、自信を持っていた。
• LEAおよび技術参加者はFTパラメータで低得点だった一方、コミュニティメンバーは中程度だった。

Statistik

"I think this is like the idea where you’re putting the police where they can make the most money versus actually control crime and danger." - C1, Community Member
"They say, we have a big police department, security cameras everywhere, and then private campus police. And it still kind of feels like a lot of times it’s still not enough." - C14, Community Member
"It’s kind of a feedback loop.... You took it [crime data] on more people at one location and you put more cops there." –T5, Technical Participant

Citat

"I would share my data, pretty open book, and you know, they need up-to-date current information for everybody." – C6, Community Member

Viktiga insikter från

Are We Asking the Right Questions?

by MD Romael Ha... på arxiv.org 03-20-2024

https://arxiv.org/pdf/2402.05348.pdf

Djupare frågor

この研究から得られた知見から進んだ議論や考察は何ですか？

この研究では、異なるバックグラウンドを持つ参加者がアルゴリズミック犯罪マッピングにどのように関わり、その結果にどのような影響を受けるかが明らかにされました。特に、地域住民と技術的専門家は新しいマップを生成する傾向がありましたが、法執行機関（LEA）は既定のマップと強く結びついており、パラメーターを変更して新しいマップを作成することはあまりありませんでした。さらに、LEAは自身のストリートレベルの知識と結びつけてホットスポットを解釈しました。これから考えられる進んだ議論や考察は、アルゴリズム決定支援システム（ADS）が実際の現場でどのように使用されるかや人々の意思決定過程へ与える影響など深堀した分析や調査です。

この研究結果から反論できる視点や意見はありますか？

一部参加者がアルゴリズム決定支援システム（ADS）への不信感や懸念を示しています。特に地域住民から出た批判的な意見では、「クライム・マッピング」技術が特定地域へ過剰取り締まりをもたらす可能性や収益化手段として利用される恐れが指摘されています。また、法執行機関（LEA）も初期提供された情報（デフォルトマップ）に強く囚われており、「錨付きバイアス」現象が見られました。これら批判的な視点から出発し、ADS の公正性・透明性確保及び個人情報保護等重要視点を改善する必要性等多角的な観点で再評価することも重要です。

この内容と深く関連するインスピレーション満ちた質問は何ですか？

アルゴリズネーマック決定支援システム（ADS）開発時にコミュニティメンバー及び法執行機能者等幅広い利害関係者参画方法
ローカルナレージョン内部事例データ活用時生じ得るエチカ面及ビジャランサー問題
クライム・マッピング技術導入後市民間交流促進策効果測量方法