政府の個人に関する意思決定における高度な自動化システムの開発と利用に関する推奨事項

Core Concepts

高度な自動化システムを活用してコンテスタビリティを確保するための推奨事項を提供します。

Abstract

政府が個人に関する意思決定において、コンテスタビリティは必要不可欠であることが強調されています。透明性、解釈可能性、説明可能性だけでなく、設計段階から適切なコンテスタビリティを確保するための具体的な手法や技術が必要です。公開前の通知や実際のデータを使用したストレステストなど、様々な段階でコンテスタビリティを考慮することが重要です。また、AIや機械学習技術の進歩に伴い、法律やポリシーとの整合性も重視されます。

Stats

コンピューターコードやソフトウェアではなく、プログラム全体を指す「システム」という用語が使用されています。
2023年10月30日に発行された行政命令14110号に基づき、連邦政府は高度な自動化システムに対してコンテスタビリティ基準を採用すべきです。
プロセス全体で専門家や利害関係者が参加し、コンピューターコードやデータだけでなく法律やポリシーも考慮すべきです。
高度な自動化システムは現実世界の例やシナリオでストレステストされるべきです。
システムは同じ入力で同じ出力を再現できるようバージョン管理と詳細な記録が必要です。

Quotes

"Contestability is not merely a best practice. Where decisions are being made about individuals, contestability is a requirement."
"Designing for the individual right to contestability should take into account all types of error types."
"Governments should simplify, streamline and explain more clearly their application and appeal processes as automated systems are designed and implemented."

Key Insights Distilled From

Recommendations for Government Development and Use of Advanced Automated Systems to Make Decisions about Individuals

by Susan Landau... at arxiv.org 03-05-2024

https://arxiv.org/pdf/2403.01649.pdf

Deeper Inquiries

情報公開前の通知方法はどうすれば十分か？

情報公開前の通知方法が十分であるためには、まず、自動化決定システムが導入されていることや使用されていることを明確に示す必要があります。これは、（i）システムに自動化決定技術を採用する決定が行われる前に一般市民への通知およびその進行中の開発時に協議し、（ii）個々の被験者に対して彼らのケースが全面または部分的に自動プロセスに基づいて判断されたことを通知することを意味します。
一般市民向けの通知は、大規模な不当な影響を受ける可能性がある前提でシステム全体的な問題点を特定し、適切な仕組みで異議申し立て可能とするため充分なものである必要があります。
個人への通知は理解可能である必要があります。したがって、異議申立人や代理人がどのようにして判断されたかやそれを異議申し立てする際何を提示しなければならないか理解できる程度まで詳細情報提供しなければなりません。

自動化決定技術または技術選択時に個人または代理人が効果的に異議申し立てできるようどんな配慮が必要か？

自動化決定技術や技術選択時に個人や代理人らから効果的異識申し立て能力確保するため以下配慮事項考慮すべきです：

システム設計段階からコンテスト能力（contestability）導入：システム内部ではコンテスト能力関連事項初期段階から取り扱われ，具体案件ごと法律上求められた条件等反映。

システムデザイン・相談・試験参加者多様性：オペレーター,エンドユーザー,意思決定者,対象者含むさまざまタイプ参加者獲得

適格性及びアクセシビリティ: 留意点-背景文化差,言語差,教育水準差及所得格差等広範囲利用可否

実世界例及場面下応力実施: フィールド展開以前現実データパイロット実施重要

再現性確保: 特定出力再生可能(同じ入力同じ出力)バージョン管理/記録保存重視

法律基準優先原則: 技術便益或い他法律条順位低く置く不可

トレーニングニーズ強調: 支援制度整備，職員教育促進，AI拡張学習推進

新しい研究進捗中でも今回提案された行動続けられますか？

新しい研究成果向上しても今回提案した行動方針変更無効ではありません。新研究成果改善設計・実装コンサルタント支援有益だろう。しかし既存勧告手法引き続き推移予想．
追加調査内容:

解釈容易性明晰
AI高度裁量結社会影響各地域洞察能否
コンピュータ科学/社会科学間新法制需否
“out-of-control” contestabilityリスク評価 (AI bot政府局コメント殤増)
以上勧告策取り込み最良．