Wie können wir sicherstellen, dass Algorithmen zur Kriminalitätsanalyse die Bedürfnisse der Gemeinschaft berücksichtigen?

Core Concepts

Alle drei Interessengruppen - Gemeindemitglieder, technische Experten und Strafverfolgungsbehörden - können kritisches Feedback zu verschiedenen Phasen der Entwicklung und Nutzung von Algorithmen zur Kriminalitätsanalyse geben, um sicherzustellen, dass diese den Bedürfnissen der Öffentlichkeit dienen.

Abstract

Die Studie untersuchte, wie Menschen mit unterschiedlichen Hintergründen mit einem interaktiven Anwendung zur algorithmischen Kriminalitätskartierung umgehen und welche Perspektiven und Bedürfnisse sie in Bezug auf die ethische Gestaltung und Nutzung solcher Systeme haben.
Die Haupterkenntnisse sind:

Gemeindemitglieder äußerten Bedenken, dass die Technologie zur Überwachung und Bestrafung bestimmter Gebiete und Gemeinschaften missbraucht werden könnte, anstatt der Kriminalitätsbekämpfung zu dienen. Sie hinterfragten die Motivation hinter dem Einsatz solcher Systeme.

Technische Experten hoben die Elastizität der Datenwissenschaftspraxis hervor und wiesen darauf hin, dass sich die Ergebnisse der Algorithmen im Laufe der Zeit ändern können.

Strafverfolgungsbehörden zeigten eine starke Verankerungsverzerrung, indem sie sich auf die erste präsentierte Karte konzentrierten und diese mit ihrem Expertenwissen in Verbindung brachten, anstatt die Kontrollen zu ändern und alternative Karten zu erstellen.

Alle drei Interessengruppen konnten konstruktives Feedback zur Gestaltung und Nutzung solcher Systeme geben, um sicherzustellen, dass sie den Bedürfnissen der Öffentlichkeit dienen.

Stats

"Oft nehmen wir die Anzahl der Einsätze an einem bestimmten Ort über einen bestimmten Zeitraum unter die Lupe. Das bestimmt dann, wie viele Beamte wir zu Beginn der Schicht einsetzen, im Vergleich zur zweiten Schicht." - L8, Strafverfolgungsbeamter
"Ich würde meine Daten gerne teilen, ich bin ein offenes Buch, und sie brauchen aktuelle Informationen für alle. Ansonsten verwenden Sie nur alte Statistiken und Meinungen, und Ihre Methoden und Ergebnisse werden mit all den ständigen Veränderungen nicht Schritt halten." - C6, Gemeindemitglied

Quotes

"Ich denke, das ist so eine Idee, bei der es darum geht, die Polizei dorthin zu bringen, wo sie am meisten Geld verdienen können, anstatt tatsächlich Kriminalität und Gefahr zu bekämpfen." - C1, Gemeindemitglied
"Wenn Sie die Daten auf mehr Leute an einem Standort nehmen und dort mehr Polizisten einsetzen, werden Sie dort mehr Strafzettel ausstellen. Und dann setzen Sie dort noch mehr Polizisten ein. Und dann geht das immer so weiter. Und helfen Sie wirklich?" - T5, technischer Teilnehmer

Key Insights Distilled From

Are We Asking the Right Questions?

by MD Romael Ha... at arxiv.org 03-20-2024

https://arxiv.org/pdf/2402.05348.pdf

Deeper Inquiries

Wie können wir sicherstellen, dass Algorithmen zur Kriminalitätsanalyse die Bedürfnisse und Bedenken der Gemeinschaft widerspiegeln und nicht nur die Interessen der Strafverfolgungsbehörden?

Um sicherzustellen, dass Algorithmen zur Kriminalitätsanalyse die Bedürfnisse und Bedenken der Gemeinschaft angemessen berücksichtigen, ist es entscheidend, die Gemeindemitglieder aktiv in den Entwicklungsprozess einzubeziehen. Dies kann durch partizipative Designansätze erreicht werden, bei denen Gemeindemitglieder, technische Experten und Strafverfolgungsbehörden zusammenarbeiten, um die Anforderungen und Erwartungen der Gemeinschaft zu verstehen. Durch den Einsatz von Co-Design-Workshops, Befragungen und Feedback-Sitzungen können die Bedürfnisse und Bedenken der Gemeinschaft identifiziert und in die Entwicklung der Algorithmen integriert werden.
Darüber hinaus ist es wichtig, transparente und ethische Richtlinien für die Verwendung von Algorithmen in der Kriminalitätsanalyse festzulegen. Diese Richtlinien sollten sicherstellen, dass die Algorithmen nicht nur die Interessen der Strafverfolgungsbehörden widerspiegeln, sondern auch die Rechte und Privatsphäre der Bürger respektieren. Regelmäßige Überprüfungen und Audits der Algorithmen können sicherstellen, dass sie weiterhin den Bedürfnissen der Gemeinschaft entsprechen und keine unerwünschten Auswirkungen haben.

Wie können wir die Verankerungsverzerrung von Strafverfolgungsbehörden bei der Interpretation von Kriminalitätskarten überwinden und sie dazu bringen, die Kontrollen zu ändern und alternative Perspektiven zu berücksichtigen?

Um die Verankerungsverzerrung von Strafverfolgungsbehörden bei der Interpretation von Kriminalitätskarten zu überwinden, ist es wichtig, Schulungen und Sensibilisierungsmaßnahmen durchzuführen. Strafverfolgungsbehörden sollten über die Existenz und Auswirkungen von kognitiven Verzerrungen wie der Verankerungsverzerrung informiert werden und lernen, wie sie diese erkennen und überwinden können.
Darüber hinaus können alternative Perspektiven und Kontrollen in den Entwicklungsprozess von Kriminalitätskarten integriert werden. Dies kann durch die Einbeziehung von externen Experten, unabhhängigen Prüfern und Vertretern der Gemeinschaft erfolgen, die dazu beitragen können, verschiedene Sichtweisen und Erfahrungen einzubringen. Durch den Einsatz von multidisziplinären Teams können verschiedene Blickwinkel berücksichtigt und die Verankerungsverzerrung minimiert werden.

Welche Rolle können Gemeindemitglieder und technische Experten bei der Gestaltung und Überprüfung von Algorithmen zur Kriminalitätsanalyse spielen, um sicherzustellen, dass sie den Bedürfnissen der Öffentlichkeit dienen?

Gemeindemitglieder und technische Experten spielen eine entscheidende Rolle bei der Gestaltung und Überprüfung von Algorithmen zur Kriminalitätsanalyse, um sicherzustellen, dass sie den Bedürfnissen der Öffentlichkeit dienen. Gemeindemitglieder können wichtige Einblicke in lokale Gegebenheiten, soziale Dynamiken und Bedenken der Gemeinschaft bieten, die bei der Entwicklung von Algorithmen berücksichtigt werden sollten. Durch die Einbeziehung von Gemeindemitgliedern in den Entwicklungsprozess können Algorithmen geschaffen werden, die transparent, ethisch und den Bedürfnissen der Öffentlichkeit gerecht werden.
Technische Experten bringen Fachwissen in den Bereich der Algorithmenentwicklung ein und können sicherstellen, dass die Algorithmen robust, präzise und fair sind. Sie können auch bei der Identifizierung von Bias und ethischen Bedenken in den Algorithmen unterstützen und Maßnahmen zur Verbesserung vorschlagen. Durch die Zusammenarbeit von Gemeindemitgliedern und technischen Experten können Algorithmen zur Kriminalitätsanalyse entwickelt werden, die die Bedürfnisse der Öffentlichkeit respektieren und gerecht werden.