Faire und verzerrte Einstellungsverfahren: Eine multidisziplinäre Übersicht

Alapfogalmak

Arbeitgeber setzen zunehmend algorithmische Technologien in Einstellungsverfahren ein. Obwohl diese Technologien das Potenzial haben, Vorurteile zu verringern, besteht auch die Gefahr, dass sie Diskriminierung verstärken. Diese Studie bietet eine ausgewogene und integrierte Darstellung von Systemen, Verzerrungen, Messgrößen, Strategien zur Minderung von Verzerrungen, Datensätzen und rechtlichen Aspekten im Bereich der algorithmischen Einstellung und Fairness.

Kivonat

Diese Studie bietet eine multidisziplinäre Übersicht über faire und verzerrte Einstellungsverfahren. Sie gliedert sich wie folgt:

1. Einführung in die Hauptphasen und Systeme der algorithmischen Einstellung:

   • Sourcing: Jobausschreibungen, Suchverfahren, Empfehlungen
   • Screening: Spielebasierte Assessments, Asynchrone Videointerviews, Fragebögen, Chatbots
   • Auswahl: Vergütungsoptimierung, Hintergrundprüfungen, Teamzuordnung
   • Evaluation: Leistungsmanagement, Mitarbeiterbindung, Beförderungen und Kündigungen

2. Identifizierung von Faktoren, die zu Verzerrungen in Einstellungsverfahren führen können:

   • Institutionelle Voreingenommenheiten: Direkte Diskriminierung, horizontale und vertikale Segregation, kulturelle Passung, Elitismus, verzerrte Mitarbeiterbewertungen
   • Individuelle Präferenzen: Arbeitszufriedenheit, Selbstdarstellung, Pendeldistanz, Gehaltsverhandlungen, kulturelle Vermeidung/Anziehung, Arbeitslücken
   • Technologische Blindstellen: Werbeauslieferung, Barrierefreiheit, Sprachverarbeitung, Plattformnutzung, psychologische Tests, Hintergrundprüfungen, Mensch-Maschine-Interaktion

3. Übersicht über Fairness-Metriken für algorithmische Einstellungsverfahren:

   • Ergebnisgerechtigkeit: Schieflage bei Rang k, normalisierte diskontierte KL-Divergenz, Disparater Einfluss, demografische Disparität, Repräsentation in positiv vorhergesagter Klasse, diskontierte Repräsentationsdifferenz, Score-KL-Divergenz, Log-Rang-Regression, mittlerer Fehlerunterschied
   • Genauigkeitsgerechtigkeit: Mittlerer absoluter Fehler, ausgeglichene Klassifikationsratendifferenz

4. Praktische Aspekte der Diskriminierungsbekämpfung in algorithmischen Einstellungsverfahren, einschließlich der Wahl geeigneter Fairness-Metriken und Minderungsstrategien.

5. Rechtliche Rahmenbedingungen in der EU und den USA sowie die Einbettung algorithmischer Einstellung in einen breiteren soziotechnischen Kontext.

6. Zusammenfassung von Chancen, Grenzen und Empfehlungen für zukünftige Arbeiten.

Statisztikák

Über 250 KI-Tools für Personalwesen auf dem Markt [99].
Durchschnittlich über 100 Bewerber pro Stellenausschreibung [101, 206].
COVID-19-Pandemie und Fortschritte in der KI haben den Einsatz algorithmischer Einstellungsverfahren beschleunigt [170, 207].

Idézetek

"Arbeitgeber setzen zunehmend algorithmische Einstellungstechnologie in der gesamten Einstellungspipeline ein."
"Ob und vor allem welche Arten von algorithmischen Einstellungsverfahren weniger voreingenommen und für die Gesellschaft vorteilhafter sind als Low-Tech-Alternativen, bleibt bislang unbeantwortet, was der Vertrauenswürdigkeit schadet."

Főbb Kivonatok

Fairness and Bias in Algorithmic Hiring

by Alessandro F... : arxiv.org 04-09-2024

https://arxiv.org/pdf/2309.13933.pdf

Mélyebb kérdések

Wie können Unternehmen sicherstellen, dass algorithmische Einstellungsverfahren die Vielfalt und Inklusion in ihren Belegschaften fördern?

Um sicherzustellen, dass algorithmische Einstellungsverfahren die Vielfalt und Inklusion in ihren Belegschaften fördern, können Unternehmen mehrere Maßnahmen ergreifen:

Diversität als Zielsetzung: Unternehmen sollten Vielfalt und Inklusion als strategisches Ziel festlegen und sicherstellen, dass dies in allen Aspekten des Einstellungsprozesses berücksichtigt wird.

Datenvielfalt: Es ist wichtig, dass die Daten, die für die Entwicklung und Implementierung von algorithmischen Einstellungsverfahren verwendet werden, vielfältig und repräsentativ sind. Dies hilft, Verzerrungen zu vermeiden und sicherzustellen, dass alle Gruppen angemessen berücksichtigt werden.

Bias-Überprüfung: Regelmäßige Überprüfung der Algorithmen auf mögliche Verzerrungen und Vorurteile ist entscheidend. Unternehmen sollten sicherstellen, dass ihre Algorithmen fair und transparent sind.

Interdisziplinäre Teams: Die Einbeziehung von Experten aus verschiedenen Bereichen wie Ethik, Sozialwissenschaften und Vielfalt kann dazu beitragen, blinde Flecken zu identifizieren und sicherzustellen, dass die Einstellungsverfahren inklusiv sind.

Kontinuierliche Schulung: Schulungen für Mitarbeiter und Entscheidungsträger über Vielfalt, Inklusion und unbewusste Vorurteile können das Bewusstsein schärfen und dazu beitragen, eine inklusive Unternehmenskultur zu fördern.

Welche ethischen Bedenken müssen bei der Entwicklung und Implementierung von KI-gestützten Einstellungssystemen berücksichtigt werden?

Bei der Entwicklung und Implementierung von KI-gestützten Einstellungssystemen müssen verschiedene ethische Bedenken berücksichtigt werden:

Bias und Diskriminierung: Algorithmen können aufgrund von Verzerrungen in den Trainingsdaten oder der Modellierung zu diskriminierenden Entscheidungen führen. Es ist wichtig, sicherzustellen, dass die Algorithmen fair und transparent sind.

Transparenz und Erklärbarkeit: KI-Systeme sollten transparent sein, damit Bewerber verstehen können, wie Entscheidungen getroffen werden. Die Erklärbarkeit von Entscheidungen ist entscheidend, um Vertrauen aufzubauen und Diskriminierung zu vermeiden.

Datenschutz und Privatsphäre: Die Verwendung von persönlichen Daten für Einstellungsentscheidungen wirft Fragen zum Datenschutz und zur Privatsphäre auf. Unternehmen müssen sicherstellen, dass die Daten der Bewerber angemessen geschützt werden.

Automatisierung vs. menschliche Bewertung: Es ist wichtig, eine ausgewogene Nutzung von KI und menschlicher Bewertung sicherzustellen. Menschliche Überprüfung kann dazu beitragen, potenzielle Fehler oder Vorurteile in den algorithmischen Entscheidungen zu korrigieren.

Gesellschaftliche Auswirkungen: Die Einführung von KI-gestützten Einstellungssystemen kann weitreichende gesellschaftliche Auswirkungen haben, einschließlich der Verstärkung bestehender Ungleichheiten. Unternehmen sollten diese Auswirkungen sorgfältig abwägen und Maßnahmen ergreifen, um negative Folgen zu minimieren.

Inwiefern können Erkenntnisse aus der Forschung zu fairen Empfehlungssystemen auf den Bereich der Personaleinstellung übertragen werden?

Erkenntnisse aus der Forschung zu fairen Empfehlungssystemen können auf den Bereich der Personaleinstellung übertragen werden, um sicherzustellen, dass Einstellungsverfahren gerecht und inklusiv sind:

Bias-Mitigation-Techniken: Methoden zur Identifizierung und Reduzierung von Verzerrungen in Empfehlungssystemen können auch auf Einstellungsalgorithmen angewendet werden, um diskriminierende Entscheidungen zu vermeiden.

Fairness Measures: Die Entwicklung und Anwendung von Fairness-Maßnahmen in Empfehlungssystemen kann auch in Einstellungssystemen dazu beitragen, sicherzustellen, dass alle Bewerber fair behandelt werden.

Datenmanagement: Die Forschung zur Verwaltung und Nutzung von Daten in Empfehlungssystemen kann Unternehmen dabei helfen, sicherzustellen, dass die für Einstellungsentscheidungen verwendeten Daten vielfältig, repräsentativ und frei von Verzerrungen sind.

Interdisziplinäre Zusammenarbeit: Die Zusammenarbeit zwischen Forschern aus verschiedenen Bereichen wie Informatik, Ethik und Sozialwissenschaften kann dazu beitragen, bewährte Verfahren und Richtlinien für faire und ethische Einstellungsverfahren zu entwickeln.

Durch den Transfer von Erkenntnissen aus der Forschung zu fairen Empfehlungssystemen können Unternehmen ihre Einstellungsverfahren verbessern und sicherstellen, dass sie den höchsten Standards von Vielfalt, Fairness und Inklusion entsprechen.