남성은 화남, 여성은 슬픔을 반영하는 대형 언어 모델: 감정 속 성별 편견

핵심 개념

대형 언어 모델은 사회적 편견과 성별 스테레오타입을 반영하며, 특히 감정 분석에서 성별에 따른 차별을 보여줍니다.

초록

감정과 성별에 대한 사회적 편견과 스테레오타입에 대한 첫 포괄적 연구
5개의 최첨단 대형 언어 모델에서 7,000개 이상의 이벤트에 대한 200,000개 이상의 완료를 기반으로 한 양적 연구
모델 설명을 통한 질적 연구 결과
성별에 따른 감정 편견이 모델에서 일관되게 나타남
모델이 성별에 따라 감정을 부여하는 방식이 실제 경험과 일치하지 않음
LLMs의 감정 응용에 대한 의문 제기

통계

"모델은 여성에게 슬픔을 10,635번, 남성에게 6,886번 부여"
"모델은 남성에게 화를 13,173번, 여성에게 7,042번 부여"
"Llama2-70b는 남성에게 화를 3,270번, 여성에게 645번 부여"

인용구

"여성은 주로 슬픔과 기쁨에 연결되어 있습니다."
"남성은 주로 화와 자부심에 연결되어 있습니다."

핵심 통찰 요약

Angry Men, Sad Women

by Flor Miriam ... 게시일 arxiv.org 03-06-2024

https://arxiv.org/pdf/2403.03121.pdf