大型語言模型不應取代人類參與者,因為它們可能會歪曲和扁平化身份群體

大型語言模型在取代人類參與者時,存在兩個固有的局限性:1)歪曲身份群體的表述,2)扁平化群體差異。此外,身份提示也可能會本質化身份。這些局限性都源於歷史上對弱勢群體的歧視,因此使用大型語言模型取代人類參與者時需要謹慎。