仇恨的流動：預測仇恨言論子板塊間的用戶遷移

Khái niệm cốt lõi

參與某一特定仇恨言論線上社群的用戶，很有可能參與其他類型的仇恨言論社群，並發展出更廣泛的仇恨言論詞彙。

Tóm tắt

文獻資訊: Hickey, D., Fessler, D. M. T., Lerman, K., & Burghardt, K. (2024). The Peripatetic Hater: Predicting Movement Among Hate Subreddits. arXiv preprint arXiv:2405.17410v2.
研究目標: 本研究旨在探討 Reddit 平台上不同仇恨言論社群之間的用戶遷移模式，並分析參與多個仇恨言論社群對用戶行為的影響。
研究方法: 研究人員收集了 168 個仇恨言論子板塊的數據，並使用深度學習模型和聚類技術將其分為八個類別。他們分析了在初始參與某一類別的仇恨言論子板塊後，參與其他類別子板塊的「流動用戶」的行為特徵，並建立了一個深度學習模型來預測用戶未來可能會參與的仇恨言論子板塊類別。
主要發現: 研究發現，參與某一特定仇恨言論線上社群的用戶，更有可能參與其他類型的仇恨言論社群。流動用戶在其初始參與的子板塊中使用的語言，與他們最終參與的其他子板塊的仇恨言論類別相關。此外，參與更多類別的仇恨言論社群與用戶發展出更廣泛的仇恨言論詞彙有關。
主要結論: 研究結果表明，線上仇恨言論社群之間存在著相互影響，參與多個仇恨言論社群可能會加劇用戶的極端化程度。
研究意義: 本研究有助於更深入地了解線上仇恨言論的傳播模式，並為社交媒體平台制定更有效的仇恨言論管控策略提供參考。
研究限制與未來方向: 本研究僅分析了 Reddit 平台上的英文數據，未來研究可以擴展到其他平台和語言。此外，未來研究可以進一步探討用戶參與多個仇恨言論社群背後的動機和心理機制。

Thống kê

在這項研究中，研究人員分析了 168 個仇恨言論子板塊的數據。
研究發現，平均而言，參與某一特定仇恨言論子板塊的用戶，參與其他類型仇恨言論子板塊的比例，比未參與該子板塊的類似用戶高出兩倍。
研究人員建立了一個深度學習模型，用於預測用戶未來可能會參與的仇恨言論子板塊類別，該模型在不同類別子板塊上的 ROC-AUC 值介於 0.61 到 0.68 之間。

Thông tin chi tiết chính được chắt lọc từ

The Peripatetic Hater: Predicting Movement Among Hate Subreddits

by Daniel Hicke... lúc arxiv.org 11-22-2024

https://arxiv.org/pdf/2405.17410.pdf

Yêu cầu sâu hơn

社交媒體平台應如何應對仇恨言論社群之間的相互影響，以防止用戶的極端化？

社交媒體平台在應對仇恨言論社群之間的相互影響方面，可以採取多管齊下的策略，以防止用戶的極端化：

強化仇恨言論偵測和社群分類： 如同研究中使用的深度學習模型，平台可以開發更精確的演算法，自動識別和分類仇恨言論社群，並根據其針對的目標群體進行標記。這有助於更有效地監控和管理這些社群。

限制跨社群互動和推薦： 平台可以限制仇恨言論社群之間的互動，例如限制用戶在不同社群之間分享內容或互相推薦。此外，平台可以調整演算法，避免將參與仇恨言論社群的用戶推薦給其他類似社群。

引入反制敘事和多元觀點： 當用戶接觸仇恨言論時，平台可以主動推送反制敘事和多元觀點的內容，以挑戰其偏見和刻板印象。這可以透過與專家組織合作，開發反仇恨言論的資訊活動，並將其推廣給可能接觸到仇恨言論的用戶。

促進積極和包容的線上環境： 平台可以鼓勵用戶參與積極和包容的線上社群，並提供工具和資源，讓用戶更容易舉報仇恨言論和騷擾行為。此外，平台可以與非政府組織和社區團體合作，推廣線上公民意識和數位素養教育。

與研究人員和專家合作： 平台應與仇恨言論和極端化領域的研究人員和專家保持密切合作，分享數據和洞察，並根據最新的研究成果調整其策略和措施。

除了語言使用模式外，還有哪些因素可以預測用戶是否會參與多個仇恨言論社群？

除了語言使用模式外，以下因素也可能預測用戶是否會參與多個仇恨言論社群：

線上行為模式： 分析用戶的瀏覽歷史、關注的帳號、參與的討論主題等，可以揭示其興趣和傾向。例如，經常瀏覽極端主義網站、關注仇恨言論領袖或參與陰謀論討論的用戶，可能更容易參與多個仇恨言論社群。

社群網路分析： 分析用戶的社交網路，例如其好友、追蹤者和互動對象，可以揭示其社交圈的性質和影響。如果用戶的社交圈中存在許多參與仇恨言論社群的人，則該用戶也更容易參與其中。

心理和社會因素： 研究表明，某些心理和社會因素，例如對社會的不滿、缺乏歸屬感、尋求認同感等，可能使人們更容易受到仇恨言論和極端主義思想的影響。

人口統計學特徵： 雖然並非決定性因素，但某些人口統計學特徵，例如年齡、性別、教育程度、社會經濟地位等，可能與參與仇恨言論社群的可能性存在一定關聯。

線下事件和社會環境： 現實世界中的事件，例如恐怖襲擊、政治動盪、經濟危機等，以及更廣泛的社會環境，例如社會分化、不平等加劇、歧視和偏見等，都可能影響人們參與仇恨言論社群的可能性。

仇恨言論線上社群的發展趨勢將如何影響現實世界中的仇恨犯罪和社會分化？

仇恨言論線上社群的發展趨勢對現實世界有著不容忽視的影響：

仇恨犯罪的風險增加： 線上仇恨言論社群可能煽動現實世界中的暴力和仇恨犯罪。研究顯示，接觸仇恨言論會增加人們對目標群體的偏見和敵意，進而增加實施暴力行為的可能性。

社會分化加劇： 仇恨言論社群往往會強化群體之間的隔閡和對立，加劇社會分化。這些社群散播的偏見和刻板印象，會加深人們對「我們」和「他們」的區分，破壞社會的凝聚力和包容性。

弱勢群體的邊緣化： 仇恨言論社群的目標往往是弱勢群體，例如少數族裔、宗教團體、LGBTQ+群體等。這些社群散播的仇恨言論，會加劇這些群體所面臨的歧視和邊緣化，損害他們的社會地位和心理健康。

政治和社會不穩定： 仇恨言論社群可能助長極端主義思想的傳播，並煽動政治和社會不穩定。這些社群可能會鼓勵人們採取暴力或非法手段來實現其目標，對社會秩序和安全構成威脅。

侵蝕民主價值觀： 仇恨言論社群的發展趨勢，可能會侵蝕言論自由、平等和法治等民主價值觀。當仇恨言論在線上空間蔓延，人們可能會因為害怕遭到攻擊或報復而不敢表達自己的意見，從而損害言論自由和民主參與。

為了應對這些挑戰，社會各界需要共同努力，打擊仇恨言論，促進社會包容，並建立一個更加和平與尊重的線上和線下環境。