次級標準與惡意行為：錯誤資訊在 Reddit 封閉、極化和惡意互動中的作用

核心概念

本文探討了 Reddit 上不可靠資訊與政治不文明和惡意行為之間的關係，發現接觸不可靠資訊來源會增加惡意互動，特別是在政治立場不同用戶之間。

摘要

書目資訊

Hanley, H. W. A., & Durumeric, Z. (2024). Sub-Standards and Mal-Practices: Misinformation’s Role in Insular, Polarized, and Toxic Interactions on Reddit. arXiv preprint arXiv:2301.11486v3.

研究目標

本研究旨在探討 Reddit 平台上，不可靠資訊來源、用戶政治立場和惡意行為之間的關係。具體而言，研究試圖回答以下問題：1) 發佈於 Reddit、連結至不可靠網站的文章，是否會在其互動中引發更多惡意行為？社群規範（例如政治立場）如何預測惡意行為？2) 不可靠新聞是否會加劇政治立場不同用戶之間的惡意互動（即情感極化）？

研究方法

研究人員收集了 Reddit 平台上 2020 年 1 月至 2021 年 6 月期間的評論和文章數據，並使用 Google Jigsaw API 來識別惡意言論。他們還利用 Word2Vec 方法來估算用戶和社群的政治立場，並使用先前建立的可靠和不可靠新聞網站清單來確定社群和用戶連結至已知散佈錯誤資訊網站的程度。

主要發現

• 與回應可靠網站文章的評論相比，不可靠網站文章的評論平均毒性高出 32%。
• 隨著社群毒性的增加，用戶更有可能評論來自已知不可靠網站的文章。
• 在回應連結至已知散佈不可靠資訊網站的 Reddit 文章時，用戶更有可能對政治立場不同的用戶表現出惡意行為。

主要結論

研究結果表明，低品質/不可靠的資訊不僅預示著毒性的增加，還會加劇不同政治立場用戶之間的極化互動。

研究意義

本研究強調了全面瞭解錯誤資訊、線上毒性和政治極化之間複雜互動關係的必要性，以便平台能夠更好地理解和解決線上毒性問題。

局限性和未來研究方向

本研究僅關注 Reddit 平台，未來研究可以探討其他社交媒體平台上錯誤資訊、毒性和政治極化之間的關係。此外，本研究主要依賴於自動化方法來識別惡意言論和政治立場，未來研究可以使用人工標註數據來驗證這些方法的準確性。

統計資料

與回應可靠網站文章的評論相比，不可靠網站文章的評論平均毒性高出 32%。
在個別 subreddits 中，不可靠新聞文章的毒性平均絕對值增加 0.35%（相對增加 32.2%）。
連結至不可靠網站的文章發佈在的 subreddits，平均而言，在美國政治光譜上比可靠網站的 subreddits 右傾 1.13 個標準差。
提交不可靠網站文章連結的用戶，其帳戶平均年齡較小。

引述

"(explicit) rudeness, disrespect or unreasonableness of a comment that is likely to make one leave the discussion."

從以下內容提煉的關鍵洞見

Sub-Standards and Mal-Practices: Misinformation's Role in Insular, Polarized, and Toxic Interactions on Reddit

by Hans W. A. H... 於 arxiv.org 11-01-2024

https://arxiv.org/pdf/2301.11486.pdf

深入探究

社交媒體平台應採取哪些措施來減輕不可靠資訊對用戶互動的負面影響？

社交媒體平台在減輕不可靠資訊的負面影響方面扮演著至關重要的角色。以下是一些平台可以採取的措施：

提升平台透明度： 公開演算法與內容審查機制，讓用戶了解資訊的排序和呈現方式，以及平台如何處理不實資訊。
強化事實查核機制： 與第三方事實查核機構合作，標記或移除被證實為不實的內容。平台可以開發自動化工具，輔助事實查核員的工作效率。
推廣媒體識讀教育： 與媒體素養組織合作，在平台上提供教育資源，幫助用戶學習如何辨別不實資訊，並培養批判性思考能力。
限制不實資訊的傳播： 限制被標記為不實資訊的內容的觸及範圍，例如降低其在演算法推薦中的排序，或限制其分享功能。
鼓勵用戶參與： 建立用戶回報機制，讓用戶更容易舉報不實資訊。平台可以獎勵積極參與舉報的用戶，並公開說明處理結果。
促進多元觀點： 調整演算法，避免用戶陷入資訊同溫層，鼓勵用戶接觸多元觀點，並促進理性對話。
與研究人員合作： 與學術界和研究機構合作，深入研究不實資訊的傳播模式和影響，並開發更有效的應對策略。

是否所有類型的不可靠資訊都會導致線上毒性和極化？

並非所有類型的不可靠資訊都會導致線上毒性和極化，但某些類型的確更容易產生負面影響。

煽動性內容： 故意使用誇大、扭曲或情緒化語言的內容，容易激發用戶的憤怒、恐懼或仇恨情緒，進而導致線上毒性和極化。
陰謀論： 將複雜事件歸咎於隱藏勢力的內容，容易加劇社會分化，並導致用戶對政府、媒體或其他群體的不信任。
歧視性言論： 針對特定種族、宗教、性別或性取向的攻擊性言論，容易造成社會對立和仇恨犯罪。
需要注意的是，即使不屬於上述類型的不可靠資訊，也可能因為傳播脈絡和受眾特點而產生負面影響。

我們如何利用科技來促進更健康、更具建設性的線上對話，即使在意見分歧的情況下？

科技可以成為促進健康和建設性線上對話的利器，以下是一些可行的方向：

開發更精準的情緒識別技術： 利用自然語言處理和機器學習技術，更準確地識別線上對話中的情緒，並及時介入可能升級為毒性攻擊的互動。
設計促進理性討論的平台功能： 例如，平台可以開發功能，鼓勵用戶在發表評論前先閱讀文章，或提供事實查核資訊，幫助用戶進行更理性的討論。
利用虛擬實境和擴增實境技術： 創造讓用戶進行更感同身受的互動體驗，例如讓用戶體驗不同觀點的人的生活，或模擬不同意見衝突的場景，幫助用戶學習如何更有效地溝通和化解分歧。
建立去中心化的社交媒體平台： 減少演算法對資訊過濾的影響，讓用戶更容易接觸多元觀點，並促進更平等的對話。
需要注意的是，科技僅僅是工具，更重要的是人們如何使用它。
我們需要共同努力，創造一個尊重、包容和理性的線上環境，讓科技真正成為促進社會進步的力量。