Grunnleggende konsepter
지역 커뮤니티 모델은 소셜 그래프의 문맥을 활용하여 악성 콘텐츠를 탐지할 수 있지만, 현실 세계에서는 여전히 이러한 콘텐츠가 확산되고 있다. 이는 현재의 평가 방식이 온라인 콘텐츠와 커뮤니티의 빠른 변화를 반영하지 못하기 때문이다. 본 연구에서는 지역 그래프 샘플링 기반의 새로운 평가 방법을 제안하여 지역 커뮤니티 모델의 일반화 능력을 더 현실적으로 평가한다.
Sammendrag
이 논문은 악성 콘텐츠 탐지를 위한 지역 커뮤니티 모델의 일반화 능력을 평가하는 새로운 방법을 제안한다.
- 현재의 평가 방식은 온라인 콘텐츠와 커뮤니티의 빠른 변화를 반영하지 못하여, 실제 적용 환경에서의 성능과 차이가 있다.
- 제안하는 평가 방법은 지역 그래프 샘플링을 통해 제한된 문맥과 레이블을 가진 상황에서의 일반화 능력을 측정한다.
- 실험 결과, 기존 지역 커뮤니티 모델은 이러한 현실적인 평가 환경에서 성능이 저하되는 반면, 메타 학습 기반 모델은 더 나은 일반화 능력을 보인다.
- 이 연구는 악성 콘텐츠 탐지 분야에서 더 현실적인 평가 방법의 필요성을 제기하고, 메타 학습 기반 접근법의 유용성을 보여준다.
Statistikk
소셜 미디어 상에서 악성 콘텐츠가 계속해서 확산되고 있다.
현재 악성 콘텐츠 탐지 모델의 성능이 벤치마크 데이터셋에서는 우수하지만, 실제 적용 환경에서는 그렇지 않다.
이는 현재의 평가 방식이 온라인 콘텐츠와 커뮤니티의 빠른 변화를 반영하지 못하기 때문이다.
Sitater
"Community models for malicious content detection, which take into account the context from a social graph alongside the content itself, have shown remarkable performance on benchmark datasets. Yet, misinformation and hate speech continue to propagate on social media networks."
"This mismatch can be partially attributed to the limitations of current evaluation setups that neglect the rapid evolution of online content and the underlying social graph."