비동의적 친밀한 미디어에 대한 사회 컴퓨팅 연구의 기회: 사회기술 스택

Core Concepts

비동의적 친밀한 미디어(NCIM)는 기술적 구성요소에 의해 활성화되고 확산되며, 이를 해결하기 위해서는 사회기술적 접근이 필요하다.

Abstract

이 논문은 비동의적 친밀한 미디어(NCIM)의 사회적 영향과 이를 가능하게 하는 기술적 구성요소 간의 연관성을 분석한다.
NCIM은 개인의 동의 없이 친밀한 콘텐츠를 공유하거나 배포하는 것을 말한다. NCIM은 주로 여성을 대상으로 하며, 심각한 심리적, 사회적, 경제적 피해를 야기한다.
논문에서는 사회기술 스택이라는 개념적 프레임워크를 제안한다. 이는 기술 스택의 개념을 확장하여 기술적 구성요소와 사회적 영향 간의 연관성을 분석한다. 각 층위(사용자 인터페이스, 애플리케이션, 알고리즘, 네트워크, 저장 및 OS, 하드웨어)에서 NCIM을 가능하게 하는 기술적 요소를 파악하고, 이에 따른 사회적 영향을 설명한다.
이를 통해 NCIM 문제를 해결하기 위한 사회기술적 연구 방향을 제시한다. 사용자 인터페이스의 동의 커뮤니케이션, 애플리케이션의 트라우마 인지 콘텐츠 모더레이션, 알고리즘의 해시 기술 및 딥페이크 대응, 네트워크의 콘텐츠 전달 네트워크와 동의 프로토콜, 저장 및 OS의 콘텐츠 복제 방지, 하드웨어의 동의 기반 카메라 등 다양한 연구 방향을 제안한다.

Stats

"NCIM 피해자의 93%가 심각한 정서적 고통을 겪고, 82%가 사회적·직업적 생활에 지장을 받으며, 42%가 심리치료를 받고, 51%가 자살을 고려한다."
"NCIM 피해자의 54%가 자녀나 후손에 의해 해당 콘텐츠가 발견될까 두려워한다."

Quotes

"이 사진들은 300개 이상의 웹사이트에 올라갔고, 나는 수개월 동안 고용주, 가족, 친구, 동료들에게 이 상황을 설명하고 포르노 사이트와 검색엔진에 삭제를 요청했지만, 2주 만에 다시 300개 웹사이트에 올라갔다. 그때부터 이 자료를 바꾸는 것을 포기하고 이름을 바꾸는 절차를 시작했다."
"사람들이 4chan에 내 스냅챗 계정을 올렸다고 메시지를 보내왔다. 내 이름과 얼굴이 포르노 웹사이트에 올라와 있었고, 내 학교와 고향도 적혀 있었다. 이 동영상들이 수천 번 조회되고 있다는 것을 듣고 너무 무서웠다."

Key Insights Distilled From

The Sociotechnical Stack: Opportunities for Social Computing Research in Non-consensual Intimate Media

by Li Qiwei,All... at arxiv.org 05-07-2024

https://arxiv.org/pdf/2405.03585.pdf

Deeper Inquiries

NCIM 피해자들이 겪는 트라우마를 완화하기 위해 어떤 기술적 해결책을 고려할 수 있을까?

NCIM 피해자들의 트라우마를 완화하기 위해 기술적 해결책을 고려할 때, 사용자 인터페이스(UI) 설계를 개선하는 것이 중요합니다. 예를 들어, 사용자가 콘텐츠를 전송한 후에도 제어권을 유지할 수 있는 메커니즘을 UI에 통합하여 피해자들이 콘텐츠의 무단 공유를 방지할 수 있도록 지원할 수 있습니다. 또한, 피해자들이 트라우마를 겪은 후에도 안전한 경험을 제공하기 위해 UI를 설계하는 것이 중요합니다. 이를 통해 트라우마 후 경험을 최소화하고 회복을 돕는 데 도움이 될 수 있습니다.

NCIM 콘텐츠의 확산을 막기 위해 플랫폼과 사용자 간의 역할과 책임을 어떻게 재정립할 수 있을까?

NCIM 콘텐츠의 확산을 막기 위해 플랫폼과 사용자 간의 역할과 책임을 재정립하기 위해 플랫폼에서의 콘텐츠 모니터링 및 관리를 강화하는 것이 중요합니다. 콘텐츠 모니터링 정책을 구체화하고 피해자들이 콘텐츠 삭제를 요청할 때 투명하고 효과적인 절차를 마련하는 것이 필요합니다. 또한, 사용자들이 NCIM 콘텐츠를 식별하고 신고할 수 있는 방법을 제공하여 플랫폼 내에서의 적절한 콘텐츠 관리를 지원해야 합니다. 사용자들에게 콘텐츠 공유의 책임과 영향을 인식시키는 교육 및 가이드라인도 필요합니다.

NCIM 문제를 해결하기 위해 어떤 새로운 기술적 패러다임이 필요할까?

NCIM 문제를 해결하기 위해 새로운 기술적 패러다임이 필요합니다. 이를 위해 사용자 인터페이스(UI)와 알고리즘, 네트워크, 저장 및 운영체제(OS) 등 다양한 기술적 측면을 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한 ganz한