테러리스트 및 폭력적 극단주의 콘텐츠로부터 온라인 커뮤니티를 보호하기 위한 오픈소스 도구 Altitude 소개

Core Concepts

Altitude는 소규모 및 중규모 온라인 플랫폼이 테러리스트 및 폭력적 극단주의 콘텐츠에 효과적으로 대응할 수 있도록 지원하는 오픈소스 도구입니다.

Abstract

Jigsaw는 온라인 테러리스트 및 극단주의 활동이 실제 세계에 심각한 영향을 미칠 수 있다는 것을 연구했습니다. 특히 극단주의 콘텐츠가 대규모 플랫폼에서 제거된 후 덜 규제된 공간에 재등장하고, 다시 원래의 더 규제된 공간으로 되돌아오는 "부메랑 효과"에 주목했습니다.

이에 Jigsaw는 소규모 및 중규모 플랫폼의 콘텐츠 조절 요구사항을 충족시키기 위해 Altitude를 개발했습니다. Altitude는 Meta의 해싱 및 매칭 기술을 사용하여 플랫폼의 콘텐츠를 TCAP와 HSDB의 데이터베이스와 비교하여 테러리스트 및 폭력적 극단주의 콘텐츠를 식별합니다. 또한 Prisma의 디자인 시스템 구성 요소를 활용하여 모더레이터의 워크플로우를 개선합니다.

Jigsaw와 Tech Against Terrorism은 Altitude의 향후 발전 방향으로 추가 전문 데이터베이스 통합, 콘텐츠 번역 기능 등을 제안했습니다. 또한 플랫폼, 시민 사회, 규제 기관 간의 지속적인 협력의 필요성을 강조했습니다.

Stats

Altitude는 TCAP와 HSDB의 데이터베이스를 활용하여 플랫폼의 콘텐츠와 비교합니다.
Altitude는 Prisma의 디자인 시스템 구성 요소를 활용하여 모더레이터의 워크플로우를 개선합니다.

Quotes

"작은 플랫폼들이 이러한 콘텐츠를 공유하는 수단으로 점점 더 많이 이용되고 있지만, 현재의 위기 대응 메커니즘에 포함되지 않아 콘텐츠가 더 오랫동안 온라인에 남아있게 됩니다."
"극단주의 콘텐츠가 대규모 플랫폼에서 제거된 후 덜 규제된 공간에 재등장하고, 다시 원래의 더 규제된 공간으로 되돌아오는 '부메랑 효과'가 있습니다."

Key Insights Distilled From

Introducing Altitude: An open-source tool to help online platforms protect their communities from…

by at medium.com 07-22-2024

https://medium.com/jigsaw/introducing-altitude-an-open-source-tool-to-help-online-platforms-protect-their-communities-from-0c1c5d147fae

Deeper Inquiries

Altitude 도구 외에 소규모 및 중규모 플랫폼이 테러리스트 및 폭력적 극단주의 콘텐츠에 대응할 수 있는 다른 방법은 무엇이 있을까요?

소규모 및 중규모 플랫폼이 테러리스트 및 폭력적 극단주의 콘텐츠에 대응하기 위해 Altitude 도구 외에는 다양한 방법이 존재합니다. 먼저, 플랫폼은 자체적으로 AI 및 머신러닝 기술을 활용하여 유해 콘텐츠를 탐지하고 제거하는 자동화 시스템을 구축할 수 있습니다. 또한, 외부 전문 기관과의 협력을 통해 플랫폼 내에서 발생하는 유해 콘텐츠를 식별하고 처리하는 데 도움을 받을 수 있습니다. 또한, 사용자 신고 시스템을 강화하고, 커뮤니티 가이드라인을 엄격히 시행하여 플랫폼 내에서의 규정 준수를 강조하는 방법도 효과적일 수 있습니다.

Altitude 도구의 개발 과정에서 어떤 윤리적 고려사항들이 있었는지 궁금합니다.

Altitude 도구의 개발 과정에서 윤리적 고려사항은 매우 중요한 역할을 했습니다. 먼저, 개인정보 보호와 데이터 안전을 위해 사용자 데이터의 안전한 저장 및 처리가 보장되어야 했습니다. 또한, 플랫폼 사용자들의 프라이버시를 존중하고, 투명성을 유지하는 것이 필수적이었습니다. 또한, 테러리스트 및 폭력적 극단주의 콘텐츠를 식별하고 제거함으로써 발생할 수 있는 잠재적인 오인과 오남용에 대한 대비책을 마련하는 것도 중요한 고려사항 중 하나였습니다.

Altitude 도구의 확산과 더불어 온라인 상의 표현의 자유와 프라이버시 보호를 어떻게 균형있게 유지할 수 있을까요?

Altitude 도구의 확산과 함께 온라인 상의 표현의 자유와 프라이버시 보호를 균형있게 유지하기 위해서는 몇 가지 조치가 필요합니다. 먼저, 플랫폼은 사용자들의 표현의 자유를 존중하면서도 테러리스트 및 폭력적 극단주의 콘텐츠의 유해성을 인식하고 이를 제거하는 데 노력해야 합니다. 또한, 플랫폼은 사용자들에게 프라이버시 보호에 대한 정보를 제공하고, 데이터 수집 및 활용에 대한 투명성을 유지하는 것이 중요합니다. 또한, 정부 및 규제기관과의 협력을 통해 법적 규정을 준수하면서도 온라인 상의 자유와 안전을 동시에 보장할 수 있는 방안을 모색해야 합니다.