テロリストや過激な極端主義者のコンテンツから小中規模のオンラインプラットフォームのコミュニティを守るためのオープンソースツール「Altitude」の紹介

Core Concepts

Altitudeは、小中規模のオンラインプラットフォームがテロリストや過激な極端主義者のコンテンツに迅速に対応できるよう支援するツールである。

Abstract

本文では、Altitudeの開発の背景と目的について説明されている。

小中規模のオンラインプラットフォームは、テロリストや過激な極端主義者のコンテンツの拡散に対処することが困難な状況にある。これは、大規模プラットフォームから削除されたコンテンツが小規模プラットフォームに移行し、再び大規模プラットフォームに戻ってくる「ブーメラン効果」が起きているためである。また、EU の法規制により、プラットフォームはこれらのコンテンツを迅速に削除する必要があるが、リソースが不足している小中規模プラットフォームにとってはこれが大きな課題となっている。

Jigsaw は、11のプラットフォームへのインタビューを通じて、プラットフォームの規模や利用者数に関わらず、テロリストや過激な極端主義者のコンテンツに対する準備状況にばらつきがあることを明らかにした。そこで、Jigsaw は、リソースの少ない組織でも使えるよう、Meta の画像ハッシュ技術やGIFCTのデータベースを活用し、コンテンツの優先度付けや一括処理などの機能を備えたツール「Altitude」を開発した。

Altitudeは、小中規模プラットフォームがテロリストや過激な極端主義者のコンテンツに迅速に対応できるよう支援するツールである。今後は、データベースの拡充や多言語対応などの機能拡張が予定されている。また、プラットフォーム、市民社会、規制当局の継続的な連携も重要であるとされている。

Stats

プラットフォームは、テロリストや過激な極端主義者のコンテンツに迅速に対応する必要があるが、リソース不足のため困難な状況にある。

Quotes

「小規模プラットフォームは、このようなコンテンツの共有の対象となっているが、現在の危機対応メカニズムに含まれていないため、コンテンツがオンラインに長く残り続けることになる。」

Key Insights Distilled From

Introducing Altitude: An open-source tool to help online platforms protect their communities from…

by at medium.com 07-22-2024

https://medium.com/jigsaw/introducing-altitude-an-open-source-tool-to-help-online-platforms-protect-their-communities-from-0c1c5d147fae

Deeper Inquiries

Altitudeの機能拡張によって、プラットフォームはどのようにテロリストや過激な極端主義者のコンテンツ対策を強化できるか。

Altitudeの機能拡張により、プラットフォームはテロリストや過激な極端主義者のコンテンツ対策を強化することができます。Altitudeは、Tech Against TerrorismのTerrorist Content Analytics Platform（TCAP）やGIFCT Hash-Sharing Database（HSDB）などの主要データベースとプラットフォーム内の画像を照合するためにMetaのハッシングおよびマッチング技術を活用しています。これにより、プラットフォームはTVECのアラートを優先順位付けし、一致するコンテンツを効果的に特定できます。さらに、AltitudeはGoogle Trust and Safetyのデザインチームが開発したPrismaからのコンポーネントを活用しており、これにより設計コンポーネントが広く公開され、プラットフォームが最高水準の準備と対応力を実現できます。

Altitudeの導入によって、プラットフォームとユーザーの人権保護のバランスをどのように取ることができるか。

Altitudeの導入により、プラットフォームとユーザーの人権保護のバランスを取ることが可能です。AltitudeはTech Against Terrorismがメンテナンスおよび拡張を行うことをサポートし、Altitudeを利用したいプラットフォームはTech Against Terrorism Networkに参加して無料の専用オンボーディングサポートを受けることができます。このサポートには、導入のガイド付きインストール、テスト、フィードバックが含まれます。さらに、Altitudeを利用することで、プラットフォームは専門家からのフィードバックを受け取り、プラットフォームとユーザーの人権保護のバランスを保ちながら、社会的ニーズを満たすことができます。

Altitudeの活用を通じて、プラットフォーム、市民社会、規制当局の連携はどのように深化していくことが期待されるか。

Altitudeの活用を通じて、プラットフォーム、市民社会、規制当局の連携はさらに深化していくことが期待されます。JigsawとTech Against Terrorismが行ったグローバル人権専門家とのインタビューにより、Altitudeの将来の開発の重要な領域が特定されました。これには、追加の専門データベースの組み込みやプラットフォームとフラグ付きコンテンツのネイティブ翻訳が含まれます。インタビューでは、プラットフォーム、市民社会、規制当局の間での継続的な協力の必要性が強調されました。Altitudeを利用するプラットフォームが増え、それらがデータベースに貢献することで、有害および非有害コンテンツに関するタイムリーな情報を共有し、広範なクロスプラットフォームのトレンドを明らかにすることで、生態系を保護することができる良性循環が生まれる可能性があります。