Core Concepts
広告推薦システムにおける表現学習と次元の崩壊への対処方法を探る。
Abstract
Tencent社が提案した広告推薦システムに関する研究。異なる種類の特徴量をエンコードするアプローチや、次元の崩壊、興味の絡み合いなどに焦点を当てた実践的な手法が紹介されている。モデルトレーニング技術や分析ツールも提供されている。
Stats
モデルパラメーターは埋め込み特徴量から99.99%以上を占める。
Tencent社のオンライン広告プラットフォームは毎日数百億件のリクエストを処理し、数十億人のユーザーに数百万件の広告を提供している。
Quotes
"多くの埋め込み要素が意味を持たずに折り畳まれていることで、モデル容量が無駄になっています。" - 引用元不明
"STEMパラダイムは異なるタスク間でユーザーとアイテム表現(埋め込み)を分離し、異なるタスクで異なる興味を保持する可能性があります。" - 引用元不明