クラウドからエッジへの原理的な黒箱知識蒸留のための論理出力の生成的整合化

クラウドサーバーに配置された重量級の教師モデルの知識を、エッジデバイスの軽量な学生モデルに効率的に蒸留するための新しい手法を提案する。提案手法は、教師モデルの逆写像を学習したジェネレータを利用して、教師と学生の論理出力を整合化することで、プライバシーを保護しつつ優れた蒸留性能を実現する。