Federated Distillation: Eine umfassende Übersicht über die neuesten Entwicklungen und Herausforderungen

Federated Distillation (FD) ermöglicht eine flexiblere Wissensübertragung zwischen Clients und Server, indem es die Notwendigkeit identischer Modellarchitekturen überwindet und die Kommunikationskosten bei der Ausbildung großer Modelle reduziert.