Generierung und Destillation von Wissen für effiziente Bereitstellung von Sprachmodellen
Ein iterativer Feedback-Mechanismus, der auf Proben außerhalb der Verteilung basiert, wird verwendet, um die Generalisierbarkeit destillierter Sprachmodelle zu verbessern.