Wie man kontextbezogene Beispiele entsprechend dem parametrischen Wissen von Sprachmodellen erstellt

Kontextbezogenes Lernen kann die Leistung bei wissensintensiven Aufgaben wie Frage-Antwort-Systemen verbessern. In solchen Szenarien lösen kontextbezogene Beispiele bei Sprachmodellen (LMs) Informationen aus, die in ihrem parametrischen Wissen gespeichert sind. Wir untersuchen, wie man Sätze kontextbezogener Beispiele besser konstruieren kann, basierend darauf, ob das Modell von den Beispielen Kenntnis hat.