Wie die Qualität des Kontexts beim Training von Fusion-in-Decoder für extraktives offenes Domänenfrage-Antworten die Leistung beeinflusst

Die Qualität des Kontexts während des Trainings beeinflusst die Leistung von Fusion-in-Decoder Modellen für extraktives offenes Domänenfrage-Antworten. Modelle, die auf Kontexten mit unterschiedlicher Qualität trainiert werden, zeigen unterschiedliche Muster in der Verteilung der Aufmerksamkeit auf relevante und irrelevante Passagen, was zu einer Überanpassung an die Kontextqualität während des Trainings führt.