Ein einheitliches Vortrainingsmodell für Sprache, das unstrukturierte, halbstrukturierte und gut strukturierte Texte in einen gemeinsamen Darstellungsraum integriert, um Entitätswissen und Themenwissen zu erlernen.
Ein einheitliches Vortrainingsmodell für Sprache, das unstrukturierte, halbstrukturierte und gut strukturierte Texte in einem gemeinsamen Darstellungsraum modelliert, um domänenspezifisches heterogenes Wissen zu erfassen.