Effiziente Codezusammenfassung mit Code-Struktur-bewusster Transformer-Architektur

CSA-Trans, eine Transformer-Architektur für Quellcode, verwendet einen Code-Struktur-Embedder (CSE), um kontextspezifische Positionscodierung für jeden Knoten im abstrakten Syntaxbaum (AST) zu generieren. Durch die Verwendung von Stochastic Block Model (SBM) Aufmerksamkeit kann CSA-Trans die Beziehungen zwischen AST-Knoten effektiver lernen und so die Leistung bei Codezusammenfassungsaufgaben für Python und Java verbessern.