Die Autoren stellen eine generalisierte Architektur für Geometrische Algebra Transformatoren (GATr) vor, die es ermöglicht, äquivariante Transformatoren-Architekturen für beliebige geometrische (oder Clifford-) Algebren zu konstruieren. Sie fokussieren sich dabei auf die Euklidische, Projektive und Konforme Algebra, da diese geeignet sind, 3D-Daten darzustellen.
Theoretisch analysieren die Autoren die Ausdrucksfähigkeit, die Darstellung von absoluten 3D-Positionen und die Berechnung von Aufmerksamkeitsgewichten basierend auf Abständen für die verschiedenen Algebra-Varianten. In Experimenten vergleichen sie die Leistung der Architekturen auf n-Körper-Modellierungsaufgaben und der Vorhersage von Wandschubspannungen in großen Arteriennetzen.
Alle GATr-Varianten erweisen sich als leistungsfähig, mit jeweils einzigartigen Stärken. Die einfachste Euklidische Architektur ist recheneffizient, hat aber eine kleinere Symmetriegruppe und ist weniger stichprobeneffizient. In seiner einfachsten Form ist die Projektive Algebra nicht ausdrucksstark genug, aber in einer verbesserten, komplexeren Version leistungsfähig. Während die Konforme Algebra die Normalisierung herausfordernder macht, bietet sie eine elegante Formulierung der 3D-Geometrie und starke experimentelle Ergebnisse.
Till ett annat språk
från källinnehåll
arxiv.org
Djupare frågor