Hochleistungsfähige und energieeffiziente Spiking-Neuronale-Netzwerke durch Kombination von ResNet und Vision Transformer
Eine neuartige Dual Spike Self-Attention-Mechanismus (DSSA) wird vorgestellt, der vollständig spike-basiert ist und mit Spiking-Neuronalen-Netzwerken kompatibel ist. Basierend auf DSSA wird eine neue Spiking-Transformer-Architektur namens SpikingResformer entwickelt, die die Vorteile von ResNet-basierten Architekturen und Transformer-Strukturen kombiniert, um eine höhere Genauigkeit, geringeren Energieverbrauch und weniger Parameter zu erreichen.
