Präzise Binarisierung von Diffusionsmodellen

BinaryDM ist ein neuartiger, genauer quantisierungsbasierter Trainingsansatz, um die Gewichte von Diffusionsmodellen auf 1-Bit zu reduzieren. BinaryDM verwendet einen lernbaren mehrbasigen Binarisierer (LMB) zur Verbesserung der Repräsentationsfähigkeit und eine niedrigrangige Repräsentationsangleichung (LRM) zur Stabilisierung der Optimierung, um die Leistung und Effizienz von Diffusionsmodellen bei extrem niedrigen Bitbreiten zu steigern.