縮小巨型模型：用於低能耗推理的類無權重 Transformer 模型

本文提出了一種名為 QuWeiT 的新型 Transformer 模型，旨在通過用基於查找表的無權重神經網路層取代傳統的 MLP 層來降低能耗，同時保持模型精度。