下載 Linnk AI
•
AI 研究助理
>
登入
洞見
-
語言模型特徵演化
透過微調和模型合併追蹤通用特徵
小型 Transformer 語言模型中的特徵會隨著微調和模型合併而演變,大多數特徵會消失,而持續存在的特徵通常代表程式碼或文字的通用屬性,例如標點符號和格式。
1