想像一下，我們的大腦很厲害，能記住重要的東西，忘記不重要的細節。現在，有一種很酷的新技術叫做 “神經注意力記憶模型”（NAMM），它可以讓 Transformer 模型也像我們的大腦一樣聰明！
Transformer 模型就像語言模型的骨幹，它可以處理文字、圖片等等。但它們有一個問題，就是會一股腦地記住所有東西，就像一個塞滿東西的倉庫，很難快速找到需要的資訊。
經過語言訓練的完全進化的 NAMM 可以零樣本轉移到其他 Transformer，甚至跨輸入模式和任務域！
NAMM 就像一個聰明的管理員，它會學習哪些資訊重要，哪些不重要。它會 “保留重要的資訊，丟掉不重要的雜訊”，讓 Transformer 模型運作更有效率。
NAMM 的厲害之處：
它可以讓 Transformer 模型在處理語言和寫程式碼時表現更好，而且還更省記憶體！
它可以應用在各種領域，像是視覺、機器人控制等等，即使它只接受過語言訓練！
它可以像玩樂高積木一樣，直接套用在不同的 Transformer 模型上，不需要重新訓練！
簡單來說，NAMM 就像給 Transformer 模型裝了一個升級版大腦，讓它們變得更聰明、更快速、更靈活！
透過進化優化、迭代變異和選擇網路參數來優化 NAMM，從而透過我們的新記憶系統產生最佳的語言建模表現。
研究人員還發現，NAMM 在處理不同任務時，會記住不同的資訊。例如，在處理程式碼時，它會刪除不必要的空格和註釋；而在處理自然語言時，它會忽略一些語法上的冗詞，專注於關鍵字和重要概念。
這項技術非常有潛力，未來可能會讓 transformer 模型 變得更強大，甚至可以像我們人類一樣，透過學習和記憶的迭代過程，不斷進化！
