大語言模型
#大語言模型含有「大語言模型」共 18 篇內容
全部內容
發佈日期由新至舊
LLM 005｜大語言模型是如何利用Transformer理解語言的？現代大語言模型建構於Transformer結構。
Transformer結構是源自於2017年著名論文 Attention Is All You Need的深度神經網路結構。
原始的Trasformer是為了機器翻譯發展，當初的任務是將英文翻譯成德文與法文。
Transformer
2024-04-27
7
LLM 004｜創建大語言模型需要哪兩個關鍵階段？從頭開始寫大語言模型的程式碼，
是最好理解大語言模型的機制與限制的方風。
從頭開始寫大語言模型的程式碼，可以幫助我們得到預訓練與微調整開源大語言模型架構所需要的知識，並應用到特定領域的數據及以及任務。
客製化大語言模型一般來說比起通用大語言模型有更好的表現。
一個具體的例子是
2024-04-26
4
LLM 002｜大語言模型中的「大」是如何幫助預測下一個字的？大語言模型是一種特殊的神經網路，設計來理解，生成與回應人類的文本。
大語言模型是使用大量文本數據訓練的深度神經網路，其訓練使用的文本數據甚至包括了整個網路公開的文本。
大語言模型的「大」，體現於模型的參數個數以及其使用的訓練數據集。如此大的模型可以有百億甚至千億的參數。這些參數都是神經網
2024-04-24
4