嘗試透過 AI 快速學習一個領域的基本知識，此學習紀錄來自於學習後的收穫整理。

 一、起點：CLI 與 GUI 是兩種不同的「人機溝通哲學」

GUI 的本質貢獻，不是「把東西變漂亮」，而是把記憶（recall）轉成辨識（recognition）。螢幕上充滿視覺 cue，人可以用真實世界的直覺理解

學習

職場

親子與教育

以行動支持創作者！付費即可解鎖

Learner

Boo.ideas

商業

程式

執行

輸入

核心

結構

螢幕

101 學習紀錄 _ Cli-based 

目的

讓藏在資料中的資訊有機會被模型學習到，有兩個條件 :

特徵與目標變數之間存在關係

模型能夠捕捉這樣的關係

找出有價值的特徵

特徵有上百種，找出最有價值的先做，最有效率，可以採用多種方法來找出價值的特徵，Mutual information 是其中一種。

Mutual informa

音樂藝文

模型

資訊

主成分

異常

John

Back to the basic (二) - Feature engineering

1. 人生可以分成很多的階段的挑戰，不用急著一條路走到底，甚至根本沒有這條路。1) 持續尋找自己有感覺的事來做2) 看見不一樣的洞察力 (獨立思考)3) 在完成階段性目標前不放棄的恆毅力4) 持續實驗練習 2. 階段轉換伴隨著不適與風險，要跨過這個檻，先尋找可施力點再往前推進，心態上也要願意放下，重新學起。萬事起頭難，要快速掌握狀況，去找最厲害的人學習，另一個方向是找到能一起前行的夥伴，讓環境來幫助自己。 3. 探索自己的核心價值，這包含信念、原則、生活型態 4. 在確定自己的價值觀的同時，也要認同每個人都能有自己的選擇，練習自己能用更客觀與舒服的方式與人建立關係。 P.S. 有眼界的人真帥 紀錄與靈感來自 : <a href="https://www.youtube.com/watch?v=Xft2sarZ7tw">https://www.youtube.com/watch?v=Xft2sarZ7tw</a>

贊助珍奶

007 面對人生選擇的習慣 pt.1

過去不管在線上線下修了一些 AIML 課，也額外讀了一些書籍，借助這些額外的知識概念與思考，並正確地提供給 AI，常就能提出一個 above average 的答案，拿到不錯的結果，不過真正的 hands-on 才是親自走一次的收穫一定會步一樣，相信更能獲得解決實際且陌生問題的寶貴能力。

所以 B

極端值

Titan

Back to the basic (一)

讀完 The Box 腦子開始動，隱約感覺這本書的脈絡可以與生產科學的架構卡在一起，於是決定先從生產科學系統觀出發，梳理梳理我腦中積塵已久的知識片段。

生產系統的物理學

企業的唯一目標就是獲利，若將企業視為一個系統，則產、銷、人、發、財各個子系統發生的所有的管理活動都在支援這個目標，且不外乎透過

閱讀書評

投資理財

Writer

變異

管理

控制

科學

資源

上限

決策

物理學

生產線

天花板

生產科學與系統觀回顧 Part1

第一次體會一本書看兩次好像看了不同的書。應該不是英文變爛，而是戴著不同副眼鏡的關係。 6 年前第一次看，不斷尋找書中的概念來服務自己，我以為我是無限遊戲的玩家。6 年後第二次看，不斷尋找書中的概念來挑戰自己，我還沒成為無限遊戲的玩家。 不同的眼鏡也讓我有不同的感受，體感上覺得第一次看得比較懂，但其實只是確信偏誤在肯定自己罷了。這次反而覺得看的沒有那麼懂，不愛去頭去尾看書的我，還跳過了很多篇章，但還是發現有很多地方沒讀懂 (我記得第一次是津津有味地從頭看完的)。 好消息是，帶這副眼鏡，讓我有機會重新審視對自己認識與思維模式，用更 "個人" 的方式去思考自己的行為與決定。 「嚴肅是對未知的恐懼；嬉戲是對未知的開放。對未知的恐懼使你害怕出乎意料的驚喜，而驚喜反而延續了無限遊戲。」

006 有限與無限遊戲

X 上看到這篇，雖然沒更多想法，先記錄再說。 # 聯想過去的 Paradigm Shift 就像漣漪會擴散出來，一波波帶來新的浪潮，科技、生活水準連帶提升，最近看 The box 就是很好的回顧，貨櫃不僅是一個裝更多貨的箱子，更推動了國家、經濟、商業模式、資源分配，而這些後浪帶來的影響遠超乎眾人的預期，降低了運輸費用不過就是起了個頭而已。 # 內容1. 歷史對比：為何 CPU 時代的記憶體（DDR）升級緩慢？KPI 差異：CPU 時代的最高指標是跑分（Performance）。記憶體僅是輔助角色，CPU 可透過快取（Cache）、超純量架構（Superscalar）等設計來隱藏記憶體延遲。邊際效用極低：根據業界經驗，即使 DDR 速度提高一倍，CPU 的效能提升通常不到 20% 這個量級。結果：記憶體技術推進緩慢（例如 DDR3 到 DDR5 經歷 15 年），需求主要隨電腦與手機數量增長，具有強烈的週期性商品（Commodity）屬性，而非效能驅動。 2. 典範轉移：GenAI 時代的新 KPI算力不再是唯一標準：GPU 推理時代的最高 KPI 不再只是算力（TOPS/FLOPS），而是 Token 的單位成本與 Token 的吞吐速度。Nvidia 的商業邏輯：打造輸出 Token 成本最低的系統（如 NVL72，結合 72 個 GPU 與 36 個 CPU），目標是在提高吞吐量（Throughput）與速度的 Pareto frontier 曲線持續往右上推。3. Token 經濟學的第一性原理提升 Token 吞吐量依賴兩個核心參數，這兩者均受限於 HBM 的物理特性：核心公式Token Throughput = (Batch Size) X (Per User Token Speed) 參數一：批處理量 (Batch Size) —— 瓶頸在於 HBM 容量 (Size)每個請求都會產生 KV Cache，這部分數據必須存在 HBM 裡以供高頻高速讀取。隨著 Batch Size 增長，KV Cache 會線性增加，因此 HBM 容量必須隨之線性成長。 參數二：每個用戶的 Token 平均速度 —— 瓶頸在於 HBM 頻寬 (Bandwidth)在大模型 Decode 階段，每生成一個 Token 都需要將權重與 KV Cache 讀取多次。HBM 頻寬越高，生成 Token 的速度就越快，兩者基本呈線性對應。 -- 推導結論Token 吞吐量天花板 = HBM 容量 X HBM 頻寬若要維持 Token 吞吐量每代兩倍的增長，單卡 GPU 上的「HBM 容量 X 頻寬」積就必須跟著翻倍。歷史數據顯示，這兩者的增長曲線在對數軸上高度一致。 4. 比喻：機場接駁車模型接駁車車廂大小 = HBM 容量 (Size)：決定一次能裝下多少名旅客（同時處理的請求數）。車廂太小就得分多趟運送，導致系統整體吞吐量上不去。接駁車車門寬度 = HBM 頻寬 (Bandwidth)：決定旅客上下車的速度（生成 Token 的速度）。門越寬，旅客進出效率越高。 5. 總結軟體優化無法取代硬體需求：軟體優化與硬體效能進步是獨立維度。若 HBM 發展停滯，GPU 的效能天花板將被鎖死，Nvidia 必須推動記憶體廠技術升級以維持產品競爭力。無關宏觀週期的宿命：HBM 的指數級需求是由推理範式的第一性原理所驅動。只要對 Token 吞吐量的追求不停止，對 HBM 容量與頻寬的翻倍需求就不會消失。供給側的挑戰：當需求被物理鎖定為指數增長時，SK 海力士、三星、美光等供給側玩家是否能避免重蹈過去週期性過剩的覆轍，將是未來的觀察重點。 <a href="https://x.com/fi56622380/status/2049347677092278749?s=20">https://x.com/fi56622380/status/2049347677092278749?s=20</a>

005 Token 經濟學的 Paradigm Shift 

上完 TAICA GenAI 系統與工程課程，加上一些 podcast，快速試著回答這個問題。 1. 在這情境下，誰是利益關係人 ? 他們是誰、怎麼想、需要什麼、在意什麼....等等 (更大的context)2. 模型控制 : 模型本質是隨機的，優化模型robustness與輸出品質方法設計。3. 拆分任務與重構任務的能力 : 就像 AI 的適口性，要多大、要多少，要剛好。4. 源頭數據品管 : 提供即時、乾淨、清晰、關鍵的數據。5. 商業因果邏輯 : 定義問題、了解需求、善用工具、強化自己下決策的勝率6. 人才有意圖 : 培養更多透過感受、親臨現場的經驗與連結。

AI Era 下，作為人還能發力的地方

花了一個下午多一點的時間，把 DeeplearningAI 的 Agentic AI 課程看完，對於AI代理的架構有了更完整的認識。一個水管工人是處理了無數次的管線才出師的，動手做解決問題是最快的學習方式。 - 知道如何拆解任務，將其定義在各個關鍵節點上，並將可由AI代理的部分全部代理出去 - 在節點間的串接就是 水管工，而熟練的串接是對你是否具備建立代理系統能力的重要評估串接需要工具，代理系統依自主性高低，可分 :高: 自主化的代理 LLM 能在任務中自主建立工具，中: LLM 能自主決定要使用哪個預先定義好的工具低: 所有工具、步驟都預先定義好，AI 自主決定能產生什麼步驟，由人類去操作 - devide and conquer，將一串流程拆解成各個獨立節點，再思考如何各自擊破，要用LLM or Tools，如果不行，再思考一次是否這節點還可以再細分成更小的步驟，最後再思考是否只能用 human 來解 - - 為什麼記帳APP比較容易實踐，因為他的任務步驟方便建立，只要有消費的人通常都知道一個記帳APP怎樣可以滿足你的需求，但是--- 額外的需求呢? 需要理解阻力、suffer在哪 (又是一種taste?)--- 更複雜的任務呢? 需要業務邏輯 -- 持有系統觀點讓效率更好--- 在可以predefined的部分就先定義好，減少在不必要的階段讓 LLM 擁有自主性，例如: 客戶名稱、訂單編號、信箱、背景資訊--- 知道整套系統的building block，以模組化方式建立系統以利維護，例如針對各模組的error analysis -- Eval the system--- 有 LLM 就會有較難掌控的部分發生，例如不合企業形象的回覆，所以要在eval過程改善--- 這也是為什麼要有系統觀比較好，因為你比較容易知道哪裡出了問題，要修正哪部分--- Eval 流程也能透過devide and conquer技巧，思考要叫另一個LLM除錯 or tool 提供犯錯的measure，如: 頻率、哪種情境等指標，還是要人工審查 -- reflecting 是提升品質的好方法--- 透過善於推理的模型去評估改進系統，透過快速產出的模型提供初版

002 一個下午的 Agentic AI 

上課聽到 timesfm，有聽到就找來玩看看。順便來實驗看看庫存管理的業務邏輯大概可以怎樣實現。 timesfm主打時間序列的zero-shot forecasting基礎模型，一個跑過大量訓練資料的預訓練 model，再依照下游需求微調去適任各種時間序列預測任務。 了解到了一些概念，像是 : patching - 把一段時間的時間點視為一個 token，捕捉一個區塊的 pattern 比起一個時間點視為一個 token 還要有效。稀疏的資訊有時提供不了線索，不如看局部的趨勢，就像 CV 看區塊不是看一個像素。 最早時序預測都直接搬NLP那套採逐點輸入，後來 PatchTST 提出 patch 跟通道獨立 -反直覺的把多變量拆成多個單變量，但訓練同一組參數，結果準確性大增。 採用 decoder-only，所以 output patch length 可以大於 input patch length (可以基於自己的預測再去預測，就像語言模型)。 因為預測 patch 更長，所以可以用較少的預測次數達到同樣尺寸的預測區間，實作上長期表現上看起來更穩，循環次數越少，誤差累積的機會也較少，而 trade off 是預測靈敏度較低。 限制 - timesfm 只能跑單變量時間序列預測，如果要多變量要做其它的處理(XReg 還沒試過)。另外嘗試了最信更新的 timesfm - transformer 架構版本，可以直接針對下游任務跑 LoRA 優化， 原來 LoRA 在時間序列上也有用。 玩模型的時候，順便測試了reorder的基本邏輯，加上 timesfm 有 quantile head prediction 可以來充當高低區間預測。

001  timesfm 

Builder

Boo.Ideas

Boo.Ideas