📲 本地 AI
20免費公開
Apple Intelligence 給你的印象不佳？覺得 Apple 在 AI 方面落後許多？這系列文章會讓你改觀。特別寫給看到 AI 變化迅速而擔心自己跟不上的 iOS 開發者，告訴你怎麼切入本地 AI 這個 iOS 才有的好機會。
Foundation Models framework 大幅降低了 iOS 開發者使用離線 LLM 的門檻。關鍵還是開發者有沒有找到適合幫 App 加分的用法。
Foundation Models framework 大幅降低了 iOS 開發者使用離線 LLM 的門檻。關鍵還是開發者有沒有找到適合幫 App 加分的用法。
AnyLanguageModel 讓 Hugging Face 上的開源 LLM 很容易下載與開始使用，只要三行程式碼就可以呼叫 MLX 框架以及配套工具。我也更新了範例專案，可以直接在 Mac 與 iOS 裝置上試玩。
AnyLanguageModel 讓 Hugging Face 上的開源 LLM 很容易下載與開始使用，只要三行程式碼就可以呼叫 MLX 框架以及配套工具。我也更新了範例專案，可以直接在 Mac 與 iOS 裝置上試玩。
我們發現 AnyLanguageModel 還沒有 100% 實現 Foundation Models framework 的功能，但我們已經可以透過它替換成其他模型。本文以 LM Studio 的伺服器功能，讓 App 可以去呼叫 Mac 上的開源 LLM，生成結果。
我們發現 AnyLanguageModel 還沒有 100% 實現 Foundation Models framework 的功能，但我們已經可以透過它替換成其他模型。本文以 LM Studio 的伺服器功能，讓 App 可以去呼叫 Mac 上的開源 LLM，生成結果。
分享兩個踩坑 AnyLanguageModel 過程中實際遇到的問題與解法。一個我發了熱騰騰的 PR，另一個則是借用相同的 Swift Package 機制來實現切換依賴模組。
分享兩個踩坑 AnyLanguageModel 過程中實際遇到的問題與解法。一個我發了熱騰騰的 PR，另一個則是借用相同的 Swift Package 機制來實現切換依賴模組。
AnyLanguageModel 是相容 Foundation Models framework 語法的模型替換套件。理想上能輕鬆替換 Apple Intelligence 的 Foundation Models，換成第三方開源本地模型，或是 OpenAI 等雲端模型。實際狀況如何呢？
AnyLanguageModel 是相容 Foundation Models framework 語法的模型替換套件。理想上能輕鬆替換 Apple Intelligence 的 Foundation Models，換成第三方開源本地模型，或是 OpenAI 等雲端模型。實際狀況如何呢？
本系列關於 Foundation Models framework 的相關文章即將完結。說明有哪些延伸探索的方向、各種參考資源，並預告把目前所學遷移到其他語言模型。
本系列關於 Foundation Models framework 的相關文章即將完結。說明有哪些延伸探索的方向、各種參考資源，並預告把目前所學遷移到其他語言模型。
開發裝置端 AI 功能，測量效能是必要工作。首先介紹 Instruments 如何上手，觀察效能瓶頸。而為了能支援重複測試任意的 @Generable 型別，我寫了一個 SwiftUI View 作為工具，讓你可以快速把要生成的物件與畫面整合起來。
開發裝置端 AI 功能，測量效能是必要工作。首先介紹 Instruments 如何上手，觀察效能瓶頸。而為了能支援重複測試任意的 @Generable 型別，我寫了一個 SwiftUI View 作為工具，讓你可以快速把要生成的物件與畫面整合起來。
介紹一些提升使用者體驗的方向，把 context window、guardrail 等重要議題視為使用者體驗設計的一環，並整理各種可能發生的錯誤。妥善處理錯誤，就是提升體驗的機會。
介紹一些提升使用者體驗的方向，把 context window、guardrail 等重要議題視為使用者體驗設計的一環，並整理各種可能發生的錯誤。妥善處理錯誤，就是提升體驗的機會。
語言模型雖然有很多知識，但沒有即時資訊，也不擅長數學計算。如果需要存取模型以外的資訊或運算，我們可以提供呼叫外部的工具。不過，重點是判斷什麼情況才該使用。
語言模型雖然有很多知識，但沒有即時資訊，也不擅長數學計算。如果需要存取模型以外的資訊或運算，我們可以提供呼叫外部的工具。不過，重點是判斷什麼情況才該使用。
能輕鬆實現漸進式使用者體驗
為了不讓使用者等待，App 應該漸進地顯示生成的結果。但是，為了達到這個目的，你願意自行拼湊並解析 LLM 吐出過程中的不完整 JSON 字串嗎？太痛苦了。Foundation Models framework 提供給開發者十分優雅的方式避開這個麻煩，而且能直接沿用先前
能輕鬆實現漸進式使用者體驗
為了不讓使用者等待，App 應該漸進地顯示生成的結果。但是，為了達到這個目的，你願意自行拼湊並解析 LLM 吐出過程中的不完整 JSON 字串嗎？太痛苦了。Foundation Models framework 提供給開發者十分優雅的方式避開這個麻煩，而且能直接沿用先前
既然 Foundation Models framework 具備結構化輸出的功能，那麼輸入提示詞有沒有類似的機制？有的，Apple 提供了 PromptBuilder，讓開發者輕鬆依照程式條件來調整 prompt，並且能與結構化輸出的 Generable protocol 整合。
既然 Foundation Models framework 具備結構化輸出的功能，那麼輸入提示詞有沒有類似的機制？有的，Apple 提供了 PromptBuilder，讓開發者輕鬆依照程式條件來調整 prompt，並且能與結構化輸出的 Generable protocol 整合。
就像從 App 端直接定義 Server 回傳的 JSON schema。
就像從 App 端直接定義 Server 回傳的 JSON schema。
介紹 Foundation Models 的模型 Availability 檢查方式、使用與研究 Instructions 的方式，並且推薦 Apple 官方教材。
介紹 Foundation Models 的模型 Availability 檢查方式、使用與研究 Instructions 的方式，並且推薦 Apple 官方教材。
身為 App 開發者，對於 Apple 的 LLM 的視角是「我要怎麼了解它的能力」、「它可以幫 App 的使用者體驗強化哪些層面」，而不是研究 AI 模型。從本文開始，我不僅會介紹 Foundation Models，更會教你建立有效的學習系統與策略。
身為 App 開發者，對於 Apple 的 LLM 的視角是「我要怎麼了解它的能力」、「它可以幫 App 的使用者體驗強化哪些層面」，而不是研究 AI 模型。從本文開始，我不僅會介紹 Foundation Models，更會教你建立有效的學習系統與策略。
在入坑 Foundation Models 以前，我們要了解 Apple Intelligence 的基本知識。可以當作在 Apple 平台上開發本地 AI 應用的體驗參考標準，也能觀察到 Apple 怎麼使用混合策略來提供各種 AI 功能。
在入坑 Foundation Models 以前，我們要了解 Apple Intelligence 的基本知識。可以當作在 Apple 平台上開發本地 AI 應用的體驗參考標準，也能觀察到 Apple 怎麼使用混合策略來提供各種 AI 功能。
談到離線 AI 功能的優點，我們往往想到資安、隱私、成本。但是每種使用者在意的點完全不同。讓我們來分析一下。
談到離線 AI 功能的優點，我們往往想到資安、隱私、成本。但是每種使用者在意的點完全不同。讓我們來分析一下。
Apple 的語音辨識模型在 macOS/iOS 26 有新版了。我們來比較看看效果。並且推薦讀者多嘗試使用語音輸入。
Apple 的語音辨識模型在 macOS/iOS 26 有新版了。我們來比較看看效果。並且推薦讀者多嘗試使用語音輸入。
介紹一個語音轉文字的工具，能直接體驗到 Apple 硬體跑本地模型的效果，還能變成你新的生產力工具。
介紹一個語音轉文字的工具，能直接體驗到 Apple 硬體跑本地模型的效果，還能變成你新的生產力工具。
為什麼玩單機遊戲的時候需要連網或更新？不是玩家的遊玩需求，而是遊戲平台商的需要。為什麼大部分 AI 工具都需要連網？也跟服務提供商的需求有關。但 AI 功能並不總是等於網路服務，只是我們太習慣了。
為什麼玩單機遊戲的時候需要連網或更新？不是玩家的遊玩需求，而是遊戲平台商的需要。為什麼大部分 AI 工具都需要連網？也跟服務提供商的需求有關。但 AI 功能並不總是等於網路服務，只是我們太習慣了。
Apple Intelligence 給你的印象不佳？覺得 Apple 在 AI 方面落後許多？這系列文章會讓你改觀。特別寫給看到 AI 變化迅速而擔心自己跟不上的 iOS 開發者，告訴你怎麼切入本地 AI 這個 iOS 才有的好機會。
Apple Intelligence 給你的印象不佳？覺得 Apple 在 AI 方面落後許多？這系列文章會讓你改觀。特別寫給看到 AI 變化迅速而擔心自己跟不上的 iOS 開發者，告訴你怎麼切入本地 AI 這個 iOS 才有的好機會。
Foundation Models framework 大幅降低了 iOS 開發者使用離線 LLM 的門檻。關鍵還是開發者有沒有找到適合幫 App 加分的用法。
Foundation Models framework 大幅降低了 iOS 開發者使用離線 LLM 的門檻。關鍵還是開發者有沒有找到適合幫 App 加分的用法。
AnyLanguageModel 讓 Hugging Face 上的開源 LLM 很容易下載與開始使用，只要三行程式碼就可以呼叫 MLX 框架以及配套工具。我也更新了範例專案，可以直接在 Mac 與 iOS 裝置上試玩。
AnyLanguageModel 讓 Hugging Face 上的開源 LLM 很容易下載與開始使用，只要三行程式碼就可以呼叫 MLX 框架以及配套工具。我也更新了範例專案，可以直接在 Mac 與 iOS 裝置上試玩。
我們發現 AnyLanguageModel 還沒有 100% 實現 Foundation Models framework 的功能，但我們已經可以透過它替換成其他模型。本文以 LM Studio 的伺服器功能，讓 App 可以去呼叫 Mac 上的開源 LLM，生成結果。
我們發現 AnyLanguageModel 還沒有 100% 實現 Foundation Models framework 的功能，但我們已經可以透過它替換成其他模型。本文以 LM Studio 的伺服器功能，讓 App 可以去呼叫 Mac 上的開源 LLM，生成結果。
分享兩個踩坑 AnyLanguageModel 過程中實際遇到的問題與解法。一個我發了熱騰騰的 PR，另一個則是借用相同的 Swift Package 機制來實現切換依賴模組。
分享兩個踩坑 AnyLanguageModel 過程中實際遇到的問題與解法。一個我發了熱騰騰的 PR，另一個則是借用相同的 Swift Package 機制來實現切換依賴模組。
AnyLanguageModel 是相容 Foundation Models framework 語法的模型替換套件。理想上能輕鬆替換 Apple Intelligence 的 Foundation Models，換成第三方開源本地模型，或是 OpenAI 等雲端模型。實際狀況如何呢？
AnyLanguageModel 是相容 Foundation Models framework 語法的模型替換套件。理想上能輕鬆替換 Apple Intelligence 的 Foundation Models，換成第三方開源本地模型，或是 OpenAI 等雲端模型。實際狀況如何呢？
本系列關於 Foundation Models framework 的相關文章即將完結。說明有哪些延伸探索的方向、各種參考資源，並預告把目前所學遷移到其他語言模型。
本系列關於 Foundation Models framework 的相關文章即將完結。說明有哪些延伸探索的方向、各種參考資源，並預告把目前所學遷移到其他語言模型。
開發裝置端 AI 功能，測量效能是必要工作。首先介紹 Instruments 如何上手，觀察效能瓶頸。而為了能支援重複測試任意的 @Generable 型別，我寫了一個 SwiftUI View 作為工具，讓你可以快速把要生成的物件與畫面整合起來。
開發裝置端 AI 功能，測量效能是必要工作。首先介紹 Instruments 如何上手，觀察效能瓶頸。而為了能支援重複測試任意的 @Generable 型別，我寫了一個 SwiftUI View 作為工具，讓你可以快速把要生成的物件與畫面整合起來。
介紹一些提升使用者體驗的方向，把 context window、guardrail 等重要議題視為使用者體驗設計的一環，並整理各種可能發生的錯誤。妥善處理錯誤，就是提升體驗的機會。
介紹一些提升使用者體驗的方向，把 context window、guardrail 等重要議題視為使用者體驗設計的一環，並整理各種可能發生的錯誤。妥善處理錯誤，就是提升體驗的機會。
語言模型雖然有很多知識，但沒有即時資訊，也不擅長數學計算。如果需要存取模型以外的資訊或運算，我們可以提供呼叫外部的工具。不過，重點是判斷什麼情況才該使用。
語言模型雖然有很多知識，但沒有即時資訊，也不擅長數學計算。如果需要存取模型以外的資訊或運算，我們可以提供呼叫外部的工具。不過，重點是判斷什麼情況才該使用。
能輕鬆實現漸進式使用者體驗
為了不讓使用者等待，App 應該漸進地顯示生成的結果。但是，為了達到這個目的，你願意自行拼湊並解析 LLM 吐出過程中的不完整 JSON 字串嗎？太痛苦了。Foundation Models framework 提供給開發者十分優雅的方式避開這個麻煩，而且能直接沿用先前
能輕鬆實現漸進式使用者體驗
為了不讓使用者等待，App 應該漸進地顯示生成的結果。但是，為了達到這個目的，你願意自行拼湊並解析 LLM 吐出過程中的不完整 JSON 字串嗎？太痛苦了。Foundation Models framework 提供給開發者十分優雅的方式避開這個麻煩，而且能直接沿用先前
既然 Foundation Models framework 具備結構化輸出的功能，那麼輸入提示詞有沒有類似的機制？有的，Apple 提供了 PromptBuilder，讓開發者輕鬆依照程式條件來調整 prompt，並且能與結構化輸出的 Generable protocol 整合。
既然 Foundation Models framework 具備結構化輸出的功能，那麼輸入提示詞有沒有類似的機制？有的，Apple 提供了 PromptBuilder，讓開發者輕鬆依照程式條件來調整 prompt，並且能與結構化輸出的 Generable protocol 整合。
就像從 App 端直接定義 Server 回傳的 JSON schema。
就像從 App 端直接定義 Server 回傳的 JSON schema。
介紹 Foundation Models 的模型 Availability 檢查方式、使用與研究 Instructions 的方式，並且推薦 Apple 官方教材。
介紹 Foundation Models 的模型 Availability 檢查方式、使用與研究 Instructions 的方式，並且推薦 Apple 官方教材。
身為 App 開發者，對於 Apple 的 LLM 的視角是「我要怎麼了解它的能力」、「它可以幫 App 的使用者體驗強化哪些層面」，而不是研究 AI 模型。從本文開始，我不僅會介紹 Foundation Models，更會教你建立有效的學習系統與策略。
身為 App 開發者，對於 Apple 的 LLM 的視角是「我要怎麼了解它的能力」、「它可以幫 App 的使用者體驗強化哪些層面」，而不是研究 AI 模型。從本文開始，我不僅會介紹 Foundation Models，更會教你建立有效的學習系統與策略。
在入坑 Foundation Models 以前，我們要了解 Apple Intelligence 的基本知識。可以當作在 Apple 平台上開發本地 AI 應用的體驗參考標準，也能觀察到 Apple 怎麼使用混合策略來提供各種 AI 功能。
在入坑 Foundation Models 以前，我們要了解 Apple Intelligence 的基本知識。可以當作在 Apple 平台上開發本地 AI 應用的體驗參考標準，也能觀察到 Apple 怎麼使用混合策略來提供各種 AI 功能。
談到離線 AI 功能的優點，我們往往想到資安、隱私、成本。但是每種使用者在意的點完全不同。讓我們來分析一下。
談到離線 AI 功能的優點，我們往往想到資安、隱私、成本。但是每種使用者在意的點完全不同。讓我們來分析一下。
Apple 的語音辨識模型在 macOS/iOS 26 有新版了。我們來比較看看效果。並且推薦讀者多嘗試使用語音輸入。
Apple 的語音辨識模型在 macOS/iOS 26 有新版了。我們來比較看看效果。並且推薦讀者多嘗試使用語音輸入。
介紹一個語音轉文字的工具，能直接體驗到 Apple 硬體跑本地模型的效果，還能變成你新的生產力工具。
介紹一個語音轉文字的工具，能直接體驗到 Apple 硬體跑本地模型的效果，還能變成你新的生產力工具。
為什麼玩單機遊戲的時候需要連網或更新？不是玩家的遊玩需求，而是遊戲平台商的需要。為什麼大部分 AI 工具都需要連網？也跟服務提供商的需求有關。但 AI 功能並不總是等於網路服務，只是我們太習慣了。
為什麼玩單機遊戲的時候需要連網或更新？不是玩家的遊玩需求，而是遊戲平台商的需要。為什麼大部分 AI 工具都需要連網？也跟服務提供商的需求有關。但 AI 功能並不總是等於網路服務，只是我們太習慣了。
Apple Intelligence 給你的印象不佳？覺得 Apple 在 AI 方面落後許多？這系列文章會讓你改觀。特別寫給看到 AI 變化迅速而擔心自己跟不上的 iOS 開發者，告訴你怎麼切入本地 AI 這個 iOS 才有的好機會。
Apple Intelligence 給你的印象不佳？覺得 Apple 在 AI 方面落後許多？這系列文章會讓你改觀。特別寫給看到 AI 變化迅速而擔心自己跟不上的 iOS 開發者，告訴你怎麼切入本地 AI 這個 iOS 才有的好機會。