Core AI
Core AI 解決什麼問題？
Section titled “Core AI 解決什麼問題？”App 開發者若要使用自己選擇的開放權重模型或自行訓練的模型，需要處理模型轉換、硬體最佳化、App 整合、首次載入時間、記憶體與除錯。Core AI 把這些工作連成一套 Apple 原生的部署流程，範圍從 Python 與 PyTorch 端的模型準備，一直到 Apple 平台 App 裡的 Swift 執行環境。
Core AI 可以依模型與裝置使用 CPU、GPU 或 Apple Neural Engine，也支援狀態式執行、推論記憶體控制、零拷貝資料路徑與自訂 Metal kernel。Apple 將它定位為執行現代裝置端模型的框架，涵蓋小型視覺模型到大型生成式模型。
從來源模型到 App 的流程
Section titled “從來源模型到 App 的流程”一個典型的 Core AI 工作流程可以分成五個階段：
- 選擇來源模型： 從 Hugging Face 等來源取得模型，或使用自己的 PyTorch 模型。
- 轉換與最佳化： 使用 Core AI PyTorch Extensions 與 Core AI Optimization，把模型轉成適合 Apple silicon 的 Core AI 資產，並視需求壓縮模型權重。
- 輸出模型資源： 單一模型可以輸出成
.aimodel；語言模型還需要 Tokenizer，擴散模型也可能由多個模型組成，因此實際交付物可能是一個包含多個.aimodel與其他資源的資料夾。 - 整合進 App： 使用 Core AI framework 的 Swift API 載入模型。官方
coreai-modelsrepo 也提供部分模型家族的 Swift Runtime utilities，協助處理 Tokenizer、輸入前處理與輸出後處理。 - 特化並執行： Core AI 會針對實際裝置與系統版本進行 model specialization（模型特化），建立適合該硬體的執行資產並放進快取，後續載入便能重複使用。
大型模型的首次特化可能需要明顯等待時間。開發者可以安排特化時機，也能透過 ahead-of-time compilation（預先編譯）在開發階段完成部分編譯工作，縮短使用者裝置上的準備時間；預先編譯仍不會省略最後的裝置特化。
apple/coreai-models repo 提供什麼？
Section titled “apple/coreai-models repo 提供什麼？”Apple 的 coreai-models repo 是學習與採用 Core AI 的官方起點。Repo 以可重現的匯出流程與整合工具為主；來源模型的權重則依照個別 recipe，從 Hugging Face 等位置取得。
| 目錄 | 主要內容 |
|---|---|
models/ |
支援模型的目錄、說明文件與匯出 recipe |
python/ |
撰寫與匯出 Core AI 模型時可重用的 Python 元件 |
swift/ |
建構於 Core AI framework 之上的 Swift package 與 Runtime utilities |
skills/ |
協助 Coding Agent 處理模型轉換、最佳化與部署工作的技能 |
每個模型家族可能有不同的匯出指令、支援功能與相依資源。Repo 提供 registry 指令列出目前已有 recipe 的模型；匯出後，也可能提供命令列工具在 Mac 上直接測試結果。這些 CLI 主要服務開發與驗證，Core AI 的核心用途仍是把模型整合進 Apple 平台 App。
和 Core ML、MLX、Foundation Models 有什麼差別？
Section titled “和 Core ML、MLX、Foundation Models 有什麼差別？”- Core ML 是 Apple 長期使用的通用模型部署框架，適合許多傳統機器學習與神經網路工作。Core AI 的工具鏈進一步著重較新的模型架構、生成式模型、狀態式執行與細緻的推論控制。
- MLX 是 Apple machine learning research 發展的開源陣列框架與研究工具生態，常用於模型實驗、轉換與 Mac 上的推論。Core AI 提供把模型部署進 Apple 平台 App 的系統 framework 與工具鏈。
- Foundation Models framework 讓 App 使用 Apple 提供的系統語言模型。Core AI 則讓開發者帶入自己選擇的模型；Core AI 語言模型也能透過
LanguageModelprotocol 接入 Foundation Models session。
有了 Core AI，就不需要 MLX 了嗎？
Section titled “有了 Core AI，就不需要 MLX 了嗎？”Core AI 不會取代 MLX。Core AI 提供 Apple 平台原生 App 一條完整的模型部署路線，適合把模型轉成 .aimodel，再以 Swift API 管理特化、載入與推論。MLX 的範圍更接近通用機器學習框架，仍適合用 Python、Swift 或 C++ 實驗模型、修改運算、訓練與推論；MLX-LM、MLX-VLM 等工具也已形成自己的模型與應用生態。
如果目標是把自選模型整合進以 macOS 27 或 iOS 27 以上為目標的 Apple 平台 App，可以評估 Core AI；如果要快速試驗模型、使用既有 MLX 版本，或直接在 Mac 上撰寫腳本與模型服務，MLX 仍可能更合適。同一個模型也可能分別有 Core AI 與 MLX 版本，但兩邊使用的模型資產與工具鏈不同，不能假設檔案可以直接互換。
App 支援 macOS/iOS 27 以上，並採用 Core AI，還需要 Core ML 嗎？
Section titled “App 支援 macOS/iOS 27 以上，並採用 Core AI，還需要 Core ML 嗎？”如果某個模型已經轉成 Core AI 的 .aimodel，並由 Core AI API 完成載入與推論，App 不需要為了執行同一個模型再加入 Core ML。系統版本只決定 App 能不能使用 Core AI，實際選擇仍取決於模型與功能。
Core ML 仍適合既有的 Core ML 模型，以及分類、迴歸、物件偵測等傳統機器學習工作；它也是 Vision、Natural Language、Speech 與 Sound Analysis 等領域能力的基礎。同一個 App 因此可以用 Core AI 執行生成式模型，同時用 Core ML 處理另一個分類器或偵測模型。遷移到 macOS 27 或 iOS 27，不代表原有的 Core ML 功能都要改寫成 Core AI。
選擇哪一條路線，取決於模型來源、目標系統版本、需要控制的部署細節，以及 App 是否要自行攜帶或下載模型。框架名稱無法取代模型相容性與實機效能測試。
系統與硬體條件
Section titled “系統與硬體條件”官方 coreai-models repo 目前列出的執行與 App 整合條件為 macOS 27 或 iOS 27 以上版本，並需要 Xcode 27 以上版本。Core AI 針對 Apple silicon 設計；模型實際使用 CPU、GPU 或 Apple Neural Engine，會受到模型轉換方式與裝置能力影響。
Core AI 能在裝置端完成模型推論，不需要雲端推論伺服器或按 Token 收費。模型檔案仍會占用儲存空間與記憶體；App 也要自行安排模型隨 App 提供、使用者需要時再下載，或透過 Background Assets 等機制交付。
哪些人需要研究 Core AI？
Section titled “哪些人需要研究 Core AI？”如果你正在開發 Apple 平台原生 App，希望把自行選擇的視覺、語言、語音或生成式模型放到裝置上執行，Core AI 值得納入評估。它特別適合需要控制模型特化、快取、記憶體、App 交付方式與 Swift 整合的產品。
如果目前只想在 Mac 上下載模型並開始對話，LM Studio 或 Ollama 的使用路徑更短。Core AI 的主要讀者是從事模型工程與 App 部署的開發者；桌面聊天工具服務的是另一種需求。
閱讀後自我確認
Section titled “閱讀後自我確認”試著回答以下問題，來確認是否已學會。不確定答案的話，再回到對應段落複習。打勾狀態是方便你在這個頁面一一確認用，不會被儲存。