跳到內容
LIKit

廠商、工具介紹

入門更新日期：

你會在同一篇 Local AI 教學裡看到公司、模型、下載平台、桌面應用程式與 Runtime。它們不在同一層，也不能互相替代。

這個區域只回答三件事：它是誰或什麼、和 Local AI 有什麼關係、初學者最容易混淆什麼。 功能與產品會持續更新，實際使用前仍要查看官方文件。

工具與平台

Section titled “工具與平台”
  • Core AI：把自行選擇的模型轉換、最佳化並整合進 Apple 平台 App。
  • CUDA：NVIDIA 的平行運算平台、程式模型與 GPU 加速工具鏈。
  • Hugging Face：尋找模型、資料集、模型卡與版本檔案的重要平台。
  • llama.cpp 與 ggml：許多本地模型工具底下會用到的推論工具與運算函式庫。
  • LM Studio：以桌面介面開始下載、載入與觀察本地模型。
  • Ollama：以命令列、背景服務與 API 管理及呼叫模型。
  • oMLX：在 Apple silicon Mac 上管理及提供 MLX 模型服務。
  • Unsloth：執行、微調與匯出開放模型的工具與專案。

硬體與平台廠商

Section titled “硬體與平台廠商”
  • AMD：CPU、GPU、NPU 與 ROCm 軟體生態。
  • Apple：Apple silicon、Core ML、MLX 與系統裝置端模型。
  • NVIDIA：GPU、CUDA 與個人到資料中心的 AI 運算生態。

模型開發者

Section titled “模型開發者”
  • Anthropic：Claude 的開發公司，目前和 Local AI 的直接關係較少。
  • GLM：Z.ai／智譜開發的模型家族，持續發布開放權重模型。
  • Meta 與 Llama：推動當代開放權重 LLM 生態普及的重要公司與模型家族。
  • MiniMax：同時發展文字、多模態、語音與生成模型的公司。
  • OpenAI：除了 ChatGPT 與 API，也發布 gpt-oss 開放權重模型。
  • Qwen：Alibaba Cloud 背後的模型家族，包含多種開放權重版本。
  • xAI 與 Grok：目前產品以雲端為主，但曾發布 Grok-1 開放權重。