什麼是 AI PC？有 NPU，跑 AI 就比較快嗎？
什麼是 AI PC？
Section titled “什麼是 AI PC？”AI PC 是近年電腦廠商常用的產品分類，通常指配備 CPU、GPU 與 NPU，能在裝置端執行部分 AI 工作的電腦。Intel 與 AMD 對 AI PC 的介紹都強調這三種運算單元彼此分工，其中 NPU 專門處理適合的神經網路運算，主要優勢是能源效率。
傳統 PC 原本就能用 CPU 或 GPU 執行 AI。加入 NPU 後，視訊背景效果、語音處理、影像增強等持續執行的功能，有機會交給更省電的專用硬體處理。各家所稱的 AI PC，實際支援哪些功能與軟體仍可能不同。
NPU 是什麼？
Section titled “NPU 是什麼？”NPU（Neural Processing Unit）是針對神經網路運算設計的專用處理單元。它與 CPU、GPU 的用途有所重疊，但設計重點不同：
CPU 重視通用性與相容性；GPU 擅長大量平行運算，通常具有較高的運算吞吐量；NPU 則針對受支援的神經網路運算設計，重視能源效率。這些分工不是固定界線，同一項工作也可能由多種運算單元共同完成。
Apple silicon 早已內建 ANE
Section titled “Apple silicon 早已內建 ANE”Apple 將自家的 NPU 稱為 Apple Neural Engine（ANE）。2017 年推出的 A11 Bionic 已經內建 Neural Engine，用來支援 Face ID、Animoji 等需要即時處理的功能；2020 年推出的 M1 則把 16 核心 Neural Engine 帶到 Mac。
因此，即使 Apple 沒有把 Mac 稱為 AI PC，Apple silicon Mac 從第一代 M1 開始便具備同類型的專用神經網路運算單元。ANE 同樣需要模型格式、Runtime 與應用程式支援，才會實際參與運算。
哪些工作更可能使用 NPU，哪些更常使用 GPU？
Section titled “哪些工作更可能使用 NPU，哪些更常使用 GPU？”| 比較 | NPU | GPU |
|---|---|---|
| 設計重點 | 針對受支援的神經網路運算提高能源效率 | 提供較高的運算彈性與吞吐量 |
| 更常見的應用場景 | 視訊背景效果、雜訊抑制、語音處理、影像增強 | Local LLM、VLM、圖片生成、模型訓練與微調 |
| 適合的使用方式 | 已針對 NPU 最佳化，且需要長時間、低功耗執行的功能 | 運算量較大、模型變化較多，或需要較高吞吐量的工作 |
NPU 是用來分工的專用單元，不是 GPU 的替代品。同一項任務究竟使用哪個硬體，仍取決於模型格式、支援的運算子與精度，以及 Runtime 和應用程式的整合。即使模型的一部分交給 NPU，輸入準備、資料搬移與後處理也可能繼續由 CPU 或 GPU 完成。
TOPS 不能直接換算成應用程式速度
Section titled “TOPS 不能直接換算成應用程式速度”TOPS 是特定條件下的運算能力指標，不等於每個模型的 Token/s、圖片生成時間或語音辨識速度。廠商標示的數字也可能分別代表 NPU，或 CPU、GPU、NPU 合計的 AI 運算能力，閱讀規格時要確認測量範圍。
即使兩台電腦都標示 NPU TOPS，資料型別、模型結構、記憶體頻寬、軟體最佳化與功耗限制仍會影響結果。TOPS 適合用來辨識特定產品門檻，例如 Copilot+ PC 的 40 TOPS NPU 要求；它無法單獨回答某個應用程式在哪台電腦上比較快。
結論：還是要看應用場景
Section titled “結論：還是要看應用場景”AI PC 與 NPU 規格能告訴你電腦具備哪一類硬體，真正的使用體驗仍要回到應用場景。視訊會議中的背景效果可能更在意耗電與能否長時間執行；Local LLM 或圖片生成則可能更在意模型能否放進記憶體、GPU 效能與 Runtime 支援。
比較電腦或運算後端時，使用同一份輸入、同一模型與品質設定，並記錄：
- 是否能成功執行，而且輸出正確。
- 第一次與後續執行時間。
- 記憶體占用、耗電與溫度。
- Runtime 回報的實際硬體後端。
確認結果可用之後，再比較速度與功耗。應用程式能否使用 NPU，以及 NPU 是否符合這項任務的需求，比「這是不是一台 AI PC」或峰值 TOPS 更有判斷價值。
閱讀後自我確認
Section titled “閱讀後自我確認”試著回答以下問題，來確認是否已學會。不確定答案的話，再回到對應段落複習。打勾狀態是方便你在這個頁面一一確認用，不會被儲存。