TOPS
- Operation：一次運算；實際指哪一種運算，要看規格的測量條件。
- OPS：operations per second，每秒運算次數。
- TOPS：tera operations per second，每秒 10¹² 次運算。
TOPS 是理論峰值。它假設硬體能充分運作，不能直接當成某個應用程式的實際速度。
數字要連同測量條件一起讀
Section titled “數字要連同測量條件一起讀”AI 硬體規格中的 TOPS 常以 INT8、INT4 或其他低精度資料型別計算。不同精度所需的電路與資料量不同，因此同一顆晶片也可能有不只一個 TOPS 數字。
閱讀規格時，至少確認三件事：
- 使用哪一種數值精度？
- 數字只代表 NPU，還是 CPU、GPU、NPU 的合計？
- 是否使用稀疏運算或其他能提高標示值的條件？
即使測量條件相同，模型架構、Runtime、記憶體頻寬、功耗與軟體最佳化仍會影響實際表現。
TOPS 和 TFLOPS 有什麼不同？
Section titled “TOPS 和 TFLOPS 有什麼不同？”兩者都以每秒 10¹² 次為單位，計算的運算類型不同：
| 指標 | 計算對象 | 常見使用情境 |
|---|---|---|
| TOPS | 規格指定的 operations，AI 產品規格常見 INT8 或 INT4 | NPU、AI 加速器與整體 AI 運算能力 |
| TFLOPS | floating-point operations，浮點運算 | GPU、CPU 與科學運算硬體 |
因此，40 TOPS 不能直接換算成多少 TFLOPS，也不能只看數字大小判斷它比某張 GPU 快或慢。必須先確認資料型別、運算範圍與計算方式，再用相同模型與設定實測。
TOPS 能回答什麼？
Section titled “TOPS 能回答什麼？”TOPS 適合確認產品是否達到某項硬體門檻。例如 Microsoft 規定 Copilot+ PC 的 NPU 必須具備 40 TOPS 以上的能力。這代表硬體符合該產品類別的其中一項條件，不代表所有 AI 工作都會以同樣速度執行。
如果想知道某個 Local AI 應用是否夠快，應該實際測量任務完成時間、每秒 Token 數、耗電或其他與工作直接相關的指標。〈什麼是 AI PC？有 NPU，跑 AI 就比較快嗎？〉進一步說明 NPU、GPU 與應用場景的關係。