blog.dopana

Back

Neural Processing Unit(NPU)— AIアクセラレータとも呼ばれる — は、AI/MLワークロードを高速化する専用チップです。スマートフォンからノートPC、データセンターまで、NPUはますます普及しています。この記事では、2026年現在の主要NPUを概観します。

Apple Neural Engine(ANE)#

A11(2017年、0.6 TOPS)でデビュー。7世代を経てM4は38 TOPS(INT8)に到達。最も長く続くコンシューマNPUで、Face ID、カメラ、Siri、Live Text、オンデバイスLLMに使用されています。

ANEはグラフ実行エンジンであり、GPUでもCPUでもありません。コンパイル済みのMILグラフを受け取り、エンドツーエンドで実行します。16コア、キュー深度127、独立したDVFSを搭載。

制限: CoreML経由でのみアクセス可能。直接プログラミング不可。推論専用 — Appleはトレーニングを公開していません。

Intel NPU(AI Boost)#

IntelはMovidiusを買収(2016年)、Meteor Lake(2023年)からNPUをCPUに統合。

世代プロセッサTOPS
NPU 3Meteor Lake11
NPU 4Lunar Lake48
NPU 4Arrow Lake13
NPU 5Panther Lake(2025年)~100

Lunar LakeはCopilot+の基準である40 TOPS以上を達成した初のx86 CPU。アーキテクチャはMovidius Myriadベース:2つのLeonRT/LeonNNコントローラ、1.4GHzで4K MAC。

SDK: OpenVINO、DirectML、ONNX Runtime、Windows ML。推論専用。

AMD Ryzen AI(XDNA NPU)#

AMDはXilinxを買収(2022年)、FPGA由来の空間データフローアーキテクチャを採用。

世代プロセッサTOPS
XDNA 1Ryzen 7040(Phoenix)10
XDNA 1RRyzen 8040(Hawk Point)16
XDNA 2Ryzen AI 300(Strix Point)50-55

Intelの固定シストリックアレイとは異なり、XDNAは再構成可能なタイルアレイを使用。各タイルにはVLIW+SIMDベクトルプロセッサ、RISCコントローラ、ローカルSRAMが含まれ、レイヤーごとに部分再構成可能。

SDK: ROCm、Vitis AI、ONNX Runtime、Windows ML、PyTorch。推論専用。

Qualcomm Hexagon NPU#

Hexagonは2015年から存在 — 最も成熟したモバイルNPUエコシステム。Snapdragon X Elite(2024年)は45 TOPSを達成し、Copilot+基準を満たした初のWindows-on-ARMチップ。

Hexagonはスカラー/ベクター/テンソルプロセッサ、HVXベクター拡張、共有L2を備えた専用テンソルアクセラレータを搭載。

SDK: Qualcomm AI Engine Direct(QNN)、ONNX Runtime、DirectML、TFLite。推論専用。

Google TPU#

TPUはデータセンター/クラウド製品であり、コンシューマ向けではありません。2026年までに、TPU v8tは12,600 TOPS(FP4)、TPU v8iは10,100 TOPSに到達。

世代TOPS備考
TPU v1201523推論のみ
TPU v42021275液体冷却
TPU v5p2023918トレーニング対応
TPU v6e(Trillium)2024918BF16
TPU v7(Ironwood)20254,614FP8
TPU v8t/v8i202612,600 / 10,100FP4

アーキテクチャ:シストリックアレイ行列乗算。v2+はbfloat16とトレーニングをサポート。Gemini、Search、YouTubeを支える。

コンシューマ: Google Tensor SoC(Pixel電話)にはモバイルEdge TPU約4 TOPSを搭載。

Samsung Exynos NPU#

Samsung独自のNPU IP(ARM Ethosではない)。マルチコア設計:GNPU(汎用)+ SNPU(スパース)。

SoCTOPS
Exynos 22002022~10
Exynos 24002024~20
Exynos 2500202559(24K MAC)

Exynos 2500はSamsung 3nm GAPで製造。SamsungはGoogle Tensor SoCも製造。

SDK: Samsung ONE UI ML、NNAPI拡張、ONNX、TFLite。

MediaTek APU#

DimensityチップのAPU、ヘテロジニアスマルチコア設計 — INT8、FP16、INT16専用コアを搭載。

SoCTOPS
Dimensity 93002023~33
Dimensity 94002024~50+(10コア)

Dimensity 9400はTSMC N3Eで製造。カメラAI(最大320MP)、ディスプレイAI、ゲームアップスケーリングに使用。

SDK: NeuroPilot。モバイル/IoTのみ、PCなし。

比較表#

NPU最新HW 2025-26ピークTOPSトレーニング?主要SDK
Apple ANEM438不可CoreML
Intel NPU 4Lunar Lake48不可OpenVINO, DirectML
AMD XDNA 2Ryzen AI 30055不可ROCm, ONNX
Qualcomm HexagonSnapdragon X Elite45不可QNN, DirectML
Samsung ExynosExynos 250059不可NNAPI
MediaTek APUDimensity 9400~50不可NeuroPilot
Google TPU v8クラウド12,600JAX, TF, PyTorch

所見#

  • すべてのコンシューマNPUは推論専用。 トレーニングにはクラウド(TPU、GPU)またはデスクトップGPUが必要。
  • Copilot+基準(40 TOPS)はPC NPUの標準になった。
  • エコシステムは断片化 — 各ベンダーが独自SDK。ONNXが唯一の共通交換フォーマット。
  • TOPS成長は独自のムーアの法則に従う: Apple ANE 0.6→38 TOPS(7年で63倍)、TPU 23→12,600 TOPS(11年で548倍)。

参考文献#