使ってわかるCopilot+ PC
第112回
NPU/GPU/CPUのAI性能はどう違う？ 「Geekbench AI」で測定してみた
量子化スコアではNPUが高速。GPUとの特性の違いが見える
2026年9月18日 08:36
AI処理性能を調べるベンチマークテスト
NPUの性能を気にする場面は今のところほとんどないが、より高性能なNPUが搭載され、利用シーンが増えていくと、性能を知っておきたいと思う時が来るはず。今の時点でのAI性能がどのくらいなのか、調べておくのも面白い。
AIベンチマークソフトで最もお手軽なものの1つが、「Geekbench AI」だ。この結果を見ると、NPUの何が優れているのかがより見えてくる。早速試していこう。
NPUは低精度の推論が高速
本ソフトはシェアウェアだが、スコアを自動でオンライン投稿する設定（トライアウトモード）であれば無料で利用できる。今回はこちらを利用する。
設定画面では3つの項目を選べる。1つ目の［AI Framework］は、実行するPCで利用可能なAIフレームワークの選択。2つ目の［AI Backend］は実際に処理を行うハードウェアの指定。3つ目の［AI Device］は使用するハードウェアの選択だ。
Snapdragon X Plusを搭載したCopilot+ PCでは、［AI Framework］は［ONNX］のみで、［AI Backend］は［CPU］と［QNN］が選べた。［QNN］はQualcommのAI処理用統合APIで、NPUも含まれているので、こちらに設定する。［AI Device］はSoC名が書かれており、他に設定はできない。
この状態で下部にある［Run AI Benchmark］をクリックすると、ベンチマークが始まる。しばらく待つと、結果がWebブラウザーに出力される。
結果は、［Single Precision Score］（単精度）、［Half Precision Score］（半精度）、［Quantized Score］（量子化）の3つに分けられる。スコアはIntel製CPU「Core i7-10700」を1,500としたもので、スコアが2倍になれば性能も2倍の計算になるという。
実行結果は、［Single Precision Score］が1,354、［Half Precision Score］が18,630、［Quantized Score］が49,543となった。
続いて［AI Backend］を［CPU］にした場合は、［Single Precision Score］が1,399、［Half Precision Score］が2,486、［Quantized Score］が5,036となった。
NPUはAI処理専用チップと言われるが、同じAI処理でも、単精度ではCPUより遅い。しかし精度が低くなると、圧倒的な性能を発揮するようになる。NPUは低精度の推論に特化したチップなので、このような結果になる。
GPUと比べてどうか？
さらに筆者が所有するデスクトップPCでもテストした。CPUはIntel製「Core i5-13600K」、GPUは「GeForce RTX 4080」を搭載。ただしGPUは消費電力リミットを65％に制限して、発熱を抑えた設定にしている。
［AI Framework］は［ONNX］、［AI Backend］は「DirectML」を選ぶと、「GeForce RTX 4080」で処理できた。結果は［Single Precision Score］が35,000、［Half Precision Score］が52,694、［Quantized Score］が27,077だった。
低精度の推論に特化したNPUに対して、GPUは高精度でも高い性能を発揮するのがわかる。GPUの性能だけでなく、メモリ（VRAM）の速度や使用するモデルによっても値は変わるが、NPUとGPUの傾向の違いははっきり出ている。
ちなみに「Core i5-13600K」の内蔵GPUの性能を測る場合は、［AI Framework］は［OpenVINO］、［AI Backend］は［GPU］に設定する。この場合、［Single Precision Score］が2,715、［Half Precision Score］が3,943、［Quantized Score］が6,182となった。GPUなら何でもNPUを上回るかというと、そういうわけでもない。
最後に、このベンチマークテストでわかるのは、絶対的な性能だけだ。NPUの優位性は低精度の推論が高速なことだけではなく、低い消費電力で動かせて、CPUやGPUのリソースを消費しないことにある。AI処理も適材適所というのが、この結果を見てよりわかりやすく伝わったのではないだろうか。
1977年生まれ、滋賀県出身
ゲーム専門誌『GAME Watch』（インプレス）の記者を経てフリージャーナリスト。ゲーム等のエンターテイメントと、PC・スマホ・ネットワーク等のIT系にまたがる分野を中心に幅広く執筆中。1990年代からのオンラインゲーマー。窓の杜で連載『石田賀津男の『酒の肴にPCゲーム』』（AKIBA PC Hotline!に移動）、『使ってわかるCopilot+ PC』などを執筆。
・著者Webサイト：https://ougi.net/
