ニュース

ローカルAIが効率的に動いているか「タスク マネージャー」でチェック ~Microsoftが解説

なるべくNPUやGPUのニューラルエンジンで動かすのがパフォーマンス・電力効率改善のコツ

ローカルAIを効率的に動かすうえで見るべき「タスク マネージャー」のポイント

 背景のぼかしや動画のアップスケールなど、最近はローカル処理でもAIモデルを用いたものが増加の一途をたどっているが、こうしたAIワークロードの計算負荷は一般の処理よりも重い傾向にある。そのため、こうした処理はなるべくCPUで行わず、最新GPUに搭載されている行列演算のための専用回路(ニューラルエンジン)や、AI処理のために設計されたNPU(Neural Processing Unit)を積極的に活用するのが重要だ。Windows 11の「タスク マネージャー」は継続的にアップデートされており、GPUのニューラルエンジンやNPUの利用状況も確認できるようになっている。

 米Microsoftが8月19日(現地時間)、公式ブログ「Windows IT Pro Blog」で、「タスク マネージャー」でAIワークロードを可視化する方法を紹介する記事を公開した。IT専門家やアプリ開発者だけでなく、パワーユーザーにとっても有用な内容だ。

見るべきポイント①:NPUやGPUのニューラルエンジンが使われているか

 AIワークロードはCPUでも実行できる場合があるが、GPUやNPUで実行する場合よりも効率が悪くなる。つまり、電力消費が増え、冷却ファンが音を立てて回り、ノートPCは膝にのせて使えないぐらい熱くなり、バッテリーをすぐ使い果たしてしまう。

 また、GPUを使う場合であっても、「標準のGPU演算」ではなく「GPUのニューラルエンジン」を使っていることが重要だ。GPUのニューラルエンジンはNPUと同様、標準のGPUよりも効率よくAIの計算をこなす。両者を見分けるには、「タスク マネージャー」の[プロセス]ビューで[GPU エンジン]カラムを有効にし、その情報を読み取るとよい。

GPUを使う場合であっても、「標準のGPU演算」ではなく「GPUのニューラルエンジン」を使っていることが重要
  • NPUで動作(効率的):[NPU エンジン]カラムに「NPU 0 - Compute」「NPU 0 - Neural」などと表示される(どちらが表示されるかはプロセッサーとドライバーのバージョン次第)。デバイス内蔵のNPUで効率的に処理されている
  • GPUのニューラルエンジンで動作(効率的):「GPU エンジン」カラムに「GPU 0 - Neural」などと表示される。「標準のGPU演算」ではなく「GPUのニューラルエンジン」で効率よく処理されている
  • どちらも使えていない:「CPU」カラムだけが高い値を示し、「NPU」カラムが0%のままになっている。「GPU エンジン」カラムにも「GPU 0 - Neural」と表示されない

 また、[パフォーマンス]ページでは全体の使用率も追える。ニューラルエンジン対応GPUであれば、グラフを 「Neural」 へ切り替えられるようだ。

[パフォーマンス]ページ。GPUの「Neural」グラフに注目

見るべきポイント②:メモリの使われ方

 NPU/GPUがどのようにメモリを使っているのかをチェックするのも大事だ。たとえば、専用NPUメモリと共有NPUメモリの両方を持つシステムで、共有NPUメモリの使用量が増加している場合がある。これは専用メモリが満杯になっており、割り当てが共有NPUメモリに流れ込んでパフォーマンスが低下するサインだ(統合NPUのように専用の領域を持たない構成では、専用NPUメモリは空欄になる)。

[詳細]ビューでNPU/GPUメモリのカラムを有効化

 こうしたチェックは、[詳細]ビューで行える。カラムの右クリックメニューから、以下の項目を有効にしておこう。

  • Dedicated NPU memory(専用 NPU メモリ)
  • Shared NPU memory(共有 NPU メモリ)
  • Dedicated GPU memory(専用 GPU メモリ)
  • Shared GPU memory(共有 GPU メモリ)
専用メモリから共有メモリにあふれていないかチェック。このデバイスは統合NPUなので、専用メモリはないようだ

見るべきポイント③:電力消費

 そのほかにも、[プロセス]ビューで「電力消費」「電源の使用率の傾向」カラムをチェックするという方法もある。NPUやGPUのニューラルエンジンが活用され、「低」「非常に低い」といった表示になっていれば、効率よく処理されていると判断する手掛かりになる。

「電力消費」「電源の使用率の傾向」カラムも手掛かりになる

 「高」などになっている場合は、CPUや標準のGPU演算へフォールバック(切り替え)されてしまっている可能性がある。アプリの設計や設定を見直すべきだろう。