NPU対応の「DirectML」が登場 ～CPU統合のAIアクセラレーターで機械学習処理を省電力・高速に

統合NPU「Intel AI Boost」を搭載した次世代CPU「Intel Core Ultra」

　米Microsoftは2月1日（米国時間）、「Intel AI boost」に対応した「DirectML」を開発者向けにプレビュー公開した。昨年末に予告されたスケジュール通りで、開発が順調であることがうかがえる。

　「Intel AI boost」は、次世代CPU「Intel Core Ultra」に搭載されるNPU（ニューラルプロセッシングユニット）で、機械学習（ML）に関連するワークロードを効率的に処理するための専用アクセラレーターだ。SoCに直接統合されていることもあいまって、従来は外付けのグラフィックカード（GPU）を必要とするような負荷の高いAI演算を低い消費電力で効率よく処理できる。

　一方の「DirectML」は、ハードウェアベンダーが機械学習アクセラレーターを公開するための共通抽象化レイヤーを提供する低レベルAPI。要するに、GPUであっても、「Intel AI boost」のようなNPUであっても、「DirectML」に対応する「DirectX 12」互換であれば、どのデバイスでも機械学習のワークロードを高速化できるようにした仕組みだ。

　「DirectML 1.13.1」と「ONNX Runtime 1.17」のリリースで「Intel AI boost」がサポートされたことにより、Windows環境でNPUアクセラレーションによる機械学習プラットフォームが初めて実現された。この初期リリースはオープンソースモデルを使用し、ローンチパートナーであるSamsungとの緊密なパートナーシップにより開発されたとのこと。今後は開発者からのフィードバックをもとに、不具合の修正や安定性の向上が図られていくことになるだろう。

　なお、「DirectML」でNPUを利用するにあたっての要件は、以下の通り。

• 「Intel AI boost」を統合した「Intel Core Ultra」搭載のWindows 11デバイス
• 「DirectML 1.31.1」NuGet パッケージ
• 「ONNX Runtime 1.17」
• Intelによる最新のNPUドライバー

　なお、このバージョンはあくまでも開発中のプレビューのため、いくつかの機能制限がある。いずれは緩和される見込みだが、利用の際は注意したい。

• 「DirectML」でのNPU対応は、今のところ「Intel AI boost」のみ
• 「DirectML」でのNPU対応は、今のところ機械学習モデルのサブセットにのみ。モデルによってはまったく実行できなかったり、レイテンシーが高かったり、精度が低かったりする場合がある。将来的には改善される見込み
• 今回の開発者プレビューに選ばれなかったモデルには、安定性や信頼性の問題がある可能性がある。今後対応が拡充される予定

　フィードバックは「GitHub」の「DirectML」リポジトリで受け付けている。