使ってわかるAI PC
第117回
AIをCPU/GPU/NPUを使ってWindows ML上で動作可能となった「AnythingLLM」を試す
ローカルAIソリューションのMicrosoft Foundry Localに対応
2026年10月23日 18:37
Microsoft Foundry LocalのAIチャットを手軽に使う
AIツール「AnythingLLM」がアップデートされ、Microsoft Foundry Localに対応したことが発表された。
「AnythingLLM」は、ローカルやクラウドを問わず、さまざまなLLMと連携して動かせる機能を持つ。NPUを使って動かせるモデルも以前から存在し、本ソフトだけでNPUで処理されるAIチャットを動かせる。
今回、これに加えて今年4月に一般提供が開始されたローカルAIソリューションMicrosoft Foundry Localに対応。これにより、追加の推論エンジンを別途インストールせず、Intel/AMD/Snapdragonの各CPUとNVIDIAのGPUを搭載したWindows/macOS/Linuxで、CPU/GPU/NPUを使ってAIモデルを実行できるようになった。Windows環境ではWindows ML上で動作する。実際にソフトを動かして見ていこう。
チャットAIモデルを選べる
「AnythingLLM」を起動し、設定の［LLM］－［LLMプロバイダー］から、［Microsoft Foundry Local］を選択。すると下にある［Available Models］（使用可能なモデル）のリストが表示される。
リストアップされているモデル名を見ると、以前は「Visual Studio Code」から利用できていたモデルが多く並んでいる。「Visual Studio Code」はローカルチャットAI目的だけに使うには不便だったので、「AnythingLLM」で扱いやすくなった。
［Available Models］のリストに並ぶ各モデルの頭には、CPU/GPU/NPUと書かれている。それぞれのモデルが、何を使って処理するかが一目でわかるようになっている。
利用したいモデルを選んでダウンロードする。数GB程度のモデルが多く、ダウンロードには少し時間がかかるかもしれない。ダウンロードが終わったモデルは、チャットAIの画面でモデルを選び、チャットを始められる。
NPUやGPUでチャットAIを動かす
実際にNPUやGPUを使うモデルでテストしてみたが、残念ながら筆者のSnapdragon X搭載機ではうまく動いてくれるモデルが少なかった。「Visual Studio Code」で試した時にも安定感がなかったが、そのまま引きずられているようだ。
マルチモーダル対応のモデルでは、「AnythingLLM」のウインドウに画像をドラッグ＆ドロップするだけで、画像認識ができる。ただ今回試した環境では、GPUメモリが不足しているとのことでエラーが出てしまった（メインメモリ16GBのPC）。
エラーが出る原因がわかるものとわからないものがあり、なかなか安定して動かせない状態だ。「AnythingLLM」の対応もまだ始まったばかりで、今後の進化を期待したい。少なくとも、導入は今までよりはるかに楽になっている。
ともあれ、今後はこのような形でMicrosoft Foundry LocalのローカルAIが、一般ユーザーの目に付くところにも出てくることになるだろう。Copilot+ PCだけでなく、NVIDIA製のGPUも対象となるため、対応環境も広い。この仕組みそのものがまだ始まったばかりなので、筆者も習熟しながら良い使い方を提案していきたい。
1977年生まれ、滋賀県出身。金沢工業大学 工学部情報工学科卒。
ゲーム専門誌『GAME Watch』（インプレス）の記者を経てフリージャーナリスト。ゲーム等のエンターテイメントと、PC・スマホ・ネットワーク等のIT系にまたがる分野を中心に幅広く執筆中。1990年代からのオンラインゲーマー。窓の杜で連載『石田賀津男の『酒の肴にPCゲーム』』（AKIBA PC Hotline!に移動）、『使ってわかるCopilot+ PC』などを執筆。
・著者Webサイト：https://ougi.net/
