NPUで数十種類のチャットAIを動かし放題の「Lemonade Server」。ただしAMD Ryzen AIに限る

AMDならNPUでAIチャットを動かせる

　AIプロセッサであるNPUでLLMを動かすのは簡単ではないようで、Copilot+ PCが登場して2年経っても、なかなか実用的なものが出てこない。そう思っていたのだが、実はAMDでは、もうハイレベルなローカルチャットAI環境が整えられる。

　「Lemonade Server」というソフトを使用することで、AMD製NPUであるRyzen AIを用いて、LLMを簡単に動かせる。しかも選べるAIモデルは格段に多い。実際に試してみよう。

「Lemonade Server」でNPU専用AIモデルを利用

　「Lemonade Server」は無料で配布されている。公式サイトからWindows版をダウンロードし、インストールする。

「Download for Windows（.msi）」からWindows版をダウンロード

　起動したら、画面左側にあるリストから［FastFlowLM NPU］を選択。「FastFlowLM」はRyzen AIに特化したLLM用ランタイムだ。このリストに載っているAIモデルは、全てRyzen AIのNPUだけで動かせる。

起動すると、チャットウインドウ付きの画面が表示される。Ryzen AIのNPUを使用したい場合は［FastFlowLM NPU］を展開する

　対応するAIモデルは執筆時点で36種類あり、日本語チャットも優秀な「Gemma 4」など比較的新しいAIモデルも利用できる。

　利用したいAIモデルの上にマウスカーソルを移動させると、ダウンロードのマークが表示される。クリックすると、AIモデルを含む必要なファイルのダウンロードが始まる。AIモデルは数GBから数十GBのサイズがあるので、ダウンロードが終わるまでしばらく待つ。

［gpt-oss-sg-20b-FLM］にマウスカーソルを合わせたところ。ダウンロードマークが表示されるので、これをクリックすると必要なファイルが全て自動でダウンロードされる

　ダウンロード済みのモデルは、リスト上で頭に白い点が付けられる。利用する際には、使用するAIモデルの上にマウスカーソルを移動させ、三角形の再生ボタンをクリック。上段の［ACTIVE MODELS］の欄に選んだAIモデルが表示されたら準備完了だ。

ダウンロード済みの［gemma-4-it-e4b-FLM］にカーソルを合わせると、再生ボタンが表示される

設定ボタンを押すと、コンテキストサイズ（LLMが一度にテキストを処理・記憶できる量）の変更などができる

［ACTIVE MODELS］の欄にAIモデルが表示されれば準備完了

チャットだけでなく画像認識もNPUで処理

　早速、右側のウインドウでチャットを試してみよう。今回使用したAIモデルは「gemma-4-it-e4b-FLM」。「Gemma 4」ファミリーの中でも比較的小型のモデルで、最後の「FLM」は「FastFlowLM」向けであることを示している。

　日本語で話しかけてみると、しばらくAIモデルの読み込み時間があった後、日本語で回答があった。「タスク マネージャー」で状況を確認すると、CPUやGPUはほぼ使用せず、NPUをフルに使って回答しているのが確認できた。「FastFlowLM」が宣言しているとおり、Ryzen AIのNPUだけで推論を行っているのがわかる。

ローカルAIと日本語でチャットできる。処理は全てNPUで行われているのがわかる

　「gemma-4-it-e4b-FLM」は画像認識にも対応している。適当な写真をチャットウインドウにドラッグ＆ドロップで持ってきて、この写真の内容を説明するよう指示すると、渡された写真を理解した回答が得られた。回答精度はAIモデルの性能によるが、NPUだけでこれだけのことができるのは十分に衝撃的だ。

渡した写真を認識した上で回答が得られている。これもNPUだけで処理している

　ただ回答速度はかなり遅く、Ryzen AI 9 HX 370を搭載したPCでは、1秒間に10文字足らずのゆっくりした速さでテキストが生成される。これもAIモデル次第で、より軽量なAIモデルを使用すればもっと高速になる。AIモデルの利用料は必要なく、PCのストレージが許す限り、さまざまなAIモデルをダウンロードして試せる。

画像や音楽の生成も。AMD向けのマルチAIプラットフォーム

　「Lemonade Server」に収録されているランタイムは「FastFlowLM」だけではない。［Ryzen AI LLM］の項目には、RyzenのNPUだけでなくGPUも活用するAIモデルが揃っている。また画像生成や音楽生成、音声認識など、チャットAI以外のAIモデルも用意されている。これ1つでさまざまなAIを活用できるプラットフォームとして機能する。

［Ryzen AI LLM］の1つ、「Qwen3-8B-Hybrid」とのチャット。言語認識にNPUが使われ、その後の推論はGPUが使われている。GPUとNPUのハイブリッド処理だ

［StableDiffusion.cpp］にある［SDXL-Turbo］で画像生成。これはGPUを使用している

［ThinkSound］の［ThinkSound-SFX］で音楽生成。テキストの指示に合わせた音楽を生成する

　繰り返すが、「FastFlowLM」はRyzen AIのNPUに向けて作られているため、IntelやQualcommなど他社のNPUでは動作しない。こういう垣根が早くなくなればいいとは思うが、今のところは各プラットフォームに特化したAIツールを用いる方が効率的だ。

　Copilot+ PCではなくても、Ryzen AIを搭載していれば動きはするはずだ。処理速度は期待できないが、NPUを使ってみたい方は試してみては。CPUやGPUとは違い、NPUはフルパワーで動かしても冷却ファンがフル回転するようなことはなく、それでいてチャットや画像生成などがきちんと行えるという、面白い体験になるはずだ。

著者プロフィール：石田賀津男（いしだ かつお）

1977年生まれ、滋賀県出身

ゲーム専門誌『GAME Watch』（インプレス）の記者を経てフリージャーナリスト。ゲーム等のエンターテイメントと、PC・スマホ・ネットワーク等のIT系にまたがる分野を中心に幅広く執筆中。1990年代からのオンラインゲーマー。窓の杜で連載『石田賀津男の『酒の肴にPCゲーム』』（AKIBA PC Hotline!に移動）、『使ってわかるCopilot+ PC』などを執筆。

・著者Webサイト：https://ougi.net/