使ってわかるCopilot+ PC
第47回
「AnythingLLM」にNPU対応の「Phi 3.5 Mini Instruct」が追加 ～日本語で会話できるのか？
2025年6月13日 12:43
小規模でも高性能なLLMがNPU対応
本連載で以前、「AnythingLLM」というソフトを使い、Snapdragon XのNPUを使えるLLMを試した話をした。
その後、新たなLLMとして「Phi 3.5 Mini Instruct 4K」が追加された。従来から利用できた「Llama」とは全く別の、マイクロソフトのオープンソースモデルである。
「Phi 3.5」は小規模ながら高性能で、日本語を含む多言語に対応している。軽快な動作であることも売りの1つで、今回提供されたものも容量は約2GBと、LLMとしてはかなり小さい。早速試していこう。
どこまで会話できるのか？
「Phi 3.5 Mini Instruct 4K」の「Instruct」というのは、簡単に言うと、人間の指示に適切な返答ができるよう調整されたモデルのこと。つまりユーザーとの会話が成立しやすいよう作られているものだ。LLMなら何でも会話ができると決まっているわけではなく、何を目的にどう作るかによって挙動は大きく変わる。
早速試してみよう。使い方は前回の記事で書いたとおり。今回は「Phi 3.5 Mini Instruct 4K」を選択して動かすのが違いだ。
まずは日本語で『こんにちは。あなたは誰？』と聞いてみた。すると返答は英語になったが、『私はマイクロソフトが開発したAIのPhiです。あなたの質問に答えたり、手伝ったりできます。今日は何をしましょうか？』といった内容になった。ちゃんと会話できている。
続いて『日本語は話せる？』と聞くと、『はい、日本語を話すことができます』と日本語での返答に変わった。しかもとても自然な文章だ。
NPUの使用状況を見ていると、テキストの出力中はNPUをほぼフルに使用している。メモリも8GB近く消費しているが、メインメモリ16GB搭載モデルでも何とか収まっている様子だ。
続いて、『ちょっと話に付き合って』と軽く尋ねてみる。すると『もちらっち、あなたの話に興味を持っております』と、日本語が若干怪しい反応。続けて会話してみるも、内容も言葉もだんだん怪しくなっていく。
『九九の7の段を言ってみて』と伝えると、かなりとんちんかんな答えが返ってきた。これはおそらく、九九という概念が通じていないのだと思う。しかし回答の最後で『別の意味をといたされているのであれば、詳細を提供してください』（原文ママ）としているところに知性の光を感じる。
AIに対して定番の『日本で一番高い山、2番目に高い山は？』の質問はどうか。一番高い山から既に答えが怪しく、2番目は完全におかしい。サイズが小さいため、知識を問うようなものが苦手なのは仕方ない。
試しに『ツンデレキャラになりきって』と言ってみたところ、ツンデレではないが、語調が軽いものに変わった。結果として会話になっていないのだが、ある程度は意図を汲み取れているようではある。
NPUで動くLLMが着実に増えている
「Phi 3.5 Mini Instruct 4K」については、英語での回答に比べて、他の言語では精度が落ちるという評判もある。しかし約2GBという小容量で多言語対応し、日本語をこれだけ話せるなら上等だ。過去に本連載で試したNPU対応LLMの中でも、抜群に日本語性能が高いのは間違いない。
ChatGPTなど、大手のクラウド経由のAIのように軽快な日本語でチャットを楽しめるというレベルには達していないが、少しずつ確実に進化している。NPUの活用として最もわかりやすいAI機能の1つなので、今後も動向を注視していきたい。未完成な状態の怪しい挙動を試しているうちが一番楽しい……というのはあくまで筆者の個人的感想だ。
1977年生まれ、滋賀県出身
ゲーム専門誌『GAME Watch』（インプレス）の記者を経てフリージャーナリスト。ゲーム等のエンターテイメントと、PC・スマホ・ネットワーク等のIT系にまたがる分野を中心に幅広く執筆中。1990年代からのオンラインゲーマー。窓の杜では連載『初月100円！ オススメGame Pass作品』、『週末ゲーム』などを執筆。
・著者Webサイト：https://ougi.net/
