PFN、国産の翻訳特化モデル「plamo-3-translate」を発表。「PLaMo翻訳」にも導入

Preferred Networks、国産の翻訳特化モデル「plamo-3-translate」を発表

　（株）Preferred Networks（PFN）は10月7日、「plamo-3-translate」を発表した。昨年5月に発表された「plamo-2-translate」の後継にあたる翻訳特化の大規模言語モデル（LLM）で、同社の翻訳サービス「PLaMo翻訳」でも同日から提供されている。

無料で始められる同社の翻訳サービス「PLaMo翻訳」。Webブラウザー拡張機能やデスクトップアプリもある

　「plamo-3-translate」は、PFNと国立研究開発法人情報通信研究機構（NICT）の共同研究で得られた事前学習モデル「PLaMo 3 NICT」を基盤としたモデル。先代と比較して学習トークン量とデータ合成の計算量を数百倍に増やしており、これまで課題だった意訳や情報の付け足し・欠落、多言語の能力が改善されたという。

　モデルのサイズは、最大で31B（310億パラメーター）。同社の評価では、31Bの「plamo-3-translate」は日英・英日翻訳で比較対象のほぼすべての翻訳・LLM APIを上回り、コストもおおむね30分の1前後におさまるという。ただし、PLaMo翻訳のAPIは現時点では公開されておらず、コストは既存の「PLaMo API」の料金を仮に当てはめた試算だ。

「plamo-3-translate 31B」の性能とコスト（3ベンチ平均）。横軸は対数軸で、左上ほど安価で高性能

　8Bモデルの「plamo-3-translate 8B」でも、日英・英日の社内ベンチマーク（PFTB、SaaS）において、Googleの翻訳特化モデル「TranslateGemma 27B」を上回るスコアを残した。「TranslateGemma 27B」のサイズが「plamo-3-translate 8B」の3倍以上であることを考えると、かなり優秀であることがわかる。

　こうした高性能の背景として、同社はベースモデルの学習データに占める日本語の割合が30％近いこと、翻訳に特化させたこと、データを集め直してLLMで合成した高品質な大規模データで学習したことを挙げている。独自のトークナイザーにより、日本語出力のトークン数が抑えられているのも特徴で、出力コストを抑え、文字数ベースの生成速度を改善できる。

　モデルの重みは「plamo-2-translate」と同様、「Hugging Face」で公開される予定だ。