日本の技術者はSakana AIのことを、よく見たほうがいい。

技術屋として見たときの視点

　今回、技術屋として検証で得られた成果（面白いところ）は以下の点です。

• 「Gemini」を活用し、短時間で徹底的な技術検証が可能であることを証明
• 改善版CUDAカーネルを開発、“盗み見”の脆弱性を解消して正しい計算結果と性能を両立
• 「Gemini」に“さらなる高速化”を提案させ、共有メモリやCooperative Groupsを活用したコードを開発
• WMMA（Warp Matrix Multiply-Accumulate）を利用した最先端の高速化コードにも挑戦できたこと
• PyTorchの最適化（cuBLASなど）の底力を再確認。手動最適化CUDAカーネルでも、PyTorchネイティブ実装を超えるのは困難なことを確認

　原作の提案通り、AIエージェントをつかってコードを進化的に改善するというサービスを作ることも可能ではありますが、そもそも膨大なコードの第三者による検証作業自体がAIの助力によってあっという間に終わって、再現や改善まで出来上がってしまった、という点です。。

AIとのコラボレーションはエキサイティングな作業

　正直なところ、Sakana AIのコードの問題点を突き止め、本当に論文通りの速度で動いたときは『やった！』と思いました。

　「AI CUDA Engineer」が（チートでは有るが）CUDAのメモリ確保で「前回の演算結果を盗み見ることができる」という大きなバグを発見したのですが、これはお手柄です。自分としては改善版コードやより高速なコードを開発し、ベンチマークもできましたし、世界の開発者がどのようなテストを行っているのかを学ぶことができました。この論文の査読をしようと思わなければ、気にもとめなかったでしょう。

　やってみて興味深かったのは、「Gemini」が最適化以前の初歩的なCUDA実装ミス（1次元グリッドなど）をかなり初期段階から指摘していた点です。ChatGPTやClaudeでコーディングをしている開発者は多くなっていると想像しますが、自社で自分が開発したLLMだけでなく、全く特性が異なる他のLLMを比較するという習慣があればすぐに気づいたでしょう。
いずれにせよ“ユニコーン企業”といった企業のコードをAIに助力されながら直接触って、自分の手元で動くことを確認する、という勉強は大変エキサイティングであり、勉強になりました。

高いAI技術には高い倫理感

　“倫理というものは一番最後”でいい、というスタイルの研究者が居ます。それはそれでいいのかもしれません。例えば実は日本の生成AI分野、特に画像生成AIの分野は、弁護士がクリエイターよりも先に出て、倫理や法律の議論のほうが先に善悪の線引をしてしまいました。倫理観が先に立つことで、表現や研究など、特に新しいことや価値が明らかではないことがやりづらくなります。

　しかし、多くの研究者にとって、研究倫理ってのは研究の前や後ろにつくものではなく“日々どのような姿勢で研究しているか”の現れでもあるとも感じています。

　Sakana AIからは、論文発表後、外部からの指摘で初めて問題に気づいたことが発表され、論文末尾に追記がされ、Xに英語でアップデートが記載されました。

　特に取り下げたり、日本語での解説やリリースを出したりするつもりはなさそうです。

（編集部注：3月3日付でSakana AIのXに日本語での簡単な説明とお詫びがポストされました）

日本の技術者は Sakana AI のことを、よく見たほうがいい。

　「Watch this carefully, very important.」（よく見たほうがいい、とても重要）、とはイーロン・マスクが、トランプ・ゼレンスキー会談の動画について述べたXのポストに添えられたメッセージです が、 日本にとってSakana AIの研究開発やアウトプットの品質、経営品質については、まさに下手なAIやメディアを挟まずに自分の目で「よく見たほうがいい」と思います。

　倫理観や技術品質という視点では、Sakana AIはちょうど今、防衛分野で求人をしています。

役割と責任

• 防衛分野を含む公共分野の政府機関や関連企業との強固な関係を構築・維持し、新たなビジネスチャンスを開拓する。

応募資格およびスキル

• 下記いずれかでの5年以上の勤務経験
  　(i)防衛省や自衛隊を含む日本の政府機関において防衛分野の戦略・政策立案、予算策定、装備調達、技術開発等の業務に携わった経験、(ii)グローバルトップ経営コンサルティングファームにおいて、防衛分野を担当した経験、(iii)防衛分野のメーカーや商社における経験。
• ネイティブレベルの日本語とビジネスレベルの英語に堪能であること。
• 学士号または修士号。工学、コンピューターサイエンス、機械学習の学位をお持ちであれば尚可。
• 大規模言語モデルや画像生成モデルなど、生成AIモデルの活用に強い情熱をお持ちの方は尚可。

Sakana AIの求人ページより引用

　一体どんな人がこのポストに就くのか、ワクワクが止まりませんが、今まで以上に税金の投入や、人命や国防に関わる分野なので、さらなる高度な倫理観や技術品質が鍛えられることは間違いなさそうです。オープンソースの成果や論文、採用の公募といった公開情報で、市民レベルでもきちんと見えるうちに、先端の活動にはしっかりと目を向けていく習慣を持つべきだと考えます。

「ディープテックに、社会をアタッチ」しよう

　AI企業への投資は「ディープテック」（Deep Tech）と呼ばれます。Deep Techの分野は、AI（人工知能）やバイオテクノロジー、二次電池、量子コンピューティング、ロボット工学など多岐にわたり、どれも生活を大きく発展させたり、地球の課題を解決する可能性を秘めているため、“世の中に深く根ざした問題（ディープ）を解決できる技術（テック）”とも言われています。日本国内で時価総額1000億円を超えるユニコーン企業のうち、50％以上がディープテックです。世界的に投資が集まる分野で、国も力を入れています。

　それを踏まえたうえで今回の問題は“社会の役割”をきちんと考えていく必要がありそうです。

　AIが生成したコードとはいえ、そもそも、性能詐称 は技術者・研究者倫理に反する行為であります。

　ずさんなコードや研究成果を誇大広告とともに公開することは、企業の信頼を損なうので、おすすめできることではありませんが。大変興味深いことに、今回の誤りは“英語圏での機械学習コミュニティで火がついて指摘された”という点です。国内のAIインフルエンサーや、機械学習を専門にされている方々は特に検証らしい検証をしていないし、Sakana AI自身も第三者的なレビューを行っていないという点が明らかになったところも大変興味深いです。

　これは我が国のAI技術の信頼性を揺るがす問題であり、一般市民が必ずしも巨大な演算基盤が必要な話ではなく、無料の「Gemini」でも見つけられるような問題でもあるかもしれません。

　「誰もその本質も評価できず、止められない」という状態のまま、日本人が大好きな倫理観や日本語での罵詈雑言で、真の意味でのAI開発の信頼性についてオープンで建設的な貢献を行えていないとすると、Sakana AIを笑えないどころか、他でもない日本人、日本マネー、日本の技術者が海外から笑われるのではないでしょうか。

　そもそも検証だけなら筆者の週末コーディングのレベルで追いつけるような話だった、という話でもあるので、賢明なる窓の杜読者のみなさま、ぜひ手を動かして、遊んでみましょう。

Sakana AIをネットの玩具にせずに、日本の文化にしよう

　研究者に悪意があったかどうかに関わらず、やってしまったことは仕方がないです。しかし、ここで攻撃したり、ネットのオモチャにして叩いたりすることは、とても良くないことです。問題は、そんなに難しいことじゃないので、きちんと検証しましょう。

　更にいうと、CUDAのカーネルの改善をAIエージェントにやらせようという研究はNVIDIA一強の現在、オープンソースへのAIエージェントによる強制介入という、社会貢献として大変ロックな研究です。こういうところに既存の倫理観など要らぬ、という考え方もわからないでもありません。

　日本のこの分野には「Chainer」のような価値ある機械学習のオープンソース活動もありましたし、ゲーム開発者からすれば、この手の“チート技術”（＝見た目は動いているが、実はとんでもない計算コストの端折り）は十八番でもあります。命が関わる、品質にうるさい分野だけではなく、メディアやエンターテインメント、アートの分野にだって日本の才能やプレゼンスはたくさんあります。

　そういえば森ビルでこんな展示をやっているそうです。

　アンソロピック、楽天グループ株式会社、株式会社メルコグループ、株式会社大林組、そしてSakana AIが協賛しているのが興味深いです。資本があり、経済体力があるからこそこういう文化事業に貢献できるものだと思います。いいぞ、もっとやれ、という感じで応援はしていきましょう。

　そして、これを読んだ日本の技術者が、Sakana AIに代表されるAIスタートアップの真価に目を向けていくことがとても大切であることが伝わったようであれば幸いです。

　ところで筆者の会社「AICU」は……AIでクリエイティブやエンターテインメントからAIDXを進めていくメディア企業なので、なかなかその凄さが伝わらないのが残念ではあります。良きお仕事ありましたら歓迎です！

論文の査読者としての視点

　実際のところ論文を1本通そうと思ったら、レビュー者である査読者は最低2～3名はつきます。これに加えてエディターなども加わります。査読も1度だけではなく、初稿から、国際会議、その後のジャーナルトラック（ページ数を増やしていいと許可が出る）など各段階であります。1本の論文が“学会のお墨付き”で公開されるまでに、何人もの同業者の専門家にレビューされながら、日の目を見るということになります。

　驚くなかれ、論文の査読は互助的なボランティアでなりたっているので、1本の論文が日の目をみたら、その研究者は今後、最低でも3本ぐらいは査読に付き合わねばなりません。互助的なボランティアなので。

　でもarXivの時代になったら“お願いされていない論文も読む”が日常になってしまいました。

「研究」の速度感

　アカデミックと産業の両側を経験している筆者としては、まあ企業の研究開発の方々からすると『論文なんてまどろっこしい、タイパが悪い』という印象があると思います。まあそれはそうなんですが、研究グループを指揮するレベルで推進している側からすると、実際には特許を出願したり、デモを作ったりオープンソース化したり、学会で発表したり……といった工程まで含めて人を育てているので、なかなか大変ではあります。それでも西海岸のビッグテックのインターンであれば、せいぜい3カ月程度の期間でそれを実施するのも当たり前であるし、給与待遇面も日本の新卒学生の倍ぐらいが予算だったりします（もちろんでていくお金も大きいです）。

　何がいいたいかというと、この分野の世界の研究の速度は“3カ月程度で結果を出せ”という速度感なのであります。

　本来、研究開発（R&D）のR、リサーチは最低でも3年から5年といった足の長いものです。国際会議の論文募集や査読プロセスは数カ月、長いものだと6カ月以上はザラにあるのに、この世界は『3カ月程度で結果を出せ、成果によってはプロジェクト終了解散』……ということが当たり前なのです。そのため、せめて『外に出してもいいよ』と許可をもらった成果なのであれば、arXivやGitHubに出しておきたいという、そんな状況になります。つまり公開されていない成果はその数倍、数十倍あります。

　ちょうど最近、Meta（Facebook）Reality Labsで、画像生成の高速化のプロジェクトでインターンをしていたAITuberの開発や「あき先生」（@cumulo_autumn）の体験談を動画化したので興味が有る人はどうぞご視聴ください。