Llama 3シリーズが爆速動作！ 誰でも無料で利用できる「SambaNova Cloud」【AIフェスティバル 2024】

「AIフェスティバル 2024 Powered by GALLERIA」SambaNova Systemsブース

　ベルサール秋葉原（東京・秋葉原）にて開催中のAIイベント「AIフェスティバル 2024 Powered by GALLERIA」の会場内において、AIスタートアップのSambaNova Systemsがブース出展を行なっている。同イベントは11月9日が最終日で、本日10時から17時まで。

　SambaNova Systemsは、2017年に米シリコンバレーにてスタンフォード大学教授らによって設立されたスタートアップ。独自のデータフローアーキテクチャーにより、GPUよりも10倍高速な推論を10分の1の電力で実現したとして注目を集めている。

　ブース内では、世界最速を謳うAI推論サービス「SambaNova Cloud」を体験可能。「Llama 3.1」の8B、70B、405Bモデルをはじめ、画像認識機能を持つ「Llama 3.2」のVision Modelが“爆速”で動作するデモを紹介している。

　使用するモデルによって1分間のリクエスト数に制限はあるものの、ログインすれば誰でも無料で、かつ待ち時間なしでAPIにアクセスできる点もアピールポイントとのこと。

世界最速を謳うAI推論プラットフォーム「SambaNova Cloud」

Llama 3シリーズのラインナップから利用したいモデルを選択できる

ゲスト向けにQRコードを掲示。サービスへすぐにアクセス可能だ