Sarvam Prismとは?
Sarvam Prismは入力された状況と質問、固定された選択肢を受け取り、各選択肢の確率を一度の推論で返す「System One」型の判断モデルだ。文章を自由生成するチャットAIではなく、「請求」「技術」「配送」のどの担当へ送るか、「緊急」かどうか、といった決められた分類を扱う。[1]
短く答えるなら、Prismは生成AIの代替ではない。答えの候補が先に決まっていて、結果をJSONとして安定して受け取りたい仕事に向く。候補にない答えを作る必要がある調査、企画、文章作成には向かない。
| 項目 | Sarvam Prism | 一般的な生成AI |
|---|---|---|
| 出力 | 固定選択肢と確率 | 自由形式の文章やコード |
| 主な用途 | 振り分け、審査、スコアリング | 要約、対話、執筆、実装 |
| 形式の保証 | 選択肢の型に収まる | パースや形式検証が必要 |
| 判断の説明 | 確率を返すが理由文は生成しない | 理由を生成できるが事実性は別検証 |
| 公開形態 | APIとApache 2.0の重み | 製品ごとに異なる |
APIは入力100万トークン4ルピー
SarvamのAPIドキュメントでは、Prismの料金はすべてのプランで入力100万トークン当たり4インドルピー、出力は0ルピーとされる。APIは同期JSONで、ストリーミングには対応しない。画像も入力できない。[2]
1つの質問には状態、質問、選択肢を合わせて32,768トークンまで入力できる。choice型は2〜255個の選択肢、score型は2〜10段階に対応し、1回のリクエストへ複数の質問を入れられる。英語、10のインド言語、Hinglishを対象とする。
たとえば顧客問い合わせを振り分ける場合、問い合わせ本文をstateへ入れ、担当部署をchoice、1時間以内の返信が必要かをyes/no、不満度をscoreとして同時に聞ける。返るのは部署名だけでなく、各候補の確率だ。業務システムは最高確率の候補を自動処理し、確信度が低い案件だけ人へ送る設計ができる。
ただし、安いAPI料金だけで自動化の費用は決まらない。選択肢の定義、正解データの作成、低確信度時の人手確認、誤分類の影響、監査ログの保管を含めて試算する必要がある。
自社運用には大容量GPUが必要
公開された重みはSarvam 105Bを基にした1050億パラメータ級で、Apache 2.0ライセンスの下で利用できる。Hugging Faceのモデルカードによると、ファイルは約106GB。FP8に対応し、約120GBの空きメモリを持つNVIDIA B200またはH200級のGPUを1基必要とする。[3]
一般的なTransformersのAutoModelForCausalLMや汎用推論サーバーへ、そのまま読み込む形式ではない。リポジトリに含まれる専用コードを使い、最初の読み込みではTritonカーネルの構築やCUDA Graphの準備が走る。公開重みだから手元の一般的な開発PCで簡単に動く、という意味ではない。
| 導入方式 | 初期条件 | 運用上の利点 | 確認点 |
|---|---|---|---|
| Sarvam API | APIキーとネットワーク接続 | GPUを持たずに試せる | データ送信先、地域、レート制限 |
| 自社GPU | B200/H200級、約120GBメモリ | データと実行環境を管理できる | GPU費用、専用コード、監視、更新 |
| 独自学習 | 正解データと学習基盤 | 自社の判断基準へ合わせられる | 偏り、再評価、モデル更新 |
機密データを扱うから自社運用を選ぶ場合も、モデルを置くだけでは足りない。入力ログへのアクセス、モデル重みと専用コードの更新、判断結果の再現、監査者が追える証拠を設計する必要がある。
71.8点・44ミリ秒は自己評価
Sarvamは25の判断モデルを3つの指標で比較し、Prismが平均71.8点、NVIDIA B200で中央値44ミリ秒だったと報告した。100ミリ秒未満のモデルでは平均点が最も高かったという。[1]
この平均は公開されているJev Decision Indexの67.0、Sarvamが再構成したArtificial Analysis指標の65.9、社内のインド言語指標の82.5から成る。3つのうち2つはSarvam側の再構成・独自評価で、44ミリ秒も単一のB200へ1000件を順番に送った測定だ。第三者が同じ条件で再現した公開値ではない。
一方、方式の狙いには研究上の根拠がある。Prism-1論文は、通常の言語モデルでは選択肢の順序を変えたときに答えが変わる問題を示し、各選択肢を同じ位置で独立に読ませる設計を提案した。5つの評価群では、比較方式の答えが並べ替えで7%変わり、無関係な候補の追加で12%動いたのに対し、提案方式では変化がなかった。[4]
Prism自体の精度は業務ごとに自社データで測る必要がある。全体正解率だけでなく、重要な少数クラスの見逃し率、確信度と実際の正解率の対応、選択肢を増減したときの安定性を確認する。
導入は人へ戻す境界から決める
最初の対象は、正解が明確で失敗を戻せる仕事がよい。問い合わせの部署振り分け、既知ポリシーへの適合判定、エージェント実行結果の採点などで、一定期間は人の判断と並走させる。
- 選択肢と正解条件を文章で固定する
- 過去データを期間や顧客層で分け、漏洩を防いで評価する
- 低確信度、未対応クラス、高リスク案件は人へ戻す
- 誤分類の種類別に損失と修正時間を測る
- モデル、選択肢、しきい値を変えたら再評価する
TechCreateのAIエージェント基盤Hyperbolic Forgeの解説でも、モデルの性能だけでなくGPU料金と実行条件を分けて確認した。Prismでも、API単価の低さと自社運用のGPU費用、判断精度と監査可能性を同じ数字として扱わないことが重要だ。
まとめ
- Sarvam Prismは文章を生成せず、決められた選択肢の確率を返す判断モデルで、振り分けや審査のような定型判断に向く
- APIは入力100万トークン4ルピーだが、自社運用には約120GBのGPUメモリと専用実行コードが必要になる
- 71.8点・44ミリ秒はSarvamの評価条件に基づく。導入時は自社データで精度、確信度、人へ戻す境界を測る必要がある








読者のコメント (0)
コメントを残す