OpenRelayは何を提供する?
OpenRelayが提供するのは、AI推論向けの「Inference Delivery Network(IDN)」です。利用者はOpenAI互換またはAnthropic互換のAPIへリクエストを送り、OpenRelay側がモデルと計算資源を動かします。公式ドキュメントでは、既存のOpenAI SDKなら接続先URLとAPIキーを変えて利用できると説明しています。[2]
OpenRelayの特徴は、1種類のGPUを時間単位で貸すだけではなく、複数地域のGPUやTPUなどをオーケストレーションする設計にあります。運営会社は、自社で配置する機材と第三者の計算資源を組み合わせ、用途ごとに遅延、処理量、費用を調整すると説明しています。[3]
利用者から見た違いを整理すると、次のようになります。
| 比較軸 | OpenRelayのサーバーレス推論 | GPUの時間貸し |
|---|---|---|
| 課金単位 | 入力・出力などのトークン量 | GPUの利用時間や予約枠 |
| 準備 | 公開モデルは配置済み | モデルの配置や起動が必要な場合がある |
| 待機時の費用 | 公開料金ではアイドル課金なし | 契約形態によって待機中も課金 |
| ハードウェア選択 | OpenRelay側が複数基盤を束ねる | 利用者が機種・構成を選ぶことが多い |
| 確認したい点 | 地域、SLA、経路、モデル差 | 稼働率、運用負担、最低利用量 |
この表はサービス形態の違いであり、OpenRelayがすべての用途で安い、または速いことを示す実測比較ではありません。自社モデルを常時高稼働で回す場合や、特定GPUへ最適化した処理では、専有環境の方が合う可能性があります。
OpenRelayの料金はいくら?
OpenRelayの公開料金は、モデルごとに入力、キャッシュ済み入力、出力を分ける従量課金です。2026年11月16日に確認した主な例は次の通りです。金額はいずれも100万トークン当たり、米ドルです。[1]
| モデル | 入力 | キャッシュ済み入力 | 出力 | コンテキスト |
|---|---|---|---|---|
| GPT-OSS 120B | 0.15ドル | 0.015ドル | 0.60ドル | 128K |
| GPT-OSS 20B | 0.05ドル | 0.005ドル | 0.20ドル | 128K |
| GLM 5.2 | 1.82ドル | 0.338ドル | 5.72ドル | 1M |
| DeepSeek V3.1 Terminus | 0.27ドル | 記載なし | 1.00ドル | 64K |
支払いは前払い残高から引かれます。残高が不足すると、課金対象の推論リクエストはHTTP 402で拒否されます。モデル一覧の取得は無料で、失敗した非2xxリクエストには課金しないと公式ドキュメントにあります。[4]
バッチAPIは、結果を24時間以内に返す代わりに通常のオンライン料金のおよそ半額です。即時応答が不要な文書分類、埋め込み作成、夜間の評価処理なら比較対象になります。一方、音声会話や操作エージェントのように応答時間が重要な用途では、単価だけでなく最初のトークンが返るまでの時間と処理のばらつきを測る必要があります。
費用を比べるときは、同じ入力・出力トークン数だけでなく、次を揃えます。
- 同じモデル、量子化、コンテキスト長で比べる
- キャッシュ命中率と再試行回数を記録する
- バッチとオンラインを同じ処理として混ぜない
- 品質不足による再生成や人の確認時間も含める
1000万ドル調達で何を広げる?
OpenRelayは2026年11月12日、Uncork Capitalが主導する1,000万ドルのシード調達を発表しました。Eniac VenturesとStandard Capitalも参加しています。資金は推論ネットワークの拡張、対応するハードウェアの追加、オーケストレーションソフトウェアの開発、サンフランシスコ拠点と採用に使う方針です。[3]
会社側は、2026年6月の創業から5カ月未満で20を超える計算拠点、月間5兆トークン超の処理、年換算1,000万ドル超の売上ペースに到達したと説明しています。投資を主導したUncork Capitalも、20超の地域、10種類のハードウェア、月5兆トークンという数字を紹介しています。[5]
ただし、投資家の紹介は独立監査ではありません。月間トークン数が有料顧客の処理だけか、試験運用を含むか、年換算売上が継続収益として維持されるかは公開資料から確認できません。調達額や処理量を、そのまま顧客満足や収益の確定値として扱うべきではありません。
OpenRelayの事業は、推論に使ったトークン量に応じて料金を受け取り、その裏側で複数の計算資源を運用するモデルです。利用者が支払うAPI料金から、GPU・TPU、電力、通信、保守にかかる原価を差し引いた金額が粗利に当たります。これは公開料金と運営説明から整理した構造であり、実際の粗利率や拠点別の採算は公表されていません。
導入前に何を確認する?
OpenRelayを試す価値があるのは、公開モデルを複数の計算基盤で動かしたいものの、自社でGPU運用やモデル配置まで抱えたくない場合です。特に、処理の一部をバッチへ回せる業務は、価格差を検証しやすいでしょう。
一方、公式資料だけでは、企業導入に必要な次の条件を一式確認できませんでした。
- モデルごとの実行地域とデータの越境経路
- 可用性保証、障害時の補償、サポート時間
- 入出力データ、ログ、キャッシュの保持期間
- 基盤を切り替えたときの数値差と再現性
- 専有環境の最低利用量と見積条件
まずは個人情報や機密情報を除いた代表タスクで、同じプロンプトを複数回流します。成功率、出力品質、p50・p95の遅延、再試行、総トークン、最終費用を記録すれば、公開単価だけでは見えない判断材料になります。
Apple siliconをクラウドで借りる別の事業モデルは、TechCreateのMount Thorの解説でも整理しています。OpenRelayが公開モデルの推論をトークン単位で提供するのに対し、Mount ThorはMac環境そのものを供給します。必要なのがモデルAPIか、macOSを含む実行環境かで選択肢は変わります。
まとめ
- OpenRelayは複数地域・複数種類の計算資源を束ね、OpenAI互換などのAPIで公開モデルの推論を提供する
- GPT-OSS 120Bは入力100万トークン0.15ドル、出力0.60ドルで、バッチは約半額。ただし総費用は品質、キャッシュ、再試行、遅延を含めて比べる必要がある
- 月5兆トークンや年換算1,000万ドル超は会社と投資家の説明であり、独立監査済み実績ではない。導入前に地域、SLA、データ保持を確認したい
出典・参考
- OpenRelay「Inference Pricing」(2026年11月16日確認)
- OpenRelay Docs「Production inference starts here」(2026年11月16日確認)
- OpenRelay「Building Inference-Native Infrastructure for the Next Generation of AI」(2026年11月12日)
- OpenRelay Docs「Pricing & billing」(2026年11月16日確認)
- Uncork Capital「Investing in OpenRelay: Building the Inference Delivery Network」(2026年11月)






読者のコメント (0)
コメントを残す