Lindyとは何か
Lindyは「AIワークアシスタント」を構築するスタートアップだ。 ユーザーのメール処理、会議の要約、タスク管理を自動化するエージェントを提供している。
その事業モデルの根幹にあるのが、大規模言語モデル（LLM）のAPI推論コストだ。 ユーザーがLindyに指示を出すたびに、バックエンドでLLMのAPIが呼ばれる。 ユーザー数が増えれば増えるほど、推論コストは正比例して膨らむ。
CEO、フロ・クリヴェロは2026年4月のXへの投稿でこう書いた。 「推論コストは、給与を含む全コストの中で断トツの1位だ。これを2〜5倍削減できれば、会社が変わる」
当時、AnthropicのClaude Opus 4.7は出力100万トークンあたり30ドル。 一方のDeepSeek V4-Proは同3.48ドル。価格差は約8.6倍だ。
フルベンチマーク実行コストで比較すると、V4-Proは1071ドルに対し、Claude Opus 4.7は4811ドル。4倍以上の差がある。
6〜9ヶ月の移行が「予想外に長くかかった」理由
移行を決めたのは簡単だった。問題はその「実行」だ。
Lindyの移行が6〜9ヶ月かかった最大の理由は「プロンプトの再エンジニアリング」にある。
DeepSeekが46%のシェアを獲得した背景でも触れたように、DeepSeekはCoT（Chain of Thought）推論と中国語・英語バイリンガルのトレーニングデータで設計されている。 Anthropicのモデル向けに最適化されたプロンプトをそのままDeepSeekに渡すと、挙動が変わる。
「Claudeは明示的に指示しなくても文脈を読んで補完してくれる部分が多かった」とクリヴェロはThe New Stackのインタビューで述べている。 「DeepSeekは指示をより明示的に書く必要がある。最初のうちは出力品質が下がり、なぜかを突き止めるのに時間がかかった」
移行プロセスは3段階だった。
第一段階は「評価フェーズ」（2〜3ヶ月）。 使用中の全ユースケースでDeepSeek V4のアウトプット品質を検証した。 メール要約、議事録生成、タスク抽出など、それぞれのユースケースでAnthropicとのアウトプット比較を人手で評価した。
第二段階は「段階的ロールアウト」（2〜3ヶ月）。 まず社内ユーザーでのテスト、次にベータユーザーへの展開、そして全ユーザーへのカットオーバー。 各段階でモニタリングを継続し、品質の劣化がないかを確認した。
第三段階は「プロンプト最適化」（1〜3ヶ月）。 特定のユースケースでDeepSeekが苦手とするパターンを発見し、プロンプトを調整した。 結果として、多くのユースケースでクオリティがAnthropicと「同等かそれ以上」になったという。
「コスト削減」だけではなかった——意外な品質向上
移行後に判明した驚きの事実がある。
Lindyのユースケースの多くで、DeepSeek V4への移行は品質の「向上」を伴っていた。
これはどういうことか。
Anthropicのフロンティアモデルは、コーディング・推論・複雑な指示理解においてDeepSeekを上回る場合がある。 しかし、Lindyのコアユースケースである「メール要約・会議議事録・タスク分類」という日常業務の自動化においては、DeepSeekの品質が十分に高かった。
エンジニア視点から言い換えると、「ユースケース要求と実装モデルのミスマッチ」が解消された。 過剰スペックのフロンティアモデルを使っていたことに、移行して初めて気づいた形だ。
これはソフトウェアエンジニアリングの基本原則に通じる。 「最高性能のデータベースよりも、ユースケースに適したデータベースを選べ」という格言と同じだ。
Lindyの決断が示す「AI API市場の構造転換」
Lindyの事例は単なる一企業の意思決定ではない。 AI API市場全体の構造変化を示すシグナルだ。
OpenRouterのデータによれば、2025年初頭に4.5%だった米企業の中国製AIモデル利用率は、2026年には週平均30%以上、ピーク時46%に達している。
この急増を支えているのは「コスト意識の高いスタートアップ」だ。
資金調達でランウェイが決まるスタートアップにとって、推論コストは生死を分ける変数だ。 月間の推論コストが給与コストを超えるような状況では、「どのモデルを使うか」はプロダクト戦略の核心になる。
エンジニアが考慮すべき切り替えコストの項目は以下のとおりだ。
モデル評価のコストは、ユースケース数 × 評価サンプル数 × 人手評価のコストとして計上される。 プロンプト再設計のコストは、既存プロンプト数 × 平均修正時間として見積もる必要がある。 インフラ変更のコストは、APIクライアントの差し替えとモニタリング設定の変更として比較的軽量だ。
Lindyの場合、6〜9ヶ月の移行コスト（エンジニアの稼働時間）を差し引いても、数ヶ月以内にコスト削減の元が取れる計算だったとクリヴェロは述べている。
「プロンプトエンジニアリングの重要性」が再確認された
この事例が示すもう一つの教訓は、プロンプトエンジニアリングの重要性だ。
2024年ごろ、「コンテキストエンジニアリング」や「プロンプト設計」の重要性が高まると言われた時期があった。 しかし大半のスタートアップは「高性能モデルを選べばプロンプトはそれほど重要でない」という誤解に陥っていた。
Lindyの移行プロセスは、この誤解を正面から否定した。
モデルが変われば、プロンプトの最適戦略も変わる。 「Claudeに最適なプロンプト」はそのままDeepSeekには使えない。 それぞれのモデルの「癖」を理解し、それに合わせた指示設計が不可欠だ。
Cursor 3.8のAutomationsが示す方向性のように、AIコーディングツールの世界でもモデルの多様化が進んでいる。 特定モデルへの依存度を下げ、複数モデルを使い分けるマルチモデル戦略は、コストと品質の両立に不可欠になりつつある。
エンジニアが今すぐ始めるべき「AIコスト見直し」
Lindyの事例を受けて、エンジニアリングチームが取るべきアクションを整理しよう。
まず、自社の推論コスト構造を可視化する。 「月間の推論コスト」「ユースケース別のコスト内訳」「コストとモデル品質の相関」を把握しているチームは意外に少ない。
次に、ユースケースの「品質要求水準」を明確化する。 全てのユースケースに最高性能モデルが必要なわけではない。 シンプルな分類タスクや要約タスクは、軽量・低コストモデルで十分な場合が多い。
そして、代替モデルの評価環境を構築する。 本番トラフィックの1〜5%を試験的に代替モデルに流し、品質をA/Bテストで比較する。 この「Shadow Mode」評価なら、本番への影響なく代替モデルの品質を検証できる。
Lindyが6〜9ヶ月かけた移行は、適切な評価プロセスと段階的ロールアウトのフレームワークがあれば、3〜4ヶ月に短縮できる可能性がある。
25人のスタートアップが給与コスト超えの推論費用を抱えながら行動を起こした。 あなたのチームは、今のAI APIコストを一度本気で見直したことがあるか。
ソース:
