史上最大のオープンウェイトモデル
Kimi K3はMixture-of-Experts（MoE）アーキテクチャを採用しており、896のエキスパートモジュールの中から推論時に16を選択して使用する。Moonshot AIが独自に開発した「Kimi Delta Attention（KDA）」と「Attention Residuals（AttnRes）」という2つのアーキテクチャ革新を実装している。KDAは1Mトークンのコンテキスト長において、従来のアテンション機構の6.3倍高速なデコードを実現する。AttnResは計算コストを2%増やすだけで学習効率を25%改善するとしている。
最大1Mトークンのコンテキストウィンドウを持ち、数学・コーディング・長文推論の分野で競合するクローズドモデルと互角の性能を主張している。Moonshot AIの技術ブログによれば、FrontierBench v0.1においてClaude Opus 5（43.3%）に迫るスコアを記録したとしている。
1.4TBのメモリ要件が個人利用の壁に
オープンウェイトとして公開されるモデルの重みは、MXFP4（4ビット精度）に量子化された状態でも約1.4テラバイトのメモリを必要とする。NVIDIA H100（80GB VRAM）換算でおよそ20枚に相当するスケールであり、個人や小規模組織が自前で運用するのは現実的ではない。
実際に推論を行うには、大手クラウドプロバイダーやGPU向けAPIサービス（Together AI、RunPod等）を通じて利用するケースが主流になると見られる。Moonshot AI自身もAPIサービス「Kimi」を通じてモデルへのアクセスを提供している。
オープン vs クローズドの対立軸に変化
Kimi K3の公開は、フロンティアモデルの性能水準に達したオープンウェイトモデルが登場したことを意味する。従来、最高性能のAIモデルはOpenAIやAnthropicなどのプロプライエタリ製品に限られていたが、今回の公開でその構図に変化が生じる可能性がある。
Modified MITライセンスのため、APIラッパー・ファインチューニング・研究目的での利用が自由に行える。AI研究コミュニティやスタートアップが追加実験や特化型モデルの開発に活用できる環境が整う。
ソース:
