Kimi K3 の必要VRAM

Moonshot AIの現行オープン旗艦。総2.8T・実働104BのMoEで、MLAと1Mコンテキスト・マルチモーダル対応。フロンティア級の重みだが、単一のコンシューマGPUでは動かずクラウド/自社ホスティング向け(必要VRAMの目安として掲載)。画像入力にも対応。

2779.93B / 93層 / GQA 96ヘッド / 既定コンテキスト 8,192 トークン(HuggingFace)

量子化	必要VRAM	RTX 3060 Ti	RTX 3070	RTX 4060	RTX 3080	RTX 3060 12GB	RTX 4070	RTX 4060 Ti 16GB	RTX 4070 Ti SUPER	RTX 4080	RX 7800 XT	RTX 3090	RTX 4090	RX 7900 XTX	RTX 5090
Q4_K_M	1687.1 GB	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可
Q5_K_M	1979.0 GB	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可
Q6_K	2291.7 GB	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可
Q8_0	2955.4 GB	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可
FP16	5561.6 GB	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可

必要VRAM = 重み + KVキャッシュ(既定コンテキスト時) + 1.5GB(OS/表示)。△は量子化を下げるかコンテキストを絞れば動作します。

この表は Q4_K_M を最小の量子化として計算しています。×でも、IQ4_XS のようにさらに小さい量子化なら収まることがあります(品質低下と、使うランタイムの対応状況の確認が要ります)。

⚠ 公式配布は MXFP4重み / MXFP8活性(量子化を織り込んだ学習=QAT)です。下の表の Q4_K_M 等は当サイト共通ラダーによる理論換算で、その形式のGGUFが配布されているとは限りません。このモデルは、配布されている低ビットの重みそのものが原本です。有志が作った Q4_K_M 等のGGUFは、一度展開してから別方式で量子化し直したもので、失われた情報は戻らないうえに2度目の誤差が乗ります。公式配布の形式で動かせる環境なら、そちらを使ってください。

Kimi K3とは

Kimi K3は、Moonshot AIが公開するKimi系のデータセンター級(2779.93Bパラメータ)オープンモデルです。数百B〜1T規模のフラッグシップで、個人のローカル実行は対象外です(参考収載)。テキストに加えて画像入力に対応するマルチモーダル(VLM)です。

Hugging Faceでの直近30日ダウンロードは約232万件・いいね11,272件 — ダウンロード数は当サイト収録92モデル中27位です(2026-09-11時点。公式リポジトリ分のみで、GGUF再配布版は含みません)。

Kimi K3の必要スペックを読み解く

Q4_K_M量子化での内訳は、重み(モデル本体)が約1685.3GB、8Kトークン分のKVキャッシュが約0.2GB、システム予約と合わせて合計約1687.1GBです。単一のコンシューマGPUに◎(快適)となるクラスはなく、実行はクラウドGPUが現実的です。迷ったらQ4_K_M(合計約1687.1GB)が基準です。VRAMに余裕があればQ8_0(約2955.4GB)で品質の上積みが狙えます。 Mac(ユニファイドメモリ)での判定は、トップページでチップと搭載メモリを選ぶと計算できます。

MoE構成: 総2779.93B・実効104B。メモリは総量2779.93B分が必要ですが、生成速度は104B級の軽さです。

MLA(圧縮KVキャッシュ)採用: 8Kトークン時のKVキャッシュは約0.2GB — 標準的なGQA構成なら約21.8GB相当のところを大幅に圧縮しており、長文でもメモリが伸びにくい設計です。

画像対応(VLM): 画像を入力する際は、テキストのみの目安より使用メモリが増えます。