MiniCPM-V 4.7 35B-A3B の必要VRAM

OpenBMB製のMoE型VLM(総35B・実働3B)。40層中30層が線形注意。Apache-2.0。画像入力時はこの目安より必要メモリが増えます。

35.21B / 40層 / GQA 2ヘッド / 既定コンテキスト 8,192 トークン(HuggingFace)

量子化	必要VRAM	RTX 3060 Ti	RTX 3070	RTX 4060	RTX 3080	RTX 3060 12GB	RTX 4070	RTX 4060 Ti 16GB	RTX 4070 Ti SUPER	RTX 4080	RX 7800 XT	RTX 3090	RTX 4090	RX 7900 XTX	RTX 5090
Q4_K_M	23.0 GB	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	△ ぎりぎり	△ ぎりぎり	△ ぎりぎり	◎ 快適
Q5_K_M	26.7 GB	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	◎ 快適
Q6_K	30.7 GB	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	△ ぎりぎり
Q8_0	39.1 GB	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可
FP16	72.1 GB	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可

必要VRAM = 重み + KVキャッシュ(既定コンテキスト時) + 1.5GB(OS/表示)。△は量子化を下げるかコンテキストを絞れば動作します。

この表は Q4_K_M を最小の量子化として計算しています。×でも、IQ4_XS のようにさらに小さい量子化なら収まることがあります(品質低下と、使うランタイムの対応状況の確認が要ります)。このモデルは実際にその境界にあります: IQ4_XS相当(4.25bit)に置き換えると必要VRAMが約23.0GB→約20.4GBになり、24GB級で「△ ぎりぎり」→「◎ 快適」に一段上がります。

上の表は8,192トークンの文脈での計算です。AIエージェント(道具を使って複数ステップの作業を自動でこなす使い方)では長い文脈が要り、その分KVキャッシュが増えます。このモデルをQ4_K_Mで使う場合、必要VRAMは32Kで約23.5GB、128Kで約25.5GBです(8Kの約1.1倍)。 KVヘッドが少ない構成のため、文脈を延ばしても増え方はゆるやかです。エージェント用途に向く設計といえます。

MiniCPM-V 4.7 35B-A3Bとは

MiniCPM-V 4.7 35B-A3Bは、openbmbが公開するTransformer系のハイエンドクラス(35.21Bパラメータ)オープンモデルです。24GB級GPUの領域で、ローカルで狙える上位の品質帯です。テキストに加えて画像入力に対応するマルチモーダル(VLM)です。

Hugging Faceでの直近30日ダウンロードは約49万件・いいね1,109件 — ダウンロード数は当サイト収録120モデル中48位です(2026-11-04時点。公式リポジトリ分のみで、GGUF再配布版は含みません)。

MiniCPM-V 4.7 35B-A3Bの必要スペックを読み解く

Q4_K_M量子化での内訳は、重み(モデル本体)が約21.3GB、8Kトークン分のKVキャッシュが約0.2GB、システム予約と合わせて合計約23GBです。 ◎(快適)判定の最小ラインは、VRAM 32GBクラスのGPUです。迷ったらQ4_K_M(合計約23GB)が基準です。VRAMに余裕があればQ8_0(約39.1GB)で品質の上積みが狙えます。 Mac(ユニファイドメモリ)での判定は、トップページでチップと搭載メモリを選ぶと計算できます。

MoE構成: 総35.21B・実効3B。メモリは総量35.21B分が必要ですが、生成速度は3B級の軽さです。

ハイブリッドアテンション(線形)採用: 全40層のうちフルアテンションは10層のみで、残りの層はコンテキスト長に依存しない固定サイズの状態を持ちます。長文に強い設計です。

画像対応(VLM): 画像を入力する際は、テキストのみの目安より使用メモリが増えます。