Mistral Large 4 (1T-A52B) の必要VRAM

Mistral AI(仏)の最大のモデル(総約1T・実働52B)。72層すべてがMLAで、一度に扱えるコンテキストの上限は100万トークン。ライセンスはMITを改変した独自の Mistral Ecosystem Open-Weight License。

1000B / 72層 / GQA 64ヘッド / 既定コンテキスト 8,192 トークン(HuggingFace)

量子化	必要VRAM	RTX 3060 Ti	RTX 3070	RTX 4060	RTX 3080	RTX 3060 12GB	RTX 4070	RTX 4060 Ti 16GB	RTX 4070 Ti SUPER	RTX 4080	RX 7800 XT	RTX 3090	RTX 4090	RX 7900 XTX	RTX 5090
Q4_K_M	608.4 GB	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可
Q5_K_M	713.4 GB	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可
Q6_K	825.9 GB	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可
Q8_0	1064.7 GB	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可
FP16	2002.2 GB	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可	× 不可

必要VRAM = 重み + KVキャッシュ(既定コンテキスト時) + 1.5GB(OS/表示)。△は量子化を下げるかコンテキストを絞れば動作します。

この表は Q4_K_M を最小の量子化として計算しています。×でも、IQ4_XS のようにさらに小さい量子化なら収まることがあります(品質低下と、使うランタイムの対応状況の確認が要ります)。

⚠ 公式配布はFP8です。総パラメータは公称値(約1T)で、HFの集計値がないためファイルからの実測ではありません。

🛠 総パラメータは大きいものの、実際に毎回動くのは一部だけのMoEです。llama.cpp の --n-cpu-moe や KTransformers などオフロード対応エンジンを使うと、VRAM に全部載らなくても、大容量のシステムRAMがあれば動く場合があります(速度は実働パラメータ相当。下の必要VRAMは全載せ前提の目安です)。

Mistral Large 4 (1T-A52B)とは

Mistral Large 4 (1T-A52B)は、Mistral AIが公開するMistral系のデータセンター級(1000Bパラメータ)オープンモデルです。数百B〜1T規模のフラッグシップで、個人のローカル実行は対象外です(参考収載)。テキストに加えて画像入力に対応するマルチモーダル(VLM)です。

Hugging Faceでの直近30日ダウンロードは約6,556件・いいね1,545件 — ダウンロード数は当サイト収録120モデル中108位です(2026-11-04時点。公式リポジトリ分のみで、GGUF再配布版は含みません)。

Mistral Large 4 (1T-A52B)の必要スペックを読み解く

Q4_K_M量子化での内訳は、重み(モデル本体)が約606.3GB、8Kトークン分のKVキャッシュが約0.7GB、システム予約と合わせて合計約608.4GBです。単一のコンシューマGPUに◎(快適)となるクラスはなく、実行はクラウドGPUが現実的です。迷ったらQ4_K_M(合計約608.4GB)が基準です。VRAMに余裕があればQ8_0(約1064.7GB)で品質の上積みが狙えます。 Mac(ユニファイドメモリ)での判定は、トップページでチップと搭載メモリを選ぶと計算できます。

MoE構成: 総1000B・実効52B。メモリは総量1000B分が必要ですが、生成速度は52B級の軽さです。

MLA(圧縮KVキャッシュ)採用: 8Kトークン時のKVキャッシュは約0.7GB — 標準的なGQA構成なら約14.5GB相当のところを大幅に圧縮しており、長文でもメモリが伸びにくい設計です。

画像対応(VLM): 画像を入力する際は、テキストのみの目安より使用メモリが増えます。