GLM-4.7-Flash 31B-A3B の必要VRAM

Z.ai製の軽量MoE(総31B・実働3B)。24GB級GPUの有力候補。

31.2B / 47層 / GQA 20ヘッド / 既定コンテキスト 8,192 トークン(HuggingFace)

量子化必要VRAMRTX 3060 TiRTX 3070RTX 4060RTX 3080RTX 3060 12GBRTX 4070RTX 4060 Ti 16GBRTX 4070 Ti SUPERRTX 4080RX 7800 XTRTX 3090RTX 4090RX 7900 XTXRTX 5090
Q4_K_M23.6 GB× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可△ ぎりぎり△ ぎりぎり△ ぎりぎり◎ 快適
Q5_K_M26.8 GB× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可◎ 快適
Q6_K30.4 GB× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可△ ぎりぎり
Q8_037.8 GB× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可
FP1667.1 GB× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可

必要VRAM = 重み + KVキャッシュ(既定コンテキスト時) + 1.5GB(OS/表示)。△は量子化を下げるかコンテキストを絞れば動作します。

▶ あなたのPCを自動判定する(スペック送信なし・ブラウザ内完結)

クラウドGPUでGLM-4.7-Flash 31B-A3Bを動かす(RunPod)

上記はアフィリエイトリンクです。経由して課金された場合、当サイトに紹介料が入ります。