Gemma 4 26B-A4B の必要VRAM

Google製MoE。総26B・実働4Bで、規模の割に軽く動く。

26B / 30層 / GQA 8ヘッド / 既定コンテキスト 8,192 トークン(HuggingFace)

量子化必要VRAMRTX 3060 TiRTX 3070RTX 4060RTX 3080RTX 3060 12GBRTX 4070RTX 4060 Ti 16GBRTX 4070 Ti SUPERRTX 4080RX 7800 XTRTX 3090RTX 4090RX 7900 XTXRTX 5090
Q4_K_M18.6 GB× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可◎ 快適◎ 快適◎ 快適◎ 快適
Q5_K_M21.4 GB× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可◎ 快適◎ 快適◎ 快適◎ 快適
Q6_K24.3 GB× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可△ ぎりぎり△ ぎりぎり△ ぎりぎり◎ 快適
Q8_030.5 GB× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可△ ぎりぎり
FP1654.9 GB× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可

必要VRAM = 重み + KVキャッシュ(既定コンテキスト時) + 1.5GB(OS/表示)。△は量子化を下げるかコンテキストを絞れば動作します。

▶ あなたのPCを自動判定する(スペック送信なし・ブラウザ内完結)

クラウドGPUでGemma 4 26B-A4Bを動かす(RunPod)

上記はアフィリエイトリンクです。経由して課金された場合、当サイトに紹介料が入ります。