Qwen3.5 9B の必要VRAM

現行世代の主力汎用。日本語・推論・ツール利用まで一通りこなす。

9B / 32層 / GQA 4ヘッド / 既定コンテキスト 8,192 トークン(HuggingFace)

量子化必要VRAMRTX 3060 TiRTX 3070RTX 4060RTX 3080RTX 3060 12GBRTX 4070RTX 4060 Ti 16GBRTX 4070 Ti SUPERRTX 4080RX 7800 XTRTX 3090RTX 4090RX 7900 XTXRTX 5090
Q4_K_M8.0 GB△ ぎりぎり△ ぎりぎり△ ぎりぎり◎ 快適◎ 快適◎ 快適◎ 快適◎ 快適◎ 快適◎ 快適◎ 快適◎ 快適◎ 快適◎ 快適
Q5_K_M9.0 GB× 不可× 不可× 不可◎ 快適◎ 快適◎ 快適◎ 快適◎ 快適◎ 快適◎ 快適◎ 快適◎ 快適◎ 快適◎ 快適
Q6_K10.0 GB× 不可× 不可× 不可△ ぎりぎり◎ 快適◎ 快適◎ 快適◎ 快適◎ 快適◎ 快適◎ 快適◎ 快適◎ 快適◎ 快適
Q8_012.1 GB× 不可× 不可× 不可× 不可△ ぎりぎり△ ぎりぎり◎ 快適◎ 快適◎ 快適◎ 快適◎ 快適◎ 快適◎ 快適◎ 快適
FP1620.6 GB× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可◎ 快適◎ 快適◎ 快適◎ 快適

必要VRAM = 重み + KVキャッシュ(既定コンテキスト時) + 1.5GB(OS/表示)。△は量子化を下げるかコンテキストを絞れば動作します。

▶ あなたのPCを自動判定する(スペック送信なし・ブラウザ内完結)

クラウドGPUでQwen3.5 9Bを動かす(RunPod)

上記はアフィリエイトリンクです。経由して課金された場合、当サイトに紹介料が入ります。