Phi-4 の必要VRAM

Microsoft製の中型高密度モデル。数学・推論ベンチマークでの高スコアに定評がある。

14.66B / 40層 / GQA 10ヘッド / 既定コンテキスト 8,192 トークン(HuggingFace)

量子化必要VRAMRTX 3060 TiRTX 3070RTX 4060RTX 3080RTX 3060 12GBRTX 4070RTX 4060 Ti 16GBRTX 4070 Ti SUPERRTX 4080RX 7800 XTRTX 3090RTX 4090RX 7900 XTXRTX 5090
Q4_K_M12.1 GB× 不可× 不可× 不可× 不可△ ぎりぎり△ ぎりぎり◎ 快適◎ 快適◎ 快適◎ 快適◎ 快適◎ 快適◎ 快適◎ 快適
Q5_K_M13.6 GB× 不可× 不可× 不可× 不可× 不可× 不可◎ 快適◎ 快適◎ 快適◎ 快適◎ 快適◎ 快適◎ 快適◎ 快適
Q6_K15.3 GB× 不可× 不可× 不可× 不可× 不可× 不可△ ぎりぎり△ ぎりぎり△ ぎりぎり△ ぎりぎり◎ 快適◎ 快適◎ 快適◎ 快適
Q8_018.8 GB× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可◎ 快適◎ 快適◎ 快適◎ 快適
FP1632.5 GB× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可× 不可△ ぎりぎり

必要VRAM = 重み + KVキャッシュ(既定コンテキスト時) + 1.5GB(OS/表示)。△は量子化を下げるかコンテキストを絞れば動作します。

お使いのGPUで判定する

判定はブラウザ内で完結します(選択内容は送信されません)。

▶ あなたのPCを自動判定する(スペック送信なし・ブラウザ内完結)

クラウドGPUでPhi-4を動かす(RunPod)

📚 ローカルLLMの入門書・ムックをAmazonで探す

上記はアフィリエイトリンクです。経由して課金された場合、当サイトに紹介料が入ります。