Llama 3.3 70B の必要VRAM
70.6B / 80層 / GQA 8ヘッド / 既定コンテキスト 8,192 トークン(HuggingFace)
| 量子化 | 必要VRAM | RTX 3060 12GB | RTX 3060 Ti | RTX 3090 | RTX 4060 | RTX 4070 | RTX 4090 | RTX 5090 | RX 7800 XT |
|---|---|---|---|---|---|---|---|---|---|
| Q4_K_M | 47.0 GB | × 不可 | × 不可 | × 不可 | × 不可 | × 不可 | × 不可 | × 不可 | × 不可 |
| Q5_K_M | 54.4 GB | × 不可 | × 不可 | × 不可 | × 不可 | × 不可 | × 不可 | × 不可 | × 不可 |
| Q6_K | 62.3 GB | × 不可 | × 不可 | × 不可 | × 不可 | × 不可 | × 不可 | × 不可 | × 不可 |
| Q8_0 | 79.2 GB | × 不可 | × 不可 | × 不可 | × 不可 | × 不可 | × 不可 | × 不可 | × 不可 |
| FP16 | 145.4 GB | × 不可 | × 不可 | × 不可 | × 不可 | × 不可 | × 不可 | × 不可 | × 不可 |
必要VRAM = 重み + KVキャッシュ(既定コンテキスト時) + 1.5GB(OS/表示)。△は量子化を下げるかコンテキストを絞れば動作します。
▶ あなたのPCを自動判定する(スペック送信なし・ブラウザ内完結)
上記はアフィリエイトリンクです。経由して課金された場合、当サイトに紹介料が入ります。