NVIDIA GeForce RTX 4070 Ti で動くローカルLLM

VRAM: 12 GB ・ メモリ帯域: 504 GB/s ・ TDP: 285 W ・ 区分: デスクトップGPU

量子化レベル別の動作判定(12GB VRAM 基準)。モデル名を押すと必要VRAMの詳細が見られます。

モデルQ4_K_MQ5_K_MQ6_KQ8_0FP16
Llama 3.2 1B 1.24B◎ 快適◎ 快適◎ 快適◎ 快適◎ 快適
Sarashina 2.2 3B 3.36B◎ 快適◎ 快適◎ 快適◎ 快適◎ 快適
Qwen3.5 4B 4B◎ 快適◎ 快適◎ 快適◎ 快適◎ 快適
Llama 3.1 8B 8.03B◎ 快適◎ 快適◎ 快適△ ぎりぎり× 不可
Llama 3.1 Swallow 8B 8.03B◎ 快適◎ 快適◎ 快適△ ぎりぎり× 不可
Qwen3.5 9B 9B◎ 快適◎ 快適◎ 快適△ ぎりぎり× 不可
Gemma 4 12B 12B△ ぎりぎり△ ぎりぎり× 不可× 不可× 不可
Qwen2.5 14B 14.8B△ ぎりぎり× 不可× 不可× 不可× 不可
DeepSeek R1 Distill Qwen 14B 14.8B△ ぎりぎり× 不可× 不可× 不可× 不可
gpt-oss 20B 20.9B× 不可× 不可× 不可× 不可× 不可
Mistral Small 3.2 24B 23.6B× 不可× 不可× 不可× 不可× 不可
Gemma 4 26B-A4B 26B× 不可× 不可× 不可× 不可× 不可
Qwen3.6 27B 27B× 不可× 不可× 不可× 不可× 不可
GLM-4.7-Flash 31B-A3B 31.2B× 不可× 不可× 不可× 不可× 不可
Qwen2.5 32B 32.8B× 不可× 不可× 不可× 不可× 不可
Qwen3 Swallow 32B 32.8B× 不可× 不可× 不可× 不可× 不可
Qwen3.5 35B-A3B 35B× 不可× 不可× 不可× 不可× 不可
Llama 3.3 70B 70.6B× 不可× 不可× 不可× 不可× 不可
Qwen3-Coder-Next 80B-A3B 79.7B× 不可× 不可× 不可× 不可× 不可
GLM-5.2 753B× 不可× 不可× 不可× 不可× 不可
DeepSeek-V4-Pro 862B× 不可× 不可× 不可× 不可× 不可
Kimi K2.6 1058B× 不可× 不可× 不可× 不可× 不可

必要VRAM = 重み + KVキャッシュ(既定コンテキスト時) + 1.5GB(OS/表示)。△は量子化を下げるかコンテキストを絞れば動作します。

▶ あなたのPCを自動判定する(スペック送信なし・ブラウザ内完結)

RTX 4070 Ti をAmazonで探す

このGPUで動かないモデルはクラウドで試す(RunPod)

上記はアフィリエイトリンクです。経由して購入・課金された場合、当サイトに紹介料が入ります(判定結果には影響しません)。