NVIDIA GeForce RTX 2060 で動くローカルLLM

NVIDIA GeForce RTX 2060のイメージイラスト — ※イメージイラストです(実際の製品はメーカー・型番により外観が異なります)

RTX 2060(6GB)は主要47モデル中◎9件です。12GB級にすると◎17件に増えます。

🛒 RTX 5070 をAmazonで見る

先に RTX 5070 の判定を見る

RTX 2060 本体をAmazonで探す(中古・在庫)

🛒 カードだけ替えられないなら、PCごと選び直す(BTOの選び方)

上記はアフィリエイトリンクです。経由して購入・課金された場合、当サイトに紹介料が入ります(判定結果には影響しません)。

VRAM: 6 GB ・メモリ帯域: 336 GB/s ・ TDP: 160 W ・区分: デスクトップGPU

量子化レベル別の動作判定(6GB VRAM 基準)。モデル名を押すと必要VRAMの詳細が見られます。

モデル	Q4_K_M	Q5_K_M	Q6_K	Q8_0	FP16
Llama 3.2 1B 1.24B	◎ 快適	◎ 快適	◎ 快適	◎ 快適	◎ 快適
MiniCPM5 1B 1.08B	◎ 快適	◎ 快適	◎ 快適	◎ 快適	◎ 快適
LFM2.5 2.6B 2.7B	◎ 快適	◎ 快適	◎ 快適	◎ 快適	× 不可
LFM2.5 8B-A1B 8.47B	× 不可	× 不可	× 不可	× 不可	× 不可
Sarashina 2.2 3B 3.36B	◎ 快適	◎ 快適	△ ぎりぎり	△ ぎりぎり	× 不可
Qwen3.5 4B 4.66B	◎ 快適	◎ 快適	△ ぎりぎり	× 不可	× 不可
Nemotron-3 Nano 4B 3.97B	◎ 快適	◎ 快適	△ ぎりぎり	△ ぎりぎり	× 不可
Llama 3.1 8B 8.03B	× 不可	× 不可	× 不可	× 不可	× 不可
Llama 3.1 Swallow 8B 8.03B	× 不可	× 不可	× 不可	× 不可	× 不可
Bonsai 8B (1-bit) 8.19B	◎ 快適 Q1_0のみ
Ternary-Bonsai 8B (三値) 8.19B	◎ 快適 Q2_0のみ
MiniCPM-V 4.6 1.3B	◎ 快適	◎ 快適	◎ 快適	◎ 快適	◎ 快適
Qwen3.5 9B 9.65B	× 不可	× 不可	× 不可	× 不可	× 不可
Ornith 1.0 9B 9.41B	× 不可	× 不可	× 不可	× 不可	× 不可
Gemma 4 12B 12B	× 不可	× 不可	× 不可	× 不可	× 不可
Qwen2.5 14B 14.8B	× 不可	× 不可	× 不可	× 不可	× 不可
DeepSeek R1 Distill Qwen 14B 14.8B	× 不可	× 不可	× 不可	× 不可	× 不可
gpt-oss 20B 21.51B	× 不可	× 不可	× 不可	× 不可	× 不可
Mistral Small 3.2 24B 23.6B	× 不可	× 不可	× 不可	× 不可	× 不可
Gemma 4 26B-A4B 26.54B	× 不可	× 不可	× 不可	× 不可	× 不可
Gemma 4 31B 31.27B	× 不可	× 不可	× 不可	× 不可	× 不可
Qwen3.6 27B 27.78B	× 不可	× 不可	× 不可	× 不可	× 不可
Fara 1.5 27B 27.36B	× 不可	× 不可	× 不可	× 不可	× 不可
Bonsai 27B (1-bit) 27.78B	△ ぎりぎり Q1_0のみ
Ternary-Bonsai 27B (三値) 27.78B	× 不可 Q2_0のみ
EXAONE 4.5 33B 34.35B	× 不可	× 不可	× 不可	× 不可	× 不可
GLM-4.7-Flash 31B-A3B 31.2B	× 不可	× 不可	× 不可	× 不可	× 不可
Qwen2.5 32B 32.8B	× 不可	× 不可	× 不可	× 不可	× 不可
Qwen3 Swallow 32B 32.8B	× 不可	× 不可	× 不可	× 不可	× 不可
Qwen3.5 35B-A3B 35.95B	× 不可	× 不可	× 不可	× 不可	× 不可
Qwen3.6 35B-A3B 35.95B	× 不可	× 不可	× 不可	× 不可	× 不可
Muse Glimmer 30B 29.78B	× 不可	× 不可	× 不可	× 不可	× 不可
Nemotron-3.5 Lightning 30B-A3B 31.58B	× 不可	× 不可	× 不可	× 不可	× 不可
Llama 3.3 70B 70.6B	× 不可	× 不可	× 不可	× 不可	× 不可
Qwen3-Coder-Next 80B-A3B 79.7B	× 不可	× 不可	× 不可	× 不可	× 不可
GLM-5.2 753B	× 不可	× 不可	× 不可	× 不可	× 不可
DeepSeek-R1 684.53B	× 不可	× 不可	× 不可	× 不可	× 不可
Solar Open 2 250B 250.29B	× 不可	× 不可	× 不可	× 不可	× 不可
DeepSeek-V4-Flash 304.18B	× 不可	× 不可	× 不可	× 不可	× 不可
Step-3.7-Flash 201.37B	× 不可	× 不可	× 不可	× 不可	× 不可
MiniMax-M2.7 228.7B	× 不可	× 不可	× 不可	× 不可	× 不可
Qwen3.5 397B-A17B 403.4B	× 不可	× 不可	× 不可	× 不可	× 不可
Nemotron-3 Super 120B-A12B 123.61B	× 不可	× 不可	× 不可	× 不可	× 不可
DeepSeek-V4-Pro 1598.84B	× 不可	× 不可	× 不可	× 不可	× 不可
Qwen3.8 2.4T-A95B 2446B	× 不可	× 不可	× 不可	× 不可	× 不可
Kimi K3 2779.93B	× 不可	× 不可	× 不可	× 不可	× 不可
Kimi K2.6 1058B	× 不可	× 不可	× 不可	× 不可	× 不可

必要VRAM = 重み + KVキャッシュ(既定コンテキスト時) + 1.5GB(OS/表示)。△は量子化を下げるかコンテキストを絞れば動作します。

NVIDIA GeForce RTX 2060とは

NVIDIA GeForce RTX 2060はNVIDIAのTuring世代(2018年)のGPUです。VRAM 6GB・メモリ帯域336GB/sで、当サイトが判定に対応する単体GPU 78機種(2016年以降に発売された主要なコンシューマ向け・ノートPC向けGPU)の中で帯域は上位71%に位置します。発売は2019年1月です。TDPは160Wです。この78機種のうち6GBクラスは7機種で、メモリ帯域はその中で1位です。

Tensorコアを積んだ最安ラインとして登場した1枚。のちに12GB版が追加されるなど息の長いモデルで、AI機能付きGPUの入門を担いました。