はじめてのGPU選び(ローカルLLM用)

ローカルLLM用にGPU(グラフィックボード)を選ぶとき、いちばん大事なのはVRAM(ビデオメモリ)の容量です。ゲーム性能や価格より先に、まずここを見ます。専門知識がなくても選べるよう、目安を整理します。

なぜVRAMが最優先なのか

AIモデルは「重み」というデータのかたまりで、これがVRAMに載りきって初めて快適に動きます。載りきらないと動かない(当サイトの×判定)か、非常に遅くなります。つまりVRAMの容量=動かせるモデルの大きさの上限。次に効くのがメモリの速さ(帯域)で、これは生成のスピードに影響します。

容量別のざっくり目安

同じモデルでも量子化(圧縮)を強めれば軽くなります。実際に「どのGPUで何が動くか」は、モデルごと・GPUごとの判定ページ(例: GPU一覧)で確認できます。

失敗しない選び方

1. 今あるPCで足りるか、まず確認 — 買う前にトップの判定で、手元のGPUで何が動くかを見ます。意外と十分なこともあります。
2. 足りなければ、動かしたいモデルから逆算 — 「27Bを動かしたい」なら24GB級、というようにVRAMから選びます。各GPUの実力はGPUページに判定と速度目安があります。
3. 中古も選択肢 — VRAMの大きい前世代GPUは、価格対容量で有利なことがあります。

「GPUは買わずに」という手も

高いGPUを買う前に試したいなら、クラウドGPUを時間貸しで借りる方法があります。大きいモデルの手応えを確かめてから、本当に必要なVRAMを見極める——という順番なら、買い物で失敗しにくくなります。ローカルとクラウドの向き不向きはこちらの比較で。

関連用語

• VRAM(ビデオメモリ) — GPUに載っている専用メモリ。ローカルLLMで動くモデルの大きさを決める最重要スペック
• メモリ帯域(メモリバンド幅) — メモリを毎秒何GB読み書きできるか。ローカルLLMの生成速度を事実上決めるスペック
• 量子化とGGUF — モデルを小さく圧縮して少ないVRAMで動かす技術。Q4_K_M などの記号の読み方
• クラウドとローカル、どっちで始める? — AIを自分のPCで動かすか、借りて動かすか。手軽さ・費用・プライバシーで選ぶ

参考資料(出典)

• https://www.techpowerup.com/gpu-specs/
• https://github.com/ggml-org/llama.cpp

▶ あなたのPCで動くモデルを自動判定する(スペック送信なし・ブラウザ内完結)