VRAM(ビデオメモリ)

VRAM(ビデオメモリ)は、GPUに直付けされた専用の高速メモリです。ローカルLLMでは「どの大きさのモデルが動くか」を決める最重要スペックで、当サイトの判定もVRAM容量を軸に計算しています。

なぜLLMはVRAMを大量に使うのか

LLMの実行中、VRAMには主に2つのものが載ります:

• モデルの重み — パラメータ数×精度で決まる本体。例えば8BモデルをQ4_K_M量子化で動かすと約5GB、無圧縮(FP16)なら約16GBです。
• KVキャッシュ — 会話の文脈(コンテキスト)を覚えておく作業領域。文脈が長いほど増えます。

当サイトの必要VRAMは「重み+KVキャッシュ+約1.5GB(OS・画面表示のぶん)」で計算しています。モデルごとの実数は各モデルページ(例: Llama 3.1 8B)で確認できます。

容量クラス別の目安(Q4_K_M量子化・当サイトの判定式から導出)

この表は当サイトの判定式(必要VRAM≦利用可能×0.9で◎)をそのまま適用した結果で、判定表とズレません。正確な判定はトップページの自動判定で(GPUごとの解説はGPUページにもあります)。

VRAMとふつうのメモリ(RAM)の違い

RAM(メインメモリ)はCPU用、VRAMはGPU用です。ただし例外が2つあります: Macのユニファイドメモリは両者が一体で、搭載メモリの大部分をモデルに使えます。また内蔵GPUはRAMを共有しますが、帯域が狭いため速度は控えめです(当サイトはこの差も判定に反映しています)。VRAMが足りない場合、RAMへ溢れさせる「CPUオフロード」でも動きますが大幅に遅くなります。

自分のVRAMを確認するには

当サイトのトップページを開くだけです — GPU名から自動で判定します。手動で確かめたい場合は、Windowsならタスクマネージャーの「パフォーマンス > GPU」の「専用GPUメモリ」欄でも確認できます。

足りないと分かったら: GPUの買い替え(各GPUページに目安あり)か、クラウドGPUを借りるのが現実的な選択肢です。

関連用語

• 量子化とGGUF — モデルを小さく圧縮して少ないVRAMで動かす技術。Q4_K_M などの記号の読み方
• KVキャッシュ — 会話の文脈を保持する作業メモリ。GQA・MLA・ハイブリッド注意でサイズが数十倍変わる
• ユニファイドメモリ — CPUとGPUがメモリを共有する方式。Macが大型モデルに強い理由と、スマホ・内蔵GPUの注意点
• CPUオフロード — VRAMに載りきらない分をメインメモリへ逃がして動かす技術。動くが遅くなる

参考資料(出典)

• https://www.techpowerup.com/gpu-specs/

▶ あなたのPCで動くモデルを自動判定する(スペック送信なし・ブラウザ内完結)