ユニファイドメモリ

GPUを買わずに、大きいモデルを動かす — クラウドGPUという選択肢(仕組みと手順の解説へ)

ユニファイドメモリは、CPUとGPUが同じ物理メモリを共有する方式です。Apple Silicon(Mシリーズ)のMacが代表格で、「VRAMという別枠が存在しない」ことがローカルLLMでは強力な武器になります。一方、同じ共有方式でも内蔵GPUやスマホでは事情が変わります — 当サイトがこれらを別々に判定している理由も含めて解説します。

MacがローカルLLMに強い理由

ディスクリートGPUでは「VRAM 24GBの壁」を超えるには高価なカードが要りますが、Macは搭載メモリの大部分をそのままモデルに使えます。128GBのMacなら70Bクラスがローカルで現実的に動く — これはコンシューマ機では他に選択肢がほぼありません。当サイトの判定では、搭載RAMからOS等の予約分を引いた量を利用可能メモリとして計算します。

もう一つの鍵はメモリ帯域です。生成速度は帯域律速なので、M4 Pro(273GB/s)やM3 Max(400GB/s)のような広帯域構成は、容量だけでなく速度でも優位です。無印Mチップ(約100〜120GB/s)はミドルGPU相当と考えるのが実態に近いです。

同じ「共有」でも別物: 内蔵GPUとスマホ

帯域の目安当サイトの扱い
Apple Silicon100〜800GB/sRAM−予約分で判定。◎あり
内蔵GPU(Iris Xe等)45〜100GB/s容量は同式。ただし帯域60GB/s以下は速度を保証できないため◎を出さない
スマホ45〜75GB/sさらにOSが1アプリの使用量を制限するため、搭載RAM×約50〜55%を上限として判定

スマホの行が特殊なのは、空きメモリがあってもOS(iOSのメモリ強制終了・AndroidのLMK)が単一アプリに全部は使わせないためです。「16GBスマホ=16GB使える」ではありません。

実用の指針

関連用語

参考資料(出典)

▶ あなたのPCで動くモデルを自動判定する(スペック送信なし・ブラウザ内完結)

📚 ローカルLLMの入門書・ムックをAmazonで探す

上記はアフィリエイトリンクです。経由して課金された場合、当サイトに紹介料が入ります。