ローカルLLMの始め方
「ローカルLLMを自分のPCで動かしてみたい。でも何から始めれば?」——このページは、専門知識がなくても大丈夫なように、始め方をいちばん短い道で案内します。難しく感じたら、途中からクラウドで試す道にも切り替えられます。
始める前に知っておくこと(1分)
ローカルLLM(ローカルLLMとは)は、ChatGPTのようなAIを自分のPCの中だけで動かすものです。会話が外部に送られないのが最大の利点で、費用も電気代だけ。必要なのは①ある程度のPC(特にグラフィックボードのメモリ=VRAM)と、②無料ソフト1つ、それだけです。
3ステップで始める
- まず「自分のPCで動くか」を見る — 当サイトのトップを開くと、あなたのGPUを自動で判定して「◎ 動く / △ ぎりぎり / × 載らない」を出します(スペックは送信されません)。◎か△のモデルが候補です。
- 無料ソフトを入れて動かす — 画面派ならLM Studio、コマンド派ならOllama。どちらも入れて数分で、判定が◎のモデルを動かせます。最初は軽いモデル(8B前後・量子化Q4)から始めるのが失敗しないコツです。
- 物足りなくなったら次へ — もっと大きく賢いモデルを動かしたくなったら、GPUを選び直すか、クラウドGPUを時間貸しで借りる道があります。
「難しそう」と感じたら
設定やコマンドでつまずきそうなら、無理にPCで動かさなくても大丈夫です。クラウドGPUなら、環境がまるごと用意された状態で、大きいモデルも今日から試せます(使った時間だけの課金)。「まず触ってみたい」だけなら、これがいちばん早い入口です。どちらが向くかはクラウドとローカルの比較で整理しています。
最初の一台を選ぶなら
これからPCやGPUを用意するなら、鍵はVRAMの容量です。目安ははじめてのGPU選びにまとめました。今あるPCで足りるかは、まずトップの判定で確かめるのが確実です。
関連用語
- ローカルLLMとは — 自分のPCやスマホの中で動かす大規模言語モデル。構成次第で会話を外部に出さずに使える
- Ollama — ローカルLLMを1コマンドで動かせる定番の無料ソフト
- LM Studio — GUIでモデル検索からチャットまで完結する定番ソフト。CLIが苦手ならまずこれ
- クラウドとローカル、どっちで始める? — AIを自分のPCで動かすか、借りて動かすか。手軽さ・費用・プライバシーで選ぶ
参考資料(出典)
▶ あなたのPCで動くモデルを自動判定する(スペック送信なし・ブラウザ内完結)
上記はアフィリエイトリンクです。経由して課金された場合、当サイトに紹介料が入ります。