事前学習とファインチューニング

「このモデルは何がどう訓練されたものなのか」を知っていると、モデル選びの解像度が一段上がります。LLMは事前学習 → 指示チューニング → 好みの調整という工程で育ち、そこからの派生(継続事前学習・蒸留)が、当サイトに並ぶ国産モデルや蒸留モデルの正体です。

工程1: 事前学習(Pre-training)

ウェブ・書籍・コードなど数兆トークン規模のテキストで「次のトークン予測」をひたすら学ぶ工程です。言語の文法も、世界知識も、推論の素地も、ほぼすべてここで身につきます。計算コストは工程全体の圧倒的大部分を占め、数千枚のGPUで数ヶ月 — 個人や中小企業には手が出ない領域で、だからこそMeta・Alibaba・Google等が公開する事前学習済みモデルの存在がローカルLLM文化の土台になっています。この段階の生成物がベースモデルです。

工程2〜3: 指示チューニングと好みの調整

ベースモデルに「指示→模範回答」のペアを追加学習させるのがSFT(指示チューニング)、その出力を人間の好みに寄せるのがRLHF/DPOなどの調整です。データ量は事前学習の千分の一以下でも、振る舞いは劇的に変わります。ここを終えたものが、私たちが実際に使う「-Instruct」版です。

派生1: 継続事前学習 — 国産モデルの主戦法

強力な公開モデル(Llama等)を出発点に、日本語コーパスで事前学習を「続きから」行う手法です。ゼロから作る費用の数十分の一で日本語力を底上げできるため、Swallow(東工大系)をはじめ国産モデルの多くがこの方式です。当サイトの国産モデル欄で「Llamaを日本語継続学習」といった説明が付くのはこの意味です。

派生2: 蒸留 — 大が小を教える

大型モデル(教師)の出力を小型モデル(生徒)に模倣させる手法が蒸留(Distillation)です。DeepSeek-R1-Distill-Qwen-14B のような名前は「R1(大型推論モデル)の思考力をQwen 14Bに蒸留した」という製法表示そのもの。大型機の能力の一部を、手元で動くサイズで使えるため、ローカルLLMと相性の良い技術です。

モデル名は製法表示として読める

Llama-3.1-Swallow-8B-Instruct
 └ Llama3.1ベース → 日本語継続事前学習(Swallow) → 指示チューニング済み → 8B

この読み方ができると、Hugging Faceで未知のモデルに出会っても素性が推測できます。LoRAのような「差分だけ追加学習する」軽量手法もこの延長にあります(画像生成側で特に盛んです)。

参考資料(出典)

▶ あなたのPCで動くモデルを自動判定する(スペック送信なし・ブラウザ内完結)

📚 ローカルLLMの入門書・ムックをAmazonで探す

上記はアフィリエイトリンクです。経由して課金された場合、当サイトに紹介料が入ります。