自治体・公共のためのローカルLLM選び

なぜこの分野でローカルLLMか

住民の個人情報・調達関連情報の取り扱いや、外部接続を制限するネットワーク要件(エアギャップ/閉域運用)から、完全にローカルで完結する構成が求められます。

今の最適解

行政特化モデルは実質存在しません。最適解は『日本語に強い汎用モデル+例規・要綱・過去文書を参照させるRAG構成』を、外部通信を遮断した閉域環境で運用することです。当サイトの判定は、その閉域PCで動くモデルの目安に使えます(判定もブラウザ内で完結し、スペックは送信されません)。

お使いのPC向けの推奨モデル(VRAM容量別)

各VRAM容量で快適に動く範囲から、この分野に向くモデルを自動で選んでいます(モデルが増減すれば自動で更新されます)。

VRAM推奨モデル種別
8GBSarashina 2.2 3B 3.36B専用
12GBLlama 3.1 Swallow 8B 8.03B専用
16GBLlama 3.1 Swallow 8B 8.03B専用
24GBLlama 3.1 Swallow 8B 8.03B専用

汎用モデル+RAGという構成について

RAG(検索拡張生成)は、モデルに手元の最新文書(社内資料・ガイドライン・過去事例)を参照させる仕組みです。知識を焼き付けるファインチューンと違い、資料を差し替えるだけで最新の内容を反映でき、機密文書も外部に出さずに扱えます。詳しくは用語集をご覧ください。

ご利用にあたって

本ページはローカルLLM環境の選定情報です。個人情報の取り扱いは各自治体の規程・関係法令に従ってください。

この分野の記述は 2026-07-26 時点の状況に基づく目安です。モデルの状況は変わるため、最新はトップの判定と各モデルページでご確認ください。

▶ お使いのPCで実際に判定する