法務・士業のためのローカルLLM選び

なぜこの分野でローカルLLMか

依頼者情報・契約書・機密書類は守秘義務の対象です。外部AIサービスの利用が一律に禁じられるわけではありませんが、学習利用・アクセス・暗号化・削除・必要に応じた依頼者への説明・同意などを確認したうえで判断する必要があり、要件を満たせない場合はローカルまたは閉域構成が有力です。

現状と現実的な構成

公開されている法務特化モデルの多くは米国法・他国法が対象で、法体系の異なる日本の実務にはそのまま適しません。かつ法令は改定されます。現実的な構成の一つが『日本語に強い汎用モデル+条文・判例・契約書を参照させるRAG』です。

この用途で見るべきベンチマーク

日本語能力は Nejumi で、応答の使い勝手は Chatbot Arena で見るのが目安です。RAGで条文を参照させると根拠を示しやすくなりますが、正確性は保証されません — 検索漏れや誤読、生成時の捏造は残るため、原文確認と有資格者による検証が必要です。

お使いのPC向けの推奨モデル(VRAM容量別)

各VRAM容量で快適に動く範囲から、パラメータ数が最大のモデルを自動で選んでいます — 性能比較の結果ではなく「収まる範囲での最大候補」です(汎用モデル+RAG構成のベースにする想定。モデルが増減すれば自動更新)。

VRAM推奨モデル種別
8GBSarashina 2.2 3B 3.36B汎用
12GBLlama 3.1 Swallow 8B 8.03B汎用
16GBLlama 3.1 Swallow 8B 8.03B汎用
24GBGPT-OSS-Swallow 20B 20.91B汎用

汎用モデル+RAG/ツールという構成について

汎用モデルは、能力を「外付け」して専門用途に使えます。手元の最新文書(社内資料・ガイドライン・過去事例)を参照させて知識を足すのがRAG、検索・計算・API操作などの手順を足すのがツール利用(function calling / MCP / スキル)です。専用にファインチューンするより、資料や道具を差し替えるだけで更新でき、機密も外部に出さずに済みます。ただしローカルの小型モデルはツール活用が苦手なため、参照して答えるだけならRAG中心で小型でも実用、複数手順を計画・実行させたい場合は指示追従の強い中〜大型が必要という違いに注意してください。

ご利用にあたって

本ページはローカルLLM環境の選定情報であり、法的判断を代替・助言するものではありません。法的な判断は必ず有資格者にご相談ください。

この分野の記述は 2026-07-28 時点の状況に基づく目安です。モデルの状況は変わるため、最新はトップの判定と各モデルページでご確認ください。

▶ お使いのPCで実際に判定する