医療・介護のためのローカルLLM選び
なぜこの分野でローカルLLMか
患者情報・カルテは個人情報保護法・守秘義務の対象です。生成AIへの入力が一律に禁止されているわけではありませんが、契約・学習利用の有無・保存先・委託先管理・所属機関の規程を確認する必要があり、要件を満たせない場合はローカルまたは閉域構成が有力な選択肢になります。
現状と現実的な構成
研究用途の日本語医療特化モデル(MedSwallow 等)は公開されていますが、非商用・臨床利用不可などの制約があり、実務でそのまま使えるものは限られます。現実的な構成の一つが『日本語に強い汎用モデル+手元の最新資料を参照させるRAG』です — ファインチューンは知識が固定されますが、RAGなら最新のガイドラインを反映できます。
この用途で見るべきベンチマーク
日本語で使うため、汎用ベンチ(英語中心)より Nejumi など日本語評価を見るべきです。ただし専門知識の正確さはベンチだけでは測りきれず、RAGで最新資料を参照させ、出力は必ず専門家が検証する前提になります。
お使いのPC向けの推奨モデル(VRAM容量別)
各VRAM容量で快適に動く範囲から、パラメータ数が最大のモデルを自動で選んでいます — 性能比較の結果ではなく「収まる範囲での最大候補」です(汎用モデル+RAG構成のベースにする想定。モデルが増減すれば自動更新)。
| VRAM | 推奨モデル | 種別 |
|---|---|---|
| 8GB | Sarashina 2.2 3B 3.36B | 汎用 |
| 12GB | Llama 3.1 Swallow 8B 8.03B | 汎用 |
| 16GB | Llama 3.1 Swallow 8B 8.03B | 汎用 |
| 24GB | GPT-OSS-Swallow 20B 20.91B | 汎用 |
汎用モデル+RAG/ツールという構成について
汎用モデルは、能力を「外付け」して専門用途に使えます。手元の最新文書(社内資料・ガイドライン・過去事例)を参照させて知識を足すのがRAG、検索・計算・API操作などの手順を足すのがツール利用(function calling / MCP / スキル)です。専用にファインチューンするより、資料や道具を差し替えるだけで更新でき、機密も外部に出さずに済みます。ただしローカルの小型モデルはツール活用が苦手なため、参照して答えるだけならRAG中心で小型でも実用、複数手順を計画・実行させたい場合は指示追従の強い中〜大型が必要という違いに注意してください。
ご利用にあたって
本ページはローカルLLM環境の選定情報であり、医療的判断を代替・助言するものではありません。診断・治療は必ず有資格者の判断によってください。
この分野の記述は 2026-07-28 時点の状況に基づく目安です。モデルの状況は変わるため、最新はトップの判定と各モデルページでご確認ください。