金融・会計のためのローカルLLM選び
なぜこの分野でローカルLLMか
顧客の取引情報・与信データ・未公表の財務情報は規制と守秘の対象で、外部AIに送れません。規制対応の観点でもローカル処理が求められます。
今の最適解
日本語の金融特化モデルは限られます。数値の厳密さが要る処理はLLM単独では不確実なため、現実的な最適解は『日本語に強い汎用モデル+社内資料を参照させるRAG構成』と、計算は既存システムに委ねる役割分担です。
お使いのPC向けの推奨モデル(VRAM容量別)
各VRAM容量で快適に動く範囲から、この分野に向くモデルを自動で選んでいます(モデルが増減すれば自動で更新されます)。
| VRAM | 推奨モデル | 種別 |
|---|---|---|
| 8GB | Sarashina 2.2 3B 3.36B | 専用 |
| 12GB | Llama 3.1 Swallow 8B 8.03B | 専用 |
| 16GB | Llama 3.1 Swallow 8B 8.03B | 専用 |
| 24GB | Llama 3.1 Swallow 8B 8.03B | 専用 |
汎用モデル+RAGという構成について
RAG(検索拡張生成)は、モデルに手元の最新文書(社内資料・ガイドライン・過去事例)を参照させる仕組みです。知識を焼き付けるファインチューンと違い、資料を差し替えるだけで最新の内容を反映でき、機密文書も外部に出さずに扱えます。詳しくは用語集をご覧ください。
ご利用にあたって
本ページはローカルLLM環境の選定情報であり、投資・財務・税務の助言を行うものではありません。
この分野の記述は 2026-07-26 時点の状況に基づく目安です。モデルの状況は変わるため、最新はトップの判定と各モデルページでご確認ください。