金融・会計のためのローカルLLM選び

なぜこの分野でローカルLLMか

顧客の取引情報・与信データ・未公表の財務情報は規制と守秘の対象です。金融機関で生成AIの導入例はありますが、これらの機微情報を外部サービスで処理できるかは別途、法令・監督指針・契約・利用目的・委託先管理等に基づく判断が必要です。要件を満たせない場合は、ローカルまたは閉域構成が有力な選択肢になります。

現状と現実的な構成

日本語の金融特化モデルは限られます。数値の厳密さが要る処理はLLM単独では不確実なため、現実的な構成の一つが『日本語に強い汎用モデル+社内資料を参照させるRAG』と、計算は既存システムに委ねる役割分担です。

この用途で見るべきベンチマーク

日本語能力は Nejumi を目安に。数値の厳密さはLLM単体では測りにくく、計算は既存システムに委ね、RAGで資料参照するのが現実的です(RAGでも正確性は保証されないため原文確認が必要)。

お使いのPC向けの推奨モデル(VRAM容量別)

各VRAM容量で快適に動く範囲から、パラメータ数が最大のモデルを自動で選んでいます — 性能比較の結果ではなく「収まる範囲での最大候補」です(汎用モデル+RAG構成のベースにする想定。モデルが増減すれば自動更新)。

汎用モデル+RAG/ツールという構成について

汎用モデルは、能力を「外付け」して専門用途に使えます。手元の最新文書(社内資料・ガイドライン・過去事例)を参照させて知識を足すのがRAG、検索・計算・API操作などの手順を足すのがツール利用(function calling / MCP / スキル)です。専用にファインチューンするより、資料や道具を差し替えるだけで更新でき、機密も外部に出さずに済みます。ただしローカルの小型モデルはツール活用が苦手なため、参照して答えるだけならRAG中心で小型でも実用、複数手順を計画・実行させたい場合は指示追従の強い中〜大型が必要という違いに注意してください。

ご利用にあたって

本ページはローカルLLM環境の選定情報であり、投資・財務・税務の助言を行うものではありません。

この分野の記述は 2026-07-28 時点の状況に基づく目安です。モデルの状況は変わるため、最新はトップの判定と各モデルページでご確認ください。

▶ お使いのPCで実際に判定する