スマートフォン / タブレット(機種不明) で動くローカルLLM

上記はアフィリエイトリンクです。経由して購入・課金された場合、当サイトに紹介料が入ります(判定結果には影響しません)。

メモリ方式: ユニファイドメモリ(搭載RAMと共有・下表はRAM容量別) ・区分: スマートフォン / タブレット(共通)

⚠ スマホの判定は容量ベースの目安です。速度は機種(SoC)により大きく変わります。実行には PocketPal AI / MLC Chat などのアプリを使います。

搭載RAM別の動作判定(Q4_K_M 量子化基準)。モデル名を押すと必要VRAMの詳細が見られます。

モデル	RAM 4GB	RAM 6GB	RAM 8GB	RAM 12GB	RAM 16GB	RAM 24GB
Llama 3.2 1B 1.24B	× 不可	△ ぎりぎり	△ ぎりぎり	△ ぎりぎり	△ ぎりぎり	△ ぎりぎり
MiniCPM5 1B 1.08B	× 不可	△ ぎりぎり	△ ぎりぎり	△ ぎりぎり	△ ぎりぎり	△ ぎりぎり
Qwen2.5 0.5B 0.49B	△ ぎりぎり	△ ぎりぎり	△ ぎりぎり	△ ぎりぎり	△ ぎりぎり	△ ぎりぎり
Qwen2.5 1.5B 1.54B	× 不可	△ ぎりぎり	△ ぎりぎり	△ ぎりぎり	△ ぎりぎり	△ ぎりぎり
Gemma 4 E2B 5.12B	× 不可	× 不可	× 不可	△ ぎりぎり	△ ぎりぎり	△ ぎりぎり
LFM2.5 2.6B 2.7B	× 不可	× 不可	△ ぎりぎり	△ ぎりぎり	△ ぎりぎり	△ ぎりぎり
LFM2.5 8B-A1B 8.47B	× 不可	× 不可	× 不可	× 不可	△ ぎりぎり	△ ぎりぎり
Sarashina 2.2 3B 3.36B	× 不可	× 不可	△ ぎりぎり	△ ぎりぎり	△ ぎりぎり	△ ぎりぎり
Qwen3.5 4B 4.66B	× 不可	× 不可	× 不可	△ ぎりぎり	△ ぎりぎり	△ ぎりぎり
Bonsai 8B (1-bit) 8.19B	× 不可	△ ぎりぎり	△ ぎりぎり	△ ぎりぎり	△ ぎりぎり	△ ぎりぎり
MiniCPM-V 4.6 1.3B	× 不可	△ ぎりぎり	△ ぎりぎり	△ ぎりぎり	△ ぎりぎり	△ ぎりぎり
Bonsai 27B (1-bit) 27.78B	× 不可	× 不可	× 不可	△ ぎりぎり	△ ぎりぎり	△ ぎりぎり

必要VRAM = 重み + KVキャッシュ(既定コンテキスト時) + 1.5GB(OS/表示)。△は量子化を下げるかコンテキストを絞れば動作します。

スマートフォン / タブレット(機種不明)でローカルLLMはどこまで動く?

スマホ・タブレットの判定は、搭載RAMとOSが1アプリに許す上限で決まります(ユニファイドメモリの一種です)。速度は機種のSoC次第で大きく変わります。

上記はアフィリエイトリンクです。経由して購入・課金された場合、当サイトに紹介料が入ります(判定結果には影響しません)。