B300 (Blackwell Ultra)

B300(Blackwell Ultra)は、NVIDIAのデータセンター向けGPUです。288GBのHBM3Eメモリ、メモリ帯域8TB/s、第5世代Tensor Coreを640基搭載します。個人が机に置く製品ではなく、クラウドGPUを借りたときに向こう側にいるハードウェアです。当サイトの判定表で「どのGPUでも×」になる巨大モデルは、この階層のために作られています。

桁が2つ違う

当サイト収録で最大のコンシューマGPUはRTX 5090の32GBです。B300はその9倍のメモリを1基に載せています。帯域も1,792GB/sに対して8TB/s(約4.5倍)です。前世代のB200(192GB)と比べても、メモリ容量とNVFP4演算性能がそれぞれ1.5倍に引き上げられており、NVFP4での密行列演算は15 PFLOPSとされています。

それでも1基では足りない

スケール感を掴むには、当サイトの計算式を当てはめるのが早道です。Kimi K3(総パラメータ2,779.93B)をQ4_K_M相当に換算すると、重みだけで約1,685GB。288GBのB300でも6基分で、しかもこれはKVキャッシュを除いた重みだけの話です。GB300 NVL72のように72基を1つのラックにまとめた製品が存在するのは、フロンティア級モデルがこの規模を要求するからです。

速度は「演算」ではなく帯域で伸びる

同じ Qwen3 32B(Q4_K_M、重み約19.9GB)で比べると、RTX 5090が約90トークン/秒、B300の8TB/sを同じ式に入れると約400トークン/秒です。差は約4.5倍——これは帯域比そのもので、演算性能の差ほどには開きません。1人ぶんの生成が帯域律速だからです(理由はTensor Coreの項)。データセンターGPUの真価は、この速度よりも「載る容量」と「何十人ぶんも同時に捌けること」にあります。

ローカル勢にとっての意味

B300を買う話ではありません。意味があるのは「手元で×判定になったモデルを、時間貸しで試せる」という点です。数百GB級のモデルは個人のPCでは原理的に載らないので、選択肢は「諦める」か「借りる」かのどちらかになります。クラウドGPUという選択肢とRunPodの始め方で、実際の借り方と料金の考え方を説明しています。なお時間貸しで最上位機が常に空いているとは限らず、実際に借りられる機種は提供事業者と時期によって変わります。

関連用語

• Tensor Core — 行列積専用の演算ユニット。ただし1人ぶんの生成速度は帯域で決まる
• NVFP4 — NVIDIA版のFP4。ブロック16・E4M3スケールで精度を取り、実効4.5bit
• VRAM(ビデオメモリ) — GPUに載っている専用メモリ。ローカルLLMで動くモデルの大きさを決める最重要スペック

参考資料(出典)

• https://developer.nvidia.com/blog/inside-nvidia-blackwell-ultra-the-chip-powering-the-ai-factory-era/
• https://www.nvidia.com/en-us/data-center/gb300-nvl72/

▶ あなたのPCで動くモデルを自動判定する(スペック送信なし・ブラウザ内完結)