TDP(熱設計電力)

GPUを買わずに、大きいモデルを動かす — クラウドGPUという選択肢(仕組みと手順の解説へ)

TDP(Thermal Design Power/熱設計電力)は、冷却システムが処理できるべき発熱量として設計された枠のことです。ワット(W)で表されるため「消費電力」と混同されがちですが、厳密には熱の設計値であって、実際の消費電力が常にこの値になるわけではありません。当サイトの各GPUページに記載しているTDPは TechPowerUp GPU Database の値です。

「TDP」はベンダーごとに意味が少しずつ違う

蘊蓄として知っておくと役立つのが、各社の呼び方の違いです。NVIDIAはボード全体の電力枠をTGP(Total Graphics Power)、AMDはTBP(Typical Board Power)と呼ぶことがあり、チップ単体か、メモリやファンまで含むボード全体かで数字の意味が変わります。メーカー横断で比較するときに「同じ土俵の数字とは限らない」ことは頭の片隅に置いておくと安全です。当サイトでは比較の一貫性のため、出典をTechPowerUpに統一しています。

LLM推論はTDPまで使い切らないことが多い

ここがローカルLLM的に面白いところです。文章の生成(1トークンずつ出力する段階)は、計算そのものよりメモリ帯域がボトルネックになります(仕組みはKVキャッシュの項を参照)。つまり演算器が待ち時間だらけになるため、生成中の実消費電力はTDPを大きく下回ることが多いのです。ゲームや機械学習の学習(トレーニング)のように演算器を使い切る負荷とは、電力の使い方の性格が違います。

一方で、長いプロンプトを一括で読み込む段階(プリフィル)は演算律速に近く、瞬間的にはTDP付近まで上がりえます。「チャットの待ち時間は静かで、送信直後だけファンが唸る」という体感は、この二段階の性格の違いから来ています。

数字の感覚: 同じ「GPU」でも7倍以上違う

当サイト収録のGPUでも、例えばGTX 1050 TiのTDPは75W、RTX 4070は200W、RTX 4090は450W、RTX 5090は575Wと、実に7倍以上の開きがあります。VRAM容量だけでなく、この電力枠(=必要な電源・冷却・電気代)もGPU選びの実質的な制約です。各GPUページの上部にTDPを記載しているので、比較の目安にしてください。

ノートPC版GPUはTDP枠で性能が決まる

「RTX 4070搭載ノート」のGPUは、デスクトップのRTX 4070と同名でも別物です。ノートでは筐体の冷却能力に合わせて電力枠が大きく絞られ、同じ名前でもメーカー・機種ごとに割り当てワット数が違います。結果として性能も帯域もデスクトップ版より控えめになります — 当サイトがノート版GPUを別エントリとして判定しているのはこのためです。

Apple Siliconが「静かにLLMを動かせる」理由

ユニファイドメモリのMacは、チップ全体の電力枠が単体GPUと桁違いに小さく、ファンレスや薄型筐体でもローカルLLMが動きます。絶対性能では大型GPUに譲る一方、「常時起動でも電気代と騒音が気にならない」という運用面の利点は、毎日使う道具としては無視できない要素です。

電源ユニット選びの考え方

デスクトップでGPUを増強する場合、電源はGPUのTDPだけでなくCPUや他パーツの分も含めて余裕を持たせる必要があります。GPUメーカーは製品ごとに推奨電源容量(システム全体での推奨ワット数)を公表しているので、憶測で決めずにそれに従うのが安全です。TechPowerUpの各GPUページにも推奨電源(Suggested PSU)が載っています。

関連用語

参考資料(出典)

▶ あなたのPCで動くモデルを自動判定する(スペック送信なし・ブラウザ内完結)

📚 ローカルLLMの入門書・ムックをAmazonで探す

上記はアフィリエイトリンクです。経由して課金された場合、当サイトに紹介料が入ります。