制御周期(リアルタイム推論)

制御周期(リアルタイム推論)は、ロボットのようなフィジカルAIが動き続けるために「毎秒N回、締切(たとえば33ミリ秒)以内に推論を返し続けなければならない」という要件のことです。テキストのローカルLLMとは判定軸がまったく異なり、当サイトがフィジカルAI(VLA)を通常の判定グリッドに載せていないのはこのためです。

なぜ「速さ」でなく「締切」なのか

チャットのLLMは、多少遅くても答えが返れば実用になります。しかしロボットは物理世界で動き続けるため、制御周期(例: 30Hz=毎秒30回)ごとに「画像→次の行動」を返さないと破綻します — 掴み損ねる、動きがカクつく、といった形で。つまり平均速度ではなく1回ごとのレイテンシが締切を割らないことが要件になります。これがフィジカルAIの「速さ」の正体です。

テキストLLMとの違い(判定軸が逆)

ローカルLLMの生成速度は、1トークンごとに全重みを読み直すメモリ帯域律速でした(だから当サイトは帯域を重視します)。一方VLA(Vision-Language-Action)は小さいモデルに毎フレーム画像を通すため、効くのは帯域より演算スループットと単発レイテンシです。結果として、同じGPUでもテキストLLMとVLAで有利・不利の序列が変わりえます。

緩和策: 非同期推論

締切を守る工夫として非同期推論があります。次の行動を「今の行動を実行している間に」先回りして計算しておく方式で、SmolVLAはこれで応答性を改善しています(公表値: 1チャンク13.75秒→9.7秒、スループット2倍)。層のスキップなど、モデル側の軽量化と組み合わせて締切に間に合わせます。

だからブラウザからは判定できない

当サイトはブラウザでGPU名を読み、VRAMや帯域をDBから引いて判定します。しかし「そのGPUで何Hz出るか」は演算スループット・カメラ解像度・バッチ数・ランタイム最適化に依存し、GPU名だけからは原理的に算出できません。加えてVLAはブラウザでは動かず(ロボット用ランタイム前提)、実測しても「その1構成」の値しか出ず一般化しにくいものです。そのため当サイトのフィジカルAIページは判定グリッドを置かず、公表・実測された事実のみを記載する方針にしています。動向はジャンル別の週次データレポートで追っています。

参考資料(出典)

▶ あなたのPCで動くモデルを自動判定する(スペック送信なし・ブラウザ内完結)

📚 ローカルLLMの入門書・ムックをAmazonで探す

上記はアフィリエイトリンクです。経由して課金された場合、当サイトに紹介料が入ります。