AI工場の新指標「トークン/ワット」―電力効率がAIの原価を決める時代へ

この記事を読むのにかかる時間： 6 分

この記事のポイント ✓NVIDIAは9月15日開幕のAI Infra Summitで、AIファクトリーの効率指標として「トークン/ワット」「トークン/メガワット」を前面に打ち出した ✓電力最適化ソフトDSX MaxLPSの初の実証で、クラウド事業者Lambdaは同じ電力枠のままトークン処理量を24％増やし、電力あたり性能を23％改善 ✓次世代Vera Rubin NVL72では、同じ電力枠で最大40％多くのGPU（最大1.4倍のトークン/メガワット）を可能にするとNVIDIAは説明 ✓ただし効果はワークロードや条件に依存する。指標の意味と限界を理解した上で、電源・冷却・計測・運用ソフトの商機として読むべき

2026年9月15日、米サンタクララで開幕したAI Infra Summit（9月15〜17日）に合わせ、NVIDIAはAIファクトリーの効率を「tokens per watt（トークン/ワット）」「tokens per megawatt（トークン/メガワット）」で測る考え方を前面に打ち出した。ハイパースケール・HPC担当VPのイアン・バック氏が基調講演に立ち、AIインフラの評価軸がピーク演算性能から「1メガワットあたりに生成できる有効なトークン数」へ移りつつあると強調した。

裏付けとして示されたのが、電力最適化ソフトウェア「DSX MaxLPS」の初の実証結果である。AIクラウド事業者のLambdaは、NVIDIA Blackwellサーバー16ノード分の電力枠のまま、19ノードを約85％出力で運転する構成に切り替え、クラスタ全体のトークン処理量を約400万トークン/秒から約500万トークン/秒へ24％増やし、電力あたり性能を23％改善した。ハードウェアの追加購入はゼロだ。

なぜ「トークン/ワット」なのか。本稿では指標の意味、実証結果の読み方、限界、そして日本企業への示唆を解説する。

1. なぜ電力が「ものさし」になったのか

図1：AI工場のものさしの変化。ピーク性能から電力あたり生産量へ

AIデータセンターの制約は、この2年で「GPUをいくつ調達できるか」から「電力を何メガワット確保できるか」へ移った。電力契約と系統接続には年単位の時間がかかるため、多くのAIファクトリーでは電力枠が事実上の固定資源になる。枠が固定なら、収益を増やす方法は「同じ電力でより多くのトークンを生産する」ことしかない。

もう一つの背景は、ワークロードの多様化だ。学習は長時間の連続高負荷、推論は変動する大量リクエスト、エージェント型AIは複数回の推論の連鎖と、電力の使い方がまるで違う処理が同じ工場に同居するようになった。ピーク消費電力に合わせて設備を設計すると、実運用では電力枠に「使い残し」が生まれる。この余り（ヘッドルーム）をソフトウェアで回収し、より多くの計算機を動かすことが、DSX MaxLPSのような電力最適化の狙いである。

2. 実証の中身：同じ電力で24％多く生産する

図2：Lambdaでの初実証。ノードを増やしつつ出力を抑え、合計の生産量を上げる

Lambdaの実証が示したのは単純だが強力な原理だ。GPUは定格の100％で回すより、少し出力を抑えたほうが電力効率（仕事量/ワット）が良い。そこで、16ノードをフルパワーで回す代わりに、同じ電力枠で19ノードを約85％出力で回す。1台あたりは遅くなるが、台数が増えるためクラスタ合計の生産量は24％増える。工場にたとえれば、機械を全力運転で16台動かすより、8割運転で19台動かすほうが工場全体の生産量が多い、という話である。

NVIDIAはさらに、2027年に展開が本格化する次世代システムVera Rubin NVL72では、DSX MaxLPSによって同じメガワット枠で最大40％多くのGPU容量を組み込める――すなわち最大1.4倍のトークン/メガワットを実現できると説明した。学習と推論で電力の使い方が異なることを利用し、工場全体で電力を動的に配分するのがポイントだ。

3. 技術的意味：AI半導体は運用ソフトと一体の商品になる

この発表の本質は、AI半導体の価値がハードウェア単体からソフトウェア込みの「工場運営能力」へ広がったことにある。これまでAIインフラはFLOPS（演算性能）、HBM容量、GPU台数で語られてきた。しかし電力枠が固定資源になると、スケジューラ、電力配分、冷却制御、ワークロード配置といった運用ソフトが、実質的な生産能力を左右する。

これはNVIDIAの競争戦略でもある。同じGPUを買っても、DSXのような運用基盤を使うかどうかで工場の収益性が変わるなら、顧客はプラットフォームから離れにくくなる。AI半導体の競争は、チップ→ラック→データセンター→電力網へと、システムの階層を上りながら続いている。もう一つ見逃せないのは「トークン/ワットは品質を測らない」という限界だ。低品質な出力を大量に生成しても事業価値はない。実務では、精度、遅延、安定性、コストと合わせた多面的な評価が必要になる。

4. 日本企業への示唆：電力効率競争は部材・計測の需要を生む

トークン/ワット競争は、日本企業の得意領域に直結する。第一に電力変換。受電から48V直流、チップ直近の電圧変換まで、変換段数ごとの損失を削る高効率パワー半導体、電源モジュール、コンデンサ、磁性部品の需要が増す。第二に冷却。出力を細かく制御する運転は温度管理と一体であり、液冷部材、TIM、冷却液、ポンプ、熱設計の価値が上がる。

第三に計測。電力をソフトで最適化するには、ラック内の電力・温度・流量をリアルタイムに測るセンサーとテレメトリが前提になる。「測れないものは最適化できない」ため、計測器・センサーは電力効率競争の隠れた必需品だ。第四に、データセンターの電力品質・絶縁・コネクタといった信頼性部材。1.4倍の高密度化は、これら周辺部材への要求を確実に引き上げる。

5. 読み方の注意：指標ブームと実務を区別する

新しい指標が打ち出されるとき、業界には一種のブームが起きる。注意すべきは、トークン/ワットがNVIDIAのプラットフォーム優位を示すために設計された土俵でもあることだ。ベンチマークの条件、対象ワークロード、比較相手の構成を確認せずに数字だけを比較すると、判断を誤る。

一方で、指標の背後にある構造変化――電力が固定資源になり、電力あたり生産量が収益を決める――は、NVIDIAに限らずAIインフラ全体に共通する現実である。競合のチップも、クラウド各社の自社チップも、同じものさしで評価される時代に入る。企業がすべきことは、指標の宣伝と実務を区別しつつ、自社の製品・サービスが「顧客のトークン/ワットをどう改善するか」を語れるようになることだ。

AIの原価は「電力×運用」で決まる

NVIDIAがトークン/ワットを前面に出したことは、AIサービスの原価が電力と運用効率で決まる時代の到来を示す。GPUのピーク性能競争は続くが、事業の勝敗を分けるのは、固定された電力枠からどれだけの有効なトークンを生み出せるかである。

日本企業は、AI半導体需要を電源、冷却、計測、部材、運用まで広げて捉えるべきだ。「電力効率を1％改善する技術」は、GW級のAIファクトリーでは巨大な経済価値になる。

用語解説

用語	解説
トークン	生成AIが文章・コードを処理する最小単位。AIサービスの課金単位でもあり、AIファクトリーの「生産物」に相当する。
tokens per watt／per megawatt	電力1ワット（または1メガワット）あたりのトークン処理量。AIインフラの生産効率を示す新しい指標。
DSX MaxLPS	NVIDIAのAIファクトリー向け電力最適化技術。工場全体で電力を動的に配分し、同じ電力枠での生産量を高める。
Vera Rubin NVL72	NVIDIAの次世代ラックスケールAIシステム。2027年に展開が本格化する見込み。
電力ヘッドルーム	ピーク設計と実運用の差として生じる電力枠の「使い残し」。ソフトウェアで回収する対象になる。
FLOPS	1秒あたりの浮動小数点演算回数。従来の演算性能指標だが、電力制約下では単独では工場の収益性を示せない。
テレメトリ	電力・温度・稼働状況などを遠隔で常時計測・収集する仕組み。電力最適化の前提となるデータ基盤。
AI Infra Summit	米サンタクララで開かれるAIインフラ専門のカンファレンス。2026年は9月15〜17日開催で参加者は8,000人超と報じられた。

参考リンク（出典）

• NVIDIA Blog：AI Infra Summit: NVIDIA Vera Rubin and DSX Platform Advancements Showcase Energy Efficiencies of Optimizing Tokens Per Watt for AI Factories（2026年9月15日）
• NVIDIA：AI Infra Summit特設ページ（9月15〜17日）
• Unite.AI：NVIDIA Reports Early Production Results for DSX AI Factory Platform
• wccftech：NVIDIA’s DSX MaxLPS Drives 40% More Token Throughput Per Megawatt

本記事は公開情報（各社プレスリリース、決算資料、報道）に基づき、SEMICON.TODAY編集部が作成した。
数値は発表時点のものであり、為替換算は概算。投資判断の勧誘を目的とするものではない。