最近、「英偉達H 100 GPUの海外賃貸料価格が2ドル/時間に引き下げられた」という記事が急速に国内に広がり、市場でも「計算力バブルが破裂し始めたか」「H 100計算力が香りなくなったか」などの話題が相次いでいる。
これまで米国のAI推論サービスプロバイダFeatherless.AIの共同創業者であるEugene Cheah氏は、最近、計算力リース業者からの広告メールが頻繁に受信されており、1枚の雄大なH 100 GPUのリース価格は約2ドル/時間に低下し、さらに低くなり、2023年の5ドル/時間程度の市場平均価格に比べてほぼ横ばいだと書いている。
昨年の時点では、4ドル/時間のGPU価格は4年以内に変わらないと予測していたが、1年半もたたないうちに値下げに向かった。
Eugene Cheah氏は、AWS、Meta、グーグルのような大型・中型AIモデル会社は、長期リースを通じて計算力価値を搾取していると述べた。現在、大規模なスマートコンピューティングクラスターを構築する会社でない限り、新しいH 100を購入しないでください。「レンタル力」はより経済的で適用可能な選択です。
市場はH 100の海外値下げの傾向を一般的に認めているが、「2ドル/時間」、さらには「1ドル/時間」と考えている。主にLambda Labsなどの個別のイニシアティブリース会社が顧客を誘致するために販促を行っており、市場の平均価格水準を反映することはできない。
インタフェース新聞記者がアマゾンのAWSクラウドサービスプラットフォームの公式サイトを見たところ、ショートレンタルとロングレンタルの異なる条件に基づいて、1台のサーバー8枚のGPUで換算すると、H 100の最新価格は12ドル/時間（1年レンタルで契約）、5ドル/時間（3年レンタルで契約）の2種類の異なるランクがあることが分かった。別のクラウドメーカーグーグルクラウドの類似製品の価格も10ドル前後。
国内のAIコンピューティングレンタル事業に従事するある業界人は、インタフェースの記者に、海外のH 100値下げの論理は理解しやすいと伝えた。英偉達のGPU新品H 200、B 200が今年続々と発売を開始するにつれて、新品の性能はより強く、平均的に計算するとH 100コンピューティングコストは相対的に低く、従来の旧製品は当然値下げする必要があり、差は値下げ幅と速度にあるだけだ。彼によると、5 ~ 8ドル/時間は、現在の海外主流プラットフォームの価格水準を代表することができ、英偉達がこれまで予測していた製品の価格動向にも合致している。
英偉達の新製品が最近出荷され始めてからも、市場の反応は依然として熱い。
同社の黄仁勲CEOは今月、セミナーに参加した際、B 200 GPUは最近量産納品を開始し、顧客に人気があり、今後12カ月のBlackwellアーキテクチャGPUの注文はすべて売り切れており、新規顧客は2025年まで製品を受け取る必要があると明らかにした。
「国内の状況は海外とは異なり、雄大なハイエンドグラフィックスカードの販売が禁止されているため、新品を手に入れるのは難しく、別の道を歩んでいる」と述べた。上記の関係者は、海外の値下げは国内にほとんど影響を与えず、現段階では、国内のコンピューティングリース市場の最大の問題は供給のバランスが崩れていることにあるとし、「国内のコンピューティング資源は極度に分散しており、多くの場合売り手が買い手を見つけることができず、買い手も売り手を見つけることができない」と述べた。
なぜかというと、国内では現在、計算力資源の総供給が限られており、必要に応じて分配することができないからだ。
インタフェース新聞記者によると、国内でAIモデルを訓練するための計算力資源には、AI GPU H 100、A 100のほか、雄大な消費GPU製品4090、異なるメーカーの国産AI計算力がある。
同時に、国内で計算力レンタルに従事する会社が混在しており、製品サービスと価格は統一基準を欠いており、海外のAWS、グーグルクラウドのように、顧客に標準化レンタルサービスを提供できる会社は少ない。
また、複数の市場関係者がインタフェース新聞記者に対し、国内のコンピューティング資源レンタルのサーバー価格は今年確かに変動していると述べた。H 100サーバー1台で、年初の市場オファーは12万元/年前後で、現在の市価は7万元前後だ。
国内のある地方政府の智算センター建設に参加したある科学技術会社のCEOは、バイト鼓動、アリ、テンセントなどのインターネット大手が掌握している計算力資源は主に自社の大モデルに使用されているため、公開市場に向けてレンタルサービスを提供することは少ないと述べた。現在、市場ではコンピューティング力のリースに従事するほとんどのメーカーがサーバーハードウェアを販売しており、従来のクラウドコンピューティングメーカーのように標準的なサービスを提供し、価格を統一することはできない。
「これらのコンピューティングレンタルサービス業者の多くは、昨年のコンピューティング需要の高騰でAIサーバーの現物を買いだめし、コンピューティングハードウェアを『先物』として炒めている。ハードウェアの元本化を保証するために、彼らは本当に時間単位で柔軟にサービスを提供できることは極めて少なく、多くの注文は1年以上借りなければならず、換算するのは小さなコストではない」。このCEOは、国内市場の値下げが主に影響しているのはこの「投機客」であり、彼らの手にあるハードウェア資産が値下がりしていると考えている。
また、2人のAIサーバーの販売員によりますと、現在、国内の非公開ルートで流通している少量のH 100サーバーは、現品1台あたりの価格が240万元から250万元前後で、昨年の300万元近くの価格より下落しているということです。
上記の科学技術会社のCEOから見れば、H 100の価格変動だけで「計算力バブル崩壊」を予言するのは時期尚早だ。
供給については、Meta、マイクロソフト、テスラのようにすでに数十万枚のH 100 GPUを保有しており、依然として調達を強化し続けている海外の計算力大手に比べて、国内の計算力の総量は限られており、各地では依然として計算センターの建設に拍車をかけている。政府は今年も算力建設への投入方向を「適度にリード」して供給を増やすことを主張している。
需要の角度から見ると、AI大モデルの訓練であれ推理であれ、伝統的な企業がAIを通じて業務の転換を模索することを支持することであれ、先進的な計算力資源は常に市場での「先取り品」である。
「市場には本当に資源があり、コンピューティングセンターを建設する実力がある顧客はまだごく少数で、今年接触した多くの顧客は平価で安定し、必要に応じて呼び出すコンピューティング力に対して極度に渇望している」と同CEOは述べた。