9月25日、百度スマートクラウドは2024百度クラウドスマート大会で、計算力、モデル、AI応用に対して、百舸AI異種計算プラットフォーム4.0、千帆大モデルプラットフォーム3.0の2大AIインフラを全面的にアップグレードし、コードアシスタント、スマートカスタマーサービス、デジタル人間の3大AIネイティブ応用製品をアップグレードすると発表した。
「2024年の大モデルの産業定着は加速しており、現在、千帆大モデルプラットフォームでは、文心大モデルの1日平均使用量は7億回を超え、累計でユーザーが3万個の大モデルを精緻に調整し、70万以上の企業レベルの応用を開発するのを助けている。過去1年間、文心旗艦大モデルの値下げ幅は90%を超え、主力モデルは全面的に無料で、企業革新試行錯誤のコストを最大限に削減した」と百度グループ執行副総裁、百度スマートクラウド事業群総裁の沈震氏は述べ、大モデル及び関連する計算力管理プラットフォーム、モデルと応用開発プラットフォームは、急速に新しいインフラストラクチャになりつつあると述べた。
大きな計算力は大きなモデルの着地の基礎条件である。紹介によると、企業の着地大モデルのクラスタ作成、開発実験から、モデル訓練、推理までの全旅程計算力の需要を満たすために、超大規模GPUクラスタの高コスト、難運営の2つの挑戦に対応して、百度スマートクラウドは百舸AI異性計算プラットフォーム4.0をアップグレードし、万カード、十万カードクラスタに向けて計算力管理能力を全面的にアップグレードした。
その中で、クラスタの作成段階では、企業は一般的に複雑で、こまごました計算力の配置と調整を行う必要があります。百舸4.0は主流の大モデル訓練ツールを事前に設置し、ツールレベルの秒級配置を実現することができ、そして万カードクラスタの運行準備時間を数週間から1時間に短縮し、配置効率を大幅に向上させ、業務のオンラインサイクルを短縮する。
開発実験段階では、企業は業務目標に対して異なるアーキテクチャ、パラメータのモデルを複数回テストし、さらに最適なモデル訓練戦略を制定し、後続の訓練の性能と効果を保障する必要がある。百舸4.0の新たにアップグレードされた視覚的な測定可能な大皿は、多芯適合、クラスタ効率、タスク自動フォールトトレランスなどの方面に対して全方位の監視測定を行うことができ、直感的な決定根拠を提供し、ユーザーが全体のプロジェクトをよりよく制御するのを支援する。
現在、百舸は万カードクラスタ上で有効な訓練時間が99.5%以上を占め、業界をリードし、顧客の計算力と時間コストを大幅に節約した。また、百舸4.0はクラスター設計、タスクスケジューリング、並列戦略、グラフィックメモリ最適化などの一連の革新を通じて、クラスターのモデル訓練効率を大幅に向上させ、全体の性能は業界平均レベルより30%向上した。
また、企業の顧客のモデルコール、モデル開発、アプリケーション開発に対する需要を満たすために、百度スマートクラウドは千帆大モデルプラットフォーム3.0を発表した。モデル呼び出しの面では、アップグレードされた千帆プラットフォームは、文心シリーズの大モデルを含む100近くの国内外の大モデルを呼び出すことができるだけでなく、音声、視覚などの様々な伝統的な小モデルを呼び出すこともサポートしている。モデルの種類を拡大すると同時に、百度スマートクラウドはモデル呼び出しコストを削減し続けている。
ツールプラットフォームの整備が進み、過去1年間の大モデル産業の着地の爆発的な成長も促進された。千帆プラットフォームには製造、エネルギー、交通、政務、金融、自動車、教育、インターネットを含む8つの業界ソリューションが沈殿している。