9月25日、2024百度雲智大会が北京で開催された。百度の創始者である李彦宏氏は、「スマートボディはPC時代のウェブサイト、セルフメディア時代のアカウントに相当し、敷居が十分に低いのが最も明らかな特徴だが、天井が十分高く、非常に複雑で非常に強力なアプリケーションを作ることができ、将来は数百万レベルのスマートボディが出現し、巨大な製品生態を形成するだろう」と述べた。
エージェントを生成するにはAIのインフラが必要です。今回の大会では、百度知能クラウドはそれぞれ計算力、モデル、AI応用に対して、百舸AI異種計算プラットフォーム4.0、千帆大モデルプラットフォーム3.0の2大AIインフラを全面的にアップグレードし、コードアシスタント、スマートカスタマーサービス、デジタル人間の3大AIネイティブ応用製品をアップグレードした。
百度グループ執行副総裁、百度スマートクラウド事業群総裁の沈震氏は、アップグレードの具体的な効果と実現の技術原理を詳しく紹介した。例えば、モデル訓練段階では、安定性と効率性はGPUクラスタレベルを測定する「ハード指標」であり、1枚のGPUに障害が発生するとクラスタ全体が停止し、大量の時間、コストが障害回復とデータロールバックに浪費される。これにより、百舸AI異種コンピューティングプラットフォーム4.0はこの難題を克服し、万カードクラスタ上で有効な訓練時間が99.5%以上を占めていることを実現した。その技術原理は、百舸4.0はクラスタの状態を自動的にスクリーニングし、GPU障害を事前に予測し、適時に作業負荷を転送し、それによって故障の発生頻度を下げることができる。
沈震氏によると、大モデルと組み合わせられた計算力管理プラットフォーム、モデル、応用開発プラットフォームは、急速に次世代インフラになりつつあるという。