4月16日、Baiduの創始者で会長兼最高経営責任者の李彦宏氏はCreate 2024 Baidu AI開発者大会で、Baiduが過去1年間に実践してきた、AIネイティブアプリケーションを開発するための具体的な考え方とツールを共有した。彼は「大言語モデル自体が直接価値を創造するわけではなく、大モデルに基づいて開発されたAI応用こそ、真の市場ニーズを満たすことができる。今日皆さんに共有したいのは、大モデルに基づいてAIネイティブ応用を開発するための具体的な考え方とツールです。これは私たちが過去1年間の実践に基づいて、無数の穴を踏み、高い学費を払って交換したものです」と強調した。
具体的なツールと考え方から、李彦宏は主に3つの内容を共有した：第1はMoEである。将来の大型AIネイティブアプリケーションは基本的にMoEであり、ここで言うMoEは一般的な学術概念ではなく、大小モデルの混用であり、1つのモデルに依存せずにすべての問題を解決する。
2つ目はミニチュアです。小型モデルは推論コストが低く、応答速度が速く、特定のシーンでは微調整された小型モデルの使用効果は大型モデルに匹敵する。これが、ERNIE Speed、ERNIE Lite、ERNIE Tinyの3つの軽量モデルを発表した理由です。私たちは大モデルを通じて、圧縮蒸留して基礎モデルを出し、それからデータを用いて訓練します。これは最初から小モデルを訓練するよりも、効果はずっと良くて、オープンソースモデルに基づいて訓練したモデルよりも、効果はもっと良くて、速度はもっと速くて、コストはもっと低いです。
3つ目はエージェントです。インテリジェントボディは現在非常にホットな話題であり、インテリジェントボディの能力が向上するにつれて、大量のAIネイティブアプリケーションが誕生し続けるだろう。理解、計画、反省、進化を含むエージェントのメカニズムは、機械を人間のように考え、行動させ、複雑なタスクを自主的に遂行し、環境の中で学び続け、自己反復と自己進化を実現することができる。いくつかの複雑なシステムでは、異なるエージェントを相互作用させ、相互協力させ、より高品質にタスクを遂行することもできます。これらのエージェント能力は、開発され、開発者に全面的に開放されています。