「科創板日報」は7月24日、ザッカーバーグ氏が大模型のオープンソースを最後まで行ったと報じた。
Metaは今日未明、8 B、70 B、405 Bの3つのバージョンを含む次世代オープンソース大モデルLlama 3.1シリーズを正式に発表し、最大コンテキストは128 kに向上した。
Meta創業者のザッカーバーグ氏は同時にホームページで自社モデルの強力な代弁者として投稿した。同氏によると、現在リードしている科学技術会社の多くと科学研究はオープンソースソフトウェアの上に構築されており、オープンソースはAIの前進方向であり、MetaはオープンソースAI業界の標準となる目標に向かっているという。
科学技術界では、開源と閉源の紛争は長い間続いてきたことを強調しなければならない。批判者は、オープンソースは技術の独創性の欠如を覆い隠し、オープンソースモデルを簡単に調整するだけで、実質的な革新ではないと考えている。百度の創始者である李彦宏氏は、開源大モデルは学術研究、教育分野などの特定の場面で存在する価値があるが、ほとんどの応用シーンには適用されないと述べた。支持者は、成熟したオープンソースアーキテクチャに基づくカスタマイズ改善は技術発展の常態であり、技術の急速な革新と進歩を推進することができると考えている。
大モデル分野では、開源と閉源の大モデルの優劣比較も時々発生する。これまで、オープンソースモデルは機能と性能の面で閉鎖モデルに遅れていることが多かった。しかし、Llama 3.1の発表に伴い、大モデルの開源と閉源は新たな激闘を迎えるかもしれない。
Metaが提供する基準テストデータによると、Llama 3.1は4050億のパラメータを持ち、近年最大規模の大言語モデルの1つである。このモデルは15兆個のTokens、1.6万個を超えるH 100 GPU上で訓練を行ったことに基づいており、これもMeta史上初めてこのモデルで訓練を行ったLlamaモデルである。Metaによると、常識、操作性、数学、ツール使用、多言語翻訳などの先進的な機能の面で、Llama 3.1はGPT-4 oやClaude 3.5 Sonnetなどのトップレベルの閉源大モデルを対標するのに十分である。
Llama 3.1は現在、Meta公式サイトとHugging Faceでダウンロードをオープンしている。最新データによると、すべてのLlamaバージョンの総ダウンロード数は3億回を超えている。
同日同じ時間に、英偉達也はグループトレーニングサービスを提供し、Llama 3.1の強力なアシストをした。
「科創板日報」の記者は、英偉達側から、英偉達は正式に新しいNVIDIA AI FoundryサービスとNVIDIA NIM推理マイクロサービスを発売したことを明らかにした。NVIDIA AI FoundryはNVIDIA DGX Cloud AIプラットフォームによって駆動され、このプラットフォームはNVIDIAと共有クラウドによって共同で設計され、企業に大量のコンピューティングリソースを提供することができる。
NVIDIA AI Foundry、NVIDIA NIMを組み合わせたLlama 3.1シリーズのオープンソースモデルを使用して、企業はその特定分野の業界ユースケースのためにカスタム「スーパーモデル」を作成することができます。企業はまた、これらのスーパーモデルを訓練するために、Llama 3.1 405 BおよびNVIDIA Nemotron Rewardモデルによって生成された合成データとともに、自己所有データを使用することができる。
英偉達の創始者兼最高経営責任者の黄仁勲氏は、MetaのLlama 3.1オープンソースモデルは、グローバル企業が生成型AIを採用する正念場が到来したことを示していると述べた。Llama 3.1は各企業と業界が先進的な生成式AI応用を創出する波を巻き起こすだろう。NVIDIA AI Foundryは、Llama 3.1をプロセス全体に統合しており、カスタムLlamaスーパーモデルの構築と導入を支援することができます。