オープンソースの大モデルコースは重量ポンドの新製品を迎えている。
グーグルは現地時間2月21日、開発者や研究者が責任を持って人工知能を構築するための新しいオープンソース大言語モデル（LLM）「Gemma」を正式に発表した。
紹介によると、Gemmaの大モデルはグーグル最大規模で最も能力の高い人工知能モデルGeminiと技術とインフラストラクチャを共有しており、「Geminiに触発され、Google DeepMindとGoogleの他のチームは協力してGemmaを開発し、ラテン語で『宝石』を意味するgemmaを命名した」という。
しかしGeminiよりもGemmaの方が軽量化されている。同時に、Gemmaは無料で使用されており、モデルの重みもオープンソースになっており、商用化が可能です。
グーグルは、Gemma 2 B（20億パラメータ）とGemma 7 B（70億パラメータ）の2つの異なる重み規模のモデルを発表した。各規模には事前トレーニングと命令微調整バージョンがあり、すべての組織が責任を持ってビジネスと配布を行うことができます。
グーグルがGemmaを発表した同日、台頭するチップメーカーの英偉達也氏は、グーグルと協力し、Gemmaモデルがチップ上で順調に動作するように確保したと発表した。英偉達氏はまた、傘下のチャットロボットソフトウェアChat With RTXもすぐにGemmaに対応すると述べた。
注目すべきは、グーグルはまた、Gemmaが重要な基準を越えてより大きなモデルを轢くことができることを強調している。さらに印象的なのは、グーグルのGemmaがノートパソコンで動作できることだ。
グーグル側によると、Geminiは現在広く使われている最大で最も強力なAIモデルだという。他のオープンモデルと比べて、Gemma 2 Bと7 Bはその範囲内で同類の最適な性能を実現することができます。Gemmaモデルは開発者のノートパソコンやデスクトップパソコン上で直接動作することができ、「重要なベンチマークではより大きなモデルを超えており、安全で責任ある出力の厳しい基準を遵守していることに注目してください」と述べています。
オープンソースモデルと同時に、GoogleはGemmaのパフォーマンス、データセット構成、モデリング方法の詳細に関する技術報告書を発表した。ある研究者は技術報告書で、Gemmaがサポートしている用語集のサイズが256 Kに達していることを発見した。これは、英語以外の言語に対してより良く、より迅速なサポートを提供できることを意味している。
GemmaとMeta社が発表したLlama 2のパラメータを比較すると、グーグルの公式サイトから
Gemmaも最初に有名なオープンソースモデルライブラリHuggingFaceとHuggingChatにオンラインになりました。オンラインになって間もなく、HuggingFaceの「大言語モデルランキング」で、Gemma 2 Bと7 Bモデルがダブルランクインした。
AI業界の専門家であり、ディープラーニングフレームワークKerasの著者であるFranois Cholet氏は、最強のオープンソース大モデルの位置が今では変わりつつあると述べた。
GemmaのライバルであるLlama 3も発表を控えている。Meta共同創業者兼最高経営責任者のザッカーバーグ氏は1月19日、MetaがLlama 3を訓練しており、責任ある方法でオープンソースを継続すると発表した。