グーグル傘下の大モデルGeminiが提示語「米国開国のベンチマーク（founding father）」に基づいて生成した画像の1つ。New York PostはGeminiから転送
グーグルはこのほど、傘下の大モデルGeminiが不正確な歴史上の人物画像を生成していることを発見した後、同社はAIツールの人物画像生成機能を一時停止すると発表した。
これまで、一部のユーザーがGeminiに歴史上の人物の画像を要求した結果、生成された人物像の肌の色が間違っていることが分かった。例えば、Geminiが生成した人物像は、米国の開国元勲（founding father）の生成を要求する際にアフリカ系、先住民を含む。
グーグルはXで声明を発表した。「最近のGemini画像生成機能の問題を解決するために努力している。同時に、人物画像生成機能を一時停止し、すぐに改良された新バージョンを再リリースする」。
Geminiはグーグルが開発した大言語モデルだ。今年2月16日、グーグルはGemini 1.5 Proバージョンを発売した。最大の特徴は、コンテキストウィンドウの長さが100万tokenに達し、最長コンテキストウィンドウを記録したことだ。コンテキストが長いほど、大きなモデルは文書内の会話、イベント、詳細を洞察し、複雑な情報の深い理解を示すことができます。Geminiはモダリティにまたがる能力を持ち、異なるメディアにまたがって、直接動画を投稿することができ、アップロードされた動画は数千の画面（音声を含まない）に分割されて分析される。
Geminiが誤った肌の色を生成する人物像の問題は、米国のソーシャルプラットフォームで議論を呼んでいる。コラムニストのDouglas Murray氏は2月23日、ソーシャルプラットフォームXで「グーグルは人工知能の範疇を超えた人種多様性をアピールする努力をしている」と述べた。テスラのElon Musk CEOは、「Google Geminiだけの問題ではなく、Google検索（Google検索にも類似の誤差が出ることを意味する）」とツイートをリツイートした。
これに先立ち、Elon Muskは2月23日に別のツイートを投稿した。「グーグルが彼らの人工知能画像生成を誇張してくれて嬉しい。それは彼らの狂った人種主義、反文明的プログラミングをすべての人に知らしめたからだ」。
編集・評論家のDouglas Murray氏によると、Geminiにおける画像生成人物の肌の色が間違っている現象は、機械学習公平性（machine learning fairness）に由来しており、「人間は隠れた偏見に満ちているので、機械が公正な画像を投げ出す必要がある」という。
GeminiのAI画像は本質的に人種差別や性差別の歴史を解消していると考える人もいれば、GeminiのAI画像の背後にはグーグルが2024米大統領選の偏向を民主党に有利に操作しようとしていると考える人もいる。イーロン・Musk氏は、「グーグルは検索とYouTubeを通じて数十億人の思想を制御している。彼らは西洋文明に大きな損害を与えている」とツイートを転送した。
大モデルのメカニズムは、投与されたデータベースにおける各種イベントの出現の統計的確率に基づいて、上記に基づいて以下を推測するため、大モデルの傾向は完璧に「空白を埋める」ことができないため、「でたらめ」になりやすく、「幻覚」が現れやすい。大言語モデルのトレーニングデータセットにおいて、提案された問題に関する情報が制限されている、古くなっている、または矛盾している場合、幻覚を起こすこともあります。大モデルの幻覚は、企業レベル、医療レベルなどの応用シーンにおいて致命的である。
シロナガスクジラ財経記者が国内のいくつかの大言語モデルをテストしたところ、生成された人物像にも類似の問題が生じやすいことが分かった。例えば、百度が開発した大模型「文心一言」に「1943年のドイツ兵の画像を生成してください」とヒントを与えたところ、アジア系兵士の画像が生成された。アリババが開発した大モデル「通義千問」は、正確な肌の色の人物像を生成した。
ChatGPT以来の人工知能は新たな熱狂を引き起こし、人工知能によるコンテンツの隠れた危険性も続出している。今年1月下旬、Deep Fake（深偽、機械学習と人工知能に基づいて欺瞞的な画像音声を生成する技術）が偽造した米歌手Taylor Swiftのポルノ画像がソーシャルメディアプラットフォーム4 chanとX上で大量に伝播した。性的または暴力的な人工画像が急速に伝播しており、記事によると、投稿の1つは最終的に削除される前に4700万回以上閲覧されていたという。このイベントにより、MicrosoftはMicrosoft Designerの文生図モデルを強化し、悪用を防ぐことができます。