現地時間の水曜日、先月OpenAIを退職した会社の共同創業者、（前）チーフ・サイエンティスト、そして昨年OpenAI取締役会で重要な一票を投じてオルトマンを追い出し、彼を呼び戻したディープラーニング分野の権威ある専門家イルヤ・スツケバー（Ilya Sutskever）は、チームを去った後の新しいAI起業プロジェクトを正式に発表した。
（出所：X）
簡単に言えば、Sutskviは「安全なスーパーインテリジェンス」（Safe Superintelligence、SSIと略称）という新しい会社を設立し、安全なスーパーインテリジェンスを「一歩一歩」創造することを目標としている。
安全第一、究極の目標への直行
Sutkviは純粋な研究機関で、安全で強力な人工知能システムを直接創造すると同時に、短期間で商業化された製品やサービスを発売することはありません。彼はメディアに対して、「この会社は特別だ。最初の製品は安全なスーパーインテリジェンスであり、（実現する）その日まで他のことは何もせず、大規模で複雑な製品を処理したり、激しい競争に陥ったりする必要はない」と紹介した。
安全第一、商業化をしない、外圧を相手にしない、全体の話の中でスーツケビは一度もOpenAIに言及したことがないが、背後にある意味は自明だ。OpenAIの「宮闘」事件はオルトマンの大勝、速勝で終わったが、事件全体の背後にある加速主義と安全主義の路線争いは終わらなかった。
理念は異なるが、双方は内密にはなお可の関係を維持している。今年5月15日に10年間勤務していたOpenAIからの離脱を発表した際にも、スーツクウィ氏は経営陣のツーショット写真を発表し、オルトマン氏らの指導の下で、OpenAIは安全で有益なAGI（汎用人工知能）を構築すると信じていると述べた。
（出所：X）
スーツケビの別れについて、オルトマンは「深い悲しみを感じる」と答え、スーツケビがいなければOpenAIがいない今日を示した。
昨年の「宮斗」事件が終わってから、シュツケビはすべてのことに沈黙を守ってきたが、今日に至ってもそうだ。オルトマンとの関係を聞かれた時、スーツケビは簡単に「いいですね」と答えただけで、過去数カ月の経験を聞かれた時も「とてもおかしい」と言っただけだった。
「核の安全のような安全」
ある意味では、現在もAIシステムの安全かどうかの境界線を正確に定義することはできず、いくつかの異なる考えがあるとしか言いようがない。
シュツケビ氏は、新会社が技術的に一時的に適用される「防護柵」ではなく、「埋め込みAIシステムのエンジニアリングブレークスルー」を使用して安全を実現しようとすることを示唆している。「私たちが安全というのは、『信頼と安全』のようなものではなく、核安全のような安全を指す」と強調した。
彼はAIの安全性について何年も考えてきたことを示し、心の中にはすでにいくつかの実現方法があると述べた。同氏は、「最も基本的なレベルでは、安全な超知能は人類に大規模な被害を与えないという特性を持つべきだ。その後、私たちはそれが重要な価値観に構築された力である善の力になってほしいと言える」と紹介した。
有名なスーツケビのほかに、SSIには2人の創始者がいる。元アップルの機械学習責任者で有名な科学技術ベンチャー投資家のダニエル・グロス氏、もう1人はスーツケビ氏とともにOpenAIで大モデルを訓練しているエンジニアのダニエル・レヴィ氏だ。
レヴィ氏によると、私のビジョンはソツクウィ氏と完全に一致している。小さくて精巧なチームで、誰もが安全なスーパースマートの単一の目標の実現に集中している。
SSIがなぜ「一歩一歩」（どのくらいの投資家がいて、いくら投資しているのか）を叫ぶのかは明らかになっていないが、グロース氏は、会社が多くの問題に直面することは確かだが、おつりはその一つではないと明らかにした。
OpenAIへの初心への回帰
一連のビジョンから、「セキュリティスーパースマート」とは、本質的にOpenAI創立初期の概念であることがわかります。しかし、大モデルの訓練に伴う費用の急増に伴い、OpenAIはマイクロソフトと協力し、資金と計算力を交換して事業の継続を支援しなければならなかった。
このような問題はSSIの将来の道にも現れるだろう。会社の投資家は本当に大量の資金を投入して、この会社が「スーパースマート」の最終目標を実現するまで何の産出もしていないのを見たいと思っているのだろうか。
ちなみに、「スーパースマート」自体も理論的な概念であり、人間のレベルを超えた人工知能システムを指し、世界の多くのスーパーテクノロジー企業が追求している成果よりも先進的である。しかし、業界内ではこのような知能を実現できるかどうか、あるいはどのようにこのようなシステムを構築するかについては共通認識が形成されていない。
気になるのは、SSI社が発表した最初の公告の中で、最初の言葉は「スーパースマートはすでに近くにある」ということだ。
附：SSI公告
セキュリティ・スーパーインテリジェント（Safe Superintelligence Inc.）
超知能はすでに間近に迫っている。
安全なスーパーインテリジェンスを構築することは、この時代の最も重要な技術的問題です。
私たちはすでに世界初の直接的なターゲットのSSIラボを開始しました。ターゲットと製品は1つしかありません。安全なスーパーインテリジェントです。
これはセキュリティスーパースマート会社と呼ばれています。
SSIは私たちの使命であり、私たちの名前と私たちのすべての製品ロードマップであり、これが私たちの唯一の注目点であるためです。私たちのチーム、投資家、ビジネスモデルは、SSIを実現するために力を合わせています。
私たちは安全性と能力を並行して、革命的な工学と科学的な突破を通じて解決する必要がある技術問題と見なしています。私たちは、セキュリティを常に優先した状態で、できるだけ早く能力を高めることを計画しています。
これにより、私たちは穏やかな状態で広がることができます。
私たちの集中力は、トランザクションや製品サイクルの管理に気を取らないことを意味し、私たちのビジネスモデルは、セキュリティと技術の進歩が短期的なビジネス圧力に影響されないことを意味します。
私たちは米国の会社で、パロアルトとテルアビブに事務所を持っています。これらの場所は私たちの基礎的な場所であり、これらの場所でトップの技術人材を募集することができます。
SSIだけに焦点を当てた、洗練された世界トップレベルのエンジニアと研究者チームを構築しています。
もしあなたがそのような人であれば、私たちはあなたに一生の事業を完成させ、私たちのこの時代の最も重要な技術的課題を解決するための機会を提供します。
今は時間だ。私たちに参加してください。
イリヤ・ソツクウィ、ダニエル・グロス、ダニエル・レヴィ
2024年6月19日