百度副総裁陳洋:文心大モデル駆動によるセキュリティビジネス再構築加速
孤独的野鸭菇
发表于 2023-12-27 20:36:02
1351
0
0
このほど、「雲融未来、安全内在」第7回雲安全連盟大中華区大会(CSA GCR Congress)が深センで開催された。百度の陳洋副総裁は大会に出席し、「安全大モデル」+「大モデル安全」をめぐって基調講演を行った。陳洋氏によると、大モデルは産業の高度化と経済成長を加速させると同時に、サイバーセキュリティ業界に新たなチャンスと挑戦をもたらした。大モデルに基づいて、スマートマンマシン協同により安全な業務プロセス全体を再構築することができ、大モデルは「生産力ツール」に進化することができる。
人工知能は新しい科学技術革命と産業変革の重要な駆動力であり、大モデルの台頭により、人工知能応用の深さと広さがさらに広がる。百度が3月に発表した知識強化大言語モデル文心一言から現在まで、文心一言の基礎モデルは文心大モデル4.0バージョンに反復され、理解、生成、論理、記憶の4つの基礎能力の上で顕著に向上した。会議では、陳洋氏は文心大モデルの安全分野への応用を分かち合い、安全運営、コンテンツ審査、APPプライバシーコンプライアンス検査、業務風制御などの多分野のAIネイティブ応用の構想と実践を構築し、安全効率と能力の大幅な向上を支援した。
陳洋氏は、業界のAIネイティブセキュリティ応用研究開発の効率をどのように高めるかも重要だと述べた。現在、百度がリードするAI大モデルプラットフォームに基づいて、百度は安全に百度AI安全基盤を構築し、安全知識と技能強化の大モデルと全シーンの知能体に基づいて、各種類の安全業務シーンに対して、低コードの方式で人間機協同安全ワークフローを実現し、さらにAI原生安全サービス層を通じて、各種類の安全応用にAI原生化学再構築を行うことができるようにした。
一方、大モデル自身の安全、信頼性、制御可能性は極めて重要になり、ネットワークとシステム安全、モデルアルゴリズム安全、データ安全とプライバシー保護、コンテンツ安全は大モデルの全ライフサイクルでループし、システム安全と内生安全は長期的に共存する。
人工知能リーダー企業として、百度は大モデルの安全リスク防止の能力建設と生態建設を非常に重視している。百度大模型安全実践経験に基づいて、百度安全は大模型全ライフサイクルの視点からサービス提供側の視点からの対応構想をまとめ、方案は大模型訓練/精調/推論、大模型配置、大模型業務運営などの重要な段階をカバーし、全プロセスのデータ安全とプライバシー保護、模型保護、内容安全、業務運営風制御を含む安全製品とサービスを提供し、同時に、攻撃的な守備促進の考え方を結合してAIGCコンテンツの安全評価能力を構築し、大モデルに対して定例化された安全評価を実現し、企業の安定した健康で信頼性の高い大モデルサービスの構築を支援する。
例えば、大モデルの運営段階において、百度安全は赤線知識ベース/赤線大モデル、propt審査と書き換え、多モードコンテンツ審査、コンテンツ安全評価などを含む一連の安全サービスを構築した。違法犯罪、不良価値観などの負の側面とハイリスクなレッドライン問題に対して、重点的に「レッドライン知識ベースとレッドライン大モデル」を構築し、安全な回答内容を提供して代答し、ユーザーに対して前向きな誘導を行うことができる。Promptインジェクション攻撃に対しては、初期コマンドとデータをそのままにした上で、Promptを書き換えることで大きなモデルに安全なコンテンツを出力させることができます。
聞くところによると、クラウドセキュリティ連盟CSAグローバル会員部門として、百度は長期にわたり、より安全なAI護衛産業の発展に力を入れ、スマートクラウドコンピューティングの最先端技術の探索と実践を積極的に配置し、「人工知能+クラウドセキュリティ」の融合革新を持続的に深化させてきた。会議に参加し、北京人工知能産業連盟人工知能安全専門委員会の主任として、陳洋代表専門委員会はCSAクラウド安全連盟と正式な戦略契約を結んだ。将来、双方はそれぞれの優位性を発揮し、人工知能分野で共同研究、共同最先端技術と応用分野の発展を展開する。
現在の「大モデル+安全」が直面している新しい情勢、新しいチャンス、新しい挑戦に直面して、百度安全は人工知能技術のネットワーク安全分野における技術革新と応用を絶えず開拓する一方で、各界と協力を維持し、大モデル安全防御線を共に構築し、より安全な大モデルの賦能千行百業の無限の可能性を探求する。
CandyLake.com 系信息发布平台,仅提供信息存储空间服务。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
猜你喜欢
- 蔚来は電気交換サービス料の料金モデルを調整する:度によって料金を徴収し、楽道の後続の電気交換もそのまま使用する
- アップルの公式サイトが奪われた!iPhone 16の一部モデルは「秒没」
- 百度呉甘:知識強化大モデルが産業デジタルエンジンを再構築
- アップル、インドのiPhone各機種の販売価格を引き下げ
- 欧州プライバシー規制当局、グーグルが人工知能モデルにデータを活用した状況を調査
- 百度沈震:10万カード計算力クラスターアップグレード計算プラットフォーム能力文心大モデルの日調整量が7億回を超える
- Metaが重量ポンドの新製品を発表:299ドルのクエス3 Sヘッドディスプレイ、ARメガネプロトタイプ、マルチモーダルAIモデル
- 香港株アップル産業チェーンが急騰!iPhone 16 Proモデルの需要は依然として堅調ですが、将来の販売台数はどうでしょうか。
- マースク・Cybercabのリリースが間近!国内の多くの大手企業がRobotaxi中国モデルを模索している
- ウォルマートやサムの「前置倉」モデルをコピーして小さな店を開く
-
随着“银十”结束,各家造车新势力都交出了一份亮眼的成绩单。 理想领跑10月新势力交付榜,鸿蒙智行重回4万辆,零跑、深蓝、极氪、小鹏等单月交付量均创新高,岚图、阿维塔、智己等实现破万,但哪吒却消失在 ...
- fanadam
- 3 天前
- 支持
- 反对
- 回复
- 收藏
-
为期超七周的大罢工终于落下帷幕。 当地时间11月4日,波音美国西海岸工厂工人们就改进后的合同提案投票。 随后,代表着波音超过33000名西雅图地区机械师的IAM工会经表决,以59%的同意票决定接纳波音提 ...
- cristianna
- 3 天前
- 支持
- 反对
- 回复
- 收藏
-
“新四化”的时代浪潮下,新能源汽车行业百家争鸣。伴随着自主品牌不断崛起,合资品牌当下的生存状况备受外界关注,如何打好电动化时代的突围战,成为合资品牌的新课题。 作为国内合资车企的代表之一,上汽 ...
- mbgg2797
- 3 天前
- 支持
- 反对
- 回复
- 收藏
-
证券时报网讯,热门中概股美股盘前普涨,小鹏汽车、哔哩哔哩涨近5%,蔚来涨超4%,阿里巴巴、拼多多涨超2%。
- p609520
- 3 天前
- 支持
- 反对
- 回复
- 收藏