百度副総裁陳洋:文心大モデル駆動によるセキュリティビジネス再構築加速
孤独的野鸭菇
发表于 2023-12-27 20:36:02
1356
0
0
このほど、「雲融未来、安全内在」第7回雲安全連盟大中華区大会(CSA GCR Congress)が深センで開催された。百度の陳洋副総裁は大会に出席し、「安全大モデル」+「大モデル安全」をめぐって基調講演を行った。陳洋氏によると、大モデルは産業の高度化と経済成長を加速させると同時に、サイバーセキュリティ業界に新たなチャンスと挑戦をもたらした。大モデルに基づいて、スマートマンマシン協同により安全な業務プロセス全体を再構築することができ、大モデルは「生産力ツール」に進化することができる。
人工知能は新しい科学技術革命と産業変革の重要な駆動力であり、大モデルの台頭により、人工知能応用の深さと広さがさらに広がる。百度が3月に発表した知識強化大言語モデル文心一言から現在まで、文心一言の基礎モデルは文心大モデル4.0バージョンに反復され、理解、生成、論理、記憶の4つの基礎能力の上で顕著に向上した。会議では、陳洋氏は文心大モデルの安全分野への応用を分かち合い、安全運営、コンテンツ審査、APPプライバシーコンプライアンス検査、業務風制御などの多分野のAIネイティブ応用の構想と実践を構築し、安全効率と能力の大幅な向上を支援した。
陳洋氏は、業界のAIネイティブセキュリティ応用研究開発の効率をどのように高めるかも重要だと述べた。現在、百度がリードするAI大モデルプラットフォームに基づいて、百度は安全に百度AI安全基盤を構築し、安全知識と技能強化の大モデルと全シーンの知能体に基づいて、各種類の安全業務シーンに対して、低コードの方式で人間機協同安全ワークフローを実現し、さらにAI原生安全サービス層を通じて、各種類の安全応用にAI原生化学再構築を行うことができるようにした。
一方、大モデル自身の安全、信頼性、制御可能性は極めて重要になり、ネットワークとシステム安全、モデルアルゴリズム安全、データ安全とプライバシー保護、コンテンツ安全は大モデルの全ライフサイクルでループし、システム安全と内生安全は長期的に共存する。
人工知能リーダー企業として、百度は大モデルの安全リスク防止の能力建設と生態建設を非常に重視している。百度大模型安全実践経験に基づいて、百度安全は大模型全ライフサイクルの視点からサービス提供側の視点からの対応構想をまとめ、方案は大模型訓練/精調/推論、大模型配置、大模型業務運営などの重要な段階をカバーし、全プロセスのデータ安全とプライバシー保護、模型保護、内容安全、業務運営風制御を含む安全製品とサービスを提供し、同時に、攻撃的な守備促進の考え方を結合してAIGCコンテンツの安全評価能力を構築し、大モデルに対して定例化された安全評価を実現し、企業の安定した健康で信頼性の高い大モデルサービスの構築を支援する。
例えば、大モデルの運営段階において、百度安全は赤線知識ベース/赤線大モデル、propt審査と書き換え、多モードコンテンツ審査、コンテンツ安全評価などを含む一連の安全サービスを構築した。違法犯罪、不良価値観などの負の側面とハイリスクなレッドライン問題に対して、重点的に「レッドライン知識ベースとレッドライン大モデル」を構築し、安全な回答内容を提供して代答し、ユーザーに対して前向きな誘導を行うことができる。Promptインジェクション攻撃に対しては、初期コマンドとデータをそのままにした上で、Promptを書き換えることで大きなモデルに安全なコンテンツを出力させることができます。
聞くところによると、クラウドセキュリティ連盟CSAグローバル会員部門として、百度は長期にわたり、より安全なAI護衛産業の発展に力を入れ、スマートクラウドコンピューティングの最先端技術の探索と実践を積極的に配置し、「人工知能+クラウドセキュリティ」の融合革新を持続的に深化させてきた。会議に参加し、北京人工知能産業連盟人工知能安全専門委員会の主任として、陳洋代表専門委員会はCSAクラウド安全連盟と正式な戦略契約を結んだ。将来、双方はそれぞれの優位性を発揮し、人工知能分野で共同研究、共同最先端技術と応用分野の発展を展開する。
現在の「大モデル+安全」が直面している新しい情勢、新しいチャンス、新しい挑戦に直面して、百度安全は人工知能技術のネットワーク安全分野における技術革新と応用を絶えず開拓する一方で、各界と協力を維持し、大モデル安全防御線を共に構築し、より安全な大モデルの賦能千行百業の無限の可能性を探求する。
CandyLake.com 系信息发布平台,仅提供信息存储空间服务。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
猜你喜欢
- 香港株アップル産業チェーンが急騰!iPhone 16 Proモデルの需要は依然として堅調ですが、将来の販売台数はどうでしょうか。
- マースク・Cybercabのリリースが間近!国内の多くの大手企業がRobotaxi中国モデルを模索している
- ウォルマートやサムの「前置倉」モデルをコピーして小さな店を開く
- DeepMindのオープンソース生体分子予測モデルノーベル賞の成果はAI製薬の波を巻き起こすのか?
- 百度李彦宏:過去24カ月、AI業界の最大の変化は大モデルが幻覚をほぼ解消したことだ
- 「AI新世代」の大モデルメーカーがスマートボディを“巻き”、李彦宏氏は「アイデアで稼げる時代が来る」と語る
- 李彦宏氏によると、大模型幻覚は実測文心をほぼ解消したという。
- 文心の一言でユーザー数が4億人を突破、百度呉甘:大モデルが産業知能エンジンを再構築中
- アリババの呉泳銘CEO:AIの発展には異なる規模、異なる分野のオープンソースの大モデルが必要だ
- 百度Q 3コアの純利益17%増予想を上回る文心大モデルの1日の調達量は15億元に
-
知名做空机构香橼研究(Citron Research)周四(11月21日)在社交媒体平台X上发布消息称,该公司已决定做空“比特币大户”微策略(Microstrategy)这家公司,并认为该公司已经将自己变身成为一家比特币投资基金 ...
- caffycat
- 昨天 11:18
- 支持
- 反对
- 回复
- 收藏
-
每经AI快讯,11月20日,文远知行宣布旗下自动驾驶环卫车S6与无人扫路机S1分别在新加坡滨海湾海岸大道与滨海艺术中心正式投入运营。据介绍,这是新加坡首个商业化运营的自动驾驶环卫项目。 ...
- star8699
- 3 天前
- 支持
- 反对
- 回复
- 收藏
-
上证报中国证券网讯(记者王子霖)11月20日,斗鱼发布2024年第三季度未经审计的财务报告。本季度斗鱼依托丰富的游戏内容生态,充分发挥主播资源和新业务潜力,持续为用户提供高质量的直播内容及游戏服务,进一步 ...
- goodfriendboy
- 3 天前
- 支持
- 反对
- 回复
- 收藏
-
人民网北京11月22日电 (记者栗翘楚、任妍)2024广州车展,在新能源汽车占据“半壁江山”的同时,正加速向智能网联新能源汽车全面过渡,随着“端到端”成为新宠,智能驾驶解决方案成为本届广州车展各大车企竞 ...
- 3233340
- 昨天 17:06
- 支持
- 反对
- 回复
- 收藏