首页 신문 正文

바이두 부총재 진양: 문심대모형구동 안전업무 재구성 가속화

383279021
5174 0 0

최근,"클라우드 융합 미래, 보안 내재"제7회 클라우드 보안 연합 중화권 대회 (CSA GCR Congress) 가 선전에서 개최되었다.바이두 부총재 진양은 대회에 참석하여"안전대모형"+"대모형안전"을 둘러싸고 주제연설을 발표했다.진양은 다음과 같이 표시했다. 큰 모형은 산업승격과 경제성장을 가속화하는 동시에 인터넷안전업종에도 새로운 기회와 도전을 가져다주었다.큰 모델을 기반으로 스마트 휴먼 컴퓨터 협동을 통해 전체 보안 업무 프로세스를 재구성할 수 있으며, 큰 모델은 일종의"생산력 도구"로 진화할 수 있다.
인공지능은 새로운 과학기술혁명과 산업변혁의 중요한 추진력량이고 큰 모형의 흥기는 인공지능응용의 깊이와 폭을 한층 더 넓혔다.바이두가 3월에 지식증강대언어모델 문심일언을 발표한 이래 지금까지 문심일언의 기초모델은 이미 문심대모델 4.0버전으로 교체되여 리해, 생성, 론리, 기억 등 4대 기초능력에서 모두 뚜렷이 제고되였다.회의에서 진양은 문심대모형이 안전분야에 응용되고 안전운영, 내용심사, APP 사생활합규검측, 업무풍력통제 등 여러 분야의 AI 원생응용구축구상과 실천을 공유하여 안전효률과 능력을 대폭 제고하는데 조력했다.
진양은 다음과 같이 표시했다. 어떻게 업종의 AI 원생안전응용연구개발의 효률을 제고할것인가도 아주 관건이다.현재 바이두의 선도적인 AI 대형 모델 플랫폼을 기반으로 바이두 안전은 바이두 AI 안전 베이스를 구축하였으며, 안전 지식과 기능 강화에 기반한 대형 모델과 전체 장면의 지능체는 각종 안전 업무 장면에 대해 낮은 코드의 방식으로 휴먼 컴퓨터 협동 안전 워크플로우를 실현하였으며, 나아가 AI 원생 안전 서비스 계층을 통해 각종 안전 응용이 모두 AI 원생화학 재구성을 진행할 수 있도록 하였다.
다른 한편으로 큰 모델 자체의 안전, 신뢰성, 통제 가능성이 매우 중요해지고 네트워크와 시스템 안전, 모델 알고리즘 안전, 데이터 안전과 프라이버시 보호, 내용 안전은 큰 모델의 전체 생명 주기에서 서로 연결되며 시스템 안전과 내생 안전은 장기적으로 공존할 것이다.
인공지능 선도기업으로서 바이두는 대형 모델 안전 위험 방비의 능력 건설과 생태 건설을 고도로 중시한다.바이두 대형 모델 안전 실천 경험을 바탕으로 바이두 안전은 대형 모델의 전체 생명 주기 시각에서 출발하여 서비스 제공자의 시각에서 출발하는 대응 사고방식을 총결한다. 방안은 대형 모델 훈련/정조/추리, 대형 모델 배치, 대형 모델 업무 운영 등 관건적인 단계를 포함한다. 전체 과정의 데이터 안전과 프라이버시 보호, 모델 보호, 내용 안전, 업무 운영 위험 통제를 포함하는 안전 제품과 서비스를 제공한다.동시에 공격으로 수비를 촉진하는 사고방식과 결합하여 AIGC 내용 안전 평가 능력을 구축하고, 큰 모델에 대해 정례화된 안전 평가를 실현하여 기업이 안정적이고 건강하며 신뢰할 수 있는 큰 모델 서비스를 구축하도록 돕는다.
예를 들어, 대형 모델 운영 단계에서 바이두 보안은 레드 라인 지식 라이브러리/레드 라인 대형 모델, prompt 심사와 개작, 다중 모드 내용 심사, 내용 안전 평가 등 일련의 보안 서비스를 구축했다.위법 범죄, 불량 가치관 등 부정적인 및 고위험 레드라인 문제에 대해"레드라인 지식 라이브러리와 레드라인 대형 모델"을 중점적으로 구축하여 안전한 회신 내용을 제공하여 대리 응답을 진행하고, 사용자에게 긍정적인 안내를 할 수 있다.Prompt에 대한 공격을 주입하면 초기 명령과 데이터를 그대로 유지하면서 Prompt를 덮어쓰는 방식으로 큰 모델이 안전한 내용을 출력할 수 있습니다.
알아본데 따르면 클라우드안전련맹 CSA 글로벌회원단위로서 바이두는 장기간 더욱 안전한 AI로 산업발전을 호위하고 지능클라우드컴퓨팅의 선단기술탐색과 실천을 적극 배치하여"인공지능 + 클라우드안전"의 융합혁신을 지속적으로 심화하는데 진력해왔다.회의에 참석하여 북경인공지능산업련맹 인공지능안전전문위원회 주임으로서 진양은 전문위원회를 대표하여 CSA 클라우드안전련맹과 정식으로 전략계약을 체결했다.앞으로 쌍방은 각자의 우세를 발휘하여 인공지능분야에서 련합연구, 공동선단기술과 응용분야의 발전을 전개하게 된다.
현재"큰 모델 + 안전"이 직면한 새로운 형세, 새로운 기회, 새로운 도전에 직면하여 바이두 안전은 한편으로는 인공지능 기술의 네트워크 안전 분야에서의 기술 혁신과 응용을 끊임없이 확장할 것이며, 다른 한편으로는 각계와 협력을 유지하여 큰 모델 안전 방어선을 함께 구축하고 더욱 안전한 큰 모델을 탐색하여 천행백업의 무한한 가능성을 부여할 것이다.
CandyLake.com 系信息发布平台,仅提供信息存储空间服务。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

  •   苹果知名分析师郭明錤周四(10月31日)在社交媒体上发文表示,苹果明年可能会减少对芯片制造商博通Wi-Fi芯片的依赖,并推出自己的处理器。   郭明錤在社交媒体平台X上写道,“在2025年下半年的新产品(例如iPh ...
    uturn
    昨天 14:42
    支持
    反对
    回复
    收藏
  •   10月30日,小鹏汽车生态企业小鹏汇天宣布,旗下分体式飞行汽车“陆地航母”即将亮相2024中国航展,11月12日将在中国航展第二展区(斗门莲洲)进行全球首次公开飞行,同时“陆地航母”也将在珠海国际航展中心8号 ...
    yxtianyouyou
    前天 11:43
    支持
    反对
    回复
    收藏
  •   交易所监管文件显示,当地时间11月1日,亚马逊创始人杰夫·贝索斯拟出售约1635万股亚马逊股票,预计套现约30.5亿美元。今年7月,贝索斯已申请额外出售约2500万股亚马逊股票,按当时股价计算可套现约50亿美元。 ...
    blueskybb
    7 小时前
    支持
    反对
    回复
    收藏
  •   近日,凯撒海湾目的地(山东)运营管理有限责任公司(简称“凯撒海湾”)与携程旅悦集团签署战略合作协议,双方将围绕“海上目的地运营”、“旅游产品与服务创新”、“研学旅行”、“日韩及海外旅游市场开拓”等 ...
    llyyy2008
    5 小时前
    支持
    反对
    回复
    收藏
383279021 新手上路
  • 粉丝

    0

  • 关注

    0

  • 主题

    0