바이두 부총재 진양: 문심대모형구동 안전업무 재구성 가속화
383279021
发表于 2023-12-27 20:36:04
5186
0
0
최근,"클라우드 융합 미래, 보안 내재"제7회 클라우드 보안 연합 중화권 대회 (CSA GCR Congress) 가 선전에서 개최되었다.바이두 부총재 진양은 대회에 참석하여"안전대모형"+"대모형안전"을 둘러싸고 주제연설을 발표했다.진양은 다음과 같이 표시했다. 큰 모형은 산업승격과 경제성장을 가속화하는 동시에 인터넷안전업종에도 새로운 기회와 도전을 가져다주었다.큰 모델을 기반으로 스마트 휴먼 컴퓨터 협동을 통해 전체 보안 업무 프로세스를 재구성할 수 있으며, 큰 모델은 일종의"생산력 도구"로 진화할 수 있다.
인공지능은 새로운 과학기술혁명과 산업변혁의 중요한 추진력량이고 큰 모형의 흥기는 인공지능응용의 깊이와 폭을 한층 더 넓혔다.바이두가 3월에 지식증강대언어모델 문심일언을 발표한 이래 지금까지 문심일언의 기초모델은 이미 문심대모델 4.0버전으로 교체되여 리해, 생성, 론리, 기억 등 4대 기초능력에서 모두 뚜렷이 제고되였다.회의에서 진양은 문심대모형이 안전분야에 응용되고 안전운영, 내용심사, APP 사생활합규검측, 업무풍력통제 등 여러 분야의 AI 원생응용구축구상과 실천을 공유하여 안전효률과 능력을 대폭 제고하는데 조력했다.
진양은 다음과 같이 표시했다. 어떻게 업종의 AI 원생안전응용연구개발의 효률을 제고할것인가도 아주 관건이다.현재 바이두의 선도적인 AI 대형 모델 플랫폼을 기반으로 바이두 안전은 바이두 AI 안전 베이스를 구축하였으며, 안전 지식과 기능 강화에 기반한 대형 모델과 전체 장면의 지능체는 각종 안전 업무 장면에 대해 낮은 코드의 방식으로 휴먼 컴퓨터 협동 안전 워크플로우를 실현하였으며, 나아가 AI 원생 안전 서비스 계층을 통해 각종 안전 응용이 모두 AI 원생화학 재구성을 진행할 수 있도록 하였다.
다른 한편으로 큰 모델 자체의 안전, 신뢰성, 통제 가능성이 매우 중요해지고 네트워크와 시스템 안전, 모델 알고리즘 안전, 데이터 안전과 프라이버시 보호, 내용 안전은 큰 모델의 전체 생명 주기에서 서로 연결되며 시스템 안전과 내생 안전은 장기적으로 공존할 것이다.
인공지능 선도기업으로서 바이두는 대형 모델 안전 위험 방비의 능력 건설과 생태 건설을 고도로 중시한다.바이두 대형 모델 안전 실천 경험을 바탕으로 바이두 안전은 대형 모델의 전체 생명 주기 시각에서 출발하여 서비스 제공자의 시각에서 출발하는 대응 사고방식을 총결한다. 방안은 대형 모델 훈련/정조/추리, 대형 모델 배치, 대형 모델 업무 운영 등 관건적인 단계를 포함한다. 전체 과정의 데이터 안전과 프라이버시 보호, 모델 보호, 내용 안전, 업무 운영 위험 통제를 포함하는 안전 제품과 서비스를 제공한다.동시에 공격으로 수비를 촉진하는 사고방식과 결합하여 AIGC 내용 안전 평가 능력을 구축하고, 큰 모델에 대해 정례화된 안전 평가를 실현하여 기업이 안정적이고 건강하며 신뢰할 수 있는 큰 모델 서비스를 구축하도록 돕는다.
예를 들어, 대형 모델 운영 단계에서 바이두 보안은 레드 라인 지식 라이브러리/레드 라인 대형 모델, prompt 심사와 개작, 다중 모드 내용 심사, 내용 안전 평가 등 일련의 보안 서비스를 구축했다.위법 범죄, 불량 가치관 등 부정적인 및 고위험 레드라인 문제에 대해"레드라인 지식 라이브러리와 레드라인 대형 모델"을 중점적으로 구축하여 안전한 회신 내용을 제공하여 대리 응답을 진행하고, 사용자에게 긍정적인 안내를 할 수 있다.Prompt에 대한 공격을 주입하면 초기 명령과 데이터를 그대로 유지하면서 Prompt를 덮어쓰는 방식으로 큰 모델이 안전한 내용을 출력할 수 있습니다.
알아본데 따르면 클라우드안전련맹 CSA 글로벌회원단위로서 바이두는 장기간 더욱 안전한 AI로 산업발전을 호위하고 지능클라우드컴퓨팅의 선단기술탐색과 실천을 적극 배치하여"인공지능 + 클라우드안전"의 융합혁신을 지속적으로 심화하는데 진력해왔다.회의에 참석하여 북경인공지능산업련맹 인공지능안전전문위원회 주임으로서 진양은 전문위원회를 대표하여 CSA 클라우드안전련맹과 정식으로 전략계약을 체결했다.앞으로 쌍방은 각자의 우세를 발휘하여 인공지능분야에서 련합연구, 공동선단기술과 응용분야의 발전을 전개하게 된다.
현재"큰 모델 + 안전"이 직면한 새로운 형세, 새로운 기회, 새로운 도전에 직면하여 바이두 안전은 한편으로는 인공지능 기술의 네트워크 안전 분야에서의 기술 혁신과 응용을 끊임없이 확장할 것이며, 다른 한편으로는 각계와 협력을 유지하여 큰 모델 안전 방어선을 함께 구축하고 더욱 안전한 큰 모델을 탐색하여 천행백업의 무한한 가능성을 부여할 것이다.
CandyLake.com 系信息发布平台,仅提供信息存储空间服务。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
猜你喜欢
- 월마트는 샘의"전치 창고"모델을 복제하여 작은 가게를 열 수도 있다
- DeepMind 오픈 소스 생체 분자 예측 모델 노상 성과는 AI 제약 물결을 일으킬 것인가?
- 바이두 리언굉: 지난 24개월간 AI 업종의 가장 큰 변화는 큰 모형이 기본적으로 환각을 제거한것이다
- "AI 신세대"대모형제조업체 일제히"권"지능체, 리언굉은"생각으로 돈을 벌수 있는 시대"를 맞이하게 된다고 말했다.
- 극크립톤, 전계차종과 함께 광주모터쇼 첫 광대한 지운전 2.0 종단간 Plus 구조 선보여
- 문심일언 사용자 수 4억 돌파, 바이두 오단: 큰 모형이 산업 스마트 엔진을 재창조하고 있다
- 윤세명 전 바이두 부총재, 구글 클라우드 합류
- 올해 10월 테슬라 모델 Y가 일선, 신일선 도시 모델 판매 1위를 차지했다
- 알리바바 CEO 오영명: AI 발전은 부동한 규모, 부동한 령역의 개원대모형이 필요하다
- 바이두 Q3 핵심 순이익 17% 증가 예상 초과 문심대 모델 하루 조정량 15억
-
美东时间周五,美股三大指数集体收涨,截止收盘,道指涨0.97%,本周累涨1.96%;纳指涨0.16%,本周累涨1.73%;标普500指数涨0.35%,本周累涨1.68%。 大型科技股涨跌不一,特斯拉涨近4%,微软涨1%,苹果、奈飞 ...
- budingmm
- 3 天前
- 支持
- 反对
- 回复
- 收藏
-
新华财经上海11月23日电默沙东与中国癌症基金会23日签署中国低卫生资源地区宫颈癌综合防控项目捐赠协议,将聚焦加速消除宫颈癌这一目标,计划在未来两年由默沙东向中国癌症基金会捐赠共计8.1万支HPV疫苗。 ...
- 逸风宝宝
- 3 天前
- 支持
- 反对
- 回复
- 收藏
-
11月23日,香港科技大学举行荣誉博士学位颁授典礼及博士毕业典礼,其中向英伟达创始人兼CEO黄仁勋颁授工程学荣誉博士,称赞其带领英伟达在加速运算领域取得杰出成果,研发的GPU重新定义电脑视觉体验并为人工智能 ...
- 寒武季节俨
- 3 天前
- 支持
- 反对
- 回复
- 收藏
-
隔夜股市 全球主要指数周五多数上涨,美股三大指数集体收涨,道指涨近1%,创下历史新高。 比特币继续紧逼10万美元大关,日内一度涨至99589美元,刷新历史新高。 商品市场 国际原油期货结算价收 ...
- 平静769
- 3 天前
- 支持
- 反对
- 回复
- 收藏