퀄컴 맹박: 단말기가 수시로 생성식 AI를 운행할 수 있어야 광범위한 응용을 실현할 수 있다
真不是我干的的
发表于 2024-3-1 14:07:46
243
0
0
중국 용의 해 춘절 기간 동안 OpenAI는 비디오 생성 모델 Sora를 발표하여"세계 시뮬레이터"로 불리며 많은 관심과 토론을 불러 일으켰습니다.최근 몇 년 동안 문자 대화 로봇부터 문자 생성 이미지, 문자 생성 동영상 등에 이르기까지 각종 AI 모델이 속출하면서 생성식 AI가 강력한 발전 추세를 보이고 있다.맥킨지가 발표한 연구 데이터에 따르면 생성식 AI 기술은 60여 개의 용례를 매년 2조 6천억~4조 4천억 달러의 전체 경제 효익 성장을 실현할 수 있다.
그러나 현재 생성식 AI 대형 모델은 주로 클라우드에서 운행되고 있으며, 강력한 계산력이 뒷받침되어야 하기 때문에 보급 응용이 어렵다.멍박 퀄컴 중국지역 회장은 최근 열린 MWC2024 기간 인터뷰에서"우리가 더 많은 사람들이 AI 발전으로 인한 새로운 경험을 빠르고 편리하게 누리고 생성식 AI가 더 많은 사람들에게 혜택을 주기를 원한다면 AI 기술을 가장 사용자와 가까운 곳에 도입해야 한다"고 말했다.그러므로 우리가 손에 닿을수 있는 스마트폰, 이동PC와 인터넷련합자동차 등 단말기에서 언제 어디서나 생성식AI기능을 운행해야만 단말기와 클라우드가 긴밀히 융합되여 생성식AI의 광범한 응용을 추진할수 있다.
올해 MWC 대회에서 퀄컴은 새로운 퀄컴 AI 허브를 출시하여 개발자들에게 스냅드래곤과 퀄컴 플랫폼을 탑재한 단말기에 빈틈없이 배치할 수 있도록 전면적인 AI 사전 최적화 모델 라이브러리를 제공했다.현재 퀄컴 AI 허브는 개발자들에게 익숙한 Stable Diffusion, ControlNet, Baichuan-7B 등을 포함한 75개 이상의 주류 AI 및 생성식 AI 모델을 제공할 수 있으며, 이 모든 모델은 퀄컴 AI 엔진 내의 모든 코어 (NPU, CPU, GPU) 의 하드웨어 가속 능력을 충분히 활용하여 추론 속도를 4배 향상시키기 위해 최적화되었다.개발자는 이러한 모델을 신속하게 응용 프로그램에 원활하게 통합하여 제품 출시 시간을 단축하고 단말기 측 AI 배치의 많은 장점을 발휘할 수 있다. 예를 들면 즉시성, 신뢰성, 프라이버시, 개성화 및 비용 우위이다.
더 많은 개발자를 서비스하기 위해 퀄컴은 이미 이러한 최적화 모델을 퀄컴 AI Hub, 세계 최대 코드 호스팅 플랫폼인 GitHub 및 AI 오픈 소스 커뮤니티인 Hugging Face에 동시에 오픈했다.개발자가 등록해 로그인하면 퀄컴 플랫폼을 탑재한 클라우드 호스팅 단말기에서 스스로 모델을 실행할 수 있고, 퀄컴 AI 허브를 통해 새로운 특성과 AI 모델을 미리 얻을 수 있어 제품 개발과 업그레이드에 박차를 가해 사용자가 새로운 사용 경험을 얻을 수 있다.또한 퀄컴 AI Hub는 후속으로 새로운 모델을 지속적으로 추가할 것이며, 동시에 더 많은 플랫폼과 운영 체제를 지원하여 생성식 AI 응용 개발 생태를 끊임없이 풍부하게 하고, 각종 단말기에서 생성식 AI의 광범위한 응용을 가속화할 것이다.
앞서 퀄컴은 자사 최초로 생성형 AI를 위한 모바일 플랫폼인 3세대 스냅드래곤8을 출시해 스마트폰에서 100억 파라미터를 실행하는 AI 대형 모델을 지원했다.이와 함께 퀄컴은 AI PC를 대상으로 스냅드래곤 X 엘리트 플랫폼을 출시해 단말기 측면에서 130억 개 이상의 매개변수를 실행하는 생성식 AI 모델을 지원한다.현재 샤오미 14 시리즈, iQOO12 시리즈, 영광의 매직6 시리즈, 삼성 갤럭시 S24 시리즈, 오포 파인드 X7 울트라 등을 포함해 3세대 스냅드래곤 8을 탑재한 스마트폰이 10개 이상 출시됐고, 스냅드래곤 X 엘리트를 탑재한 더 많은 AI PC도 올해 말 출시된다.이 모든 것은 생성식 AI가 단말기에서 응용될 수 있도록 광범위한 하드웨어 기반을 제공하여 더 많은 소비자들이 언제 어디서나 생성식 AI가 가져오는 혁신적인 경험을 누릴 수 있도록 한다.
맹박은 한걸음 더 나아가 칩의 계산력이 제고되고 소프트웨어가 지속적으로 최적화되고 생성식AI 응용이 지속적으로 발전하는 과정에 AI 모델이 끊임없이 간소화됨에 따라 앞으로 12개월에서 18개월까지 생성식AI는 현재의 스냅드래곤 8시리즈 기함폰에서 스냅드래곤 7시리즈 심지어 스냅드래곤 6시리즈의 제품으로 광범위하게 확장될것이며 광범한 소비자들도 더욱 풍부한 각종 생성식AI 기능을 체험하게 될것이라고 지적했다.퀄컴은 앞으로도 차세대 PC, 스마트폰, 소프트웨어 정의 자동차, XR 기기, 사물인터넷 등 분야에서 단말기 측 AI의 규모화 상용화를 확장해 스마트 컴퓨팅이 어디에나 있을 수 있도록 계속 노력할 예정이다.
CandyLake.com 系信息发布平台,仅提供信息存储空间服务。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
猜你喜欢
- 전 세계 주식 투자자들이 모두 열광하고 있다!TOP20 주식 시장의 과반수가 최고치를 경신하고 있다
- 바이두 하준걸: 지능체는 생산력이고 사람마다 슈퍼개체가 될수 있다
- 가약정은"FF는 영원히 리윤을 얻을수 없다."고 대답했다. 단장취의 심지어 요언을 날조하기도 했다.작년에 인도된 차량 10대 중 6대는 모두 임대?그는 이렇게 말했다
- 혼다 중국 1~5월 단말기 누적 판매량은 346940대로 전년 동기 대비 16.7% 감소했다
- 혼다 중국 상반기 단말기 자동차 판매량은 약 41만6000대로 전년 동기 대비 21.5% 감소했다
- 구글과 메타 모두 레이펑 안경의 모회사 지분을 인수할 의향이 있다는 소식이다
- 혼다 중국 전 7월 단말기 자동차 판매량 전년 동기 대비 24.4% 감소
- 통용 중국 감원, 생산능력 감축 소문에 응답: 중국 내 업무는 모두 양질의 자산이다
- 과학기술주의 난감함: AI 붐이 점차 가라앉으면 대다수 사람들이 나체로 수영을 하고 있는가?
- 혼다 중국 전 9개월 단말기 자동차 판매량 전년 동기 대비 29.3% 감소
-
知名做空机构香橼研究(Citron Research)周四(11月21日)在社交媒体平台X上发布消息称,该公司已决定做空“比特币大户”微策略(Microstrategy)这家公司,并认为该公司已经将自己变身成为一家比特币投资基金 ...
- caffycat
- 昨天 11:18
- 支持
- 反对
- 回复
- 收藏
-
每经AI快讯,11月20日,文远知行宣布旗下自动驾驶环卫车S6与无人扫路机S1分别在新加坡滨海湾海岸大道与滨海艺术中心正式投入运营。据介绍,这是新加坡首个商业化运营的自动驾驶环卫项目。 ...
- star8699
- 3 天前
- 支持
- 反对
- 回复
- 收藏
-
上证报中国证券网讯(记者王子霖)11月20日,斗鱼发布2024年第三季度未经审计的财务报告。本季度斗鱼依托丰富的游戏内容生态,充分发挥主播资源和新业务潜力,持续为用户提供高质量的直播内容及游戏服务,进一步 ...
- goodfriendboy
- 3 天前
- 支持
- 反对
- 回复
- 收藏
-
人民网北京11月22日电 (记者栗翘楚、任妍)2024广州车展,在新能源汽车占据“半壁江山”的同时,正加速向智能网联新能源汽车全面过渡,随着“端到端”成为新宠,智能驾驶解决方案成为本届广州车展各大车企竞 ...
- 3233340
- 昨天 17:06
- 支持
- 反对
- 回复
- 收藏