高通孟樸:当终端随时都能运行生成式AI,才会实现广泛应用
我爱霍启刚掖
发表于 2024-3-1 14:07:39
152
0
0
不过,目前生成式AI大模型主要运行在云端,需要强大的算力提供支撑,难以普及应用。高通中国区董事长孟樸在最近举办的MWC2024期间接受采访时表示,如果我们希望让更多人快捷、便利地享受到AI发展带来的新体验,让生成式AI惠及更多人,这就需要将AI技术引入最贴近用户的地方。因此,只有在我们触手可及的智能手机、移动PC和网联汽车等终端设备中,实现随时随地运行生成式AI功能,才能使终端与云端紧密融合,从而推动生成式AI的广泛应用。
在今年的MWC大会上,高通推出了全新的高通AI Hub,为开发者提供一个全面的AI预优化模型库,支持在搭载骁龙和高通平台的终端上进行无缝部署。目前,高通AI Hub能够为开发者提供超过75个主流的AI和生成式AI模型,包括大家比较熟悉的Stable Diffusion、ControlNet、Baichuan-7B等等,所有这些模型均经过优化,以充分利用高通AI引擎内所有核心(NPU、CPU和GPU)的硬件加速能力,从而使推理速度提升4倍。开发者可以快速将这些模型无缝集成到应用程序之中,缩短产品上市时间,发挥终端侧AI部署的诸多优势,比如即时性、可靠性、隐私、个性化和成本优势。
为了服务更多的开发者,高通已经将这些优化模型同步上线到高通AI Hub、全球最大的代码托管平台GitHub以及AI开源社区Hugging Face。开发者注册登陆后,就可以在搭载高通平台的云托管终端上自行运行模型,还可以通过高通AI Hub提前获取新特性和AI模型,从而加快产品开发和升级的步伐,让用户获得全新的使用体验。此外,高通AI Hub后续还将持续增加新模型,同时还将支持更多平台和操作系统,不断丰富生成式AI应用开发生态,加速推动生成式AI在各类终端上的广泛应用。
此前,高通已经推出了公司首个专为生成式AI打造的移动平台——第三代骁龙8,支持在智能手机上运行100亿参数的AI大模型。同时,高通还专门面向AI PC推出了骁龙X Elite平台,支持在终端侧运行超过130亿参数的生成式AI模型。目前,包括小米14系列、iQOO12系列、荣耀Magic6系列、三星Galaxy S24系列、OPPO Find X7 Ultra等在内,已经有超过10款搭载第三代骁龙8的智能手机上市,而搭载骁龙X Elite的更多AI PC也将于今年晚些时候上市。所有这些,为生成式AI在终端上的应用提供了广泛的硬件基础,让更多消费者都能随时随地享受到生成式AI带来的创新体验。
孟樸进一步指出,随着芯片算力的提升和软件的持续优化,以及在生成式AI应用持续发展的过程中AI模型不断精简,未来12个月到18个月,生成式AI将从目前的骁龙8系列旗舰手机广泛扩展到骁龙7系列甚至骁龙6系列的产品上,而广大消费者也将体验到更加丰富的各种生成式AI功能。展望未来,高通也将继续致力于拓展终端侧AI在下一代PC、智能手机、软件定义汽车、XR设备和物联网等领域规模化商用,让智能计算无处不在。
CandyLake.com 系信息发布平台,仅提供信息存储空间服务。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
猜你喜欢
- 本田汽车前4个月在华终端汽车销量同比下降10.9%
- 连奥巴马的信息都能搞错?!谷歌新AI搜索综述引爆互联网吐槽
- 美国第一季度经济增长率下修至1.3%
- 本田中国1-5月终端汽车累计销量为346940辆 同比减少16.7%
- 欧洲央行管委Kazimir表示必须等到9月才会评估下次降息
- “从太空都能看到”!特斯拉被指库存积压严重 今年一季度销量“遇冷”
- 台积电:台积电南京已获美国商务部核发“经认证终端用户”授权
- 台积电南京公司已获得美国商务部“经认证终端用户”授权 此次未增加新权限
- 中国移动终端公司、小米、当红齐天和高通联合推出5G-A高频万兆测试平台
- 本田中国上半年终端汽车销量约41.6万辆,同比下降21.5%
-
两名知情人士上周日(6月30日)表示,美国司法部将对波音公司提起刑事诉讼,并就两起致命坠机事件以欺诈罪立案,要求波音认罪或接受审判。 消息人士称,美国司法部计划在当天晚些时候正式向波音公司提出认 ...
- yixin66
- 3 天前
- 支持
- 反对
- 回复
- 收藏
-
7月1日,特斯拉宣布推出全新购车金融政策。其中,针对Model 3/Y后轮驱动版推出的1~5年0息和低息优惠购车政策,日供低至85元起;针对Model 3/Y长续航全轮驱动版推出的1~5年0息和低息购车优惠政策,日供低至107元 ...
- 覃志辉
- 3 天前
- 支持
- 反对
- 回复
- 收藏
-
7月1日,特斯拉在中国官网更新了Model 3和Model Y车型的购车优惠政策。7月31日前购买标准续航或长续航四轮驱动版的Model 3/Y车型的顾客,将可享受五年0利息分期付款方案。 值得注意的是,这不是特斯拉今年 ...
- shev711
- 3 天前
- 支持
- 反对
- 回复
- 收藏
-
马斯克当地时间7月2日在社交平台X上表示,一旦特斯拉完全解决了自动驾驶问题,并实现擎天柱机器人(Optimus)的量产,任何仍持有空头头寸的人都会“被消灭”,即便是比尔·盖茨也不例外。 ...
- cheray
- 昨天 10:52
- 支持
- 反对
- 回复
- 收藏