英伟达Blackwell GPU架构将登陆亚马逊云科技 要“把AI扩展到万亿参数”
维也纳516
发表于 2024-3-19 20:20:18
2113
0
0
随着英伟达芯片的升级,《每日经济新闻》记者了解到,此次合作中,亚马逊云科技将为客户提供全新的Amazon EC2云实例(Elastic Compute Cloud,亚马逊弹性计算云),从而帮助客户以更快速度、更大规模、更低成本地对构建和运行数万亿参数的大语言模型(LLMs)进行实时推理,性能相较于配备上一代英伟达GPU的EC2实例有显著改进。
同时,亚马逊云科技将提供基于英伟达Grace Blackwell GPU的EC2云实例,以及双方在亚马逊云科技上合作开发的AI平台——NVIDIA DGX Cloud,客户可以在EC2上运行他们的生成式AI负载,也可以选择在DGX Cloud上运行。
亚马逊云科技与英伟达的合作可以追溯到13年前。
亚马逊云科技CEO亚当·塞利普斯基(Adam Selipsky)表示,当时两者共同在亚马逊云科技上推出了世界上第一个GPU云实例。对此次合作,他认为,当英伟达芯片与Amazon Elastic Fabric Adapter Networking、Amazon EC2 UltraClusters的超大规模集群以及亚马逊云科技独特的Nitro系统的高级虚拟化和安全功能相结合时,客户将能够以更快的速度构建和运行数万亿参数大型语言模型。规模更庞大,且比其他任何地方都更安全。
英伟达创始人兼首席执行官黄仁勋对此表示:“人工智能正在以前所未有的速度推动突破,带来新的应用程序、商业模式和跨行业创新。我们与亚马逊云科技的合作正在加速新的生成式人工智能功能,并为客户前所未有的计算能力,以推动可能性的边界。”
亚马逊云科技自去年下半年起,在生成式AI领域深度合作频繁。去年9月,亚马逊向生成式人工智能聊天机器人的初创公司Anthropic投资40亿美元,并提供亚马逊创建的人工智能开发者工具和产品,比如计算芯片、大语言模型以及云计算能力。Anthropic最新推出的Claude3系列模型在基准测试中已超过GPT4,该模型也在Amazon Bedrock向客户提供。
CandyLake.com 系信息发布平台,仅提供信息存储空间服务。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
猜你喜欢
- “AI妖股”超微电脑财务风险引发关注,“深度绑定”英伟达
- 英国监管机构放行亚马逊与Anthropic的人工智能合作
- 亚马逊因网络技术专利遭美国法院裁定赔偿3050万美元
- 08年金融危机中令人闻风色变的资产 今年跑赢了英伟达?
- 韩国互联网巨头Kakao:下月将宣布与英伟达建立AI合作关系
- 中国资产大涨!纳斯达克中国金龙指数涨超5%!美国重磅数据公布 纳指跌超278点 英伟达跌超3% 苹果跌超2%
- 菲律宾总统签署法案对奈飞、亚马逊等平台征收增值税
- OpenAI完成新一轮66亿美元融资 英伟达新近参与
- 英伟达支持的云服务提供商CoreWeave有望获思科投资 估值或达230亿美元
- 英伟达芯片热度爆表 黄仁勋曝Blackwell需求“太疯狂”
-
蔚来汽车发布《蔚来能源9月加电报告》,截至9月30日,蔚来在全国建设换电站2556座。其中高速公路换电站859座,累计为用户提供换电服务超5410万次,提供电池灵活升级服务295366次。截至9月30日,蔚来布局充电站40 ...
- 1234ljx
- 前天 19:01
- 支持
- 反对
- 回复
- 收藏
-
上周国际市场风云变幻,中东局势升级推高油价,美国非农报告表现强劲。 市场方面,美股周线四连阳,道指周涨0.09%,纳指周涨0.10%,标普500指数周涨0.22%。欧洲三大股指表现不佳,英国富时100指数周跌0.48% ...
- wycctqxl
- 10 小时前
- 支持
- 反对
- 回复
- 收藏
-
北京商报讯(记者刘晓梦)10月5日,蔚来宣布已与CYVN签署战略合作协议,将在阿联酋阿布扎比建立技术研发中心。此外,蔚来与CYVN还将联合研发一款针对当地市场的全新车型。 同时,蔚来还宣布,将正式在中东 ...
- 禹阳之子
- 前天 16:11
- 支持
- 反对
- 回复
- 收藏
-
9月26日,特斯拉CEO马斯克发布消息称,特斯拉Robotaxi无人驾驶出租车将于加州时间10月10日(北京时间10月11日)发布。“这将载入史册(This will be one for the history books)”。马斯克在社交媒体上表示。 ...
- 无语乜无言无h
- 前天 12:26
- 支持
- 反对
- 回复
- 收藏