3分钟速览黄仁勋GTC演讲:最强AI芯片、NIM微服务等
海田1
发表于 2024-3-19 22:40:29
191
0
0
与过往一样,截至发稿,从黄仁勋开始讲话起,英伟达已经洋洋洒洒发布了40篇新闻稿,本文将着重概述一些今天早晨的重点进展,供投资者参考。
更大的GPU——Blackwell架构如期登场
虽然事前全市场都知道今天会有一款新旗舰算力GPU登场,但黄仁勋在演讲中并没有把名字讲清楚——仅表示推出了一款更大、更强的Blackwell架构GPU,一度引发媒体的混乱。但从官网的数据来看,今天老黄手里拿的应该是B200芯片,官网上也列出Blackwell架构存在B100芯片。英伟达并没有披露售价,仅表示将在年内向合作伙伴发货。
英伟达披露,新的B200芯片拥有2080亿个晶体管,采用台积电定制的4NP工艺制造。值得一提的是,这次的芯片将两个die连接成一个统一的GPU,die之间的通信速度可以达到10TB/秒。不出意外,这款芯片使用是192GB的HBM3E内存。
而GB200 Grace Blackwell超级芯片,是由2个B200芯片(4个die)和Grace CPU组合而来。相较于H100,大语言模型性能提升30倍,同时能耗只有25分之一。
老黄在演讲中举例称,如果要训练一个1.8万亿参数量的GPT模型,需要8000张Hopper GPU,消耗15兆瓦的电力,连续跑上90天。但如果使用GB200 Blackwell GPU,只需要2000张,同样跑90天只消耗四分之一的电力。不只是训练,生成Token的成本也会随之显著降低。
配合这一套新芯片,英伟达还推出了第五代新NVLink芯片,以及GB200 NVL72服务器、X800系列网络交换机、下一代人工智能超级计算机NVIDIA DGX SuperPOD等一系列产品。
开发软件新方式:NIM微服务
讲完硬件更新后,黄仁勋也将剩下的时间投入软件生态。除了地球气候数字孪生、医药开发AI外,英伟达也在AI Enterprise 5.0中推出了一系列“微服务”,包括简化企业将AI模型部署到生产环境中的NIM。
黄仁勋说到:“以后公司将不再需要编写软件,而是组装AI模型,给它们提出任务,还有工作产品的示例,审查计划和中间结果。”
英伟达介绍称,NIM微服务通过打包算法、系统和运行优化,并添加行业标准的API,简化了AI模型部署过程。这使得开发人员可以将NIM集成到现有的应用程序和基础设施中,而无需进行大量定制或专业知识。
数字孪生支持Vision Pro
英伟达也在周一宣布,Omniverse云现在允许开发者将他们的工业场景,从内容创作应用程序发送到英伟达的Graphics Delivery Network(GDN),借此可以将先进的3D体验流式传输到Apple Vision Pro。
这种新工作流将苹果Vision Pro的高分辨率显示与英伟达的云渲染相结合,只需设备和互联网连接即可提供空间计算体验。
还有许许多多零碎的官宣
半导体领域,英伟达宣布,台积电和Synopsys将英伟达计算光刻平台CuLitho投入先进芯片的生产。
在电信领域,黄仁勋宣布名为NVIDIA 6G的研究云,这是一个由生成式人工智能和Omniverse技术驱动的平台,旨在推动下一代通信时代的发展。
交通运输领域,全球最大电动车公司比亚迪将采用英伟达集中式车载计算平台DRIVE Thor开发下一代电动车。此外,比亚迪同时将使用英伟达基础设施进行自动驾驶模型训练,以及英伟达Isaac来设计/模拟智能工厂机器人。
机器人也是整个演讲的最后一个环节。黄仁勋宣布了多项助力机器人技术开发的软件。其中包括Isaac Perceptor软件开发工具包,涉及多摄像头视觉里程测量、三维重建以及深度感知等。还有Isaac Manipulator——机器人手臂感知、路径规划和运动学控制库。最后他还宣布了一个名为GR00T的项目,这是一个面向人型机器人的通用基础模型,旨在推动公司在机器人技术和具身智能方面的突破。
在一对使用英伟达Jetson芯片的迪士尼机器人orange和green陪伴下,整场发布会至此落下帷幕。
CandyLake.com 系信息发布平台,仅提供信息存储空间服务。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
-
11月19日消息,三菱日联金融集团董事长Kanetsugu Mike表示,到2026年3月日本央行可能将政策利率提高至1%的“中性利率”水平。他表示,这是三菱日联金融集团的内部观点。(彭博) ...
- sam128
- 3 天前
- 支持
- 反对
- 回复
- 收藏
-
知名做空机构香橼研究(Citron Research)周四(11月21日)在社交媒体平台X上发布消息称,该公司已决定做空“比特币大户”微策略(Microstrategy)这家公司,并认为该公司已经将自己变身成为一家比特币投资基金 ...
- caffycat
- 1 小时前
- 支持
- 反对
- 回复
- 收藏
-
每经AI快讯,11月20日,文远知行宣布旗下自动驾驶环卫车S6与无人扫路机S1分别在新加坡滨海湾海岸大道与滨海艺术中心正式投入运营。据介绍,这是新加坡首个商业化运营的自动驾驶环卫项目。 ...
- star8699
- 前天 19:48
- 支持
- 反对
- 回复
- 收藏
-
上证报中国证券网讯(记者王子霖)11月20日,斗鱼发布2024年第三季度未经审计的财务报告。本季度斗鱼依托丰富的游戏内容生态,充分发挥主播资源和新业务潜力,持续为用户提供高质量的直播内容及游戏服务,进一步 ...
- goodfriendboy
- 前天 20:09
- 支持
- 反对
- 回复
- 收藏