全程直击英伟达创始人黄仁勋GTC演讲:Blackwell架构B200芯片登场
2024年03月19日 04:10
来源: 财联社
东方财富APP

方便,快捷

手机查看财经快讯

专业,丰富

一手掌握市场脉搏

手机上阅读文章

提示:

微信扫一扫

分享到您的

朋友圈

摘要
【全程直击黄仁勋GTC演讲:通往下一波AI创新的大门正式开启】北京时间3月19日4时-6时,英伟达创始人黄仁勋将在美国加州圣何塞SAP中心登台,发表GTC 2024的主题演讲《见证AI的变革时刻》。鉴于过去一年多时间里AI带来的生产力变革,以及英伟达等一众概念股的表现,老黄的演讲已经变成全球资本市场翘首以待的热门事件。

K图 NVDA_0

  北京时间3月19日4时-6时,英伟达创始人黄仁勋在美国加州圣何塞SAP中心登台,发表GTC 2024的主题演讲《见证AI的变革时刻》。鉴于过去一年多时间里AI带来的生产力变革,以及英伟达等一众概念股的表现,老黄的演讲已经变成全球资本市场翘首以待的热门事件。

  以下为实时更新演讲内容:

image

  演讲即将开始,现场已经座无虚席。

image
image
image

  播放开场影片。

image
image

  黄仁勋登台,对观众们强调:我希望你们搞清楚今天这里不是演唱会,而是一场开发者大会。

image
image

  黄仁勋介绍了本届GTC的一些参与者,并强调这些公司不只是来参会,而是有自己的东西要来展示。

image

  黄仁勋展示英伟达发展史,又提了将首台DGX One送给OpenAI的故事。

image
image
image

  黄仁勋:今天我们将讨论这个新行业的许多问题。我们要谈谈如何进行计算、我们要谈谈你所构建的软件类型,你将如何看待这个新软件,新行业中的应用然后,也许(再谈谈)下一步是什么,我们如何从今天开始做准备,下一步会发生什么。

image

  黄仁勋:我们使用仿真工具来创造产品,并不是为了降低计算成本,而是为了扩大计算规模。我们希望能够以完全保真、完全数字化的方式模拟我们所做的整个产品。从本质上讲,我们称之为数字孪生

image

  老黄开始介绍一系列合作伙伴,包括ANSYS、Synopsis、Cadence等。

image
image

  随着transformer模型被发明,我们能以惊人的速度扩展大型语言模型,实际上每六个月就能翻一番。而为了训练这些越来越大的模型,我们也需要更强的算力。

image

  “非常强大”的Blackwell架构GPU登场。

image

  老黄现场对比Blackwell架构和Grace Hopper架构的GPU。

image
image
image

  老黄现场展示Grace-Blackwell系统(两个Blackwell GPU、四个die与一个Grace Cpu连接在一起)。GB200将两个B200 Blackwell GPU与一个基于Arm的Grace CPU进行配对。

image

  为了处理大规模数据中心的GPU交互问题,也需要更强的连接(NVlink)能力。

image
image

  这个GB200新系统提升在哪里呢?老黄举例称,如果要训练一个1.8万亿参数量的GPT模型,需要8000张Hopper GPU,消耗15兆瓦的电力,连续跑上90天。但如果使用Blackwell GPU,只需要2000张,同样跑90天只要消耗四分之一的电力。当然不只是训练,生成Token的成本也会随之降低。

image

  把芯片做大的好处:单GPU每秒Token吞吐量翻了30倍。

image

  毫无疑问,微软Azure、AWS、谷歌云等一众科技巨头都是Blackwell架构的首批用户。

image

  接下来应该是应用侧的部分,先讲的是生物医药的部分。

image
image

  黄仁勋宣布新的AI微服务,用于开发和部署企业级生成式AI应用。老黄表示,未来如何开发软件?与现在一行行代码不同,未来可能就要靠一堆NIMs(Nvidia inference micro service),用与AI聊天的形式调动一堆NIMS来完成训练、应用的部署。英伟达的愿景是成为AI软件的“晶圆厂”。

image

  英伟达的AI微服务NIM网站已经上线。

  NIM微服务提供了最快、性能最高的AI生产容器,用于部署来自NVIDIA、A121、Adept、Cohere、Getty Images和Shutterstock的模型,以及来自Google、Hugging Face、Meta、Microsoft、Mistral AI和Stability AI的开放模型。

image
image

  NVIDIA AI Enterprise软件平台更新,包括NIM、构建RAG应用程序的工具等。随后老黄又分享了西门子科技、日产汽车等用如何在工作流中将Omiverse Cloud应用在工作流中。

image

  黄仁勋宣布,现在支持将 Omniverse 云推送至Vision Pro。

image

  可能是时间不太够了,老黄开始加速官宣一系列合作。其中提到全球最大电动车公司比亚迪将采用英伟达下一代智能汽车芯片Thor。

image
image
image

  开始提机器人了。黄仁勋表示,在我们的世界里,类人机器人很有可能会发挥更大的作用,我们设置工作站、制造和物流的方式,并不是为人类设计的,而是为人类设计的。因此,这些人类或机器人的部署可能会更有成效。黄仁勋同时宣布一项名为GR00T的项目,旨在进一步推动英伟达在机器人和具身智能的突破性工作。由GR00T驱动的机器人可以理解自然语言,并通过观察人类动作来模拟运动。

image

  除了机器人影像外,迪士尼的orange和green机器人也来到现场,这款机器人用的是英伟达为机器人设计的首款AI芯片Jetson。

image

  黄仁勋带着机器人下场,现场播放ending影片。

image

  黄仁勋返场告别,全场发布会结束。

(文章来源:财联社)

文章来源:财联社 责任编辑:110
原标题:全程直击黄仁勋GTC演讲:Blackwell架构B200芯片登场
郑重声明:东方财富发布此内容旨在传播更多信息,与本站立场无关,不构成投资建议。据此操作,风险自担。
举报
分享到微信朋友圈

打开微信,

点击底部的“发现”

使用“扫一扫”

即可将网页分享至朋友圈

扫描二维码关注

东方财富官网微信


扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-61278686 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:4000300059/952500