3分钟速览黄仁勋GTC演讲:最强AI芯片、NIM微服务等

2024-03-19
关注
财联社3月19日讯(编辑) 史正丞)北京时间周二上午,英伟达GTC 创始人兼首席执行官黄仁勋的主题演讲最近刚刚结束。正如市场预期的那样,全球资本市场刚刚看到了新的计算能力芯片/服务器和一堆人工智能软件应用程序。 和过去一样,自黄仁勋发言以来,英伟达已经发布了40篇新闻稿。本文将重点介绍今天上午的一些关键进展,供投资者参考。 更大的GPU-Blackwell架构如期出现 虽然整个市场都知道今天会出现一个新的旗舰算力GPU,但黄仁勋在演讲中并没有明确说明自己的名字——只是说推出了一个更大更强的Blackwell架构GPU,曾经引起媒体的混乱。但从官网数据来看,老黄今天应该拿B200芯片(下图左侧),B100芯片也列出了Blackwell架构。英伟达没有透露销售价格,只是表示将在年内交付给合作伙伴。 英伟达透露,新的B200芯片有2080亿个晶体管,采用台积电定制的4NP工艺制造。值得一提的是,这个芯片将两个die连接成一个统一的GPU,die之间的通信速度可以达到10TB/秒。毫不奇怪,该芯片使用了192GB的HBM3E内存。 而GB200 Grace Blackwell超级芯片由2个B200芯片(4个die)和Grace组成 CPU组合而来。与H100相比,大语言模型的性能提高了30倍,能耗只有25分之一。 例如,老黄在演讲中说,要训练一个参数1.8万亿的GPT模型,需要8000张Hopper GPU,耗电15兆瓦,连续跑90天。但如果使用GB2000, Blackwell GPU,只需要2000张,跑90天只需要四分之一的电。不仅仅是训练,生成Token的成本也会显著降低。 有了这套新芯片,英伟达还推出了第五代新NVLink芯片,使用液冷GB200 NVL72服务器、X800系列网络交换机、下一代人工智能超级计算机NVIDIA DGX 一系列产品,如SuperPOD。 新的软件开发方式:NIM微服务 硬件更新后,黄仁勋还将剩下的时间投入到软件生态中。英伟达除了地球气候数字孪生和医学开发人工智能外,还在人工智能中 Enterprise 5.0中推出了一系列“微服务”,包括简化企业在生产环境中部署人工智能模型的NIM。 黄仁勋说:“未来,公司将不再需要编写软件,而是组装人工智能模型,为他们提供任务,以及工作产品、审查计划和中间结果的示例。” 英伟达表示,NIM微服务通过包装算法、系统和运行优化,并添加行业标准API,简化了AI模型的部署过程。这使得开发人员在没有大量定制或专业知识的情况下,将NIM集成到现有的应用程序和基础设施中。 数字孪生支持Visionn Pro 英伟达也在周一宣布,Omniverse云现在允许开发者将其工业场景从内容创建应用程序发送到英伟达的Graphics Delivery Network(GDN),可以将先进的3D体验流式传输到Apple Vision Pro。 苹果Vision这种新工作流 Pro的高分辨率显示与英伟达的云渲染相结合,只需设备与互联网连接即可提供空间计算体验。 还有很多零碎的官方公告 在半导体领域,英伟达宣布,台积电和Synopsys将英伟达计算光刻平台Culitho投入到先进芯片的生产中。 在电信领域,黄仁勋宣布了NVIDIA 6G研究云是一个由生成式人工智能和Omniverse技术驱动的平台,旨在促进下一代通信时代的发展。 世界上最大的电动汽车公司比亚迪将使用英伟达集中车载计算平台DRIVE Thor开发下一代电动汽车。此外,比亚迪还将使用英伟达基础设施进行自动驾驶模型培训,以及英伟达Isaac设计/模拟智能工厂机器人。 机器人也是整个演讲的最后一部分。黄仁勋宣布了一些帮助机器人技术开发的软件。包括Isaac Perceptor软件开发工具包涉及多摄像头视觉里程测量、三维重建和深度感知。还有Isaac Manipulator——机器人手臂感知、路径规划和运动控制库。最后,他还宣布了一个名为GR00T的项目,这是人类机器人的一个通用基本模型,旨在促进公司在机器人技术和特定智能方面的突破。 最后,黄仁勋在迪士尼机器人orange和gren的陪同下离开了一对使用英伟达Jetson芯片的迪士尼机器人,整个新闻发布会结束了。
您觉得本篇内容如何
评分

评论

您需要登录才可以回复|注册

提交评论

提取码
复制提取码
点击跳转至百度网盘