NVIDIA CEO:“我们创造了为生成式 AI 时代而生的处理器”


时间: 2024-04-26 12:05:06 |   作者: 驱动器

  生成式 AI 有望彻底改变它所触及的每一个行业 —— 掌握技术是迎接挑战的关键。

  NVIDIA 创始人兼首席执行官黄仁勋发布了全新的 Blackwell 计算平台,并概述了计算能力的提升可为软件、服务、机器人技术、医疗技术等每个方面带来的重大进步。

  “加速计算已到达临界点,通用计算已失去动力,”黄仁勋在硅谷巨大的 SAP 中心体育馆对其主题演讲观众说道。GTC 现场聚集了超过 11,000 名与会者,在线观众数以万计。

  “我们需要一种全新的计算方式 —— 由此我们才能够继续扩展,继续降低计算成本,并在保证可持续性的同时接着来进行慢慢的变多的计算。与通用计算相比,加速计算使每个行业都可以大幅提速。”

  黄仁勋站在网球场大小的 40 英尺高 8K 屏幕前,向挤满了首席执行官、开发者、AI 爱好者和企业家的人群发表演讲。

  为了推动世界 AI 基础设施实现大规模升级的目标,黄仁勋发布了 NVIDIA Blackwell 平台,该平台具有对万亿参数大语言模型进行实时生成的能力。

  黄仁勋介绍了 NVIDIA 推理微服务,即 NVIDIA NIM。这是一种全新的软件打包和交付方式,能够将开发者与数亿个 GPU 连接起来,以部署各种定制 AI。

  黄仁勋还介绍了 Omniverse Cloud API,它能够给大家提供先进的模拟能力,将 AI 引入物理世界。

  演讲的尾声,黄仁勋进行了精彩演示,讲解了与一些大规模的公司的合作伙伴关系生态,还详细的介绍了超过二十项发布来阐述其愿景,以此为 GTC 2024 的重磅发布画上了圆满的句号。

  GTC 大会已经开展了 15 年,从最初在一个本地酒店宴客厅举办,到现在发展成了全球最重要的 AI 大会。本次大会是近五年来首次恢复线下。

  今年的大会包含超过 900 场会议,这中间还包括由黄仁勋主持的有关 Transformer 的专家讨论会,期间将与首批开发该技术的八位先驱们对线 多个技术研讨会。

  GTC 是一个几乎涉及所有领域的 AI 盛会。在开场致辞中,全球领先的 AI 艺术家 Refik Anadol 带来了惊艳的表演,展示了一座巨大的实时 AI 数据雕塑,屏幕上呈现着绿色、蓝色、黄色和红色的波动状旋涡,翻腾,交织和散落。

  黄仁勋在演讲开始时解释说,多模态 AI 的崛起——可处理由不同模型负责的多样化数据类型——赋予了 AI 更大的适应性和能力。通过增加参数,这些模型能处理更复杂的分析任务。

  但这也代表着对计算能力的需求显著上升。随着这些协作、多模态系统变得更复杂(参数多达万亿),对先进计算基础设施的需求也随之增加。

  “我们需要更大的模型,”黄仁勋表示,“我们将使用多模态数据来训练它,而不仅仅是网络上的文本。我们将使用文本和图像、图形和图表来训练它,就像我们从电视中学习一样,它也需要从海量视频中学习。”

  黄仁勋说:“我们应该更大的 GPU”。 Blackwell 平台就为了应对这一挑战而构建的。他从口袋里掏出一块 Blackwell 芯片,将它与 Hopper 芯片并排举起,后者显得小了一些。

  新架构以一位加州大学伯克利分校的数学家 David Harold Blackwell 而命名。他专门研究博弈论和统计学,也是第一位入选美国国家科学院的黑人学者。新架构超越了两年前推出的 NVIDIA Hopper 架构。

  Blackwell 在单芯片训练方面的 FP8 性能是其上一代架构的 2.5 倍,在推理方面的 FP4 性能是其上一代架构的 5 倍。它具有第五代 NVLink 互连,速度是 Hopper 的两倍,并且可扩展至 576 个 GPU。

  黄仁勋举起一块带有系统的电路板说道:“这台计算机是同类计算机中的第一台,能够在这么小的空间容纳如此多的计算量。由于它的内存是连贯的,感觉就像一个幸福的大家庭一起开发一个应用程序。”

  “这样我们大家可以大量地节省能源、网络带宽量和时间。”黄仁勋表示,“未来将是可生成的,这就是为什么这是一个全新的行业。我们的计算方式有本质差异,所以 NVIDIA 为生成式 AI 时代打造了一款全新处理器。”

  为了扩大 Blackwell 的规模,NVIDIA 构建了一款名为 NVLink Switch 的新芯片。每个芯片可以以每秒 1.8 TB 的速度连接四个 NVLink,并通过减少网络内流量来消除流量拥塞。

  该机器包含 600,000 个零件,重 3,000 磅。黄仁勋在介绍此台机器时说道:“此时此刻,地球上也许只有三台百亿亿次浮点运算(exaflop)机器。而这是一个单一机架中的 1 个百亿亿次浮点运算AI 系统。”

  此外,NVIDIA 还推出了更强大的新一代 AI 超级计算机 —— 由 NVIDIA GB200 Grace Blackwell 超级芯片提供支持的 NVIDIA DGX SuperPOD,可用于处理万亿参数模型,并具有持续的正常运行时间,以实现超大规模生成式 AI 训练和推理工作负载。

  “未来,数据中心将成为 AI 工厂”,黄仁勋说,“AI 工厂的使命是创造收入,同时也创造智能。”

  Blackwell 正在被全球各大云服务提供商、领先的 AI 公司、系统与服务器供应商,以及世界各地的区域云服务提供商和电信公司所采用。

  他解释说,未来的公司会将精力放在组装 AI 模型,赋予它们任务,给出工作产品示例,审查计划和中间结果,而不是编写软件。

  “未来我们如何构建软件?你不太可能从头开始编写,也不太可能写一大堆 Python 代码或类似的东西,” 黄仁勋说,“很可能你只需要组建一支 AI 团队就够了。”

  这些微服务支持行业标准 API,易于连接,可在 NVIDIA 庞大的 CUDA 安装基础上工作,针对新 GPU 进行重新优化,并不断扫描安全漏洞和威胁。

  黄仁勋表示,客户能使用现成的 NIM 微服务,或者 NVIDIA 可以为之构建专属的AI 和 AI 助手,为特定公司所需的模型专业技能提供专门训练,以助力您创建宝贵的新服务。

  “企业IT行业正坐在一座‘金矿’上,”黄仁勋说道, “他们拥有多年来创建的所有这些令人惊叹的工具(和数据)。如果他们能把这个‘金矿’变成 AI 助手,就能给用户更好的提供更多可能。”

  领先的科技公司已开始行动。黄仁勋详细的介绍了 NVIDIA 如何帮助 Cohesity、NetApp、SAP、ServiceNow 和 Snowflake 构建 AI 助手和虚拟助理。各行各业也在纷纷加入行列。

  在半导体设计和制造领域,黄仁勋宣布,NVIDIA 正在与 TSMC 和 Synopsys 合作,将其突破性的计算光刻平台 cuLitho 投入生产。该平台将把半导体制造中计算最密集的工作负载加速 40-60 倍。

  黄仁勋还宣布了 NVIDIA 地球气候数字孪生。该云平台现已推出,可实现交互式高分辨率模拟,以加速气候和天气预报。

  黄仁勋表示,AI 的最大影响将体现在医疗领域,NVIDIA 已经涉足成像系统、基因测序仪器,并与领先的手术机器人公司合作。

  NVIDIA 正在推出一种新型生物学软件。 NVIDIA 今天发布了二十多个新的微服务,使全球医疗企业能够在任何地方、任何云上利用生成式 AI 的最新进展。这些微服务可提供先进的成像、自然语言和语音识别,以及数字生物学生成、预测和模拟功能。

  黄仁勋表示:“我们应该一个模拟引擎,来以数字方式为机器人呈现世界,这样机器人就有了一个学习怎么样成为机器人的‘健身房’,我们称这个虚拟世界为 Omniverse。”

  因此,NVIDIA 宣布将以 API 形式提供 NVIDIA Omniverse Cloud,从而将全球领先的工业数字孪生应用和工作流创建平台的覆盖范围扩展到整个软件制造商生态系统。

  借助五个全新 Omniverse Cloud 应用编程接口(API),开发者能够轻松地将 Omniverse 的核心技术直接集成到现有的数字孪生设计与自动化软件应用中,或是集成到用于测试和验证机器人或无人驾驶汽车等自主机器的仿真工作流中。

  为了展示其工作原理,黄仁勋分享了一个机器人仓库的演示——使用多摄像头感知和追踪,看顾工人并协调机器人叉车,在整个机器人堆栈运行的情况下,这些叉车可以在一定程度上完成自动驾驶。

  黄仁勋表示:“所有会动的东西都有几率会成为机器人,汽车行业将是其中的一个重要部分,NVIDIA 的计算平台已经应用在乘用车、卡车、配送机器人和无人驾驶出租车中。”

  黄仁勋宣布,世界上最大的无人驾驶汽车公司比亚迪已选择 NVIDIA 的下一代计算平台用于其无人驾驶汽车,在 DRIVE Thor 上构建其下一代电动汽车车队。

  为了帮助机器人更好地感知所处环境,黄仁勋还发布了 Isaac Perceptor 软件开发工具包,该工具包具有最先进的多摄像头视觉里程计、3D 重建和占用地图,以及深度感知功能。

  为了使机械臂更具适应性,NVIDIA 宣布推出 Isaac Manipulator —— 一个先进的机械臂感知、路径规划和运动学控制库。

  最后,黄仁勋宣布了 Project GR00T,这是一个为人形机器人设计的通用基础模型,旨在逐步推动 NVIDIA 在机器人技术和具身智能方面的突破性工作。

  为了支持这一努力,黄仁勋推出了一款用于人形机器人的新型计算机 Jetson Thor,它基于 NVIDIA Thor 系统级芯片,并对 NVIDIA Isaac 机器人平台做了重大升级。

  演讲接近尾声之时,黄仁勋展示了来自迪士尼研究院的一对由 NVIDIA 驱动的小型机器人。

  黄仁勋表示:“计算机图形学、物理学和AI 是 NVIDIA 的灵魂所在,生成式 AI 时代一切改变都可能会发生。”

  关键字:引用地址:NVIDIA CEO:“我们创造了为生成式 AI 时代而生的处理器”

  Cadence 推出开拓性的 Virtuoso Studio,以AI为助力,开启模拟、定制和 RFIC 设计的未来 • 这是一个业界用于打造差异化定制芯片的领先平台,可借助生成式 AI 技术明显提升设计生产力; • Virtuoso Studio 与 Cadence 最前沿的技术和最新的底层架构集成,助力设计工程师在半导体和 3D-IC 设计方面取得新突破; • 依托 30 年来在全线工艺技术方面取得的行业领头羊,将大型设计的生产力提升 3 倍,助力塑造未来格局。 中国上海,2023 年 4 月 20 日 —— 楷登电子今日宣布,推出新一代定制设计平台 Cadence® Virtuoso® Stu

  为助力,开启模拟、定制和 RFIC 设计的未来 /

  7月19日消息,按照以往惯例华为将在今年下半年发布华为Mate 40系列旗舰,虽然现在距离发布会还有几个月的时间,但是现在已经有大量关于爆料。 近日有爆料人士RODENT950爆料称,受美国禁令影响,华为Mate 40或采用与三星类似的双处理器方案,国行则将搭载麒麟1020,而海外版本或采用高通或者三星的处理器。 该爆料人士称,华为Mate 40系列的出货量预计是上千万部的级别,但是由于今年华为半导体受到美国制裁,台积电可能会为提供约800万颗的麒麟1020芯片,这是远不够华为Mate 40系列手机使用的。 实际上对于手机使用双处理器的做法早就有手机生产厂商这样做过,三星Ga

  方案 /

  亮点: 新的DSP架构最大限度地考虑了控制流程处理和数字信号处理的需求,可用于高端智能手机、机器通信和无线连接芯片设计 可扩展VLIW/SIMD架构支持定点和浮点运算,提供无与伦比的性能和能效 引入创新的调制解调器架构设计,将DSP、协处理器、硬件加速器、存储器和系统接口等设计更好的整合在一起 新型CEVA-X系列针对2G/3G/4G/5G调制解调器的multi-RAT多载波PHY控制处理器系列,CEVA-X4是其中的首款产品 CEVA公司推出新型CEVA-X DSP 架构框架,重新定义了基带应用中控制和数据平面处理的性能和能效。凭借CEVA在基带处理器上有深厚的积累(迄今已有超过60亿设备内建了CEVA的处理器技术),新

  架构 /

  随着医疗保健行业与数据采集技术的发展, AI 技术与生物医疗产业的结合呈现出巨大潜力,不仅在制药领域中的取得了许多突破,在生物抗衰老的有关问题上也开始推进更深层的研究。下面就随嵌入式小编共同来了解一下相关联的内容吧。 自古以来,中国流传着长生不老,求仙问药的故事。一家总部在美国巴尔的摩的医疗与生物信息公司Insilico Medicine正在让这些神话故事的场景走进现实。 2014年,Insilico Medicine由创始人Alexander Zhavoronkov成立。该公司专注于运用 AI 技术发现新药,延长寿命,致力于个人健康管理和老龄化问题的相关研究。 至今为止,Insilico Medicine公司已经

  英特尔公司总裁兼CEO保罗•欧德宁近日表示,英特尔将会赢得平板电脑市场。在近日召开的一次电话会议上,欧德宁这样说到:“我们将使用所有能利用的资源来赢得这一市场,全世界最好的制造工艺技术、最好的处理器架构以及全世界的资源。” 在财报电话会议中,欧德宁开门见山地说:“我知道每个人脑子里想提的最严重的问题是什么,英特尔对新计算设备种类怎么样应对,尤其是平板电脑市场,这是大家想知道的。” 欧德宁首先肯定了苹果的平板电脑,他这样说到:“我们大家都认为平板电脑市场令人振奋,我们完全欢迎它的到来。苹果在重新激活这一市场干得漂亮。”至于平板对于PC和上网本市场的蚕食问题,欧德宁表示,我相信,和上网本一样,平板电脑的影响也会扩大整个计算设备

  各位老司机,平常你们喜欢用车载自带的车机,还是手机互联?现在中国各大汽车厂商除了内卷电动车续航之外,还内卷汽车智能化。现在有大家熟悉的包括华为、百度、科大讯飞和阿里等等大厂加持。 不过要说人工智能,谁才是顶流天花板?当然是从上年火到现在的ChatGPT了。这个隶属于微软旗下的OpenAI公司,从此也坐上火箭市值一直飙升。 不过之前ChatGPT的应用大多数还停留在网页人工智能对话,写写文案。但如果把他放到汽车里面,会有怎么样的效果呢? 这方面奔驰抢先去喝头啖汤了。近日梅赛德斯-奔驰和微软共同宣布,将ChatGPT功能添加到美国的奔驰汽车车机里面。 ChatGPT是微软的“生成式人工智能”软件,能够直接进行与真实

  系统 /

  前言:AI芯片目前业内有不少企业在做,大家都特别强调芯片的运算性能,每一家芯片厂商也会依据自己对产业的理解,在芯片中集成一些更具实用性的技术模块,为用户更好的提供更完整的芯片方案。那么,芯片厂商在研发一款芯片的时候,他们会有怎样的心路历程? 本期我们邀请到SVAC联盟副理事长单位----北京欣博电子的CEO梁敏学,对当前智能安防领域AI芯片的核心技术和产业格局进行了详细分析,并基于此,从自主知识产权方面出发,对同时集成SVAC编码、AI算法及视频加密技术的SVAC2.0及其市场发展空间进行探讨! Q: a&s总经理、总编辑关玉娟 A:北京欣博电子科技有限公司CEO 梁敏学 Q:欣博电子目前在安防人工智能方面具体有哪

  4 月 12 日消息,彭博社的马克・古尔曼在最新一期 Power On 时事通讯中,认为苹果正加速研发 M4 系列 Apple Silicon 芯片,有望提前到 2024 年年底装备在新款 Mac 设备中,且重点提高处理 AI 任务的性能。 苹果公司于去年 10 月发布了 M3、M3 Pro 和 M3 Max 芯片,古尔曼认为苹果同样会在今年 10 月前后推出 M4 系列芯片。 古尔曼认为苹果会率先升级 iMac 、低端 14 英寸 MacBook Pro 、高端 14 英寸 MacBook Pro 、16 英寸 MacBook Pro 和 Mac mini 机型;然后在 2025 年春季更新 13 英寸和 15 英寸 MacBo

  算法(卷2)-受大自然启发的算法

  系统软硬件协同设计教程:基于Xilinx Zynq-7000 (符意德)

  系统软硬件协同设计教程:基于Xilinx Zynq-7000 (符意德)

  嵌入式工程师AI挑战营(初阶):基于RV1106,动手部署手写数字识别落地

  通讯协议在德国能源市场上线 – 德国布雷滕报道 – 当前,SEEBURGER将AS4(Applicability Statement 4)协议作为一项集成服务提供给SAP公共事业应用的 ...

  摘要您对数字工厂的运作方式感兴趣?本文将数字工厂的工作原理与人体的运作机制相类比,概述了数据作为数字工厂命脉的重要性。文中还探讨了 ...

  上海,2024年4月24日讯——作为专业且可持续的材料解决方案和服务供应商 ,埃万特于4月23日至4月26日在国家会展中心(上海)参加2024年中 ...

  新款1KV多路复用器系列,采用仪器级高品质舌簧继电器,具有硬件互锁功能确保安全性,兼具高密度和高性能。Pickering推出新款高密度PXI和PXI ...

  罗克韦尔自动化联合上海气候周倡议发起,气候灯塔点亮仪式暨主题论坛在沪启幕

  罗克韦尔自动化联合上海气候周倡议发起,气候灯塔点亮仪式暨主题论坛在沪启幕向绿而行,扬帆全球可持续新程(2024年4月23日,中国上海)作 ...

  TDK推出SmartEdgeMLTM赋能在6轴IMU上运行超低功耗的机器学习模型

  埃万特在2024年中国国际橡塑展上率先推出不含聚四氟乙烯的LubriOne™耐磨损自润滑配方

  贸泽电子与Amphenol推出介绍新型连接解决方案的Plugged In视频系列

  站点相关:传感器/仪表信息处理嵌入式系统PLC传动与执行工业通讯工控设备别的技术综合资讯能源管理节能减排工控百科工控论坛