黄仁勋GTC答记者问全文:英伟达是一家软件公司,机会不是GPU芯片,是数据中心

news/2024/10/1 9:37:43/文章来源:中华网

气氛突然严肃了起来。

「有媒体认为你要么是AI时代的达芬奇,要么是AI时代的奥本海默,你怎么看?」

「奥本海默是造炸弹的,我们(英伟达)不干这个。」面对这个多少有点戏谑的问题,英伟达创始人、CEO黄仁勋迟疑片刻,非常认真地回答了出来。

当地时间 3 月 19 日,以堪比流行巨星的热度完成了 GTC 2024 的开场演讲后第二天,黄仁勋接受了全球媒体采访。

黄仁勋GTC答记者问全文:英伟达是一家软件公司,机会不是GPU芯片,是数据中心

黄仁勋给在场媒体重新解释了一遍「演唱会」上的要点|图片来源:极客公园

无论是宏大问题例如「AGI何时到来」、「英伟达如何看待中国市场」,或者是具体到新推出的NIM软件如何应用,这位全球市值第三公司的掌舵人,都能将问题分解并抽象成更容易理解的层次,用简单的比喻回答出来,虽然其中可能不乏「太极」的嫌疑,但至少令人难以怀疑回答者的诚恳。

两万亿的市值新高度下,老黄认为,GPU芯片市场,不是英伟达的追求——「英伟达不造芯片,英伟达造数据中心」,为此,英伟达搭建了所有:硬件、软件、服务,让客户决定怎么购买自己的数据中心。

黄仁勋GTC答记者问全文:英伟达是一家软件公司,机会不是GPU芯片,是数据中心

GTC 2024 Keynote 演讲中,老黄展示的 5 个要点:

新工业革命(加速计算和生成式 AI)下,英伟达的新基建包括:Blackwell 平台;NIMS;NEMO 和 NVIDIA AI Foundry;Omniverse 和 ISAAC 机器人。|图片来源:Nvidia

01 GTC 新品的中国市场计划

问:新的网络和技术计划向中国销售多少?有任何中国特定SKU的信息可以披露吗?是否为该市场做出了任何考虑或改变?

黄仁勋:我还没有向你宣布这一点,你很贪婪(哈哈),这就是全部答案。现在对于中国,我们有L20和H20芯片符合出口要求,我们正在尽最大努力为中国市场组织调配资源。

02 AI Foundry 的目标

问:你在主题演讲里提到AIFoudry正在许多企业起作用,这个计划的总体战略和长期目标是什么?

黄仁勋:AI Foundry 的目标是构建软件。这不是指软件作为工具,任何人都有这样的软件。很久以前创建的两个最重要的软件,一个叫做 Office,它让软件变得 RTS(Real-Time Software,实时软件)。

另一个非常重要的软件叫做cuDNN(CUDA深度神经网络库)。我们有AI所有这些不同的。未来的库是一个微服务,因为未来的库不仅仅用数学来描述,还用AI来描述。未来,它们都将变成NIMs(微服务)。

这些NIMs是超级复杂的软件,你所要做的就是来到我们的网站。你可以选择用户在那里,或者下载它、在另一个云端运行它,或者下载在你的本地计算机上运行。当运行你的工作站、你的数据中心时,这项服务将使它们非常高效,所以这是一种在环境中使用的新方式。现在,当你作为一个企业运行这些库时,我们有一个软件许可(Liscence)的授权操作系统可用,你可以以4500美元/GPU/年的价格使用这些服务。

03 Blackwell 定价

问:你之前说最新一代AI芯片Blackwell的定价在3万至4万美元,有更精确的信息吗?

黄仁勋:这很难说,我也只是试图让大家对我们产品的定价有一定体感,并不打算给出具体报价。

Blackwell系统的定价非常不同,因为每个人要的配置不同。如果不仅使用Blackwell,Blackwell系统通常包括NV-Link在里面,所以不同系统的定价不同。像往常一样,定价范围通常视TCO(总体拥有成本)而定。

英伟达不造芯片,英伟达造数据中心,为此我们搭建了所有任务,引入所有软件,调整它使数据中心系统尽可能地运转良好。然后,疯狂的部分来了,我们将数据中心聚合成更小的部分,允许客户根据自己的特定需求对其进行修改,这包括网络、存储、控制平面、安全和管理模块,想办法把数据中心整合到客户的系统中,最终,客户决定如何购买它,所以跟过去销售芯片不同,Blackwell的定价不是芯片的事,我们的商业模式也反映了这一点。

英伟达的机会不是GPU芯片,是数据中心,数据中心正在快速走向加速,这是每年2500亿美元的市场,并以每年20%至25%的速度增长,这主要是由于AI方面的需求。其中,英伟达会占据重要的份额,从1万亿美元升至2万亿美元,我认为是合理的。

黄仁勋GTC答记者问全文:英伟达是一家软件公司,机会不是GPU芯片,是数据中心

黄仁勋:你说的GPU,和我说的GPU,脑海中想象的差距非常大|图片来源:极客公园

04 Sam Altman 要扩张到芯片行业

问:Sam Altman 一直在与芯片业的人们谈论扩大AI芯片的规模。他和你谈过这个问题吗?

黄仁勋:我不知道他的意图。他认为生成式AI会变得很大,在这一点我很认同。

今天计算机产生像素的方式是从数据集中检索数据,处理数据,然后传递数据。在整个过程中,人们认为需要消耗的能源非常少,但这恰恰相反。原因是每次你触摸手机、每个提示,需要与数据集赛跑并返回。从数据集中检索数据,使用CPU收集所有必要的部分,然后以一种从推荐系统的角度看有意义的方式组合信息,然后将结果信息发送回用户,这个过程需要大量的计算。

这就像每次问我一个问题,我都需要跑回办公室检索信息,这需要大量的精力。未来,越来越多的计算将是生成的,而不是基于检索的。当然,这个生成过程必须是智能的、与上下文相关的。我相信,未来人们电脑上的几乎每一个像素、每一次交互都将通过生成过程产生,我相信Sam也这么认为。希望通过Blackwell新一代架构能为生成式AI这个领域做出重大贡献。现在大多数体验还是基于检索的,但是如果未来每个人的人机交互都是生成式的体验,我会很惊讶。这是一个巨大的机遇。

05 个人大模型会是什么样子?

问:我完全同意你对未来软件的定义,我们的生活也在通过LLM发生很大变化。在基础模型方面,你认为未来会是什么样的?

黄仁勋:核心是,我们如何拥有个人的大模型?有一些方式可以做到。开始,我们认为这个过程可能需要微调(fine tuning),在持续的使用过程中,持续微调。

但是,正如你所知,微调是相当耗时的。然后我们发现了提示词工程(prompt engineering),发现了上下文学习(context learning),发现了工作环境(working environment)等等。

我认为答案将是所有这些的组合。在未来,你可以通过只微调一层叫Lora的权重(weights),锁定其他部分不必微调,从而低成本地做微调,你可以做提示词共创、上下文学习、增加模型记忆,所有这些成就了你独特的大模型,可以在云端运行,也可以在你的本地电脑上运行。

06 对 AI 芯片初创公司的看法

问:昨天在你的主题演讲后,芯片公司Groq发推文说自家芯片跑得仍然更快,你怎么看AI芯片初创公司的评论?

黄仁勋GTC答记者问全文:英伟达是一家软件公司,机会不是GPU芯片,是数据中心

黄仁勋:我还没了解那么多(哈哈),不评论了。

任何以token方式做生成的模型都需要其独特的方式,因为Transformer不是任何一个模型的名称。

这些模型总体基于 Transformer 技术,都利用了 Transformer 注意力机制,但模型与模型之间存在巨大差别。有的模型用了混合专家模型(Mixture of Experts),混合模型里有的是两个专家模型,有的是四个专家模型,这些模型等待消息,以及路由分发,里面的一切步骤都不同,模型中的每一个都需要特殊优化。

此时,如果计算单元被设计成只能以特定的方式、做特定的事情,它就是一个可配置的电脑,而不是可编程配置的计算机,就无法受益于软件创新的速度和潜力。

就像CPU的奇迹不可低估一样,这么多年,CPU一直是CPU的原因,是它克服了这些年来设置在PC主板上的可配置硬件,软件工程师的才能可以通过CPU来实现。相反,如果你把它固定在芯片上,你就断了软件工程师能带给芯片的聪颖智慧。

这就是英伟达芯片能够在不同的AI模型架构(从AlexNet一直到Transformer)下,都能表现出色的原因,英伟达找到了一种方法,从一种非常专业的计算形式中受益。芯片在这里被用来促进软件,而英伟达的工作是促进发明,促进像ChatGPT的发明。

07 机器人空间模拟如何利用语言模型?

问:你讲述了使用生成式AI和模拟/仿真(simulation)来大规模训练机器人,但是有很多事情我们不知道如何很好地模拟,特别是当涉及到结构性的环境,如何突破限制继续训练机器人?

黄仁勋:有多种方法可以做到这一点。首先,你可以在我们的语言模型上下文中构建你的问题或观点。

大型语言模型以不受约束和非结构化的方式运行,这同时也是它的潜力之一。它从文本中学到了很多东西,但可能不适合泛化。它们如何在空间泛化是一种「魔力」,机器人的ChatGPT时刻可能就在眼前。

为了克服这个问题,你可以指定上下文和问题,例如告诉它处在特定条件的厨房中。通过应用ChatGPT的魔力,机器人可以有效地泛化并生成对软件有意义的token。一旦你的计算机感官识别了这些token,机器人可以根据这些例子进行归纳。

08 预判下一个 ChatGPT 时刻

问:你提到一些行业先迎来ChatGPT时刻。哪些行业会率先变化?可以分享你看到的突破,尤其让你激动人心的案例吗?

黄仁勋:有很多例子。我对Sora非常兴奋,去年在wayve上看到了同样的能力,这是关于文生视频的例子。

为了生成一个这样的视频,模型必须对物理规律有感知,比如把放在桌子上,而不是中间;走路的人是在地面上。不能违背物理规律。

另一个例子是我们用Earth-2来预测极端天气影响。这是一个关键的研究领域,因为极端天气事件会对当地社区造成毁灭性的影响。利用Earth-2,可以在3公里尺度上预测极端天气事件的影响。这是对现有方法的重大改进,现有方法需要的超级计算机要大2.5万倍。

生成新药物和蛋白质是另一个非常令人印象深刻的潜在用例。这是通过像Alphago这样的强化学习循环来实现的,它允许在不消耗纯物质的情况下探索大分子空间,这有可能彻底改变药物发现。

这些是非常有影响力的东西,机器人技术也是如此。

黄仁勋GTC答记者问全文:英伟达是一家软件公司,机会不是GPU芯片,是数据中心

在3月18日的GTC开场演讲中,老黄注视着最新的Blackwell架构产品|图片来源:极客公园

09 芯片出口管制如何影响英伟达

问:对芯片的出口管制,以及地缘政治,会对英伟达产生什么影响?

黄仁勋:有两件事我们必须马上去做。第一,了解所有政策,以确保其合规;第二,也要提高供应链韧性。

关于后者,我举个例子。当我们把Blackwell芯片配置成DGX处理器时,其中有60万个零件来自世界各地,很多来自中国。就像全球汽车供应链的复杂性一样,供应链的全球化很难被打破。

10 和台积电的关系

问:你能谈谈与台积电的关系吗?在过去的几年里,随着不断芯片封装的复杂性,台积电如何帮助英伟达实现目标的?

黄仁勋:与台积电的合作是我们最紧密的合作之一,因为我们要做的事情非常难,而他们能做得非常好。

我们从台积电得到了计算单元,CPU、GPU裸芯片,良率很好。存储器是来自美光、海力士、三星,并且这些组装必须在台湾完成。所以,供应链并非易事,需要公司之间的协调。这些大公司与我们一起合作,也逐渐意识到,更加密切的合作是非常必要的。

我们从各家公司获取部件,然后组装,第三家公司测试,第四家公司组成系统,当然这个大系统最后是为了建成一个超级计算机,再进行测试。最终,我们建立了数据中心。想象下,所有的加工制造就是为了形成一个巨大的数据中心。整个供应链从上到下复杂度非常高,因为我们不仅仅是组装,除了芯片本身是个奇迹外,我们做成了巨大而庞杂的系统。

所以,当人们问我对GPU是什么感受时,可能一部分觉得它有点像Soc(集成芯片)而已,而我看到的是架子、线缆、交换机等等。这才是我心中GPU和软件的模型。台积电真的很重要。

11 云业务的战略

问:英伟达正在向云业务转型,其他云厂商则在做自己的芯片。他们会影响你的定价策略吗?英伟达云业务的策略是什么?会向中国客户销售DGX云业务吗?

黄仁勋:英伟达与云服务提供商合作,将其硬件和软件放入他们的云中,这样做的目标是将客户带到他们的云中。

英伟达是一家计算平台公司,我们开发软件,我们有一批追随英伟达的开发者,因而,我们为使用英伟达DGX的云服务供应商(CSP)创造需求、带去客户。

12「当代达芬奇」,还是「奥本海默」?

问:你曾说AGI将在5年内到来,这个时间预测有发生变化吗?AGI的加速到来会让你感到害怕吗?有人说你是当代达芬奇(多才多艺、做出如此贡献),也有人说你是当代的奥本海默,你怎么看?

黄仁勋:奥本海默是造炸弹的,我们(英伟达)不干这个。

先具体定义AGI,这样我们才能知道什么程度才算到达AGI、什么时候到达。如果AGI意味着在大量的测试集上,数学测试、阅读测试、逻辑测试、医学考试、法律考试、GMAT、SAT等等,软件程序可以做到比大多数人类都更好,甚至比所有人都好,那么计算机在5年内可以实现AGI。

责任编辑:路子康 CN078

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rllx.cn/PXyE/6407.gov.cn

如若内容造成侵权/违法违规/事实不符,请联系一条长河网进行投诉反馈邮箱:809451989@qq.com,一经查实,立即删除!

相关文章

男子滥用“AI换脸”技术伪造女明星涉黄视频,被判刑7年3个月

“AI换脸”相信大家都不陌生。只需要一张照片,通过人工智能深度合成技术,任何人都能成为视频中的主人公,甚至连表情和动作都能以假乱真。var chan_v_w = 1920,chan_v_h = 1080,chan_v_p = https://mts-audio.huawangzhixun.com/image/20240321/news/9c7a0df4-04db-474e-9bc0…

四川乐山大佛旅投集团总经理涉嫌严重违纪违法被查

据“廉洁四川”3月21日消息,乐山大佛旅游投资开发(集团)有限公司党委副书记、总经理康晓明涉嫌严重违纪违法,目前正接受乐山市纪委监委纪律审查和监察调查。官网显示,乐山大佛旅游投资开发(集团)有限公司于2017年5月10日成立,是乐山市市属重点国有集团公司之一。康晓明…

大型社死现场!女子上班伸懒腰时椅背掉了

女子上班伸懒腰时椅背掉了大型社死现场!女生伸懒腰不料椅背折了!3月19日,广东佛山。女子伸懒腰遇翻车:万万没想到椅子成这样,幸好我的腰比较软,头比较硬。 女子事后表示,椅子可能是螺丝有些松动,我的头和腰都没事,希望大家坐这种凳子的时候注意安全!女子上班伸懒腰时椅背掉…

成都官方辟谣高中老师殴打学生:视频内容发生于2022年云南

近日,一段“学生被老师殴打”的视频引发热议,视频称“3月18日四川成都,某高中老师在上课时殴打学生,拳打脚踢后拎出教室”。相关画面显示,一男老师揪住座位上一学生的头发不停摇晃其脑袋,并一把将学生从座位上拉下致其倒地,随后该学生被赶出教室大门,期间男老师多次出现…

今春首场大范围雨雪确定 10省发布最新天气预报,大暴雪大暴雨来了

今春首场大范围雨雪确定10省发布最新天气预报在春风的轻抚下,大地渐渐苏醒,万物复苏的季节似乎也带来了一场不速之客——今春第一场大范围雨雪。就在我们沉浸于春天的温暖怀抱时,一股强劲的冷空气正悄然南下,它的步伐坚定而迅速,如同一位严厉的老师,即将给我们上一堂生动…

司法部:推进公证事项“跨省通办”一体化办理

记者从司法部今天(21日)召开的新闻发布会上获悉,司法部将持续推动证明材料清单管理、海外远程视频、跨省通办等一系列公证减证便民举措落地见效。司法部公共法律服务局一级巡视员孙春英:2023年,我们向社会公布了33类81项证明材料清单,删减不必要的证明材料116项,删减证明…

大S发长文怒斥汪小菲:出轨的是你

3月20日,大S发文喊话汪小菲。文中大S斥汪小菲“婚内出轨”,并称刷卡是为了泄愤。大S在文末称:“今后,我不再回应关于你们所制造的种种抹黑,全权交给法律和司法。从这一秒起,你是镜花水月,而我,只走花路。”截至发稿,汪小菲及其母亲张兰均未对此作出回应。潇湘晨报综合…

“汇款被限制”造成3亿境外债违约?金辉控股正面临兑付危机

“汇款被限制”造成3亿境外债违约?金辉控股正面临兑付危机金辉控股近期宣布,未能支付2024年到期、票面利率7.8%的3亿美元票据。尽管公司一直在努力与债权人沟通并寻求最佳解决方案,但这一事件仍对市场产生了影响。3月20日,金辉控股发布公告称,截止本公告日期,该公司尚未支…

你们说的“上乔下科”,就应该是这样吧

虽然这话不太利于火箭队内团结,但没有申京,杰伦-格林确实变得更好了。3月11日,申京在对阵国王的比赛里严重受伤,万幸赛后的检查他避免了大伤,但这赛季的常规赛几乎算是报销了。受伤之前,申京是火箭队内最出色的球员。而在他受伤之后,火箭还没输过球。今天赢下奇才之后,…

7个月“被撞”70回 辽宁一男子涉保险诈骗被刑拘

早晚高峰路况复杂,偶尔出现车辆剐蹭在所难免。可不久前,辽宁沈阳市皇姑区的民警在查询交通出警记录时却发现,7个月的时间里,一男子竟发生了70起交通事故,还都获得了赔偿。这到底是运气不好,还是另有隐情呢?这段视频中,一辆白色货车在路口右转时,与吴某驾驶的共享电动自…

手机是阻碍睡眠的最大外在障碍 睡前玩手机非常影响睡眠

3月21日是第24个世界睡眠日。江苏省研究型医院学会睡眠专业委员会、无锡市医师协会睡眠专业委员会、无锡市医学会睡眠专业委员会组成的专家团于3月17日上午在无锡市惠山古镇西神广场举行了“睡眠疾病大型义诊活动”,面向公众开展睡眠健康科普讲座和相关疾病诊疗。良好的睡眠是…

陈建仁称“台湾物价在下降” 遭轰“不食人间烟火”

陈建仁称“台湾物价在下降”台湾地区电价拟于4月调涨,根据目前租屋族的现况,不管夏季或冬季,房东每度电平均将多收3元(新台币,下同),等于赚到价差,让租屋族负担更大。台立法机构国民党党团今天(20日)上午举行记者会,呼吁民进党当局正视弱势族群的心声,并再次要求民…

东北男子因打鼾睡客厅3年 打鼾是一种致命的病,要早发现早治疗

原标题:东北男子因打鼾睡客厅3年世界睡眠日前夕,黑龙江大庆的崔先生录了一段模仿自己曾经打鼾的视频,讲述自己曾经因为打呼噜太响被迫在客厅睡过三年,迫不得已,选择做了鼾症手术,并获得了较好的效果。现在崔先生每天利用智能手表关注自己的睡眠情况,积极调整生活饮食。崔…

专家称需区分鸡骨泥食品级和饲料级,鸡骨泥到底能不能吃?

专家称需区分鸡骨泥食品级和饲料级近日,火爆大街小巷的淀粉肠因媒体曝光含有“鸡骨泥”,一夜之间行业“入冬”。鸡骨泥到底能不能吃?专家表示需区分食品级和饲料级。315晚会曝光淀粉肠中添加鸡骨泥的做法近日引发网民热议,不少人认为这是违规行为,应该被禁止。面对质疑之声…

破坏社区生态秩序并造成恶劣影响 微博对发布邯郸被害学生不实颅骨照博主被禁言

近日,“邯郸初中生被害案”引发社会各界持续关注,涉案犯罪嫌疑人已被全部抓获并采取刑事强制措施,司法机关也将对犯罪行为依法予以惩处。但站方发现,在广大网友关注并讨论案件进展的同时,有个别用户在未经证实的前提下搬运短视频或其他平台不实内容,破坏社区生态秩序并造…

小杨哥鞠躬致歉梅菜扣肉事件 先行垫付退款不逃避

原标题:“疯狂小杨哥”再次回应槽头肉事件:肯定给大家一个满意的结果,老讲别人就烦了!据新黄河,3月20日晚,“王海打假小杨哥槽头肉”事件发酵的第四天,小杨哥现身直播间,不过没有带货,而是进行了一场娱乐直播。当被粉丝问及该事件时,小杨哥似乎心情并未受影响,笑着回…

电视剧《甄嬛传》的原定结局是什么?

电视剧《甄嬛传》的原定结局如下:甄嬛结局:成为了太后。雍正去世:被甄嬛气绝。华妃:派太监火烧碎玉轩后被赐死。皇后:新帝登基还妄想当太后,后气绝身亡。沈眉庄:生下孩子雪崩而死,死后封为惠妃。安陵容:皇上将其禁足自生自灭,一日找来甄嬛回忆往事,服毒自尽。富察贵…

吴彦祖晒与贾玲自拍,贾玲惊人的转变令人瞠目结舌

有网友表示在洛杉矶sony片场见到了贾玲,她这次去两个事情,一是讲用身体的变化呈现角色效果,二是为监制英文版《你好李焕英》。从网友路透图中,还看到吴彦祖、高圣远也和贾玲见面了。另外,吴彦祖晒与贾玲自拍。吴彦祖说:“终于有机会去看由多才多艺的贾玲自编自导自演的今…

常见的不良睡姿包括哪些?这几个不良睡姿你中招了吗

常见的不良睡姿包括:趴着睡。这种睡姿可能导致颈部和头部肌肉疲劳和紧张,影响呼吸和血液循环,长期还可能导致颈椎和头部疼痛、颈椎小关节错位等问题。枕着手臂睡觉。长期这样可能会导致手臂麻木和酸痛,压迫颈部的肌肉和血管。蜷缩睡姿。这种睡姿可能使后背弓起来,背部肌肉…

演员水上表演失误被绳子拽着滑行 景区工作人员回应

3月20日,安徽池州傩仙镇 。有网友发视频称某景区内,轻功水上漂女子表演失误被吊着在水中滑行。21日,景区工作人员回应称,此前为试营业期,该员工没有受伤,会避免事故再发生。演员水上表演失误被绳子拽着滑行 景区工作人员回应演员水上表演失误被绳子拽着滑行 景区工作人员…