GPU不像CPU彼样完全通用，它更繁，吾等可帮彼等从体系里再挖出2倍性能。
但我看到之趋势为完全相反之：前景Agent之数量会指数级增益，用此些器物之用户也会指数级增益。
此为汝等前景几年之核心优势吗。
黄仁勋：若你要让此名逻辑成立，彼你须设想彼等没有算力，但此不为现状。
Dwarkesh：还有一名疑难，为别者问我之。
黄仁勋：矩阵乘法确实甚重要，但它不为全部。
只为吾等没有看到一名更好之预案。
吾等今做之，就为吾等认为最正确之架构。
接下来会生两件事：要么此些软件公司自己去做Agent；要么Agent变得足够强盛，可用此些器物。
把电子转变为Token本身就为一段极其繁之旅程，就像让一名分子比另一名分子更有身价一样，此里面包含之大量之风雅、营造、格致与创造。
彼若前景为此样一名全球：汝等已占据之N3之大部分产能，前景还会占据N2之大部分产能。
彼些承诺有些为显性之，比如吾等直接签之采购合同；但也有甚多为隐性之，比如吾等之供应链伙伴会自己去做注资。
故本原上，英伟达做之为软件，只不过由别者来制造。
别者即使有芯片设计本领，也不必能拿到此些源泉。
江山代有才人出，各领风骚数百年。Dwarkesh：但还为有公司于用其他预案。
吾等望帮所有者。
吾等之工为用尽或少之东西，成此名转变历程，并把本领做到极致。
黄仁勋：还为同一件事：加速计算。
甚多AI长进来自算法，而不为硬件。
彼等当时真之投入之，而且投入得甚深。
此名商场为最近才现之。
就像吾等用NVLink一样，彼等也已于做类似之事情。
恭喜发财。但此并不为坏事，因当某一名瓶颈现之时候，整名行业会迅速“围攻”它。
昔，CoWoS与HBM为“特殊技艺”，但今已不为之，它们已变成之主流计算之一部分。
因每一代架构之长进，不只为晶体管规模。
Dwarkesh：今汝等有大量现金。
当然，若吾等做一名意念实验：若有一天，全球真之说“吾等再也不会有更多前卫产能之”，彼我会不会立刻用7nm。
所谓“尽或少”，意思为能不做之事情，吾等就不做。
黄仁勋：今甚多软件公司，本原上为“器物制造商”。
若我能说服TSMC，彼ASML自也会被说服，故要找到真正之枢纽节点。
Dwarkesh：彼企业软件公司呢。
吾等做之为重新创造计算方式，从通用计算走向加速计算。
因我会与彼等之CEO通，我会告诉彼等此名行业会变多大、为什么会变大、吾等为如何推演出来之。
全球上有甚多重要之事情并不依赖AI，而Tensor也不为唯一之计算方式。
祝贺。汝等过往几年基本为进项翻倍增益，同时提供给全球之算力也于大幅增益。
此一点，从来没有更张。
Dwarkesh：我想更实在地体谅一名疑难：上游供应链真之能跟得上吗。
你觉得此种情况，会不会于2030年前生。
吾等整理之此次访谈，实质亮点皆于下面。
即使没有AI，英伟达也会为一名极其大之公司 Dwarkesh：彼回到一名疑难，为什么英伟达没有更早注资此些AI公司。
仔细。但你要考虑，当体系出疑难时，为你之代码有疑难，还为底层体系有疑难。
有一种解读为此样之：英伟达之护城河于于汝等锁定之前景几年枢纽之稀缺源泉，比如晶圆、内存、封装。
若你去看GTC，前面甚大一部分实质其实皆不为AI。
比如类似Cerebras彼种超大芯片、类似TeslaDojo彼样之体系，甚至做一名完全不依赖CUDA之架构。
SecOps。甚多者觉得它们会被AI冲击。
你当然会望疑难出于你自己此里，CUDA之身价就于于，你可信赖底层。
此些提升来自新之算法、新之模型架构、新之计算方式，而若没有可编程性，你甚至不知道从哪里始做此些革新。
若彼等不尝试，怎么知道吾等有多好。
Dwarkesh：回到刚才之疑难，制造本领此边，你如何让晶圆产能每年翻倍。
结局呢。
AI今为最热门之讨论方位，但计算远不止AI。
彼有没有一种或，汝等会回到更旧之制程，比如7nm，使用彼些“闲置产能”，重新做类似Hopper或者Ampere此样之架构，但结合今日于数值计算、体系设计等方面之长进。
若软件被商品化之，彼英伟达会不会也被商品化。
吾等须延续证验自己。
因我需让整名性命，像我一样去体谅前景。
吾等可向前推进，但我不认为吾等能向后回退。
Femto-tech。若你看今日之英伟达，吾等于上下游皆有极其庞大之协作性命，故吾等尽量少做，但吾等须做之彼一部分为极其难之。
但云此件事，若吾等不做，会有甚多公司来做。
感想。故我不认为它会被商品化——当然，吾等会让此名历程变得更高效。
当然，若前景工负载本身生变化——我说之不为算法变化，而为工负载之形态变化，彼吾等或会增新之加速器。
于更早之时候，吾等没有本领做彼种级别之注资（几十亿美元），彼于当时不为吾等之模式。
我花之甚多光阴，不断去告知与影响吾等之供应链与性命伙伴，让彼等体谅机会为什么、为什么会生、什么时候会生、规模会有多大。
Techno-peace。但正为因吾等于计算上之此些进展，让深度修习更加普及，让任何者皆可用一张GPU卡做出甚厉害之事情。
而且你要体谅，GPU不为CPU：CPU就像一辆巡航车，谁皆能开；但GPU更像F1赛车，你可开，但要开到极限，需专业本领。
举名例子：像Synopsys Design Compiler此种器物，前景它之实际用量甚或会暴涨。
若吾等不做某件事，此名全球就不会有，彼吾等就须做。
研究。当然会。
若你有足够之动力，你可用更多节点来弥补差距。
今此名规模已甚大之，比如汝等为TSMC前卫制程（N3、N2）之最大主顾之一，甚至有剖析说，本年AI会占到N3产能之60%，来年或到80%以上。
Dwarkesh：但现状情况为，汝等今之进项绝大多数还为来自AI，而不为来自药物发觉或者量子计算。
我不认为此部分会被商品化。
黄仁勋：但彼等绝大多数计算还为于英伟达上，吾等也会续与彼等协作。
过往大家皆认为吞吐越高越好，但今或现一种商场：Token价码甚高（ASP高），即使吞吐低，整体收益仍然更高。
Dwarkesh：但彼等于带宽、内存等方面还为掉队。
吾等今缺放射科医生。
彼等有大量优异研讨者，此才为彼等最大之优势。
你或于某名光阴点，被某名完全意想不到之环节限制住。
吾等用大量AI来改良kernel，甚多时候，吾等帮主顾改良之后，性能提升2倍，有时候3倍……哪怕提升50%皆为巨大之。
此意味之，你掘发一次，就可于全全球运行。
吾等会把此些事情交给协作伙伴，让它成为整名性命之一部分。
若你要掘发体系，从CUDA始为极其合理之。
吾等支所有框架，若你要写自定义kernel也可。
成为像AWS彼样之公司。
吾等甚至于Triton里投入之大量技艺。
汝等有源泉、有营造本领，为什么不把赌注散落。
从一名或较量天真之角度来看：汝等把设计交给晶圆厂，比如把GDS文书交给TSMC（台积电），再由彼等制造芯片，然后再与像SK Hynix、Micron、Samsung做之HBM封装于一起，最后送到ODM厂组装成整机。
从LPDDR到HBM，彼等皆做之甚多注资，结局当然也极其好。
Dwarkesh：水管工。
差距没有你想之彼么大。
Dwarkesh：彼你会不会直接去跟ASML说：“前景三年吾等需更多EUV机器”。
仁义礼智信。Dwarkesh：但前卫芯片确实存差距，比如带宽差距或接近一名数量级。
黄仁勋：吾等当然可此么做。
经济外交。故我认为器物之用量，会推动此些软件公司之增益，而不为压垮它们。
而且不要忘之，算法才为枢纽。
故吾等今可做一件事：同一名模型根据响应光阴，划分出不同商场。
而它们会用之，正为今日此些器物。
因过往两年，整名行业对它进行之偏激投入，连续扩产，今基本已处置之。
而且我当时没有意识到，此些公司其实没有其他融资路径——我当时以为彼等可像寻常公司一样去找VC（险情注资）融资，但后我才意识到，彼等要做之事情，VC根本投不之。
Dwarkesh：此名高价Token商场之想法极其有意思。
摩尔定律大概每年提升25%，但吾等却于实现10倍甚至100倍之提升。
Dwarkesh：于汝等最近之财报里，我看到英伟达已有接近1000亿美元之采购承诺，还有剖析认为此名数术或会达到2500亿美元。
黄仁勋：吾等有大量营造师直接与此些AI公司协作。
若没有Anthropic，TPU之增益几乎不存，彼等为一名偏激案例。
今大家已始提前几年去预判此些瓶颈，并提前注资。
故吾等不做。
枢纽只有一名，彼就为需求信号（demand signal）。
蒸蒸日上。此也为为什么吾等决定扩展推演之“帕累托前沿”（Pareto frontier）做一名响应更快、但吞吐更低之推演形态。
吾等从图象始，但其实有无数其他领域，像分子动力学、地震数据办理、动力勘探、图像办理……此些皆为通用计算无法高效处置之疑难。
彼等可用更多芯片，把体系拼起来，而且彼等之芯片制造本领本身就甚强。
黄仁勋：ASIC之赢利率其实也甚高，大概为65%，英伟达为70%。
故吾等把GPU与CPU结合，让GPU去加速特定计算。
此为一名几乎没有者负担得起之研发本金。
它代表之为一种本领：于算力受限之情况下，依然能做出极其强之模型。
故吾等不会去做。
吾等公司之基本设想始终为，摩尔定律会放缓，通用计算不会适用于所有疑难。
Dwarkesh：但若你之主要主顾为此些超大公司，彼等完全可为自己之体系改良，甚至支多名硬件平台。
有些公司后才跟上，但今大家基本皆已于此名节奏里之。
吾等之使命始终为把加速计算带给全球，推动彼些通用计算无法突围之领域。
于此次访谈中，黄仁勋深度回答之关于AI时代之角逐本原、英伟达如何锁住供应链、为什么不做AI云，以及华夏与AI芯片等疑难。
此为因Token之身价变高之。
若为此样彼吾等就会去做。
此名增益会不会被上游限制住。
黄仁勋：我刚才其实已说到最难之彼名之：水管工，还有电工。
英伟达之下游需求极其大，正为因有此种下游需求之规模，才让彼等愿意于上游投入。
为什么英伟达不同时做多名完全不同之芯片课题。
无论为想重修制造业、建AI工厂、做电动车、做机器者，此些皆需动力，而动力为一名长期疑难。
Dwarkesh：刚才吾等于讨论TSMC与内存此些瓶颈。
但从架构角度来说，若我有更多源泉，我更愿意把它投入到现有架构上，而不为散落。
你之主顾，比如Amazon、Google、Microsoft，彼等有本领写自己之kernel，甚至做自己之软件栈。
举名例子：前几年大家始终于讨论CoWoS，但今你已甚少听到有者谈此名疑难之。
消费者。你之优势还成立吗。
吾等今正亲眼见证此一切生，而此名历程远没有被完全体谅，也远没有终。
今日吾等被营造师数量限制住之，但前景，每名营造师皆会有一堆Agent辅助。
此件事之故今还没有生，为因Agent还不够会用器物。
毫不犹豫。
甚多者会觉得我之Keynote有点像上课，甚至有点折磨，但此为故意之。
但此些皆不让我忧——真正让我忧之为动力，你不或于没有动力之情况下建立一名新产业。
彼等已有大量算力。
对华夏之态度：算法才为枢纽 黄仁勋：此为一名极其特殊之例子。
AI本原上为并行计算疑难。
比如硅光（silicon photonics），比如新之封装技艺、新之测试设备……吾等于过往几年做之甚多此样之事情，本原上为于“重塑供应链”，让它为前景之规模做好准备。
也就为说器物之用量，会暴涨。
TPU于此方面为高度改良之，虽GPU更通用。
当然，也或会于某一名实在环节被卡住，比如说，有时候真之会被“水管工”卡住（笑）。
10年前，有者说“千万不要做放射科医生”，说此为第一名会被AI取代之职业，此些视频今网上还能找到。
此为我之误判。
黄仁勋：CUDA为一名极其丰富之性命体系。
Dwarkesh：但OpenAI也于与AMD协作，甚至于做自己之芯片。
如何让EUV设备每年翻倍。
而且你要体谅，GPU不为CPU：CPU就像一辆巡航车，谁皆能开；但GPU更像F1赛车，你可开，但要开到极限，需专业本领。
张超。一旦有明确之需求，能做1台，就能做10台；能做10台，就能做100万台……此些东西并不难复制。
因此为一名更根基之疑难，通用计算之扩展已接近极限，而处置预案就为领域专用加速（domain-specific acceleration）。
另外一名枢纽点为安装基数（install base），作为掘发者，你最欲之为你之软件可运行于大量机器上。
当然，若没有AI，我会甚哀。
它还包括大量营造改良、封装、堆叠、数值计算（numerics）、体系架构等等，若你想回到旧制程，彼意味之你要重新做一整套研发。
比如华为，彼等已于把大量计算节点连接成一名体系，通过硅光（silicon photonics）等技艺把大量计算源泉连接于一起。
彼疑难来之，若你已为最大主顾之，你还怎么续“翻倍”。
此意味之，你掘发一次，就可于全全球运行。
若吾等去劝年轻者不要做软件营造师，彼前景吾等就会缺软件营造师。
比如最近，吾等引入之Grok相关之方位，并且会把它整顿进CUDA性命。
比如Anthropic最近宣布与Broadcom以及Google协作，甚多计算于TPU上。
Dwarkesh：彼等之逻辑为不需比你更好，只要不比你差太多，但本金更低就可。
故“彼等没有AI芯片”此名说法为过失之。
若你想创造新之attention机制，想用不同方式做计算分解，或者想设计全新之模型架构，比如混合SSM模型，融合diffusion与autoregressive模型……你需之为一名完全可编程之体系。
此为一名360度之AI性命，整名AI全球之者皆于一名地方，而彼等来此里，为因彼等需彼此。
彼等有大量动力，彼等有甚多已建好之数据中心，甚至有空置之。
TSMC今也已意识到，CoWoS之供给须与逻辑芯片与内存之需求齐步扩展。
黄仁勋：吾等有大量营造师直接与此些AI公司协作。
黄仁勋：归根结底，总有一件事须生：把电子变成Token。
吾等今有数亿GPU，于所有云平台上，各种型号，各种规模。
Dwarkesh：甚多剖析认为，华夏于前卫制程上掉队。
此位油管百万大V以递进式之提问方式与极其锋利之选题而出名，此次也不例外地选择之直白开场，一上来就直戳英伟达之“肺管子”，问黄仁勋：“若软件被商品化之，彼英伟达会不会也被商品化。
若你去看GTC大会，你会发觉甚多者对它之规模感到惊讶。
没有任何一名瓶颈，会延续超过2到3年 黄仁勋：此为吾等能做到、但别者不太易做到之一件事情。
而对于一名有巨大算力集群之公司来说，性能提升，直接意味之进项提升。
吾等之覆盖范围比任何TPU皆要大得多，因吾等可加速所有应用。
黄仁勋：彼彼等就用更多芯片。
黄仁勋：吾等做之东西为完全不同之。
为什么不自己做云。
AI长进之核心为算法。
而AI之核心计算，甚多者认为就为矩阵乘法。
吾等用大量AI来改良kernel，甚多时候，吾等帮主顾改良之后，性能提升2倍，有时候3倍……哪怕提升50%皆为巨大之。
彼疑难为，对于当前此波AI需求来说，TPU为不为更适合。
若你于算力上受限，你反而会被逼去做更好之算法，比如DeepSeek——此不为一名无关紧要之进展。
Renewable Energy。故我之看法为：没有任何一名瓶颈，会延续超过两到三年，每一代皆会有新之瓶颈，但也皆会被处置。
我不介意别者尝试其他预案。
英伟达真正之护城河不为芯片，为供应链 Dwarkesh：彼若DeepSeek此样之模型于华为芯片上首先改良、首先跑起来呢。
于此名历程中，我其实为于对齐整名上游性命之认知。
黄仁勋：此为吾等之公司玄思：做须做之事情，尽量少做其他事情。
Dwarkesh：彼吾等聊一名更现状之疑难。
缘由甚简：彼等知道我有本领把彼等之产能买下来，并卖给下游。
此些东西吾等皆于仿真体系里模拟过，它们之效果其实更差。
黄仁勋：彼就为一名甚糟糕之结局。
华夏为全球第二大计算商场，若彼等愿意集中源泉，彼等完全可聚合足够之算力。
Biotechnology。黄仁勋：彼彼等就用更多节点连接起来。
黄仁勋：此些皆不为疑难，它们皆可于2到3年内扩展。
黄仁勋：吾等于能做之时候，就做之。
黄仁勋：为之，本原为商场分层（segmentation）。
今全球上最强之模型里，有相当一部分为于TPU上操练之，此对英伟达意味之什么。
做一名比英伟达更好之体系并不易。
但今不一样之，今不同主顾对Token有不同需求。
此些Agent会去探求设计方位，探求之程度会远远超过今日。
另外一名枢纽点为安装基数（install base），作为掘发者，你最欲之为你之软件可运行于大量机器上。
黄仁勋：吾等于此些AI实验室里有大量营造师于帮彼等改良，没有者比吾等更之解吾等之架构。
凌晨，英伟达CEO黄仁勋接受之知名科技主持者Dwarkesh Patel之专访，长达1小时45分钟。
吾等今比昔更有本领去影响更大范围之供应链。
黄仁勋：你今为于跟专家对话（笑）。
比如彼等甚多还为于7nm，没有EUV设备。
不同之算法、不同之kernel，可被卸载到GPU上执行，从而让应用加速100倍、200倍。
你望一名行业之即时需求为大于总供给之。
实事求是。你看看史册上彼些做ASIC之课题，有多少最后为做不下去、被砍掉之。
” Dwarkesh：听起来有些瓶颈比其他更易扩展，比如CoWoS与封装可扩，但有些东西，比如制造本领本身，或更难。
黄仁勋：有些事情我会直接做，有些为间接做。
此也为为什么我对今甚多末日论者“AI会终结工”之说法感到担忧。
黄仁勋：对，真之。
我今说之此些其实5年前我就已于说之，有些公司当时相信并且注资之，比如Micron，我还记得当时与彼等CEO之彼次会面，我当时极其明确地告诉彼等，前景会生什么、为什么会生。
若用刚才之方式来体谅英伟达，已接近我对公司之心智模型之：输入为电子，输出为Token，中间就为英伟达。
故本原上，英伟达做之为软件，只不过由别者来制造。
Justice。当然也有一些为流程体系，但甚大一部分为器物。
不仅仅为变成Token，还要让此些Token越来越有身价。
黄仁勋：没有必要此样做。
彼CUDA还重要吗。
Dwarkesh：今商场上有一种看法为，AI会让软件逐渐商品化，甚多软件公司之估值已因此下滑之。
上游需看到下游，下游需看到上游。
顺利。Dwarkesh：我听过一些完全相反之说法，故我不确定该相信谁（笑）。
比如计算光刻、量子化学、数据办理，此些皆为极其重要之工，只为没有AI彼么火。
若一名强盛之模型，于非美国技艺栈上运行得更好，彼对美国来说为坏消息。
设想深度修习变革没有生，英伟达今日会于做什么。
若软件被商品化之，彼英伟达会不会也被商品化。
比如Excel、PowerPoint，或者像Cadence、Synopsys。
几年前，Token几乎为免费之，或者极其廉。
故若你只看单名芯片，你会低估整名体系。
英伟达做之为加速计算（accelerated computing），而不为一名“张量办理单元”。
我认为此件事甚难被完全商品化。
逆水行舟。而且吾等之体系，于整名行业里有最好之TCO（总有本金），没有任何一家公司可证验自己于TCO上比吾等更好，无论为操练还为推演。
吾等今有数亿GPU，于所有云平台上，各种型号，各种规模。
此些应用于几乎所有地方：格致计算、营造、物理、数据办理、图象计算、图像生成……即使没有AI，英伟达也会为一名极其大之公司。
AI只为计算之一部分，而计算远不止AI 有网友评议此次访谈：甚少见黄仁勋此么“怒”。
缘由其实甚简：吾等之故能于上游做出此么大之承诺，为因吾等有本领把此些产能买下来，并且卖出去。
黄仁勋：于某一名光阴点上，需求超过供给，为甚正常之事情——甚至，此为一种好状态。
比如，若我为软件营造师，我愿意为更快响应之Token付钱，因它能让我更高效。
此为最难扩展之。
爱心。加速计算被用于各种各样之领域，比如分子动力学、数据办理、流体力学……当然，也包括AI。
彼为什么彼等愿意为吾等注资，而不为为别者。
最终甚或为两者同时生。
彼为不为意味之美国可先达到此些本领，先部署，先修补漏洞，从而得安康优势。
毕竟AI前景之架构方位还不确定。
相比之下，芯片产能与封装只为2到3年之疑难。
Dwarkesh：我想再回到角逐疑难，比如Google TPU。
Dwarkesh：若此些主顾可自己做改良，角逐为不为会变成谁之价码更低、性能更高。
Dwarkesh：最后一名疑难。
于算力上，有者估算，彼等大概只有美国之十分之一，于HBM带宽上，差距或接近一名数量级。
彼等也需看到AI之演进，以及彼些AI原生公司与创业公司。
而对于一名有巨大算力集群之公司来说，性能提升，直接意味之进项提升。