您当前的位置:首页 > 电脑百科 > 硬件技术 > 硬件知识

为什么DPU在新算力时代这么重要?

时间:2023-10-16 14:26:15  来源:虎嗅APP  作者:

首次被国家正名的DPU

日前,工业和信息化部、中央网信办、教育部、国家卫生健康委、中国人民银行、国务院国资委等六部门联合印发了《算力基础设施高质量发展行动计划》(以下简称“行动计划”)。

该行动计划中提到“促进数据处理器(DPU)、无损网络等技术的研发与应用”,这是DPU首次出现在国家层面的文件中。

诚然,数字经济已经成为了大国发展的重中之重,与此同时,新一轮人工智能浪潮对算力发展提出了更高层次的要求,算力效率的提升则是箭在弦上,不得不发

而国家层面为DPU正名也意味着其在提升算力高效运载能力,优化算力高效运载质量,促进绿色低碳算力发展,引导算力基础设施高质量发展等方面有着至关重要的作用。

比如在英伟达最新一代的超强人工智能系统DGX GH200里,DPU是除GPU以外的另外一颗核心芯片,从中足以看出DPU在算力效率提升的重要性以及在人工智能时代的地位。

巧合的是,在行动计划发布的同一周,中国移动就率先发布了自研DPU产品——磐石DPU,其吞吐量达到400Gbps,比中移动之前FPGA版本的性能提升4倍,功耗降低50%,是目前国内最先进、性能最高的DPU芯片,重新定义了DPU硬件和软件标准体系。同时,在RDMA上可达到200Gbps,也是国内首创。

为什么DPU在新算力时代这么重要?

据悉,这并非是中国移动在DPU方面的唯一动作,在今年四月,中国移动曾与云豹智能联合发布了《云计算通用可编程DPU发展白皮书》,在近期召开的中国移动伙伴大会上,双方又联合发布了COCA白皮书。

需要指出的是,现在国内行业其他公司都用的FPGA方案,对于国内电信运营商来说,如果业界有一款商用的有足够竞争力的DPU SoC,其将毫无疑问地从CPU+FPGA的DPU解决方案升级到DPU SoC方案

而中国移动首次发布DPU芯片方案也将云计算行业竞争提升到了一个新的高度,据知情人士透露,中国联通和中国电信也都在酝酿自研DPU的相关动作。

不难推测,三大运营商积极投入自研DPU赛道势必将倒逼其他云计算厂商将技术方案向此倾斜,一来,他们代表了国家队的技术方向,二来,最近两年,作为新闯入者的运营商云来势汹汹,已经在云计算市场站稳了脚跟,并蚕食了一定的市场份额。

DPU,不言而喻的重要性

虽然在近期国家层面才首提DPU,但早在两三年前,DPU就在国内芯片市场掀起了一阵风潮,甚至成为了资本和大厂热追的风口。当然,这背后也折射出了这样一种行业共识,即技术趋势正在从以计算为中心(CPU为中心)向以数据为中心(DPU为中心)演进。

对于这一点,则要从CPU谈起。

众所周知,自计算机问世以来,一直采用的冯·诺依曼架构,该架构以计算和存储为核心。其中CPU作为处理器单元,负责执行各种算术和逻辑计算。RAM和硬盘则负责存储数据,并与CPU进行交互。

再后来图形、3D设计等多媒体软件的高速发展,要处理的工作量越来越大,也越来越复杂。为了帮CPU分担压力,专门进行图像和图形处理工作的GPU应运而生。

如今,随着数据量的指数性增长,计算任务难度和复杂性的增加,传统以CPU为中心的数据中心架构也开始面临性能的考验,此时,DPU作为一种面向海量数据的新型专用处理器,能够起到为CPU分担的作用。

提到DPU,很多人首先想到的是数据中心,是算力。但其实从功能角度来看DPU,英伟达给出了一个形象的回答——用来把数据在正确的时间放到正确的位置。

具体地,“正确的时间”指的是必须满足延迟要求,带宽要能达到数据量,数据带宽要做到匹配;“正确的位置”则是要把所有的远程资源都本地化,所有的跨节点访问都要做的跟访问本地的资源是一样的。

为什么DPU在新算力时代这么重要?

通俗一点讲,在云计算系统当中,如果说数据是一辆辆快速奔驰的汽车,那么DPU则是指挥这些汽车高效行驶的交通灯,可见,DPU能够有效提升算力高效运载能力。

如果说,DPU在功能性上的作用是为行业带来了新的技术核心,那么对于国家和企业来讲,DPU还起到了切实的降本增效的作用。

首先,从国家层面来讲,数字经济显然已经成为了大国之争,而数字经济说到底是成本决定的,因此谁能用最低的成本完成最高级的算力部署,谁就在这场竞争中占据了主动。尤其是人工智能浪潮之下,大规模数据需要经过复杂的集群训练,就算10%的算力效率提升,都意味着将节约几十上百亿的成本

DPU之于数字经济,犹如燃烧过程中的氧气,虽然氧气不是燃料,但是没有氧气就无法进行燃烧。当前不仅需要新的算力,也需要新的网络,而同时能够做到算力与网络提升的,只有DPU,也就是说没有DPU这样的基础设施,任何算力都将成为空谈。

其次,从企业本身来讲,云计算在国内发展了十余载,但盈利一直是困扰云计算企业的难题。

而云计算的商业模式很简单就是通过互联网提供计算资源、存储资源和应用程序服务,简单点,就是售卖算力资源,是规模化的生意。难以盈利的原因,也显而易见——算力成本高。也就是说,如果能够提高算力效率,那么盈利也并非空中楼阁。

以AWS为例,根据亚马逊发布的2022年度财报显示,AWS业务全年营收约为801亿美元,同比2021财年增长29%。营业利润228亿美元, 营业利润率为28.7%。其财报指出,AWS能够同时保持高营业利润和高增长,离不开DPU技术(Nitro)

为什么DPU在新算力时代这么重要?

此外,我们在上文提到,没有DPU作为基础设施,算力难以展开,这也直接影响到云计算企业的竞争排位。也正是上述两个原因,国内云计算厂商的玩家均对DPU展开了重点布局。

玩家众,成者少

值得一提的是,国内DPU赛道中站满了各路玩家,但各家的技术路线选择并不相同。

目前国内云厂商大部分还是基于CPU+FPGA的DPU解决方案,这些方案在研发投入上拥有一定的时间优势,但因其功耗过高及性能受到限制,并未达到新一代云计算的要求。比如阿里云、腾讯、字节跳动等互联网巨头,以及一些DPU创业公司星云智联、云脉芯联、中科驭数、大禹智芯、益思芯、芯启源等。

然而,纵观DPU架构和技术发展历程,可以明确看到DPU SoC(System-on-Chip)是当前国外头部云服务提供商和DPU厂商的主流技术路线。

我们也看到了国外行业领先企业的发力和探索。

早在2015年,全球最大的云服务商AWS收购半导体公司Annapurna开发DPU SoC芯片,开启了DPU应用的序幕。如今以亚马逊、Nvidia、Intel和AMD等为代表的头部企业都陆续通过自研或并购的方式在DPU SoC上进行研发投入。

例如,AWS最早研发DPU SoC芯片,并在多年前已最先实现了DPU SoC(AWS称之为Nitro)商业化的成功部署;Intel与google合作开发Mount Evans系列的DPU SoC;Nvidia于2020年以69亿美元收购Mellanox,随后快速面向全球数据中心市场推出了BlueField系列的DPU SoC;AMD于2022年以19亿美金收购了DPU SoC厂商Pensando。

当然,在国内也有一家创业公司——云豹智能,选择了DPU SoC这条技术路线。虽然SoC的性价比高很多,但由于开发SoC要求团队拥有丰富的经验和多年的技术积累,并能够承担巨大的资金投入,所以之前很多大厂和创业公司都选择了投入成本较低但性能也相应低的路线。

DPU SoC的技术壁垒究竟有多高?专业人士给出的答案是要远远超过CPU和GPU,因为这项技术不但涉及到了芯片本身,还有复杂的软件系统。

这样的技术壁垒和资金投入也就说明了DPU SoC是个赢家独赢的赛道。正如GPU在海外成就了英伟达一样,将来DPU也是如此,会出现一家独占鳌头的公司。

为什么DPU在新算力时代这么重要?

而此次国家将DPU提到了新的高度,其也再次成为关注的焦点,让这个有些降温的赛道,重拾了热度,未来格局如何演进,着实让人兴奋和期待。



Tags:DPU   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,不构成投资建议。投资者据此操作,风险自担。如有任何标注错误或版权侵犯请与我们联系,我们将及时更正、删除。
▌相关推荐
为什么DPU在新算力时代这么重要?
首次被国家正名的DPU日前,工业和信息化部、中央网信办、教育部、国家卫生健康委、中国人民银行、国务院国资委等六部门联合印发了《算力基础设施高质量发展行动计划》(以下简...【详细内容】
2023-10-16  Search: DPU  点击:(299)  评论:(0)  加入收藏
DPU碰撞ChatGPT,算力效率会擦出哪些火花?
在 CPU 与加速卡之间,以及加速卡之间形成的芯片互联技术被更多的采用,虽然 PCIe 有着非常通用的标准化设计,但带宽有限将会产生瓶颈。以 CXL 和 Gen-Z 为代表的等下一代互联技...【详细内容】
2023-03-11  Search: DPU  点击:(115)  评论:(0)  加入收藏
和CPU、GPU“三足鼎立”,DPU真有如此大的潜力吗?
近年来摩尔定律“失速”,使得中央处理器(CPU)的性能增长边际成本急剧上升。有研究数据表明,现在CPU的性能年化增长率(面积归一化之后)仅有3%左右。然而,人们对计算的需求依然爆发性增长。...【详细内容】
2021-11-05  Search: DPU  点击:(423)  评论:(0)  加入收藏
你分得清吗,什么是CPU,GPU,TPU,DPU,NPU,BPU
近几年来,深度学习大火,各类芯片也如雨后春笋般出现,像什么GPU, TPU, DPU, NPU, BPU……你分得清吗,下面来小白一下先来看看这几个词的英文全称: CPU全称:Central Pr...【详细内容】
2019-06-21  Search: DPU  点击:(1332)  评论:(0)  加入收藏
▌简易百科推荐
五个多屏使用笔记本的注意事项
你是否发现自己需要频繁地在窗口之间切换,或者在你的笔记本电脑显示屏上挤满了多个窗口?是时候考虑购买第二个显示器了。 多个显示器可以显著提高工作效率,因为你有更多的屏幕...【详细内容】
2024-03-20  梁佳乐  微信公众号  Tags:笔记本   点击:(12)  评论:(0)  加入收藏
开源鸿蒙适配芯片到底都做了哪些工作?
随着智能设备市场的不断扩大和技术的进步,鸿蒙操作系统成为了备受瞩目的开源项目。作为一个全场景智能生态的基础,鸿蒙不仅仅是一个操作系统,还涉及到硬件层面的适配。然而,开源...【详细内容】
2024-01-16  触觉智能    Tags:鸿蒙   点击:(56)  评论:(0)  加入收藏
电脑主板上的纽扣电池没电时,会出现什么问题呢?
什么是纽扣电池?电脑主板上的纽扣电池通常被称为CMOS电池。是用于提供电源给主板上的实时时钟(RTC)和存储BIOS设置数据的小型电池。 纽扣电池的寿命是多久?纽扣电池的寿命通常在...【详细内容】
2024-01-14  新视力工控电脑  今日头条  Tags:纽扣电池   点击:(114)  评论:(0)  加入收藏
微软将增加Copilot专用按键 推动人工智能时代到来
微软宣布将新增Copilot键,专门用于Windows PC键盘上的人工智能(AI)助手。这意味着新的一年里,Windows将迎来重大转变,走向更为智能化的未来,让人工智能从硬件到软件全方位融入,打造...【详细内容】
2024-01-05  PChome电脑之家    Tags:Copilot   点击:(128)  评论:(0)  加入收藏
AI领衔!2023年数码硬件大事件盘点 哪个技术让你印象深刻
2023年在数码硬件领域里许许多多令人兴奋的新产品和新技术正式问世,给玩家用户们都带来了全新的体验。在这篇文章中,我们将进行2023年的数码大事件进行盘点,看看这其中哪个给你...【详细内容】
2024-01-03    中关村在线  Tags:数码硬件   点击:(47)  评论:(0)  加入收藏
双头Type-C接口:解析充电方向的奥秘
随着科技的飞速发展,电子设备之间的连接与充电方式也在不断地革新。其中,Type-C接口以其高效、便捷的特性,逐渐成为了主流。特别是双头Type-C线,更是为用户带来了前所未有的便利...【详细内容】
2024-01-02  小米地瓜    Tags:Type-C   点击:(147)  评论:(0)  加入收藏
关机、睡眠、休眠,到底选哪个?
大家每天用完电脑呢,都会面临关机的选择,但是点击了“关机”图标后,会出现下图中的这么多的选项:睡眠、休眠、关机、重启,他们到底有什么差别呢?睡眠模式:将操作系统当前的操作保存...【详细内容】
2023-12-29  ASUS华硕西南    Tags:关机   点击:(84)  评论:(0)  加入收藏
如何选用锂电池均衡仪
锂电池作为一种高性能、高能量密度的电池,广泛应用于移动电子产品、电动车等领域。然而,使用过程中,锂电池的充放电过程中存在着电压差异的问题,这就需要使用锂电池均衡仪来实现...【详细内容】
2023-12-13  电池测试维护玩家    Tags:锂电池   点击:(116)  评论:(0)  加入收藏
计算机硬件组件解析:探秘硬件之间的作用与关系
计算机作为现代科技的核心,其性能和功能的实现离不开各种关键的硬件组件。本文将深入介绍计算机的核心硬件,包括中央处理器(CPU)、图形处理器(GPU)、内存和存储设备等,旨在解释它们...【详细内容】
2023-11-24  小东在广东    Tags:硬件   点击:(276)  评论:(0)  加入收藏
电脑关机、睡眠、休眠,到底选哪个?
大家每天用完电脑呢,都会面临关机的选择,但是点击了“关机”图标后,会出现下图中的这么多的选项:睡眠、休眠、关机、重启,他们到底有什么差别呢?睡眠模式:将操作系统当前的操作保存...【详细内容】
2023-11-21  华硕之声    Tags:关机   点击:(233)  评论:(0)  加入收藏
站内最新
站内热门
站内头条