版本 2.1,Winnie Shao,2020 年 3 月
免责声明:个人观点,不代表任何公司。 文章中列出的数据来自公开新闻和会议。 我想奖励您阅读这篇文章,但请不要给太多。 请根据有用程度奖励1-5元。 就像我在做市场调查一样对待它。 (文末打赏的朋友将直接支持作者邵文妮博士)
这篇文章我在三个月内反反复复写了四五次,直到二月底放弃。 而且因为我放弃了,没有妥善保存信息,所以我捡到的这篇文章里没有信息列表。
这周末朋友圈里有一个相关话题的讨论,我想我应该发一下。
其实在我的朋友圈里,谈论这个话题是相当危险的,很容易被专家打脸。 这就是我挣扎了三个月,从热衷到与卡文纠缠,最后放弃的主要原因。 最初的动机是为了看一篇关于重读智能网卡的报告。 据称,该报告的市场价格为2850美元。 我想,按照这个标准,我写一篇价值5000美元的报告也就几秒钟的事了:)
什么是智能网卡? 根据行业惯例,新产品的定义一般由市场领导者确定。
Mellanox 占据 10G 以上速度网卡 70% 的市场份额(Crehan Research),它将 SmartNIC 定义为网络接口卡,可以卸载通常由系统 CPU 处理的任务。 智能网卡利用其板上的处理器来完成处理任务的任意组合,例如加密/解密、防火墙、TCP/IP、HTTP 等。
下图来自微软举办的云网络大会的资料,从卸载功能的角度展示了传统网卡和智能网卡的区别。
但由于我选择的标题来自于Broadcom的BD的演变,我认为插在标准服务器上的小型服务器更适合描述SmartNIC未来的发展趋势。
我多次修改了本文的逻辑顺序。
第一次先讲一下智能网卡的分类,LOM、基于FPGA、基于ASIC,然后根据分类和主要供应商来分析细分市场的发展和份额预测。 这是按照市场分析报告的思路写的。 这类报告主要是针对投资者的。 事实上,重读报告是为股市/公司投资者提供的市场分析报告。
第二次尝试先讲智能网卡的三个主要部分:网卡、控制平面、数据平面。 然后根据25G/40G/50G/100G的规格,分析各模块的主要供应商及关键性能参数,并附上主要供应商的产品详情。 这是根据专业的技术报告编写的,送给行业内的买家。 和用户。
第三次尝试按照个人理解的顺序,先讲一下SmartNIC、SDN和I/O-offload之间的关系,然后根据各大厂商的发展策略来预测未来的发展趋势。 然后因为计划太大,我就写不下去了。
看SmartNIC的发展起源主要是预测这个产品的发展方向。
英特尔以太网部门总经理兼副总裁Patty Kummrow在一次会议上表示单网卡共享上网软件,“我们销售网卡已经有30多年了。” 怎么会出现一个新的概念呢? 在Mellanox给出的智能网卡定义中,有两个关键词,一是卸载,二是处理器。 网卡明明只是一个IO设备,那为什么它和处理器关系这么密切呢? 而如果是简单的IO+CPU组合的话,Intel显然占据上风。 回顾过去,英特尔在10Gbps网卡市场上拥有压倒性的市场份额。 分享一下,而且又是CPU大厂,怎么可能用网卡+CPU就被Mellanox翻盘呢?
简单来说,两个因素:SDN和25Gpbs+IO接口要求。
市场上讨论SmartNIC时,总会提到SDN-Software Defined Networking,但我理解的SDN是控制平面和数据平面的分离,有利于电信硬件平台的标准化,消除供应商锁定。 该SDN与SmartNIC没有直接联系。
从虚拟化技术的角度来看,VMWare创建虚拟机,颠覆了原来(物理)服务器无法通过物理网络移动的基本假设。 因此,需要在主机上做一个运行的Software Switch来解决网络和VM之间的对应关系。 关系,关键是解决虚拟机迁移和服务后续两大问题。 (和Cisco进行了很长的来回,因为像Cisco这样的网络设备提供商肯定想用物理交换机搭建虚拟网络来解决网络和VM的对应关系,但最终还是在主机上。以前都是使用纯软件,首先是通过在主机上添加软件到网络来解决,所以这个故事就省略了)。 既然是软件实现的交换机,那么应用SDN框架,或者集成到SDN框架下,解决标准问题就顺理成章了。 在当今的服务器软件堆栈中,网络组件的功能特别丰富,这是vSwitch无法描述的。
对于10Gbps的网络接口,如果按照MTU 1500Byte计算,就是每秒083万个数据包。 3Ghz IPC 1.5 CPU 单核处理能力约为 5,000 条指令。 当速度达到 25Gpbs 时,所需的 CPU 核心数量急剧增加。 对于存储的网络化来说,HDD之前的性能瓶颈是磁盘物理速度的上限。 SSD则没有这个限制。 SSD 增加了存储带宽。 因此,数据中心需要通过网络来共享存储资源,例如NVMe-oF,从而快速减少网络接口。 速度增加。 业界从1Gbps网卡到10Gbps网卡已经经历了近10年的时间,但三年内25Gbps似乎已成为一大趋势。 并且还有一丝加速的迹象。
当使用服务器的Xeon CPU来处理主机上的软件网络堆栈变得一件昂贵的事情时,Cost-down解决方案的机会就来了。 当然,由于营销这样的专业人士的存在,Cost-down这个词就不会出现。 您看到的是网络加速或业务卸载工作负载卸载。
在这里,让我打断一下,问一个深思熟虑的问题。 先确定硬件平台,再构建软件生态系统自下而上的流程是否合理? 还是先有软件应用解决方案,然后自上而下逐步将业务卸载,交给硬件加速合理吗?
如果业务是自下而上开发的,即先有硬件,然后围绕硬件搭建软件栈,这个过程对于平台软件同志来说是漫长而痛苦的(很长一段时间是无法判断趋势,或者必须在平台上进行重注),或者消耗资源来支撑),例如Nvidia构建CUDA的道路很长,例如ARM的服务器道路,但如果是业务发展从上到下,所谓的卸载业务会花费更短的时间,但是硬件的同志们很痛苦,而且战斗往往是残酷的(在赢家通吃的市场中短期投入真金白银) )。 SmartNIC和AI芯片的爆发都是这种类型。 我想给应用程序赞助商的家长们一个建议:当硬件能够跟上摩尔定律时,集中精力投资多架构软件,并选择最快的一款。 当硬件魔法失败时,付钱给硬件程序员,让他们为你打造一辆属于你自己的法拉利。
BTW,我以前最喜欢的公司思科最近统一了硬件平台,并开始销售硅芯片,以扩大这个硬件平台的影响力。 软件平台也统一了。 我感觉我又要起飞了。 (还记得免责声明,这不构成投资建议吗?这纯粹是个人喜好)
为什么SmartNIC的思路是理顺的。 我们来看看几大厂商是如何开始走上业务分流——分流或者硬件加速之路的。
Azure AccelNet 智能网卡
Azure在2015年部署了数百万个智能网卡。但与Mellanox的定义不同,Azure不是基于处理器的解决方案,而是基于FPGA的解决方案。
为什么单网卡共享上网软件,如果我们回顾一下数据,只是他们首先有一个FPGA加速卡,并且它已经插入到服务器中了。 而作为先驱,他们实施的非标准(当然你也可以使用“创新”这个词)VFP(虚拟过滤平台)使得市场上很难找到可用的ASIC。 他们一开始可能并不想做出大动作,授权arm CPU来制造自己的smartNIC芯片。 现有的 FPGA 项目是最好的起点。
看到这里,FPGA朋友们都开始向我扔砖头了。 但交付数百万美元不再是 FPGA 的最佳选择,这是每个人都知道的。
AWS Nitro 项目
AWS Nitro 项目不是芯片或主板,而是一个产品系列。 它的设计目的非常明确,就是将所谓的数据中心税内部化。 成功内化后,出现了一种新的产品形态——裸机裸机服务器。
至于什么是数据中心税? 所有云提供商都用于管理虚拟机,并向虚拟机提供远程资源、加解密、故障跟踪、安全策略等服务程序。 这些服务程序也会消耗计算资源。 这部分消耗的计算资源就像税收一样附加到用户购买的云服务上。
因此,Nitro项目不能以网卡命名,AWS的网卡驱动完全是逻辑上的,与实际速度无关。 因此,这个项目可以看作是彻底削弱了所谓的SmartNIC网卡,与Mellanox和Broadcom的SmartNIC产品有些不同。 这时,我的 NIC 朋友开始向我扔砖头。
大服务器上的小服务器
我喜欢 BD 对 B 的 Stingray 产品的评价。 这是大服务器上的小服务器。 当然,如果能加个小臂服务器就更好了。 不管它的名字是什么,它本质上是一个降低成本的解决方案。
前景如何? 我可以写一万字的研究报告,所以我就跳过了。
一个正在等待收集砖块的人。
还推荐作者的好文章
《Arm服务器芯片编年史》
《多芯片封装:Chiplet 研究报告》